타이니 제로가 딥시크는 저비용 AI임을 증명했는데 H100, H800 스펙 논란?

타이니 제로가 딥시크는 저비용 AI임을 증명했는데 H100, H800 스펙 논란?

 

미국 버클리대학교  학생이  타이니 제로를 만들어서  딥시크가 저비용으로 만든 AI 모델이라는 것을 증명하였다. 이 과정에서 엔비디아에 대한 논란이 있는데, H100 과 H800은 가격 차이가 나지만 실제는 플랫폼만 약간 바꿔서 비싸게  팔았다는 것이다.  (H100은 25,000~40,000달러, H800은 15,000~25,000달러 정도임)

H100과 H800 칩은 동일한데 nvlink 수와 대역폭이 다른데, 배정밀도 64 부동소수점 연산 성능만 제한한 것이 h800이라고 한다(단정밀도  32,16 fp8 경우는 같은 성능). H100이 dp fp64 계산 성능은 34테라플롭스이고 h800은 1텔라 플롭스이며, 카드간 연결수를 줄이고 카드간 대역폭도 줄였다고 한다.

 

https://www.youtube.com/shorts/I0_sE9-aFUQ

 

 

https://www.paxnet.co.kr/tbbs/view?id=N00801&seq=150357589071494&wlog_com=bestwriting

엔비디아를 곤경에 빠뜨린 타이니 제로 ... | 거래소시황 | 커뮤니티 - 팍스넷 증권포털