[김단테] 추론 성능은 30배? 엔비디아 GTC 2024 리뷰

엔비디아 GTC.

새로운 GPU 발표하는 콘퍼런스.

 

우리는 반도체 기업이 아니라 소프트웨어 플랫폼 기업이다!

(공식적으로 '구독' 서비스까지 발표)

 

올해 말 예상한 블랙웰 아키텍처 기반

B200이라는 GPU가 발표.

(AI를 위한 반도체칩 중에 단연 성능 최고)

(트랜지스터 개수도 약 2,080억 개)

 

챗 GPT는 트랜스포머 기반.

(하드웨어에서 빨리 구현할 수 있도록 최적화)

(+훨씬 저전력으로 구현)

 

인퍼런스 추론 성능.

(엔비디아가 30배, 초격차를 보여줌)

 

반도체 업계를 지배했던 무어의 법칙(10년에 100배 향상)

엔비디아는 8년에 1,000배 가까운 성능의 향상.

 

기후예측, 디지털 트윈, 바이오 혁명(신약 개발), 로봇 공학 등 모든 것이 가능.

(인공지능이 눈에 보이는 것들을 다 바꾸고 있다!)