[김단테] 추론 성능은 30배? 엔비디아 GTC 2024 리뷰
엔비디아 GTC. 새로운 GPU 발표하는 콘퍼런스. 우리는 반도체 기업이 아니라 소프트웨어 플랫폼 기업이다! (공식적으로 '구독' 서비스까지 발표) 올해 말 예상한 블랙웰 아키텍처 기반 B200이라는 GPU가 발표. (AI를 위한 반도체칩 중에 단연 성능 최고) (트랜지스터 개수도 약 2,080억 개) 챗 GPT는 트랜스포머 기반. (하드웨어에서 빨리 구현할 수 있도록 최적화) (+훨씬 저전력으로 구현) 인퍼런스 추론 성능. (엔비디아가 30배, 초격차를 보여줌) 반도체 업계를 지배했던 무어의 법칙(10년에 100배 향상) 엔비디아는 8년에 1,000배 가까운 성능의 향상. 기후예측, 디지털 트윈, 바이오 혁명(신약 개발), 로봇 공학 등 모든 것이 가능. (인공지능이 눈에 보이는 것들을 다 바꾸고 있다!)