일반 사람들은 이해 불가능한 수준의 엄청난 GPU 컴퓨팅이 시작됨 (글쓴이 Suhail은 이미지 생성AI 스타트업 Playground.ai 대표)
- 지난 7일간 많은 벤더사들과 이야기를 나눴음. 모두들 미친 듯. 엔비디아는 올해 공급량을 모두 매진했고 내년 1월까지 매진. 현재 엔비디아는 대기열을 처리하면서 누구한테 얼마나 줄지를 장기적인 고객(관계)가치를 따져가며 선택 중
- 따라서 현재 AI GPU를 구하고 싶다면 최소 천만 불 이상이 필요할 것으로 예상. LLM을 만들고 싶다면 훨씬 더 많이 필요하거나 최적화를 극도로 잘해야 할 것
- 약 2개월 이내를 본다면, 최소 6개월을 기다리지 않고서는 128개의 상호 연결된 H100/A100 GPU를 확보할 수 없음. 즉, SOTA(State-of-the-art = 현 수준 최고의) 파운데이션 모델을 학습시킬 수 없음
아무리 봐도 AI 혁명은 진짜임 ㅇㅇ