기업들이 스토리지 살 돈마저도 전부 HBM 사는데 투자하느라 낸드 원툴 키옥시아/WDC는 말라 뒤져가고 있고(솔직히 말해서 HBM의 엄청난 매출 성장세는 낸드 매출을 싹 다 빨아온 영향이 적지 않음),
HBM 꼴등인 마이크론과의 격차를 이번에 확 벌릴 수 있게 됨.
HBM 덕분에 메모리 반도체 시장은 당분간은 삼전과 하닉이 압도적으로 질주하고 키옥시아/WDC는 퇴출, 마이크론은 크게 뒤쳐지는 2강 1약 구도가 될 것으로 전망함.
이렇게 메모리 반도체 시장 교통 정리가 끝나면 거기에서 벌어들인 막대한 이익으로 삼전이 파운드리에서 TSMC를 추격할 수 있게 해 주는 든든한 캐쉬 카우가 될 것임. 이게 다 HBM 덕분임. 진짜 하늘이 한국 반도체에 내려준 엄청난 축복임.
[메리츠증권 반도체/디스플레이 김선우]
▶ HBM은 다다익선? by AMD
금일 진행된 AMD 실적 컨퍼런스콜에서 Lisa Su CEO가 AI를 위한 동사 GPU 가속기 (MI300) 관련 질의응답에서 메모리 (HBM)를 재차 강조한 점이 눈에 띕니다.
지난 6월 행사에서도 메모리 채용량을 늘림으로써 GPU 부담을 낮추며 AI연산 성능 향상이 가능하다고 언급한 바 있습니다.
MI300은 ~192GB의 HBM 용량을 지원하며 시장 리더 엔비디아 H100의 ~80/96GB 대비 메모리 채용량을 대폭 늘렸습니다.
엔비디아의 차기작 B100 (24년 출시 예정, ~144GB HBM3E) 이후 X100 (25년 출시 예정) HBM 탑재량은 400GB 이상으로 늘어나며 본격 용량 확대 경쟁이 발생할 것으로 예상됩니다.
이를 위한 GPU 제조사들의 HBM 확보 경쟁이 근래들어 심화되고 있습니다. SK하이닉스는 고객사들로부터 25년 HBM 물량을 위해 용인 클러스터를 활용할 것을 요청받고 있습니다.
아래는 AMD 실적 컨퍼런스콜의 질의응답 내용입니다.
Q. 경쟁사 제품 대비 AMD의 MI300이 갖는 경쟁 우위는?
A. 경쟁사 제품과 몇 가지 차별점이 있음. MI300은 연산, 메모리 용량, 메모리 대역폭에서 매우 강력한 성능을 보유. LLM을 구현할 때는 여러개의 GPU를 필요로 하는데, 메모리가 더 많이 탑재될수록 더 적은 GPU로도 모델을 구현할 수 있게 됨. 이는 고객들의 TCO(총운용비용) 관점에서 매우 유리한 점
소프트웨어 관점은 당사가 더 많이 투자했고 전념했던 부분. 당사의 고객사와 협력사는 실제로 서로 다른 하드웨어 간 연결이 필요한 영역으로 옮겨가는 중. 더 높은 프레임워크의 최적화는 새로운 솔루션 채택의 진입 장벽을 낮춰줄 것으로 기대됨. 로드맵 상에서도 계속 나아가기 위해 적극적으로 소통하고 있음. MI300은 훌륭한 제품이며 향후 수 세대를 지나면서 계속해서 진화할 것으로 기대
작성일 : 23-11-01 18:54
조회 : 2,299
Total 16,485
