필수적인 그래픽처리장치(GPU)를 구하기가 어려워졌기
효성인포메이션시스템에 따르면 엔비디아 최신 AI용 GPU인 H100은 과거보다 수급 상황이 개선되어 현재 16주 이내 공급이 가능한 상황이다. 그러나 더 향상된 성능을 제공하는 차세대 제품 H200의 경우 32주, 즉 8개월 가량을 기다려야 받아볼 수 있다. 이는 AI 인프라 구축을 계획하는 기업들에 큰 걸림돌이 되고 있다.
전문가들은 향후 2년 이내에 주요 딥러닝 알고리즘을 처리하는 데 필요한 성능은 15배, GPU 성능은 10배 이상 향상될 것으로 전망하고 있다. 이는 GPU에 대한 수요가 앞으로도 계속해서 증가할 것임을 시사하며, 지금의 수급난이 쉽게 해소되기는 어려울 것임을 암시한다.
현재 상황에서 가장 현실적인 대안은 기존에 보유한 GPU를 최대한 활용해 성능을 극대화하는 것이다. 퓨어스토리지에 따르면 GPU 성능 향상은 하드웨어 업그레이드에만 국한되지 않고, 스토리지 인프라도 큰 역할을 한다. 효율적이고 낮은 레이턴시를 가진 스토리지 솔루션은 데이터를 지체 없이 GPU에 전달해 정보 대기 시간 없이 작업을 수행할 수 있게 한다.
실제로 충북테크노파크는 고성능 스토리지 인프라를 도입해서 데이터 처리 성능을 2배 이상 향상시키고, GPU 활용률을 30%에서 80%까지 2.6배 끌어올렸다. 이는 적절한 인프라 구성만으로도 GPU 활용도를 획기적으로 개선할 수 있음을 보여준다. 특히 스토리지 성능 개선을 통해 신속한 모델 반복이 가능해져 AI 엔지니어들의 작업 효율성도 향상됐다.
델 테크놀로지스는 엔비디아·AMD·인텔을 모두 지원하는 고집적 GPU 서버 '델 파워엣지 XE9680'을 제공한다.최근엔 AMD 지원을 강화한 ‘델 AI 팩토리’ 포트폴리오에 AMD 5세대 EPYC 프로세서를 탑재한 신제품 5종을 추가했다. 이러한 개방형 아키텍처 전략은 기업들에 더 많은 선택지를 제공한다는 점에서 의미가 있다.
HS효성인포메이션시스템은 AMD와 인텔 가속기가 엔비디아보다 GPU 메모리가 높아 동일 수량에서 더 큰 모델을 학습할 수 있는 장점이 있다고 설명했다. 다만 엔비디아 쿠다(CUDA) 에코시스템이 전세계적으로 탄탄하게 갖춰져 있어, 대체 가속기들이 시장을 선도하기 위해서는 좋은 제품 출시뿐만 아니라 에코시스템 구축을 위한 노력이 필요할 것으로 전망했다.
GPU 품귀 현상은 당분간 계속될 전망이다. 이런 상황에서 기업들은 보유한 GPU 활용률을 최대한 끌어올리고, 다양한 가속기 옵션을 적극적으로 검토할 필요가 있다. GPU 확보에만 매달리기보다 기존 자원의 효율을 높이고, 대체 가능한 옵션들을 적극 검토하는 유연한 접근이 필요한 시점이다.
https://www.proko.com/@leo_aimee/activity/
https://www.proko.com/@shannon_angelic/activity/
https://www.proko.com/@morgan_lorena/activity/
https://www.proko.com/@island_blueberry/activity/
https://www.proko.com/@karen_willa/activity/
https://www.proko.com/@lyndon_wise/activity/
https://www.proko.com/@spirited_hal/activity/
https://www.proko.com/@thora_adelaide/activity/
https://www.proko.com/@gale_louisa/activity/
https://www.proko.com/@martin_ramsey/activity/
https://www.proko.com/@youthful_quillan/activity/
https://www.proko.com/@livia_emrick/activity/
