엔비디아 ‘B300’ GPU
H100보다 메모리 3배↑
삼성SDS가 국내 최초로 자사 클라우드 플랫폼인 ‘삼성 클라우드 플랫폼’(SCP)을 통해 엔비디아의 최신 그래픽처리장치(GPU) ‘B300’(블랙웰 울트라) 기반 GPU 구독형 서비스(GPUaaS)를 출시했다고 23일 밝혔다. 이번 서비스는 기업들이 인공지능(AI) 모델 개발을 넘어 실제 서비스에 적용하는 AI 추론 단계로 진입함에 따라 급증하는 고성능 컴퓨팅 수요에 대응하기 위한 전략의 일환이다.
새롭게 도입된 B300 GPU는 12단 HBM3E를 탑재해 GPU당 288GB의 메모리 용량과 초당 8TB의 대역폭을 제공한다. 이는 기존 주력 모델인 H100과 비교했을 때 용량은 3.6배,대역폭은 2.4배 향상된 수치로 복잡한 연산이 필요한 AI 추론 영역에서 압도적인 성능을 자랑한다.
특히 거대언어모델(LLM) 실행 시 연산 처리 속도에 비해 느린 메모리의 데이터 전송 속도로 인해 발생하던 고질적인 데이터 병목 현상을 획기적으로 개선했다는 평가를 받는다.
