세미나 개요

인공지능, 딥 러닝, 빅데이터, 그래픽 같은 워크로드에는 NVIDIA GPU 솔루션은 필수적인 요소가 되었습니다.

새로운 Hopper 아키텍처(9세대) 기반인 NVIDIA H100 GPU는 이전 세대에 비해 월등히 더 향상된 기능으로 대규모 AI 및 HPC 워크로드를 지원하며 NVIDIA H100 GPU를 이용하여 데이터 처리 시간을 단축하고, 딥 러닝 프레임 워크를 가속하여 보다 더 정교한 신경망을 쉽게 구축할 수 있습니다.

본 Webinar에서는 NVIDIA H100 GPU에 작용된 기술과 성능에 대해 소개해 드리고자 합니다.

NVIDIA H100 GPU 핵심 기능
- 새로운 스트리밍 멀티프로세서(SM)의 성능과 효율성 대폭 향상( 4세대 Tensor 코어)
- 새로운 트랜스포머 엔진은 트랜스포머 모델 트레이닝 및 추론을 가속화하도록 특별히 설계된 소프트웨어와 맞춤형 NVIDIA Hopper Tensor 코어 기술 조합하여 사용
- HBM3 메모리 하위 시스템은 이전 세대에 비해 거의 2배 증가한 대역폭 제공
- 2세대 MIG(Multi-Instance GPU) 기술은 A100보다 GPU 인스턴스당 약 3배 더 많은 컴퓨팅 용량과 2배에 가까운 메모리 대역폭 제공
- 새로운 컨피덴셜 컴퓨팅 지원은 사용자 데이터를 보호하고 하드웨어 및 소프트웨어 공격으로부터 방어하며 가상화 및 MIG 환경에서 가상 머신(VM)을 더 우수하게 서로 격리하고 보호
- 4세대 NVIDIA NVLink는 900GB/s의 GPU 간 상호 연결을 제공하며, 이전 세대 NVLink 대비 일반 대역폭 50% 증가
- 3세대 NVSwitch 기술에는 노드 내부 및 외부에 모두 상주하는 스위치가 포함되어 서버, 클러스터 및 데이터센터 환경에서 여러 GPU를 연결