엔비디아가 MLPerf 벤치마크에서 엔비디아 AI 기반 시스템을 통해 훈련 성능을 입증했다고 밝혔다.

 

클라우드 서비스 및 OEM 선도기업들이 엔비디아 AI를 활용해 훈련 시간을 단축했다.png.jpg

 

                      <클라우드 서비스 및 OEM 선도기업들이 엔비디아 AI를 활용해 훈련 시간을 단축했다.>

 

클라우드 서비스 및 OEM 선도기업인 델 테크놀로지스(Dell Technologies), 인스퍼(Inspur), 슈퍼마이크로(Supermicro) 및 마이크로소프트 애저(Microsoft Azure)는 엔비디아 AI를 사용해 MLPerf 벤치마크 AI 트레이닝 부문에서 신기록을 세웠다. 해당 시스템들은 새롭게 발표된 MLPerf 트레이닝(training) 1.1의 주요 워크로드 8개 부문 모두에서 기록을 경신했다

엔비디아 AI는 최신 MLPerf 결과에서 모든 모델을 가장 빠른 속도로 훈련했다.png.jpg

 

                                      <엔비디아 AI는 최신 MLPerf 결과에서 모든 모델을 가장 빠른 속도로 훈련했다.>

 

MLPerf 벤치마크에서 엔비디아 A100 텐서 코어(Tensor Core) GPU는 각 시스템에 최고 수준의 표준화된 칩당 성능(per-chip performance)을 제공했다. 엔비디아 인피니밴드(InfiniBand) 네트워킹 및 소프트웨어 스택은 엔비디아 DGX 슈퍼(Super)POD 기반 AI 슈퍼컴퓨터 셀린(Selene)의 훈련 시간을 획기적으로 단축했다.

엔비디아 A100 GPU는 MLPerf 1.1 테스트의 8개 부문 모두에서 최고의 칩당 트레이닝 성능을 제공했다.png.jpg

              <엔비디아 A100 GPU MLPerf 1.1 테스트의 8개 부문 모두에서 최고의 칩당 트레이닝 성능을 제공했다.>

 

최고 수준으로 발돋움한 클라우드 성능

최근 결과에 따르면 AI 모델 훈련 부문에서 애저의 NDm A100 v4 인스턴스가 전세계에서 가장 빠른 것으로 입증됐다. NDm A100 v4는 해당 벤치마크의 모든 테스트를 거쳤으며 2,048개의 A100 GPU로 확장된 시스템이다. 테스트에서 우수한 성능을 보여준 애저의 시스템은 현재 미국 전역 6개 지역에서 대여 및 사용 가능하다. AI 훈련은 고도의 사양을 요구하는 복잡한 작업이다. 엔비디아는 사용자가 선호하는 서비스나 시스템을 사용해 기록적인 속도로 모델을 훈련하도록 지원한다. 이는 엔비디아 AI가 클라우드 서비스, 코로케이션(co-location) 서비스, 기업 및 과학 컴퓨팅 센터용 제품을 폭넓게 지원하는 이유이다.

 

서버 제조사, 엔비디아 AI로 성능 강화

OEM 중 인스퍼는 8방향 GPU 시스템 NF5688M6과 액상 냉각식 NF5488A5를 사용해 단일 노드 성능에서 가장 우수한 기록을 세웠다. 한편, 델과 슈퍼마이크로는 4방향 A100 GPU 시스템에서 신기록을 세웠다. 8개의 OEM 2개의 클라우드 서비스를 비롯해 총 10개의 엔비디아 파트너가 테스트 결과를 제출했으며, 이들의 결과는 제출된 모든 결과의 90% 이상을 차지했다. 이는 엔비디아 생태계와 관련해 진행된 역대 MLPerf 트레이닝 테스트에서 5번째로 우수한 결과이다. 엔비디아 파트너들이 참여하는 MLPerf AI 훈련 및 추론을 위한 유일한 업계 표준 벤치마크이며, AI 플랫폼과 공급업체를 평가하는 고객에게 이는 중요한 지표가 된다.

 

뛰어난 속도로 입증된 서버

바이두 패들패들(Baidu PaddlePaddle), 델 테크놀로지스, 후지츠(Fujitsu), 기가바이트(GIGABYTE), 휴렛 팩커드 엔터프라이즈(Hewlett Packard Enterprise), 인스퍼, 레노버(Lenovo) 및 슈퍼마이크로는 로컬 데이터 센터에 단일 및 다중 노드의 작업에서 실행되는 결과를 제출했다. 대부분의 OEM 파트너는 가속화 컴퓨팅을 추구하는 기업 고객을 위해 검증된 서버인 엔비디아 인증 시스템(NVIDIA-Certified Systems)에서 테스트를 실행했다. 광범위하게 제출된 결과를 통해 엔비디아는 모든 규모의 기업에 최적의 솔루션을 제공하는 엔비디아 플랫폼의 다양성과 전문성을 입증했다.

 

빠르고 유연한 성능

엔비디아 AI는 모든 벤치마크 및 활용사례를 제출하는 데 사용된 유일한 플랫폼 참가자이며, 이를 통해 고성능 및 다용도성을 증명했다. 빠르고 유연한 시스템은 고객이 작업 속도를 높이는 데 필수적인 생산성을 지원한다. AI 훈련 벤치마크는 컴퓨터 비전, 자연어 처리, 추천 시스템, 강화 학습 등 오늘날 가장 인기있는 AI 워크로드 및 시나리오 8가지를 다룬다. MLPerf 테스트의 투명하고 객관적인 결과를 활용해 사용자들은 정보에 입각한 구매결정을 내릴 수 있다. 2018 5월 결성된 업계 벤치마킹 그룹은 알리바바(Alibaba), Arm, 구글(Google), 인텔(Intel) 및 엔비디아를 비롯한 수많은 업계 리더들의 지원을 받고 있다.

 

3년 동안 20배 속도 향상

이와 같은 수치는 지난 18개월 동안 A100 GPU의 성능이 5배 이상 향상되었음을 보여준다. 이는 오늘날 엔비디아의 작업에서 큰 비중을 차지하는 소프트웨어의 지속적인 혁신 덕분이다. 엔비디아의 성능은 3년 전 처음 MLPerf 테스트가 실행된 이후 20배 이상 향상되었다. 이렇게 획기적인 속도 향상은 GPU, 네트워크, 시스템 및 소프트웨어의 풀 스택 제품 전반에 걸친 발전의 결과이다.

엔비디아 AI는 지난 3년 동안 20배 이상의 성능향상을 달성했다.png.jpg

                                          <엔비디아 AI는 지난 3년 동안 20배 이상의 성능향상을 달성했다.>

 

지속적인 소프트웨어 개선

엔비디아는 여러 소프트웨어 개선을 통해 지속적으로 발전해 왔다. 예를 들어, 새로운 클래스의 메모리 복사 작업을 통해 의료 영상용 3D-UNet 벤치마크에서 2.5배 빠른 속도를 달성했다. 병렬처리를 위한 GPU 미세 조정 방법 덕분에 객체감지를 위한 Mask R-CNN 테스트 속도가 10%가량 향상됐고, 추천 시스템의 경우 27% 향상됐다. 엔비디아는 많은 GPU에서 실행되는 작업에 특히 효과적인 기술로서 독립적인 작업을 중첩시켰다. 엔비디아는 호스트 CPU와의 통신을 최소화하기 위해 CUDA 그래프 사용을 확대했다. 이를 통해 이미지 분류를 위한 ResNet-50 벤치마크에서 6% 향상된 성능을 제공했다. 또한, GPU 간 통신을 최적화하는 라이브러리인 NCCL에서 두 가지 새로운 기술을 구현했다. 그 결과 BERT와 같은 대규모 언어 모델에서 최대 5% 가속화된 성능을 기록했다.

 

엔비디아의 지속적 지원

엔비디아가 사용한 모든 소프트웨어는 누구든지 MLPerf 리포지토리에서 이용할 수 있으며, 엔비디아는 GPU 애플리케이션을 위한 소프트웨어 허브 NGC의 컨테이너에 다양한 최적화 사항을 지속적으로 추가하고 있다.

 

 

#엔비디아#MLPerf#

 

TAG •
?

  1. 하시코프, “클라우드 플랫폼에서 아시아 지역 사용자 지원“

    - 하시코프 컨설, 볼트, 패커를 위한 하시코프의 완벽한 매니지드 제공 멀티 클라우드 인프라 자동화 소프트웨어 기업 하시코프(HashiCorp)는 하시코프 클라우드 플랫폼(HCP)을 아시아 태평양 지역에서도 사용할 수 있게 되었다고 밝혔다. 또한, 하시코프 컨설...
    Date2021.12.07 Bynewsit Reply0 Views25 항목뉴스 file
    Read More
  2. 포블게이트, KISA 주관 사이버 위기대응 모의훈련 참여

    - 랜섬웨어 대응체계 점검 및 전 직원 위기 대응 역량 제고 가상자산 거래소 포블게이트가 보안에 대한 경각심과 대응 역량을 높이기 위해 한국인터넷진흥원(KISA)이 진행하는 2021년 하반기 사이버 위기대응 모의훈련에 참여했다고 밝혔다. 이번 프로그램은 ...
    Date2021.12.07 Bynewsit Reply0 Views23 항목뉴스 file
    Read More
  3. 버티브, 엣지 인프라 구축을 위한 표준 모델 발표

    - 고객의 엣지 인프라 구축 비용과 시간 절약 목적 버티브(Vertiv)가 엣지 인프라 모델에 관한 심층 연구 프로젝트 결과를 발표했다. 이 프로젝트는 엣지 인프라 모델을 정의함으로써 기업들이 엣지 컴퓨팅을 구축하는 데 드는 비용과 시간을 좀더 줄일 수 있...
    Date2021.12.06 Bynewsit Reply0 Views22 항목뉴스 file
    Read More
  4. 오로라, AWS와 ‘오로라 드라이버’ 개발 속도 증대 협력

    - 머신 러닝과 매일 수백만 건의 클라우드 기반 시뮬레이션으로 자율주행 자동차 기술 안전하고 신속하게 훈련·테스트·검증 - AWS의 고성능 인프라와 심층적인 기능 포트폴리오 지원 아마존웹서비스(AWS)는 자율주행 자동차 기술 분야를 선도하는 오로라(Auror...
    Date2021.12.03 Bynewsit Reply0 Views21 항목뉴스 file
    Read More
  5. 엔비디아, MLPerf 벤치마크서 AI 훈련 성능 입증

    엔비디아가 MLPerf 벤치마크에서 엔비디아 AI 기반 시스템을 통해 훈련 성능을 입증했다고 밝혔다. <클라우드 서비스 및 OEM 선도기업들이 엔비디아 AI를 활용해 훈련 시간을 단축했다.> 클라우드 서비스 및 OEM 선도기업인 델 테크놀로지스(Dell Technologies...
    Date2021.12.03 Bynewsit Reply0 Views28 항목뉴스 file
    Read More
  6. 비트센싱-인포유금융서비스, ‘AI 레이더 센서 기반 스마트 수면케어 서비스 구축’ 업무협약 체결

    - 레이더 기반 수면 데이터를 통한 스마트 수면케어 및 웰니스 솔루션 개발 본격화 비트센싱(bitsensing)이 인포유금융서비스와 함께 AI 레이더 센서 기반 스마트 수면케어 서비스 구축을 위한 업무협약(MOU)을 체결했다. 체결식은 지난 1일 인포유금융서비스 ...
    Date2021.12.03 Bynewsit Reply0 Views27 항목뉴스 file
    Read More
  7. HPE, KB국민카드 AI/빅데이터 기반 지능형 IT 운영 플랫폼 구축

    - AI/빅데이터 기반 지능형 IT 운영 플랫폼 통한 IT 서비스 관리 사용성 확대 및 선진 IT 서비스 관리 체계 강화 - 플랫폼 내 매핑 관계 정립, 이상 징후 탐지 정책 수립, 사용자 최적화된 시스템 운영 및 모니터링 대시보드 설정 등을 통한 안정적 플랫폼 운...
    Date2021.12.03 Bynewsit Reply0 Views37 항목뉴스 file
    Read More
  8. 티맥스오피스, 육군본부 '클라우드 기반 지능형 문서관리 시스템' 매조건부 신제품 개발사업(R&D) 수주

    - 육군본부의 클라우드 기반 개인 자료 저장소를 구축하여 업무공유, 협업 및 문서 내 정형 ∙비정형 데이터의 콘텐츠 단위 DB화를 통한 데이터 활용성 제고 티맥스오피스는 중소벤처기업부가 주관하는 '육군본부의 클라우드 기반 지능형 문서관리 시스템 구축 ...
    Date2021.12.02 Bynewsit Reply0 Views23 항목뉴스 file
    Read More
  9. 슈나이더 일렉트릭, 글로벌 아이디어 공모전 ‘고그린 (Go Green 2022)’ 개최

    - 올해로 12회를 맞이하는 글로벌 대학(원)생 대상의 엔지니어링 및 비즈니스 분야 아이디어 공모전 - 내년 2월 14일까지 5가지 주제 중 1가지를 선택해 제안서 또는 2분 이내의 동영상 제출 - 1차 지원자를 대상으로 슈나이더 일렉트릭 전문가 멘토링 제공 슈...
    Date2021.12.02 Bynewsit Reply0 Views18 항목뉴스 file
    Read More
  10. 화웨이, 유네스코와 함께 가나·에티오피아·이집트 국가 디지털 교육시스템 개선…“향후 3년간 온라인 학습 플랫폼 제공”

    화웨이가 유네스코와 함께 가나, 에티오피아, 이집트에서 TeOSS(Technology-Enabled Open Schools for All, '모두를 위한 기술 기반의 열린 학교') 프로젝트를 진행한다고 밝혔다. UN SDG4(지속가능한 양질의 교육)와 연계된 TeOSS는 교육분야의 디지털 전환 ...
    Date2021.12.02 Bynewsit Reply0 Views18 항목뉴스 file
    Read More
목록
Board Pagination Prev 1 ... 5 6 7 8 9 10 11 12 13 14 ... 132 Next
/ 132
CLOSE
gtag('config', 'G-3JH3B23695');