Extra Form
항목 뉴스
?

단축키

Prev이전 문서

Next다음 문서

크게 작게 위로 아래로 게시글 수정 내역 댓글로 가기 인쇄 첨부
?

단축키

Prev이전 문서

Next다음 문서

크게 작게 위로 아래로 게시글 수정 내역 댓글로 가기 인쇄 첨부

엔비디아는 MLPerf 벤치마크에서 x86과 ARM 기반 CPU를 통해 높은 수준의 AI 추론 성능과 에너지 효율을 달성했다고 밝혔다.

엔비디아, MLPerf 벤치마크서 ARM 기반 서버 통해 AI 추론 성능 입증.PNG.jpg

엔비디아는 ML커먼스(MLCommons)가 주최하는 추론 테스트의 성능과 에너지 효율 부문에서 3회 연속 신기록을 세웠다. ML커먼스는 2018년 5월에 결성된 벤치마킹 그룹이다. 이번에는 사상 최초로 Arm 기반 시스템에서 데이터센터 부문 테스트가 진행됐다. 이로써 오늘날 가장 혁신적인 기술인 AI를 배포하는 방법과 관련해 선택의 폭이 더욱 넓어지게 됐다.

 

압도적 우위

엔비디아와 알리바바(Alibaba), 델 테크놀로지스(Dell Technologies), 후지쯔(Fujitsu), 기가바이트(GIGABYTE), 휴랫패커드 엔터프라이즈(Hewlett Packard Enterprise), 인스퍼(Inspur), 레노버(Lenovo), 네트릭스(Nettrix), 슈퍼마이크로(Supermicro) 등 엔비디아 생태계 파트너사 9곳의 시스템은 7개의 추론 성능 테스트 모두에서 1위를 차지했다. 또한 엔비디아는 이번 라운드의 모든 MLPerf 테스트와 현재까지 진행된 라운드 전체에서 결과를 보고한 유일한 기업이다.

 

추론은 컴퓨터가 AI 소프트웨어를 실행해 오브젝트를 인식하거나 예측을 수행하는 작업을 의미한다. 이는 딥러닝 모델로 데이터를 필터링하고, 인간이 포착할 수 없는 결과를 찾아내는 프로세스를 뜻한다. MLPerf 추론 벤치마크는 컴퓨터 비전과 의료 이미징, 자연어 처리, 추천 시스템, 강화학습(reinforcement learning) 등 오늘날 가장 널리 사용되는 AI 워크로드와 시나리오를 기초로 구성된다. 따라서 사용자들은 배포하려는 AI 애플리케이션의 종류와 관계없이 엔비디아의 기술을 활용해 자신만의 신기록을 달성할 수 있다.

엔비디아의 벤치마크 테스트 결과.jpg

 

 

성능에 주목해야 하는 이유

AI의 활용 사례가 데이터센터에서 엣지, 혹은 그 이상으로 확대됨에 따라 AI 모델과 데이터세트도 성장을 거듭하고 있다. 이런 상황에서 사용자는 신뢰성과 배포의 유연성을 보장하는 성능을 필요로 하고 있다. MLPerf는 알리바바와 Arm, 바이두(Baidu), 구글, 인텔, 엔비디아 등 업계의 선두주자 다수가 지원하는 만큼 테스트의 투명성과 객관성을 자랑한다. 이를 바탕으로 충분한 정보를 제공해 유저들의 현명한 구매결정을 돕는다.

 

엔터프라이즈급 AI로 영역 넓히는 Arm

Arm 아키텍처는 에너지 효율과 성능의 향상, 소프트웨어 생태계의 확대에 힘입어 전세계 데이터센터로 진출하고 있다. 이번 벤치마크에 따르면 GPU 가속 플랫폼으로서 Arm 기반 서버들은 암페어 알트라(Ampere Altra) CPU를 사용해 유사 구성의 x86 기반 추론용 서버와 거의 동일한 성능을 제공한다. 실제로 일부 테스트에서는 Arm 기반 서버가 유사한 x86 시스템을 능가하기도 했다. 엔비디아는 오랫동안 CPU 아키텍처 모두를 지원했으며, 동료 검토(peer-reviewed)가 이뤄지는 업계 벤치마크에서 Arm은 자사 AI의 우월성을 입증할 수 있게 됐다.

 

Arm의 데이비드 레콤버(David Lecomber) HPC 및 툴 부문 선임 디렉터는 “ML커먼스의 창립 멤버이기도 한 Arm은 가속 컴퓨팅 산업의 과제 해결과 혁신에 기여할 표준과 벤치마크를 수립하는 과정에 적극 동참하고 있다. 최근의 추론 결과는 Arm 기반 CPU와 엔비디아 GPU로 구동되는 Arm 기반 시스템이 데이터센터의 광범위한 AI 워크로드를 담당할 준비가 되었음을 보여준다”고 말했다.

ARM 기반 서버의 성능.jpg

자사 AI의 저력을 보여준 파트너사들

성장을 거듭하는 대규모 생태계는 엔비디아의 AI 기술을 뒷받침하고 있다. 최근의 벤치마크에는 7곳의 OEM 업체가 총 22개의 GPU 가속 플랫폼을 제출했다. 이 서버 모델의 대부분은 엔비디아 인증 시스템을 통과해 다양한 범위의 가속 워크로드를 실행할 수 있는 것으로 검증됐다. 또한 이들 다수가 지난 달에 공식적으로 출시된 소프트웨어인 엔비디아 AI 엔터프라이즈(AI Enterprise)를 지원한다.

 

이번 벤치마크에 참여한 엔비디아 파트너사로는 델 테크놀로지스, 후지쯔, 휴랫패커드 엔터프라이즈, 인스퍼, 레노버, 네트릭스, 슈퍼마이크로, 그리고 클라우드 서비스 제공업체인 알리바바 등이 있다.

 

소프트웨어의 저력

엔비디아의 AI가 거둔 성공의 핵심에는 풀 소프트웨어 스택(full software stack)이 있다. 추론의 경우, 다양한 활용 사례를 위한 사전 훈련 AI 모델이 스택에 포함된다. 엔비디아 타오 툴킷((TAO Toolkit)은 전이학습을 활용해 사전 훈련 모델을 특정 애플리케이션에 맞춰 커스터마이징한다.

 

엔비디아 텐서RT(TensorRT) 소프트웨어는 AI 모델을 최적화해 메모리 활용성을 극대화하고 실행 속도를 높인다. 엔비디아가 MLPerf 테스트에서 상시 활용하는 텐서RT는 x86과 Arm 기반 시스템 모두에서 사용 가능하다.

 

엔비디아는 또한 엔비디아 트리톤 추론 서버(Triton Inference Server) 소프트웨어와 멀티-인스턴스 GPU(MIG) 기능도 벤치마크에 활용했다. 이는 전문 코더(coder)를 요하는 수준의 성능을 모든 개발자에게 제공한다. 이 소프트웨어 스택의 지속적인 개선 덕분에 엔비디아는 4개월 전에 진행한 MLPerf 추론 벤치마크와 비교해 성능 최대 20%, 에너지 효율 15% 향상을 달성했다.

 

최근의 테스트에서 엔비디아가 사용한 소프트웨어 일체는 MLPerf 저장소에서 제공되고 있으며, 엔비디아의 벤치마크 결과를 누구나 재연할 수 있다. 엔비디아는 해당 코드를 딥 러닝 프레임워크와 NGC 컨테이너에 지속적으로 추가하고 있다.

 

해당 소프트웨어들은 풀 스택 AI를 구현하려는 노력의 일환으로 주요 프로세서 아키텍처를 모두 지원한다. 최신 업계 벤치마크에서 입증받은 저력을 바탕으로 오늘날 진정한 AI 업무를 처리할 수 있다. 엔비디아 추론 플랫폼에 대한 더 자세한 정보는 엔비디아 추론 기술 오버뷰(Inference Technology Overview)에서 확인할 수 있다.

 

#엔비디아#MLPerf

TAG •
?

  1. 화웨이 클라우드, '모든 솔루션의 서비스화' 실현

    - 새로운 사용자 경험 제공 위해 클라우드 컴퓨팅의 토털 접근 서비스 EaaS(Everything as a Service) 전략 공개 - 사용자 및 조직의 위치, 시간, 선호도에 대한 실시간 접근과 통찰력을 기반으로 맞춤형 솔루션 제공 화웨이는 23일 개최된 '화웨이 커넥트 202...
    Date2021.09.27 Bynewsit Reply0 Views12 항목뉴스 file
    Read More
  2. 엔비디아, MLPerf 벤치마크서 ARM 기반 서버 통해 AI 추론 성능 입증

    엔비디아는 MLPerf 벤치마크에서 x86과 ARM 기반 CPU를 통해 높은 수준의 AI 추론 성능과 에너지 효율을 달성했다고 밝혔다. 엔비디아는 ML커먼스(MLCommons)가 주최하는 추론 테스트의 성능과 에너지 효율 부문에서 3회 연속 신기록을 세웠다. ML커먼스는 201...
    Date2021.09.24 Bynewsit Reply0 Views16 항목뉴스 file
    Read More
  3. 세일즈포스, ‘드림포스 2021’ 성황리 개최…신규 기능·고객 혁신사례 공개

    - 슬랙 인수 후 신규 통합 기능 공개, 차별화된 유저 인터페이스로 디지털 본사 구축 박차 - 메르세데스-벤츠·페덱스 등 도입 사례 공개, 고객 경험의 혁신 주도할 것 세일즈포스는 지난 9월 21~23일 글로벌 연례행사인 ‘드림포스 2021’을 개최했다고 밝혔다. ...
    Date2021.09.23 Bynewsit Reply0 Views17 항목뉴스 file
    Read More
  4. 슈나이더 일렉트릭, 2021 세이버 아시아 퍼시픽 어워드 3개 부문 수상

    - 노후화된 자사 공장을 디지털화하고, 이를 잠재 고객과 대중에게 알리기 위한 다양한 홍보 수단 활용 - 오프라인 행사를 온라인으로 전환했지만 현지화 된 컨텐츠 기획, 디지털 홍보를 통해 높은 참석률 달성 슈나이더 일렉트릭 코리아가 세계 최대 규모 PR...
    Date2021.09.23 Bynewsit Reply0 Views18 항목뉴스 file
    Read More
  5. 레드햇, ‘레드햇 포럼 2021’ 개최

    - 기조연설과 고객 사례, 라이브 데모 등을 통해 오픈 하이브리드 클라우드 전략과 신속한 애플리케이션 배포, 오픈소스에 대한 새로운 관점 제시 레드햇이 아시아 태평양 지역에서 열리는 업계 최대의 오픈소스 기술 연례행사인 ‘레드햇 포럼 2021‘을 개최한...
    Date2021.09.23 Bynewsit Reply0 Views14 항목뉴스 file
    Read More
  6. 미라콤아이앤씨, AWS로 중소기업용 ‘스마트팩토리’ 솔루션 강화

    - 생산관리 시스템에 AWS 클라우드를 도입…제조기업의 생산성과 효율성 대폭 강화 아마존웹서비스(AWS)는 스마트팩토리 솔루션 전문기업 미라콤아이앤씨가 자사의 ‘넥스플러스 메스플러스(Nexplant MESplus) 솔루션에 AWS를 도입했다고 발표했다. 중소기업을 ...
    Date2021.09.23 Bynewsit Reply0 Views13 항목뉴스 file
    Read More
  7. 줌, '줌 폰' BYOC 라이선스 리셀러 파트너 프로그램 공개

    - 리셀러에게는 새로운 수익 창출 기회, 고객에게는 유연성 극대화 혜택 제공 - 줌 폰 프로바이더 익스체인지로 고객과 공급사 직접 연결 - 전 세계 줌 폰 유료 사용자 200만 명 돌파 줌(Zoo)이 줌토피아 파트너 커넥트(Zoomtopia Partner Connect)에서 리셀러...
    Date2021.09.17 Bynewsit Reply0 Views52 항목뉴스 file
    Read More
  8. 테스트웍스-모아소프트-티지, 스마트시티 사업 위한 업무 협약 체결

    - 테스트웍스의 고품질 인공지능 학습용 데이터셋 및 구축 솔루션을 활용해 차별화된 스마트시티 구축 사업 지원 테스트웍스는 스마트국방 혁신 및 다양한 디지털 트윈 사업을 이끌어온 모아소프트와 AI 및 데이터 컨설팅 전문기업 티지와 스마트시티 사업을 ...
    Date2021.09.17 Bynewsit Reply0 Views16 file
    Read More
  9. 아비바,아람코와 전략적 파트너십 체결…”디지털 전환 통한 지속가능성 확보“

    - 양사의 전략적 파트너십 바탕으로 산업 내 디지털 전환 가속화 - 사우디아라비아의 에너지 전환 및 지식 경제 확대 지원 예정 아비바가 세계 최대 에너지•화학기업 아람코(Aramco)와 전략적 파트너십을 체결했다. 디지털 전환을 통한 중동 지역의 지속가능성...
    Date2021.09.16 Bynewsit Reply0 Views39 항목뉴스 file
    Read More
  10. 다쏘시스템, ‘모빌리티 4.0 챌린지’ 대회 개최

    다쏘시스템은 지난 4월 스마트 모빌리티 혁신을 위한 생태계 연구 단체인 ‘소프트웨어 리퍼블리크(Software République)의 공동 설립 발표 이후, 총 6개 회원 기업들과 함께 미래 모빌리티 솔루션과 시스템을 적극적으로 개발하는 본격적인 활동에 들어갔다. ...
    Date2021.09.16 Bynewsit Reply0 Views18 file
    Read More
목록
Board Pagination Prev 1 ... 5 6 7 8 9 10 11 12 13 14 ... 112 Next
/ 112
CLOSE
gtag('config', 'G-3JH3B23695');