- 클라우드 TPU로 대규모 데이터에 최적화된 모델 학습 프로세스 구축

- 뛰어난 확장성과 편의성으로 모델 개발 시간 단축 및 비용 절감

 

구글 클라우드 로고.jpg

구글 클라우드가 카카오의 인공지능(AI) 연구 자회사 카카오브레인이 구글 클라우드의 맞춤형 머신러닝 하드웨어(ASIC) ‘클라우드 TPU를 도입해 초거대 AI 언어 모델 ‘KoGPT’의 연구개발 역량을 강화했다고 밝혔다.

 

KoGPT는 미국의 AI 연구기관 오픈AI가 개발한 딥러닝 기반 자연어처리(NLP) AI 모델 ‘GPT-3’의 한국어 특화 버전이다. 카카오브레인은 최근 오픈소스 커뮤니티 깃허브(GitHub)KoGPT를 공개했다.

 

KoGPT 모델을 학습시키는 데에는 수십억 이상의 데이터와 모델 파라미터(매개변수)가 활용됐다. 카카오브레인은 대규모 데이터 및 모델 학습에 적합한 리소스를 확보하기 위해 기존의 GPU 서버 환경에 클라우드 TPU를 추가로 도입했다.

 

클라우드 TPU는 구글 클라우드 AI와 맞춤형 고속 네트워크를 기반으로 기업의 혁신을 가속화한다. 카카오브레인은 클라우드 TPU를 도입해 대규모 모델 학습 시 발생하는 네트워크 병목 현상을 해결하고 60억 개의 파라미터와 2000억 개 토큰(token)에 달하는 한국어 데이터를 빠르게 처리했다. 이를 통해 언어 모델 연구 및 개발에 소요되는 시간을 단축하고 효율적인 모델 학습 프로세스를 구축할 수 있었다.

 

뛰어난 사용 편의성과 확장성 역시 카카오브레인이 클라우드 TPU를 선택한 중요한 요소였다. 클라우드 TPU는 팟(Pod) 단위로 할당 및 관리가 가능하며 최소한의 코드 변경으로 최대 2048개의 연산 노드까지 손쉽게 확장할 수 있다. 또한, 별도의 인프라를 설치할 필요 없이 퍼블릭 클라우드 환경에서 모든 시스템을 사용할 수 있기 때문에 KoGPT의 개발 시간과 비용을 동시에 절감할 수 있었다.

 

구글 클라우드는 TPU의 차세대 모델인 클라우드 TPU V4’를 이미 내부 머신러닝 워크로드에 광범위하게 사용 중이며 가까운 미래에 국내 시장에도 선보일 예정이다. 카카오브레인은 클라우드 TPU V4의 대규모 데이터 학습 테스트에 참여해 클라우드 TPU V4의 상용화를 앞당기는 데 기여하고 있다.

 

카카오브레인은 향후 클라우드 TPU를 활용해 텍스트, 이미지, 오디오 등 다양한 의사소통 채널을 활용한 멀티모달(Multi-modal) 모델을 연구 개발할 계획이다. 나아가 기억의 저장 및 학습된 지식 갱신 등 기존 딥러닝 모델의 한계를 극복하는 연구를 통해 사회 문제 해결에 노력할 예정이다.

 

김일두 카카오브레인 대표는 구글 클라우드에서 제공하는 클라우드 TPU는 딥러닝에 최적화되어 있어 짧은 기간 안에 고효율의 학습 파이프라인을 구축할 수 있었다고 설명하고, “구글 클라우드와 지속적으로 협력해 초거대 AI 모델의 연구 효율을 한층 더 끌어올릴 예정이라고 덧붙였다.

 

최기영 구글 클라우드 코리아 사장은 새로운 시대를 여는 한국어 초거대 AI 모델 개발에 구글 클라우드가 함께 할 수 있어 매우 의미 있게 생각한다고 밝히고, “앞으로도 구글 클라우드의 강력한 AI 및 머신러닝 인프라를 기반으로 한국 기업과 연구 기관이 다양한 분야에서 혁신을 가속화할 수 있도록 적극 지원하겠다고 강조했다.

 

#구글#클라우드#TPU#카카오#KoGPT

 
?

  1. 델, IT 인프라 자율 운영을 위한 ‘클라우드IQ’ 강화…“AI옵스로 자율 운영 모델 레벨 3까지 지원”

    - 서버, 스토리지, HCI, 컨버지드 인프라, 네트워킹, 데이터 보호 어플라이언스 등 델 테크놀로지스 인프라 포트폴리오 전체에 자율 운영 기능 적용 - 서비스나우(ServiceNow), 슬랙(Slack), 마이크로소프트 팀즈(Microsoft Teams), 앤서블 등과 통합하여 협업...
    Date2021.11.29 Bynewsit Reply0 Views30 항목뉴스 file
    Read More
  2. NCH 코리아, ‘전기 판넬 세정 프로그램’ 운영

    - 전기 설비에 생긴 오염물을 제거하기 위하여, 세정 부위 및 오염물의 종류에 맞춰 전문 세정제를 사용하여 제거 NCH코리아는 오늘, 상업 및 설비 시설물의 전기 설비의 오염물을 전문 세정제로 제거하는 ‘전기 판넬 세정 프로그램’를 운영한다고 밝혔다. 전...
    Date2021.11.29 Bynewsit Reply0 Views22 항목뉴스 file
    Read More
  3. PTC 코리아, 한국수력원자력과 전략적 MOU 체결

    - 자동예측진단시스템 상품화 추진 위한 협력 PTC코리아는 한국수력원자력과 설비 자동예측진단시스템의 전략적 공동마케팅 추진을 위한 양해각서(MOU)를 체결했다고 밝혔다. 한수원은 2019년부터 국내 가동원전 26개호기 주요 회전설비 24시간 상태감시 및 자...
    Date2021.11.29 Bynewsit Reply0 Views14 항목뉴스 file
    Read More
  4. 포블게이트, 금융정보분석원 ‘가상자산 사업자 신고수리 완료...“신뢰할 수 있는 안전한 거래소로 거듭 날 것”  

    - 트래블룰 구축, 과세 법안 등 정부기관 관련 규정 준수 위해 노력 가상자산 거래소 포블게이트는 금융위원회 산하 금융정보분석원에 제출한 가상자산사업자 신고서가 수리돼 공식적인 가상자산사업자가 됐다고 밝혔다. 포블게이트는 지난 9월 24일 BTC(비트...
    Date2021.11.26 Bynewsit Reply0 Views26 항목뉴스 file
    Read More
  5. 구글 클라우드, 카카오브레인에 클라우드 TPU 제공…“초거대 AI 언어 모델 개발 역량 강화”

    - 클라우드 TPU로 대규모 데이터에 최적화된 모델 학습 프로세스 구축 - 뛰어난 확장성과 편의성으로 모델 개발 시간 단축 및 비용 절감 구글 클라우드가 카카오의 인공지능(AI) 연구 자회사 카카오브레인이 구글 클라우드의 맞춤형 머신러닝 하드웨어(ASIC) ‘...
    Date2021.11.26 Bynewsit Reply0 Views15 항목뉴스 file
    Read More
  6. 서울대 공대 웹진, 세계 3대 광고제 뉴욕 페스티벌상 수상…“메타버스 웹진을 통한 혁신적 커뮤니케이션 시도”

    - 2020년 창간 사보 최우수상에 이어 2년 연속 수상 서울대학교 공과대학은 한국프레스센터 국제제회의장에서 개최된 제31회 2021 대한민국 커뮤니케이션대상에서 ‘서울 공대’ 웹진이 세계 3대 광고제인 뉴욕 페스티벌상을 수상했다고 25일 밝혔다. 서울 공대 ...
    Date2021.11.25 Bynewsit Reply0 Views14 항목뉴스 file
    Read More
  7. 베리타스, 클라우드 기반 업무 환경에서의 데이터 손실 위험 보고서 발표

    - 사무직 직원의 절반 이상(글로벌 56%, 한국 60.6%)이 오피스 365 등 클라우드, SaaS 기반 비즈니스 툴 사용하며 실수로 데이터 삭제 - 클라우드 서비스 제공자는 고객 데이터 백업 책임 없어…기업 차원 클라우드 기반 데이터 관리 전략 필요 베리타스코리아...
    Date2021.11.25 Bynewsit Reply0 Views12 항목뉴스 file
    Read More
  8. 레드햇, 파트너 에코시스템 강화…오픈 하이브리드 클라우드의 데이터 사이언스 파이프라인 가속화

    - 파트너 지원을 확대하여 데이터 센터에서 클라우드, 엣지에 이르기까지 유연하고 확장 가능한 AI 및 머신러닝 구축 지원 레드햇은 ‘레드햇 오픈시프트 데이터 사이언스(Red Hat OpenShift Data Science)’의 체험판 출시와 더불어 새로운 클라우드 서비스를 ...
    Date2021.11.24 Bynewsit Reply0 Views18 항목뉴스 file
    Read More
  9. VMware, 2022년 회계연도 3분기 실적 발표…“총 매출 31억 9천만 달러, 전년 동기 대비 11% 증가”

    - 3분기 구독형 및 SaaS 매출은 8억 2천만 달러, 전년 동기 대비 21% 증가 - 영업 이익 5억 1천 9백만 달러, 전년 동기 대비 21% 증가 VMware가 2022년 회계연도 3분기 실적을 발표했다. VMware의 2022년 회계연도 3분기 총 매출은 31억 9천만 달러로 전년 동...
    Date2021.11.24 Bynewsit Reply0 Views19 항목뉴스 file
    Read More
  10. 슈나이더 일렉트릭, 데이터 및 분석에 초점을 맞춘 글로벌 인공지능(AI) 허브 신설

    - 고객의 의사 결정에 도움을 주는 인공지능 솔루션 및 내부 애플리케이션 개발 - 20년 이상의 전문가 필립 람바흐(Philippe Rambach) 초대 최고 AI 책임자(CAIO)로 임명 슈나이더 일렉트릭은 AI 전략 강화를 위해 최고 AI책임자(CAIO)를 선임하고, 글로벌 인...
    Date2021.11.24 Bynewsit Reply0 Views10 항목뉴스 file
    Read More
목록
Board Pagination Prev 1 2 3 4 5 6 7 8 9 10 ... 123 Next
/ 123
CLOSE
gtag('config', 'G-3JH3B23695');