카카오엔터프라이즈, 엔비디아와 손잡고 클라우드 기반 AI 인퍼런스 부트캠프 개최

[이코노믹데일리] 카카오엔터프라이즈은 11일 삼성동 카카오 강남오피스에서 엔비디아(NVIDIA)와 공동으로 'NVIDIA X 카카오클라우드 원데이 AI 개발자 부트캠프'를 성황리에 개최했다고 밝혔다. 

이번 부트캠프는 카카오클라우드의 NVIDIA GPU 인스턴스를 활용한 온·오프라인 행사로 진행되어 AI와 클라우드 기술에 대한 이해도를 높이고 실무 능력을 향상시키는 데 초점을 맞췄다. 

온라인으로 진행된 1부 'AI와 클라우드 기술세미나'에는 엔비디아의 AI 솔루션 소개와 카카오클라우드의 기술 및 서비스를 다루는 세션이 진행되었다. 200명 규모로 진행된 이 세미나는 예상보다 2배 이상 많은 400여 명의 신청자로 인해 신청자 전원 참여로 확대 진행될 만큼 높은 관심을 보였다.

오프라인으로 진행된 2부 '카카오클라우드 기반 NVIDIA GPU 활용 AI 인퍼런스 부트캠프'에서는 30명의 개발자들이 참여하여 카카오클라우드 기반 NVIDIA GPU를 활용한 거대 언어 모델 라마3(LLaMa3)의 인퍼런스 최적화 및 배포 관련 최신 기술을 실습했다. 

특히 엔비디아 솔루션 아키텍트의 직접 지도 아래 KakaoCloud 실습 환경 셋업, TensorRT-LLM 및 Triton Inference Server 소개, TensorRT-LLM 실습, 최적화된 엔진 배포 실습 in Triton Inference Server, NIM 소개 및 실습 등이 진행되어 참석자들의 높은 호응을 얻었다.

 
카카오클라우드와 엔비디아의 공동 행사 개최는 이번이 처음이지만, 양사는 오랜 기간 협력 관계를 유지하고 있다. 지난 5월 글로벌 슈퍼컴퓨터 TOP500에서 44위와 70위를 차지하며 글로벌 기술력을 인정받은 카카오클라우드는 고성능 클라우드 컴퓨팅 구축에 엔비디아 GPU를 적극 활용하고 있다. 

앞으로도 양사는 생성형 AI에 필요한 고성능 클라우드 컴퓨팅 기술 및 시장 성장을 위해 협력을 이어갈 계획이다.

이지혜 카카오엔터프라이즈 CGO는 "NVIDIA와 공동 개최한 부트캠프가 참여자들의 높은 관심과 만족도를 보여주어 준비한 보람을 느낀다"고 밝히며 "카카오클라우드 기반 NVIDIA GPU 활용 교육에 더해, 고성능 클라우드 컴퓨팅 시장에서 차별화된 기술력으로 성장할 수 있도록 양사의 협력 관계를 더욱 공고히 할 것"이라고 말했다.

한편 카카오엔터프라이즈는 최근 스타트업 기업의 AI 및 클라우드 개발 환경을 지원하기 위해 카카오클라우드 기반 스타트업 상생 프로그램 '로켓런처'를 공개하고 AI, 로보틱스, 게임 등 다양한 기술 분야의 스타트업을 모집하고 있다. 신청한 모든 기업에 카카오클라우드 크레딧 및 기술 지원, 카카오워크 등 다양한 혜택을 무상 제공한다.