검색결과 총 3건
-
카카오엔터프라이즈, 엔비디아와 손잡고 클라우드 기반 AI 인퍼런스 부트캠프 개최
[이코노믹데일리] 카카오엔터프라이즈은 11일 삼성동 카카오 강남오피스에서 엔비디아(NVIDIA)와 공동으로 'NVIDIA X 카카오클라우드 원데이 AI 개발자 부트캠프'를 성황리에 개최했다고 밝혔다. 이번 부트캠프는 카카오클라우드의 NVIDIA GPU 인스턴스를 활용한 온·오프라인 행사로 진행되어 AI와 클라우드 기술에 대한 이해도를 높이고 실무 능력을 향상시키는 데 초점을 맞췄다. 온라인으로 진행된 1부 'AI와 클라우드 기술세미나'에는 엔비디아의 AI 솔루션 소개와 카카오클라우드의 기술 및 서비스를 다루는 세션이 진행되었다. 200명 규모로 진행된 이 세미나는 예상보다 2배 이상 많은 400여 명의 신청자로 인해 신청자 전원 참여로 확대 진행될 만큼 높은 관심을 보였다. 오프라인으로 진행된 2부 '카카오클라우드 기반 NVIDIA GPU 활용 AI 인퍼런스 부트캠프'에서는 30명의 개발자들이 참여하여 카카오클라우드 기반 NVIDIA GPU를 활용한 거대 언어 모델 라마3(LLaMa3)의 인퍼런스 최적화 및 배포 관련 최신 기술을 실습했다. 특히 엔비디아 솔루션 아키텍트의 직접 지도 아래 KakaoCloud 실습 환경 셋업, TensorRT-LLM 및 Triton Inference Server 소개, TensorRT-LLM 실습, 최적화된 엔진 배포 실습 in Triton Inference Server, NIM 소개 및 실습 등이 진행되어 참석자들의 높은 호응을 얻었다. 카카오클라우드와 엔비디아의 공동 행사 개최는 이번이 처음이지만, 양사는 오랜 기간 협력 관계를 유지하고 있다. 지난 5월 글로벌 슈퍼컴퓨터 TOP500에서 44위와 70위를 차지하며 글로벌 기술력을 인정받은 카카오클라우드는 고성능 클라우드 컴퓨팅 구축에 엔비디아 GPU를 적극 활용하고 있다. 앞으로도 양사는 생성형 AI에 필요한 고성능 클라우드 컴퓨팅 기술 및 시장 성장을 위해 협력을 이어갈 계획이다. 이지혜 카카오엔터프라이즈 CGO는 "NVIDIA와 공동 개최한 부트캠프가 참여자들의 높은 관심과 만족도를 보여주어 준비한 보람을 느낀다"고 밝히며 "카카오클라우드 기반 NVIDIA GPU 활용 교육에 더해, 고성능 클라우드 컴퓨팅 시장에서 차별화된 기술력으로 성장할 수 있도록 양사의 협력 관계를 더욱 공고히 할 것"이라고 말했다. 한편 카카오엔터프라이즈는 최근 스타트업 기업의 AI 및 클라우드 개발 환경을 지원하기 위해 카카오클라우드 기반 스타트업 상생 프로그램 '로켓런처'를 공개하고 AI, 로보틱스, 게임 등 다양한 기술 분야의 스타트업을 모집하고 있다. 신청한 모든 기업에 카카오클라우드 크레딧 및 기술 지원, 카카오워크 등 다양한 혜택을 무상 제공한다.
2024-07-11 17:53:17
-
-
메타, 페이스북 등에 AI 챗봇 '메타 AI' 탑재…최신 라마3 기반
[이코노믹데일리] 메타플랫폼(이하 메타)이 자사 SNS 플랫폼에 인공지능(AI) 챗봇 '메타 AI'를 탑재했다. 18일(현지시간) 출시된 메타 AI는 이용자 질문에 답하고, 애니메이션을 만들고, 이미지를 생성할 수 있다. 마크 저커버그 메타 CEO는 "메타 AI는 이용자 질문에 답하고 애니메이션을 만들고 이미지를 생성할 수 있다"며 "이제 자유롭게 이용할 수 있는 가장 지능적인 AI 어시스턴트라고 믿는다"고 말했다. 메타 AI는 오픈AI의 챗GPT, 구글의 제미나이, 일론 머스크의 AI 스타트업인 xAI의 그록과 경쟁할 예정이다. 현재 메타는 구글과 마이크로소프트(MS)와 제휴해 질문에 대한 답변을 제공할 때 두 기업의 검색 엔진 결과를 활용한다. 메타 AI는 SNS 플랫폼 앱 검색창에 내장돼 이용자가 쉽게 질문하고 답을 구할 수 있다. 레스토랑 추천, 휴가 계획, 새 아파트 장식 아이디어 제공 등이 가능하다. 또한 웹사이트 'meta.ai'에서 수학 문제 풀이, 전문 이메일 작성, 대화 기록 등의 기능을 제공한다. 이날 영어판으로 출시된 메타 AI는 미국, 캐나다, 뉴질랜드, 호주 등 10개국에서 이용 가능하다. 한국 등 다른 나라 출시 일정은 미정이다. 이미지 생성 기능은 왓츠앱과 웹사이트에서 베타 버전으로 제공된다. 메타 AI는 최신 AI 모델 '라마3'를 기반으로 했다. '라마3'는 80억개와 700억개의 매개변수를 가진 소형 모델과 거대 모델 두 개로 출시됐다. 메타는 700억개 모델이 MMLU(다중작업언어이해)에서 79.5점을 얻어 구글 제미나이 프로 1.0(71.8점)을 능가했다고 밝혔다.
2024-04-19 08:00:04