2024.11.22 금요일
검색
'TOP500' 검색결과
기간검색
-
~
검색영역
검색어
-
카카오엔터프라이즈, 엔비디아와 손잡고 클라우드 기반 AI 인퍼런스 부트캠프 개최 [이코노믹데일리] 카카오엔터프라이즈은 11일 삼성동 카카오 강남오피스에서 엔비디아(NVIDIA)와 공동으로 'NVIDIA X 카카오클라우드 원데이 AI 개발자 부트캠프'를 성황리에 개최했다고 밝혔다. 이번 부트캠프는 카카오클라우드의 NVIDIA GPU 인스턴스를 활용한 온·오프라인 행사로 진행되어 AI와 클라우드 기술에 대한 이해도를 높이고 실무 능력을 향상시키는 데 초점을 맞췄다. 온라인으로 진행된 1부 'AI와 클라우드 기술세미나'에는 엔비디아의 AI 솔루션 소개와 카카오클라우드의 기술 및 서비스를 다루는 세션이 진행되었다. 200명 규모로 진행된 이 세미나는 예상보다 2배 이상 많은 400여 명의 신청자로 인해 신청자 전원 참여로 확대 진행될 만큼 높은 관심을 보였다. 오프라인으로 진행된 2부 '카카오클라우드 기반 NVIDIA GPU 활용 AI 인퍼런스 부트캠프'에서는 30명의 개발자들이 참여하여 카카오클라우드 기반 NVIDIA GPU를 활용한 거대 언어 모델 라마3(LLaMa3)의 인퍼런스 최적화 및 배포 관련 최신 기술을 실습했다. 특히 엔비디아 솔루션 아키텍트의 직접 지도 아래 KakaoCloud 실습 환경 셋업, TensorRT-LLM 및 Triton Inference Server 소개, TensorRT-LLM 실습, 최적화된 엔진 배포 실습 in Triton Inference Server, NIM 소개 및 실습 등이 진행되어 참석자들의 높은 호응을 얻었다. 카카오클라우드와 엔비디아의 공동 행사 개최는 이번이 처음이지만, 양사는 오랜 기간 협력 관계를 유지하고 있다. 지난 5월 글로벌 슈퍼컴퓨터 TOP500에서 44위와 70위를 차지하며 글로벌 기술력을 인정받은 카카오클라우드는 고성능 클라우드 컴퓨팅 구축에 엔비디아 GPU를 적극 활용하고 있다. 앞으로도 양사는 생성형 AI에 필요한 고성능 클라우드 컴퓨팅 기술 및 시장 성장을 위해 협력을 이어갈 계획이다. 이지혜 카카오엔터프라이즈 CGO는 "NVIDIA와 공동 개최한 부트캠프가 참여자들의 높은 관심과 만족도를 보여주어 준비한 보람을 느낀다"고 밝히며 "카카오클라우드 기반 NVIDIA GPU 활용 교육에 더해, 고성능 클라우드 컴퓨팅 시장에서 차별화된 기술력으로 성장할 수 있도록 양사의 협력 관계를 더욱 공고히 할 것"이라고 말했다. 한편 카카오엔터프라이즈는 최근 스타트업 기업의 AI 및 클라우드 개발 환경을 지원하기 위해 카카오클라우드 기반 스타트업 상생 프로그램 '로켓런처'를 공개하고 AI, 로보틱스, 게임 등 다양한 기술 분야의 스타트업을 모집하고 있다. 신청한 모든 기업에 카카오클라우드 크레딧 및 기술 지원, 카카오워크 등 다양한 혜택을 무상 제공한다.2024-07-11 17:53:17
-
카카오클라우드, TOP500 슈퍼컴퓨터 순위 44위·70위 진입…국내 최초·유일 클라우드 업체 [이코노믹데일리] 카카오엔터프라이즈(대표이사 이경진)는 지난 12일 독일에서 개최된 국제 슈퍼컴퓨팅 컨퍼런스(ISC)에서 발표한 전 세계 슈퍼컴퓨터 순위 TOP500에서 44위와 70위를 기록했다고 밝혔다. 이는 국내 클라우드 업체로는 최초이자 유일한 기록이다. 전 세계 슈퍼컴퓨터 순위 집계로 널리 알려진 TOP500.org는 1993년 독일과 미국의 대학교수들이 주축이 되어 시작된 프로젝트로 매년 6월 독일(ISC)과 11월 미국(ACM/IEEE Supercomputing Conference)에서 전 세계에서 가장 강력한 슈퍼컴퓨터 500대 순위를 발표한다. 카카오클라우드는 올해 처음으로 TOP500에 진출하며 100위권 내에 2종의 슈퍼컴퓨터가 랭크되는 기염을 토했다. 44위를 기록한 AMD EPYC, A100 GPU, Infiniband 구성의 카카오클라우드는 21.21PFlops, 70위를 기록한 XEON Platinum, A100 GPU, Infiniband 구성의 카카오클라우드는 15.94PFlops를 기록했다. 44위를 기록한 카카오클라우드는 21.21페타플롭스(PFlops)로 측정되었는데, 이는 1초에 2.1경 번 연산이라는 천문학적 처리량을 나타낸다. 쉽게 표현하자면 일반적인 PC 212만 대가 동시에 연산하는 것과 같다는 설명이다. 카카오클라우드의 놀라운 성능은 처리량이 높다는 것보다 뛰어난 클러스터링(Clustering) 최적화에 있다. 처리량(FLOPS)을 높이기 위해선 CPU/GPU core를 늘리는 것이 일반적이지만 그만큼 비용 또한 비례해 증가하는 것이 단점이다. 카카오클라우드는 클러스터링 및 최적화 기술, 고도화된 아키텍처를 통해 단점을 해결했다. 그 결과 44위를 기록한 카카오클라우드는 160,704 core로 순위권 내 16만 대 core를 가진 슈퍼컴퓨터 중 유일하게 20PFlops를 넘겨 동급 1위를 나타냈다. 또한, 70위를 기록한 카카오클라우드는 115,072 core로 순위권 내 11만 대 core를 가진 슈퍼컴퓨터 중 유일하게 10PFlops를 넘겨 역시 동급 1위를 차지했다. 이러한 카카오클라우드의 여러 기록 중 유독 눈에 띄는 점은 효율성(Efficiency) 지표이다. 44위의 카카오클라우드 효율성은 89.7%, 70위의 카카오클라우드 효율성은 89.5%를 기록했다. 순위권 내 국내 13개 슈퍼컴퓨터가 기록한 80.9%, 70.3% 등의 효율성에 비해 큰 격차를 보이며, 가성비와 완성도 측면에서 최고 수준으로 평가됐다. 카카오엔터프라이즈는 앞으로도 슈퍼컴퓨터 기술 개발에 투자를 지속할 계획이다. 또한, 국내외 기업과의 협력을 통해 슈퍼컴퓨터 기반 솔루션을 개발하고 사업화해 나갈 예정이다.2024-05-28 15:54:43
많이 본 뉴스
영상
Youtube 바로가기
![[데스크칼럼] AI 시대, 개발자의 미래와 생존 전략](https://image.ajunews.com/content/image/2024/10/02/20241002130756978212_518_323.jpg)