2024.11.22 금요일
검색
'클러스터링' 검색결과
기간검색
-
~
검색영역
검색어
-
kt cloud, AI Train과 AI SERV NPU 출시 기념 웨비나 27일 개최 [이코노믹데일리] kt cloud는 27일, AI Train과 AI SERV NPU 출시를 기념하여 'kt cloud AI 인프라 소개'와 'AI Train, AI SERV NPU 활용 sLLM(소형언어모델) 데모 시연' 두 가지 주제로 온라인 웨비나를 개최한다고 밝혔다. 이번 웨비나는 AI 활용에 필요한 방대한 양의 데이터를 저장하고 관리하는 데 있어 중요한 역할을 하는 AI 인프라에 대한 관심이 높아지고 있는 가운데 진행된다. 특히, 최근 생성형 AI, 딥러닝 등 AI 기술의 도입 확산으로 인해 AI 인프라에 대한 수요가 급증하고 있으며, 이에 따라 기업들은 경제적이고 효율적인 AI 인프라 구축을 위해 고민하고 있다. kt cloud는 이러한 시장 상황을 반영하여 지난 5월 AI 기술 개발에 필요한 AI 인프라를 경제적으로 활용 가능한 학습 전용 상품 'AI Train'과 추론 전용 상품 'AI SERV NPU'를 출시했다. AI Train은 대규모 GPU 클러스터링을 제공하는 엔비디아 GPU 기반 학습 전용 인프라로, H100, A100, V100 등 고객 니즈에 맞춰 맞춤형 서비스를 제공한다. AI SERV NPU는 리벨리온과 협업한 추론 전용 인프라로, 기존 GPU 기반 추론용 인프라 대비 가성비를 높이고 자동화 유지보수 및 스케일링 기능을 갖췄다. 이번 웨비나는 두 가지 세션으로 진행된다. 첫 번째 세션인 'kt cloud AI 인프라 소개'에서는 kt cloud 부대권 AI기술팀 매니저가 연사로 나서 kt cloud AI 상품 라인업, 신규 출시된 AI Train과 AI SERV NPU의 차별점, 실증 사례 등을 소개한다. 두 번째 세션인 'AI Train, AI SERV NPU 활용 sLLM 데모 시연'에서는 AI Train과 AI SERV NPU를 활용한 sLLM 시연이 진행된다. 이번 웨비나는 kt cloud 포털에서 누구나 무료로 신청할 수 있으며, 신청자들에게는 웨비나 당일 이메일과 휴대폰으로 접속 링크가 전달된다. 또한, 사전 등록 이벤트에 참여하는 신청자들에게는 추첨을 통해 소정의 상품도 제공된다. 남충범 kt cloud 본부장은 "생성형 AI, 딥러닝 등 AI 기술이 다양한 산업에서 도입되면서 AI 인프라에 대한 수요가 증가하고 있다"며 "kt cloud는 엔비디아 및 비(Non) 엔비디아, 학습 및 추론용 AI 인프라 상품 라인업을 모두 갖추고 있는 만큼, 고객 니즈에 따라 AI 인프라를 경제적으로 사용하면서 AI 기술이 발전할 수 있도록 적극 지원하겠다"고 밝혔다.2024-06-25 09:47:59
-
카카오클라우드, TOP500 슈퍼컴퓨터 순위 44위·70위 진입…국내 최초·유일 클라우드 업체 [이코노믹데일리] 카카오엔터프라이즈(대표이사 이경진)는 지난 12일 독일에서 개최된 국제 슈퍼컴퓨팅 컨퍼런스(ISC)에서 발표한 전 세계 슈퍼컴퓨터 순위 TOP500에서 44위와 70위를 기록했다고 밝혔다. 이는 국내 클라우드 업체로는 최초이자 유일한 기록이다. 전 세계 슈퍼컴퓨터 순위 집계로 널리 알려진 TOP500.org는 1993년 독일과 미국의 대학교수들이 주축이 되어 시작된 프로젝트로 매년 6월 독일(ISC)과 11월 미국(ACM/IEEE Supercomputing Conference)에서 전 세계에서 가장 강력한 슈퍼컴퓨터 500대 순위를 발표한다. 카카오클라우드는 올해 처음으로 TOP500에 진출하며 100위권 내에 2종의 슈퍼컴퓨터가 랭크되는 기염을 토했다. 44위를 기록한 AMD EPYC, A100 GPU, Infiniband 구성의 카카오클라우드는 21.21PFlops, 70위를 기록한 XEON Platinum, A100 GPU, Infiniband 구성의 카카오클라우드는 15.94PFlops를 기록했다. 44위를 기록한 카카오클라우드는 21.21페타플롭스(PFlops)로 측정되었는데, 이는 1초에 2.1경 번 연산이라는 천문학적 처리량을 나타낸다. 쉽게 표현하자면 일반적인 PC 212만 대가 동시에 연산하는 것과 같다는 설명이다. 카카오클라우드의 놀라운 성능은 처리량이 높다는 것보다 뛰어난 클러스터링(Clustering) 최적화에 있다. 처리량(FLOPS)을 높이기 위해선 CPU/GPU core를 늘리는 것이 일반적이지만 그만큼 비용 또한 비례해 증가하는 것이 단점이다. 카카오클라우드는 클러스터링 및 최적화 기술, 고도화된 아키텍처를 통해 단점을 해결했다. 그 결과 44위를 기록한 카카오클라우드는 160,704 core로 순위권 내 16만 대 core를 가진 슈퍼컴퓨터 중 유일하게 20PFlops를 넘겨 동급 1위를 나타냈다. 또한, 70위를 기록한 카카오클라우드는 115,072 core로 순위권 내 11만 대 core를 가진 슈퍼컴퓨터 중 유일하게 10PFlops를 넘겨 역시 동급 1위를 차지했다. 이러한 카카오클라우드의 여러 기록 중 유독 눈에 띄는 점은 효율성(Efficiency) 지표이다. 44위의 카카오클라우드 효율성은 89.7%, 70위의 카카오클라우드 효율성은 89.5%를 기록했다. 순위권 내 국내 13개 슈퍼컴퓨터가 기록한 80.9%, 70.3% 등의 효율성에 비해 큰 격차를 보이며, 가성비와 완성도 측면에서 최고 수준으로 평가됐다. 카카오엔터프라이즈는 앞으로도 슈퍼컴퓨터 기술 개발에 투자를 지속할 계획이다. 또한, 국내외 기업과의 협력을 통해 슈퍼컴퓨터 기반 솔루션을 개발하고 사업화해 나갈 예정이다.2024-05-28 15:54:43
많이 본 뉴스
영상
Youtube 바로가기
![[데스크칼럼] AI 시대, 개발자의 미래와 생존 전략](https://image.ajunews.com/content/image/2024/10/02/20241002130756978212_518_323.jpg)