2024.11.22 금요일
검색
'H200' 검색결과
기간검색
-
~
검색영역
검색어
-
AI 인프라에 주목한 SK텔레콤, 전국에 'AI 고속도로' 깐다 [이코노믹데일리] SK텔레콤이 전국에 인공지능(AI) 고속도로를 깔겠다고 나섰다. AI 시대 근간이 될 데이터센터와 클라우드형 그래픽처리장치(GPU), 에지 AI 등 세 가지를 주축으로 AI 인프라를 구축하고 이를 토대로 글로벌 시장에까지 진출한다는 계획이다. 유영상 SK텔레콤 대표이사 사장은 4일 서울 강남구 코엑스에서 개막한 SK그룹 AI 기술 박람회 'SK AI 서밋 2024'에서 이같은 내용을 담은 'AI 인프라 슈퍼 하이웨이' 계획을 발표했다. 유 사장은 이날 키노트(주제발표) 연사로 나와 "대한민국이 세계 최고 수준 정보통신기술(ICT) 인프라를 기반으로 ICT 강국 반열에 오른 것처럼 인프라에서 출발하는 성공 방정식이 AI 시대에도 적용될 것"이라며 "AI 인프라 슈퍼 하이웨이를 구축해 대한민국이 AI 주요 3개국(G3)으로 도약하도록 앞장서겠다"고 공언했다. SK텔레콤이 구상하는 AI 고속도로는 SK그룹이 에너지·통신·반도체 분야에서 보유한 역량을 토대로 만들어질 AI 인프라를 가리킨다. AI 주권을 뜻하는 '소버린 AI'가 주요 의제로 떠오른 가운데 한국이 글로벌 AI 시장에서 미국·중국 등 강대국과 대등한 위치에 서려면 인프라가 뒷받침돼야 한다는 것이다. SK텔레콤이 가장 먼저 주목한 것은 AI 데이터센터다. AI가 학습과 연산을 하려면 막대한 양의 데이터를 처리할 데이터센터가 필수적이기 때문이다. 유 사장은 "아시아 태평양 데이터센터 시장이 4년 뒤에는 2배 이상 성장할 것으로 전망된다"면서 "시장 기회를 놓치지 않기 위해 지역 거점에 대규모 AI 데이터센터를 구축하겠다"고 밝혔다. 국내에 세워질 데이터센터 규모는 우선 100메가와트(㎿) 이상 전력을 사용하는 수준에서 시작해 장기적으로 기가와트(GW)급으로 확장된다. 소모 전력은 수소·태양광·풍력 등 해당 지역의 신재생에너지로 충당한다. 여기에 SK하이닉스의 차세대 반도체와 SK이노베이션의 액침냉각 기술을 결합해 시너지를 극대화한다는 구상이다. 첫 번째 단계로 SK텔레콤은 AI 데이터센터 시험장을 오는 12월 경기 성남시 판교에 열기로 했다. 이곳에는 미국 엔비디아의 최신 GPU와 SK하이닉스의 고대역폭 메모리(HBM) 등 첨단 반도체, 차세대 액침냉각 솔루션, 전력 최적화 기술이 집약될 예정이다. SK텔레콤은 GW급 AI 데이터센터가 만들어지면 50조원 이상 신규 투자를 유치하고 55만명 넘는 일자리가 창출될 것으로 내다봤다. 이를 통해 175조원 이상 경제 효과를 거둘 수 있다는 계산이다. 만성적인 GPU 부족 현상에 대응할 해법으로는 클라우드형 GPU(GPUaaS)가 제시됐다. GPUaaS는 개별 기업이 고사양 GPU가 들어간 서버를 직접 소유하지 않고 데이터센터에 가상 환경으로 구현된 GPU를 이용하는 방식이다. SK텔레콤은 미국 람다와 협력해 12월 엔비디아 'H100' 칩 기반 클라우드 GPU를 시작으로 내년 3월 국내 최초로 H200 클라우드 GPU를 선보이기로 했다. 이동통신망과 AI 컴퓨팅을 결합한 '에지 AI'도 도입된다. SK텔레콤은 스마트폰이나 개인용 컴퓨터(PC) 같은 기기에서 직접 구동하는 온디바이스 AI와 데이터센터의 간극을 메울 중간 단계로 에지 AI를 규정했다. 온디바이스 AI는 데이터 처리 지연 시간이 짧지만 대용량 연산에는 불리하고 데이터센터는 대규모 연산에 유리하지만 지연 시간이 길다는 단점이 있다. SK텔레콤의 에지 AI는 둘의 장점을 결합한 개념이다. 이를 위해 SK텔레콤은 전국에 연결된 통신망을 활용하는 한편 6세대 이동통신(6G) 상용화에 박차를 가할 계획이다. 현재 SK텔레콤은 선행 기술 연구와 함께 국내·외 파트너사와 공동으로 통신망을 활용한 AI 데이터센터 구축과 에지 AI 특화 서비스 실증을 진행 중이다. 유 사장은 "지금까지 통신 인프라는 커넥티비티(연결) 경쟁, 즉 속도와 용량 싸움이었으나 이제는 네트워크 진화의 패러다임이 바뀌어야 한다"면서 "6G는 통신과 AI가 융합된 차세대 AI 인프라로 진화할 것"이라고 강조했다.2024-11-04 16:28:49
-
![[유환의 산업IT슈] AI 시대, 최적의 데이터센터 열관리 솔루션은?](https://image.ajunews.com//content/image/2024/09/27/20240927191818511460.jpg)
AI 시대, 최적의 '데이터센터 열관리' 솔루션은? [이코노믹데일리] 인공지능(AI) 시대가 열렸지만 첨단 산업 뒤에 숨겨진 '데이터센터 열관리' 문제가 필수 해결 과제로 떠오르고 있다. 국제에너지기구(IEA)가 지난 1월 발간한 '전기 2024 보고서(Electricity 2024 report)'에 따르면 2022년 기준 전 세계 데이터센터의 전력 소비량은 전 세계 전력 수요의 1~1.3%를 차지했다. 2026년엔 AI 데이터 센터 증설의 영향으로 비중이 1.5~3%까지 커질 전망이다. 전기를 많이 먹는다는 말은 곧 컴퓨팅 과정에서 열에너지가 발생한다는 것과 같다. 엔비디아가 올해 3월에 공개한 AI 반도체 블랙웰 B200의 경우 최대 소비 전력이 1킬로와트(㎾)에 달한다. 중대형 난방기기의 전력 소모량과 맞먹는 수준이다. 또 만약 데이터센터 열관리에 실패한다면 AI 반도체에 치명적인 피해를 줄 수 있다. 반도체의 주원료는 실리콘인데, 실리콘은 150℃를 넘어가면 물리적 현상이 변해 반도체의 특성을 잃는다. 이 때문에 데이터센터는 적정 온도인 20~25℃ 사이를 유지하기 위해 대규모 냉방 시설을 구축해 온도를 제어해야 한다. 문제는 갈수록 AI 반도체가 고전력을 사용하는 방향으로 개발되고 있다는 것이다. B200의 전 제품인 H200의 경우 전력 소모량이 0.7㎾였다. B200 후속 제품의 경우에도 성능 향상에 따라 전력 소모량이 더 늘어날 전망이다. 이를 해결하기 위한 데이터센터 열관리 솔루션은 크게 공랭과 수랭이 있다. 공랭은 에어컨과 같이 공기로 열을 식히는 방식이며 수랭은 비전도성 유체에 데이터센터를 담가 식히는 방법이다. 국내에서 공랭 분야 선두 주자는 LG전자다. 특히 LG전자는 전력 관리까지 겸할 수 있는 고효율 칠러 개발에 열중하고 있다. 칠러는 차갑게 식힌 물을 열교환기에 순환시켜 시원한 바람을 만드는 장치다. 윤활유 공급 장치 없이 모터를 돌리며 에너지 효율을 높인 '무급유 인버터 터보 칠러'나 전류가 급격히 상승하는 걸 막는 '인터버 스크롤 칠러' 등이 대표적이다. 수랭 방식은 설비 구축에 비용이 많이 들어 외면받았지만, 최근 들어 관심도가 높아지고 있다. 유체가 공기보다 열 전도성이 높아 열관리에 효과적이기 때문이다. 국내 수랭 솔루션 대표 주자는 SK이노베이션의 SK엔무브다. SK엔무브는 지난 2022년부터 국내 최초로 냉각 유체 개발에 들어갔으며 올해 안으로 SK텔레콤 데이터센터에 도입할 예정이다.2024-09-29 07:00:00
-
테슬라, 오스틴 본사에 'AI 개발용' 슈퍼컴퓨터 센터 구축 일론 머스크 테슬라 최고경영자 [로이터 연합뉴스] [이코노믹데일리] 일론 머스크 테슬라 최고경영자(CEO)가 미국 텍사스주 오스틴 테슬라 본사에 구축 중인 인공지능(AI) 기술 개발용 슈퍼컴퓨터 센터의 내부를 공개했다. 이는 테슬라의 AI 기술 개발에 대한 강한 의지를 보여주는 것으로 해석된다. 머스크는 26일(현지시간) 자신의 엑스(X) 계정을 통해 "오스틴의 테슬라 본사에 지어지고 있는 거대한 AI 훈련용 슈퍼클러스터인 코르텍스(Cortex) 내부를 오늘 찍은 영상"이라며 데이터센터 형태의 대규모 컴퓨팅 시설 모습을 담은 영상을 게시했다. 그는 이 시설이 "현실 세계의 AI를 풀어낼 것"이라고 덧붙였다. 공개된 영상에서는 광활한 공간에 서버 랙이 층층이 쌓여 있는 모습이 확인된다. 이는 테슬라가 AI 기술 개발에 얼마나 큰 규모의 투자를 하고 있는지를 단적으로 보여준다. 테슬라의 이러한 움직임은 완전자율주행 소프트웨어 'FSD'와 휴머노이드 로봇 '옵티머스'의 성능 향상을 위한 것으로 보인다. 이를 위해 테슬라는 오스틴 본사의 기가 텍사스 핵심 건물을 확장하고, 대규모 냉각 시스템도 별도로 구축 중인 것으로 알려졌다. 머스크는 26일(현지시간) 자신의 소셜미디어 엑스(X) 계정을 통해 "오스틴의 테슬라 본사에 건설 중인 AI 훈련용 슈퍼클러스터 '코르텍스' 내부 모습"이라는 글과 함께 영상을 공개했다. 영상에는 광대한 데이터센터 내에 층층이 쌓여 있는 서버 랙이 포함되어 있으며, 머스크는 이 시설이 "현실 세계의 AI를 풀어낼 것"이라고 설명했다. 머스크는 지난 6월에도 엑스(X)에서 "테슬라가 올해 엔비디아 제품 구매에 30억∼40억 달러(약 4조∼5조 3천억 원)를 사용할 것으로 예상한다"고 밝혔다. 그는 이 슈퍼클러스터에 엔비디아의 최신 H100과 H200 GPU를 총 10만 개가량 탑재할 계획이라고 언급했다. 이번 슈퍼컴퓨터 센터 구축은 테슬라가 AI 기술 개발에 얼마나 큰 비중을 두고 있는지를 보여주는 동시에, 자율주행 및 로봇 기술 분야에서의 경쟁력 확보를 위한 전략적 움직임으로 해석된다.2024-08-27 08:33:00
-
SK텔레콤, 람다와 협력해 국내 최대 규모 AI 데이터센터 구축 [이코노믹데일리] SK텔레콤이 미국의 GPUaaS(GPU-as-a-Service) 기업 람다(Lambda)와 손잡고 서울에 AI 데이터센터를 연다. SK텔레콤은 람다가 보유한 엔비디아의 최신 GPU 자원을 SK브로드밴드의 서울 가산 데이터센터에 배치할 예정이며, 향후 3년 안에 GPU 수천 대를 추가로 도입할 계획이다. SK텔레콤은 21일 람다와 AI 클라우드 공동 사업을 위한 파트너십을 체결했다고 밝혔다. 이번 협력을 통해 양사는 안정적인 GPU 공급 기반을 마련하고, GPUaaS 사업을 확대하는 등 다양한 전략적 협력을 강화할 예정이다. 특히 아시아태평양 지역 최초로 람다의 한국 리전도 개소되어, 국내 기업들이 람다의 GPU 기반 AI 클라우드 서비스를 안전하게 이용할 수 있게 된다. 오는 12월, SK텔레콤과 람다는 서울 금천구 가산동의 SK브로드밴드 데이터센터에 엔비디아 GPU 'H100'을 배치할 예정이다. SK텔레콤은 향후 3년 내에 GPU 수천 대를 추가로 도입하고 'H200' 모델도 조기 도입할 계획이다. 이를 통해 국내 최대 규모의 'GPU Farm'을 구축할 목표다. SK브로드밴드는 데이터센터 운영 노하우를 활용해 고밀도 GPU 서버 운영에 최적화된 코로케이션 환경을 제공할 예정이다. 특히 데이터센터의 랙 당 전력밀도를 국내 최고 수준인 44kW로 설정해 안정적인 GPU 서버 운영을 지원할 계획이다. 이와 함께 SK텔레콤은 오는 12월 GPUaaS 서비스를 출시할 예정이다. 이 서비스를 통해 기업들이 AI 서비스 개발이나 활용에 필요한 GPU를 직접 구매하지 않고, 클라우드에서 가상 환경으로 사용할 수 있게 된다. 이는 GPU 구매가 어려운 중소기업과 스타트업에게 AI 서비스 기회를 제공할 것으로 기대된다. 람다의 창업자 겸 CEO인 스티븐 발라반은 “람다와 SKT는 GPU 컴퓨팅 자원을 전기처럼 편리하게 사용 가능한 환경을 만들겠다는 비전을 공유하고 있다”며, “AI 혁신 속도가 빠른 한국에서 AI 클라우드 영역을 성장시키고자 하는 SKT와 협력하게 되어 기쁘게 생각한다”고 말했다. 김경덕 SKT 엔터프라이즈 사업부장은 ”람다와의 전략적 협력으로 GPU를 안정적으로 확보한 것은 국내 GPU 공급 확대 측면에서 의미가 크다”며, “향후 국내 최대 규모의 GPU Farm을 구축해 국가 AI 경쟁력을 높이고, 글로벌 시장 진출의 교두보로 자리매김하도록 노력할 것”이라고 말했다.2024-08-21 09:23:47
많이 본 뉴스
영상
Youtube 바로가기
![[데스크칼럼] AI 시대, 개발자의 미래와 생존 전략](https://image.ajunews.com/content/image/2024/10/02/20241002130756978212_518_323.jpg)