2024.11.22 금요일
검색
'H100' 검색결과
기간검색
-
~
검색영역
검색어
-
AI 인프라에 주목한 SK텔레콤, 전국에 'AI 고속도로' 깐다 [이코노믹데일리] SK텔레콤이 전국에 인공지능(AI) 고속도로를 깔겠다고 나섰다. AI 시대 근간이 될 데이터센터와 클라우드형 그래픽처리장치(GPU), 에지 AI 등 세 가지를 주축으로 AI 인프라를 구축하고 이를 토대로 글로벌 시장에까지 진출한다는 계획이다. 유영상 SK텔레콤 대표이사 사장은 4일 서울 강남구 코엑스에서 개막한 SK그룹 AI 기술 박람회 'SK AI 서밋 2024'에서 이같은 내용을 담은 'AI 인프라 슈퍼 하이웨이' 계획을 발표했다. 유 사장은 이날 키노트(주제발표) 연사로 나와 "대한민국이 세계 최고 수준 정보통신기술(ICT) 인프라를 기반으로 ICT 강국 반열에 오른 것처럼 인프라에서 출발하는 성공 방정식이 AI 시대에도 적용될 것"이라며 "AI 인프라 슈퍼 하이웨이를 구축해 대한민국이 AI 주요 3개국(G3)으로 도약하도록 앞장서겠다"고 공언했다. SK텔레콤이 구상하는 AI 고속도로는 SK그룹이 에너지·통신·반도체 분야에서 보유한 역량을 토대로 만들어질 AI 인프라를 가리킨다. AI 주권을 뜻하는 '소버린 AI'가 주요 의제로 떠오른 가운데 한국이 글로벌 AI 시장에서 미국·중국 등 강대국과 대등한 위치에 서려면 인프라가 뒷받침돼야 한다는 것이다. SK텔레콤이 가장 먼저 주목한 것은 AI 데이터센터다. AI가 학습과 연산을 하려면 막대한 양의 데이터를 처리할 데이터센터가 필수적이기 때문이다. 유 사장은 "아시아 태평양 데이터센터 시장이 4년 뒤에는 2배 이상 성장할 것으로 전망된다"면서 "시장 기회를 놓치지 않기 위해 지역 거점에 대규모 AI 데이터센터를 구축하겠다"고 밝혔다. 국내에 세워질 데이터센터 규모는 우선 100메가와트(㎿) 이상 전력을 사용하는 수준에서 시작해 장기적으로 기가와트(GW)급으로 확장된다. 소모 전력은 수소·태양광·풍력 등 해당 지역의 신재생에너지로 충당한다. 여기에 SK하이닉스의 차세대 반도체와 SK이노베이션의 액침냉각 기술을 결합해 시너지를 극대화한다는 구상이다. 첫 번째 단계로 SK텔레콤은 AI 데이터센터 시험장을 오는 12월 경기 성남시 판교에 열기로 했다. 이곳에는 미국 엔비디아의 최신 GPU와 SK하이닉스의 고대역폭 메모리(HBM) 등 첨단 반도체, 차세대 액침냉각 솔루션, 전력 최적화 기술이 집약될 예정이다. SK텔레콤은 GW급 AI 데이터센터가 만들어지면 50조원 이상 신규 투자를 유치하고 55만명 넘는 일자리가 창출될 것으로 내다봤다. 이를 통해 175조원 이상 경제 효과를 거둘 수 있다는 계산이다. 만성적인 GPU 부족 현상에 대응할 해법으로는 클라우드형 GPU(GPUaaS)가 제시됐다. GPUaaS는 개별 기업이 고사양 GPU가 들어간 서버를 직접 소유하지 않고 데이터센터에 가상 환경으로 구현된 GPU를 이용하는 방식이다. SK텔레콤은 미국 람다와 협력해 12월 엔비디아 'H100' 칩 기반 클라우드 GPU를 시작으로 내년 3월 국내 최초로 H200 클라우드 GPU를 선보이기로 했다. 이동통신망과 AI 컴퓨팅을 결합한 '에지 AI'도 도입된다. SK텔레콤은 스마트폰이나 개인용 컴퓨터(PC) 같은 기기에서 직접 구동하는 온디바이스 AI와 데이터센터의 간극을 메울 중간 단계로 에지 AI를 규정했다. 온디바이스 AI는 데이터 처리 지연 시간이 짧지만 대용량 연산에는 불리하고 데이터센터는 대규모 연산에 유리하지만 지연 시간이 길다는 단점이 있다. SK텔레콤의 에지 AI는 둘의 장점을 결합한 개념이다. 이를 위해 SK텔레콤은 전국에 연결된 통신망을 활용하는 한편 6세대 이동통신(6G) 상용화에 박차를 가할 계획이다. 현재 SK텔레콤은 선행 기술 연구와 함께 국내·외 파트너사와 공동으로 통신망을 활용한 AI 데이터센터 구축과 에지 AI 특화 서비스 실증을 진행 중이다. 유 사장은 "지금까지 통신 인프라는 커넥티비티(연결) 경쟁, 즉 속도와 용량 싸움이었으나 이제는 네트워크 진화의 패러다임이 바뀌어야 한다"면서 "6G는 통신과 AI가 융합된 차세대 AI 인프라로 진화할 것"이라고 강조했다.2024-11-04 16:28:49
-
인텔도 선보인 '저전력 AI 반도체'···삼성전자부터 애플까지 경쟁 '치열' [이코노믹데일리] PC, 노트북 등 온디바이스 기기부터 반도체까지 인공지능(AI)를 대비하고 있다. 핵심 키워드는 '저전력'이다. 인텔이 저전력에 중점을 둔 인공지능(AI) PC용 신형 중앙처리장치(CPU)를 공개했다. 삼성전자와 애플도 저전력 AI 반도체 개발에 열을 올리고 있다. 인텔은 지난 28일 서울 영등포구 콘래드서울 호텔에서 '인텔 AI PC 최신 프로세서 국내 미디어 간담회'를 열고 15세대 인텔 코어 울트라 두 종을 공개했다. 두 종 모두 생성형 AI 기능을 사용하는 데 최적화된 반도체였다. 인텔은 전성비(전력 대비 성능)를 높이는 데 집중했다며 이전 세대보다 최대 40~50%의 전력 소비를 줄였다고 알렸다. '전기 먹는 하마'로 불리는 AI를 저전력으로 사용할 수 있는 비결은 신경처리장치(NPU)에 있다. NPU는 인체의 신경망을 닮도록 설계한 AI 전용 프로세서다. 복잡한 계산보단 단순 데이터 처리에 특화돼 있다. 이번에 공개된 인텔 CPU 루나 레이크 NPU의 경우 43TOPS(1초당 조 단위 연산 횟수)를 처리할 수 있다. 삼성전자는 지난 17일 반도체업계 최초로 12나노(㎚·1㎚=10억분의 1m)급 24기가비트(Gb) GDDR7 D램을 개발했다고 밝혔다. 삼성전자는 모바일 제품에 주로 쓰이는 기술을 도입해 전력 효율성을 전 세대 대비 30% 이상 개선했다고 알렸다. 또 AI 분야에서 사용성이 좋아질 것이라 기대했다. 애플의 반도체 브랜드 애플실리콘도 NPU 성능과 전력 효율성 향상에 주력하고 있다. 애플이 지난 5월 공개한 애플리케이션프로세서(AP) M4의 NPU 성능은 38TOPS 수준이다. 지난 2022년 공개한 M2(15.8TOPS)보다 2.4배 높지만 전력 소비량은 절반 밖에 안된다고 알려졌다. 이처럼 주요 빅테크에서 반도체 전력 효율화에 나선 이유는 엔비디아의 고성능 AI 그래픽처리장치(GPU)와 차별화하기 위해서다. 엔비디아 GPU는 AI 모델 개발에 필수적으로 쓰이지만, 전력 사용량이 많은 게 단점으로 지적된다. 엔비디아 H100 제품의 경우 최대 전력 사용량이 700W에 이르는데 이는 중소형 에어컨과 맞먹는 수준이다. 또 향후 AI 시장이 '온비다이스 AI'를 중심으로 전개될 것이란 기대감도 깔려있다. 온디바이스 AI는 기기 자체에서 구동할 수 있는 AI를 말한다. 기기 내부의 한정된 배터리 전력만 이용하는 만큼 반도체의 전력 효율성을 높이는 게 중요하다. 김명주 서울여자대학교 바른AI 센터장은 "저전력이다 보니 성능은 약간 떨어질 수 있지만, 어지간한 기능을 다 할 수 있다면 저전력이 훨씬 나은 선택"이라며 "GPU의 경우 AI 모델 학습이 끝나면 사용성이 떨어지기 때문에 결국 사용자 단계에선 NPU 성능과 전력 효율성이 중요해진다"고 설명했다.2024-10-31 10:30:00
-
![[안서희의 제약바이오] 동아ST, 심전도 모니터링 플랫폼 FDA 인증 획득 외](http://image.ajunews.com//content/image/2024/09/27/20240927131737274448.jpg)
동아ST, 심전도 모니터링 플랫폼 FDA 인증 획득 외 [이코노믹데일리] ‘안서희의 제약바이오’는 한 주간 제약바이오 업계의 새로운 소식을 소개하는 코너입니다. 신제품 출시부터 연구개발·임상시험·해외진출 등 다양한 업계 소식을 모아서 전해드립니다. <편집자 주> ◆동아ST, 심전도 모니터링 플랫폼 'Hicardi+ H100' FDA 인증 획득 심전도 모니터링 플랫폼 'Hicardi+ H100' 이미지[사진=동아ST] 동아에스티는 메쥬의 심전도 모니터링 플랫폼 '하이카디플러스 H100'이 미국 식품의약국(FDA)으로부터 510(k) 인증을 획득했다고 26일 밝혔다. 하이카디플러스 H100은 패치형 디지털 헬스케어 기기로 심전도와 심박수 등을 측정해 의료진에게 정보를 제공하는 장기 연속 심전도 모니터링 솔루션이다. 이번 FDA 인증을 통해 패치에는 자체적으로 실시간 생체 신호를 분석하는 '온 디바이스 머신러닝' 기술과 의료 전문가가 생체 신호 분석과 리포트 발행에 사용할 수 있는 클라우드 기반 소프트웨어 '라이브스튜디오'가 적용됐다. 정재훈 동아에스티 사장은 "2024년은 동아에스티 디지털 헬스케어 신사업의 핵심 파이프라인인 하이카디 솔루션이 국내에서 자리를 잡아가는 시기"라며 "미국 FDA 인증을 계기로 해외 진출 지원의 속도를 한층 가속화할 것"이라고 강조했다. 박정환 메쥬 대표는 "이번 인증 획득은 여러 지원 기관과의 지속적인 협의와 지원으로 이뤄낸 성과"라며, "FDA 인증을 계기로 하이카디 솔루션의 다양한 파이프라인이 세계 최대의 디지털 헬스케어 시장으로 진출하는 계기가 될 것"이라고 말했다. ◆삼진제약, 목·어깨 전용 파스 ‘게보핏 맥스 플라스타’ 출시...게보핏 라인업 완성 게보핏 브랜드 제품 4종 [사진=삼진제약] 삼진제약은 일상 생활에서 통증을 자주 겪는 부위인 목과 어깨 등에 냉·온감의 이중효과로 진통 효과를 내는 ‘게보핏 맥스 플라스타’ 전용 파스를 출시했다. 27일 삼진제약에 따르면 출시된 ‘게보핏 맥스 플라스타’는 2세대 소염진통제인 플루르비프로펜 성분 파스로서 진피를 통해 흡수된 플루르비프로펜은 통증의 원인인 프로스타글란딘을 조절해 강력한 진통 및 소염 효과를 나타낸다. 또한 여러 종류의 근육이 연결된 목과 어깨의 통증 치료에는 붓기와 혈액순환 개선이 동시에 이뤄져야 하는 점을 고려해 냉·온감의 이중효과를 줄 수 있는 첨가제를 함께 배합했다. 이번 신제품 출시를 통해 완성된 게보핏 브랜드 제품 라인업은 △무릎과 팔꿈치·외상 후 통증 전용 파스 ‘게보핏 파워 플라스타’ △손목·발목 전용 파스 ‘게보핏 파워 플라스타’ △허리·등 전용 파스‘ 게보핏 스트롱 카타플라스마’ △어깨·목 전용 파스 ‘게보핏 맥스 플라스타’ 등 총 4종으로 구성됐다. 삼진제약 관계자는 “게보핏 맥스 플라스타는 강력한 진통 효과에 냉·온감 기능이 더해져 일상 생활에서 흔히 겪는 목과 어깨의 통증, 붓기 등으로 인한 불편함 해소에 도움이 될 수 있을 것”이라며 “특히 피부색과 유사한 성상으로 노출이 잦은 목, 어깨 부위 사용에 적합하고 파스 특유의 향이 적어 부담 없이 사용할 수 있어 소비자들에게 좋은 반응을 이끌어 낼 것으로 기대하고 있다”고 전했다. ◆HK이노엔 위식도역류질환 신약 케이캡, 말레이시아 허가 케이캡 제품 이미지[사진=HK이노엔] HK이노엔은 지난 26일 위식도역류질환 신약 케이캡정(성분명 : 테고프라잔)이 말레이시아 국가의약품관리청(NPRA)으로부터 품목허가를 승인 받았다고 밝혔다. 이번에 말레이시아에서 허가 승인된 적응증은 △미란성 위식도역류질환의 치료 △비미란성 위식도역류질환의 치료 △위궤양의 치료 △소화성 궤양·만성 위축성 위염 환자의 헬리코박터파일로리 제균을 위한 항생제 병용요법 총 4가지로 내년 상반기에 말레이시아 현지 출시를 준비 중이다. 곽달원 HK이노엔 대표는 “케이캡이 동남아 주요 국가에 진출하며 시장 선점에 박차를 가하고 있다”며 “동남아를 넘어 글로벌 시장에서 P-CAB계열 대표 제품으로 자리매김하면서 국산 신약의 위상을 높일 것”이라고 말했다. ◆동국제약 센텔리안24 '링클셀 코어 아이크림 Rx' 리뉴얼 출시 링클셀 코어 아이크림 Rx 제품 이미지 [사진= 센텔리안24] 동국제약의 더마코스메틱 브랜드 센텔리안24가 지난 25일 ‘링클셀 코어아이크림Rx’를 출시했다. 27일 동국제약에 따르면 링클셀 코어아이크림Rx는 눈두덩이, 눈꼬리, 눈밑 등 눈 바깥쪽을 따라 이어지는 일명 눈가 C존의 집중 관리가 가능한 아이크림이다. 특히 링클셀 코어아이크림Rx에는 핵심 성분인 퀴노아프로틴™을 비롯한 시너지 성분을 촘촘하게 설계해 눈가 3중 주름과 반복된 자극으로 짙어진 다크닝, 무너진 탄력 개선 등 눈가 C존의 정밀한 관리가 가능한 것이 특징이다. 해당 제품은 인체적용시험을 통해 제품의 효능속도가 2배 개선되고 5일 만에 눈가 주름이 개선되는 효과와 안자극 대체 테스트 및 민감성 피부 자극 테스트를 완료했다. 동국제약 센텔리안 24 담당자는 “이번 신제품은 고민 많은 눈가 피부에 강력한 집중 케어를 선사하는 제품”이라며 “눈가 C존은 섬세한 관리가 중요한 만큼 ‘링클셀 코어아이크림Rx’를 통해 건강하고 탄력 있는 눈가 피부를 느껴보길 바란다”고 말했다.2024-09-28 06:00:00
-
테슬라, 오스틴 본사에 'AI 개발용' 슈퍼컴퓨터 센터 구축 일론 머스크 테슬라 최고경영자 [로이터 연합뉴스] [이코노믹데일리] 일론 머스크 테슬라 최고경영자(CEO)가 미국 텍사스주 오스틴 테슬라 본사에 구축 중인 인공지능(AI) 기술 개발용 슈퍼컴퓨터 센터의 내부를 공개했다. 이는 테슬라의 AI 기술 개발에 대한 강한 의지를 보여주는 것으로 해석된다. 머스크는 26일(현지시간) 자신의 엑스(X) 계정을 통해 "오스틴의 테슬라 본사에 지어지고 있는 거대한 AI 훈련용 슈퍼클러스터인 코르텍스(Cortex) 내부를 오늘 찍은 영상"이라며 데이터센터 형태의 대규모 컴퓨팅 시설 모습을 담은 영상을 게시했다. 그는 이 시설이 "현실 세계의 AI를 풀어낼 것"이라고 덧붙였다. 공개된 영상에서는 광활한 공간에 서버 랙이 층층이 쌓여 있는 모습이 확인된다. 이는 테슬라가 AI 기술 개발에 얼마나 큰 규모의 투자를 하고 있는지를 단적으로 보여준다. 테슬라의 이러한 움직임은 완전자율주행 소프트웨어 'FSD'와 휴머노이드 로봇 '옵티머스'의 성능 향상을 위한 것으로 보인다. 이를 위해 테슬라는 오스틴 본사의 기가 텍사스 핵심 건물을 확장하고, 대규모 냉각 시스템도 별도로 구축 중인 것으로 알려졌다. 머스크는 26일(현지시간) 자신의 소셜미디어 엑스(X) 계정을 통해 "오스틴의 테슬라 본사에 건설 중인 AI 훈련용 슈퍼클러스터 '코르텍스' 내부 모습"이라는 글과 함께 영상을 공개했다. 영상에는 광대한 데이터센터 내에 층층이 쌓여 있는 서버 랙이 포함되어 있으며, 머스크는 이 시설이 "현실 세계의 AI를 풀어낼 것"이라고 설명했다. 머스크는 지난 6월에도 엑스(X)에서 "테슬라가 올해 엔비디아 제품 구매에 30억∼40억 달러(약 4조∼5조 3천억 원)를 사용할 것으로 예상한다"고 밝혔다. 그는 이 슈퍼클러스터에 엔비디아의 최신 H100과 H200 GPU를 총 10만 개가량 탑재할 계획이라고 언급했다. 이번 슈퍼컴퓨터 센터 구축은 테슬라가 AI 기술 개발에 얼마나 큰 비중을 두고 있는지를 보여주는 동시에, 자율주행 및 로봇 기술 분야에서의 경쟁력 확보를 위한 전략적 움직임으로 해석된다.2024-08-27 08:33:00
-
SK텔레콤, 람다와 협력해 국내 최대 규모 AI 데이터센터 구축 [이코노믹데일리] SK텔레콤이 미국의 GPUaaS(GPU-as-a-Service) 기업 람다(Lambda)와 손잡고 서울에 AI 데이터센터를 연다. SK텔레콤은 람다가 보유한 엔비디아의 최신 GPU 자원을 SK브로드밴드의 서울 가산 데이터센터에 배치할 예정이며, 향후 3년 안에 GPU 수천 대를 추가로 도입할 계획이다. SK텔레콤은 21일 람다와 AI 클라우드 공동 사업을 위한 파트너십을 체결했다고 밝혔다. 이번 협력을 통해 양사는 안정적인 GPU 공급 기반을 마련하고, GPUaaS 사업을 확대하는 등 다양한 전략적 협력을 강화할 예정이다. 특히 아시아태평양 지역 최초로 람다의 한국 리전도 개소되어, 국내 기업들이 람다의 GPU 기반 AI 클라우드 서비스를 안전하게 이용할 수 있게 된다. 오는 12월, SK텔레콤과 람다는 서울 금천구 가산동의 SK브로드밴드 데이터센터에 엔비디아 GPU 'H100'을 배치할 예정이다. SK텔레콤은 향후 3년 내에 GPU 수천 대를 추가로 도입하고 'H200' 모델도 조기 도입할 계획이다. 이를 통해 국내 최대 규모의 'GPU Farm'을 구축할 목표다. SK브로드밴드는 데이터센터 운영 노하우를 활용해 고밀도 GPU 서버 운영에 최적화된 코로케이션 환경을 제공할 예정이다. 특히 데이터센터의 랙 당 전력밀도를 국내 최고 수준인 44kW로 설정해 안정적인 GPU 서버 운영을 지원할 계획이다. 이와 함께 SK텔레콤은 오는 12월 GPUaaS 서비스를 출시할 예정이다. 이 서비스를 통해 기업들이 AI 서비스 개발이나 활용에 필요한 GPU를 직접 구매하지 않고, 클라우드에서 가상 환경으로 사용할 수 있게 된다. 이는 GPU 구매가 어려운 중소기업과 스타트업에게 AI 서비스 기회를 제공할 것으로 기대된다. 람다의 창업자 겸 CEO인 스티븐 발라반은 “람다와 SKT는 GPU 컴퓨팅 자원을 전기처럼 편리하게 사용 가능한 환경을 만들겠다는 비전을 공유하고 있다”며, “AI 혁신 속도가 빠른 한국에서 AI 클라우드 영역을 성장시키고자 하는 SKT와 협력하게 되어 기쁘게 생각한다”고 말했다. 김경덕 SKT 엔터프라이즈 사업부장은 ”람다와의 전략적 협력으로 GPU를 안정적으로 확보한 것은 국내 GPU 공급 확대 측면에서 의미가 크다”며, “향후 국내 최대 규모의 GPU Farm을 구축해 국가 AI 경쟁력을 높이고, 글로벌 시장 진출의 교두보로 자리매김하도록 노력할 것”이라고 말했다.2024-08-21 09:23:47
-
메타, 새로운 AI 모델 '라마 3.1' 출시 [이코노믹데일리] 메타플랫폼(페이스북 모회사)이 새로운 인공지능(AI) 모델 '라마(Llama) 3.1'을 출시했다. 이 모델로 AI 시장에서 오픈AI와 구글 등과의 경쟁을 예고했다. 지난 4월 '라마 3'을 출시한 메타는 3개월 만에 '라마 3.1'을 공개했다. '라마'는 메타의 거대 언어 모델(LLM) 이름이다. 메타는 이번에 공개된 '라마 3.1'이 성능이 크게 향상되었다고 밝혔다. 메타는 "라마 3.1이 AI 모델 평가 테스트인 대규모 다중작업 언어 이해(MMLU)에서 오픈AI의 'GPT-4o'와 앤스로픽의 '클로드 3.5 소네트'를 능가했다"고 설명했다. '라마 3.1'은 3가지 버전으로 출시됐다. 가장 큰 버전인 '라마 3.1 405B'는 4천50억 개의 매개변수를 가지고 있다. 이는 GPT-3의 1천750억 개보다 2배 이상 많은 수치다. 메타는 매개변수가 70억 개인 소형 모델 '라마 3.1 8B'와 700억 개인 중형 모델 '라마 3.1 70B'도 함께 공개했다. 이 모델들은 챗봇과 소프트웨어 코딩 AI에 활용될 수 있다. 메타는 '라마 3.1'을 오픈 소스로 제공해 누구나 무료로 사용할 수 있도록 했다. 이는 오픈AI나 구글이 자사 AI 모델을 비공개로 유지하는 것과 대조적이다. 일부 전문가들은 메타의 이런 전략이 더 많은 사용자 기반을 확보하고, 업계 표준 지위를 얻기 위한 움직임이라고 해석했다. '라마 3.1'은 엔비디아의 최신 그래픽처리장치(GPU) 'H100' 1만6천 개로 훈련됐다. 메타는 이 모델의 운영 비용이 오픈AI의 'GPT-4o'의 절반에 불과하다고 강조했다. 또한, 마이크로소프트, 아마존, 구글, 엔비디아 등 20여 개 기업과 협력해 많은 개발자가 이용할 수 있도록 지원하고 있다. 마크 저커버그 메타 CEO는 "'라마 3.1'은 가장 진보된 모델과 경쟁할 수 있는 제품"이라며 "내년에는 더 진보된 모델을 선보일 것"이라고 말했다. 이번 '라마 3.1' 출시로 메타는 AI 시장에서 오픈AI, 구글, 앤스로픽 등과 본격적인 경쟁을 벌일 것으로 보인다.2024-07-24 10:26:24
-
MS·구글, 해외 데이터센터로 중국 기업에 엔비디아 칩 공급…미 정부 우려 [이코노믹데일리] 마이크로소프트(MS)와 구글이 해외 데이터센터를 통해 중국 기업에 엔비디아의 최신 AI 칩을 이용할 수 있도록 서비스를 제공하고 있다고 정보통신(IT) 전문 매체 디인포메이션이 등이 보도했다. 이는 바이든 행정부가 중국 기업의 첨단 기술 접근을 막기 위해 노력하는 와중에 제기된 주요 우려 사항이다. MS는 중국 밖에 세운 데이터센터를 통해 중국 기업 고객에게 엔비디아의 최신 AI 칩인 A100과 H100 칩이 장착된 서버 임대 서비스를 제공하고 있다는 소식통의 전해짐에 따르면, 이는 미국 정부가 중국 기업에 대한 첨단 반도체 수출을 규제하고 있는 상황에서 중국 기업들이 엔비디아 칩을 간접적으로 이용할 수 있는 방식이라는 것이다. 특히 A100과 H100 칩은 엔비디아가 보유한 최신 AI 칩으로, 전 세계 AI 칩 시장의 80% 이상을 차지하고 있다. 칩 가격은 수천만 원대에 달하지만, 뛰어난 성능으로 인해 수요가 급증하고 있으며, 미 정부의 대중국 수출 규제 대상이기도 하다. 구글 역시 중국 본토 이외 지역에 있는 엔비디아 칩이 장착된 서버를 중국 기업들이 이용할 수 있도록 허용하고 있다. 다만 구글 측은 자사 제품이 미국 수출 통제 규정을 준수하고 있다고 주장하고 있다. 하지만 디인포메이션은 유럽과 아시아의 많은 클라우드 서비스 제공업체들도 구글과 MS와 비슷한 서비스를 제공하고 있어, 실제로는 중국 기업들이 미국 규제를 우회할 수 있도록 돕고 있다는 지적을 제기했다. 이러한 상황은 지난 1월 제나 러몬도 미 상무장관이 바이든 행정부가 클라우드 기업에 미국 기업 데이터센터를 이용해 AI 모델을 훈련하는 외국 기업을 확인하도록 지시했다는 점과도 맞물린다. 하지만 미 상무부는 클라우드 컴퓨팅을 제품이 아닌 서비스로 분류해 수출 통제에서 면제하고 있다는 점에서, 중국 기업들이 첨단 기술에 대한 접근성을 확대할 수 있는 허점이 발생하고 있다는 우려가 제기되고 있다. MS와 구글의 해외 데이터센터를 통한 엔비디아 칩 공급은 향후 미 정부의 규제 조율 및 클라우드 서비스 제공업체들의 책임에 대한 논의를 야기할 것으로 전망된다.2024-07-18 08:26:50
-
NHN클라우드, 국가 AI 데이터센터 HPC 서비스 이용자 모집…초거대 AI 생태계 활성화 [이코노믹데일리] NHN클라우드(NHN Cloud)는 인공지능산업융합사업단(AICA)과 협력하여 '국가 AI 데이터센터' 초고성능컴퓨팅(HPC) 서비스 이용자를 모집한다고 9일 밝혔다. 이번 사업은 초거대 AI 모델 연구개발을 지원하며, 선정된 기업/기관은 최대 3개월간 무상으로 HPC 서비스를 이용할 수 있다. 모집 대상은 초거대 AI 모델을 활용한 제품 및 서비스 연구개발을 진행하는 국내 기업, 공공기관, 연구소, 대학, 협단체 등이다. 선정된 기업/기관은 제출한 연구개발 계획에 따라 최대 10페타플롭스 규모의 가속기와 연구과제당 SSD 30TB, HDD 200TB의 저장공간을 무상으로 제공받는다. NHN클라우드는 광주광역시에 '국가 AI 데이터센터'를 운영하며, 엔비디아 H100 GPU 1,000장 이상을 포함한 총 99.5페타플롭스 규모의 멀티 AI GPU 팜을 구축했다. 또한, 컴퓨팅 연산능력 88.5페타플롭스, 저장 용량 107페타바이트 규모의 인프라를 갖추고 있다. 김동훈 NHN클라우드 대표는 "이번 사업을 통해 AI 모델 역량 강화 연구에 최적화된 초고성능 HPC 서비스를 제공하고, 앞으로도 강력한 AI 인프라를 바탕으로 AI 생태계를 더욱 확장해 나갈 것"이라고 말했다.2024-07-09 10:07:08
-
kt cloud, AI Train과 AI SERV NPU 출시 기념 웨비나 27일 개최 [이코노믹데일리] kt cloud는 27일, AI Train과 AI SERV NPU 출시를 기념하여 'kt cloud AI 인프라 소개'와 'AI Train, AI SERV NPU 활용 sLLM(소형언어모델) 데모 시연' 두 가지 주제로 온라인 웨비나를 개최한다고 밝혔다. 이번 웨비나는 AI 활용에 필요한 방대한 양의 데이터를 저장하고 관리하는 데 있어 중요한 역할을 하는 AI 인프라에 대한 관심이 높아지고 있는 가운데 진행된다. 특히, 최근 생성형 AI, 딥러닝 등 AI 기술의 도입 확산으로 인해 AI 인프라에 대한 수요가 급증하고 있으며, 이에 따라 기업들은 경제적이고 효율적인 AI 인프라 구축을 위해 고민하고 있다. kt cloud는 이러한 시장 상황을 반영하여 지난 5월 AI 기술 개발에 필요한 AI 인프라를 경제적으로 활용 가능한 학습 전용 상품 'AI Train'과 추론 전용 상품 'AI SERV NPU'를 출시했다. AI Train은 대규모 GPU 클러스터링을 제공하는 엔비디아 GPU 기반 학습 전용 인프라로, H100, A100, V100 등 고객 니즈에 맞춰 맞춤형 서비스를 제공한다. AI SERV NPU는 리벨리온과 협업한 추론 전용 인프라로, 기존 GPU 기반 추론용 인프라 대비 가성비를 높이고 자동화 유지보수 및 스케일링 기능을 갖췄다. 이번 웨비나는 두 가지 세션으로 진행된다. 첫 번째 세션인 'kt cloud AI 인프라 소개'에서는 kt cloud 부대권 AI기술팀 매니저가 연사로 나서 kt cloud AI 상품 라인업, 신규 출시된 AI Train과 AI SERV NPU의 차별점, 실증 사례 등을 소개한다. 두 번째 세션인 'AI Train, AI SERV NPU 활용 sLLM 데모 시연'에서는 AI Train과 AI SERV NPU를 활용한 sLLM 시연이 진행된다. 이번 웨비나는 kt cloud 포털에서 누구나 무료로 신청할 수 있으며, 신청자들에게는 웨비나 당일 이메일과 휴대폰으로 접속 링크가 전달된다. 또한, 사전 등록 이벤트에 참여하는 신청자들에게는 추첨을 통해 소정의 상품도 제공된다. 남충범 kt cloud 본부장은 "생성형 AI, 딥러닝 등 AI 기술이 다양한 산업에서 도입되면서 AI 인프라에 대한 수요가 증가하고 있다"며 "kt cloud는 엔비디아 및 비(Non) 엔비디아, 학습 및 추론용 AI 인프라 상품 라인업을 모두 갖추고 있는 만큼, 고객 니즈에 따라 AI 인프라를 경제적으로 사용하면서 AI 기술이 발전할 수 있도록 적극 지원하겠다"고 밝혔다.2024-06-25 09:47:59
-
일론 머스크, xAI 슈퍼컴퓨터 구축 위해 델과 손잡아 [이코노믹데일리] 일론 머스크가 설립한 인공지능(AI) 스타트업 xAI가 컴퓨터 업체 델과 그래픽처리장치(GPU) 업체 엔비디아와 협력해 슈퍼컴퓨터 구축에 나섰다. 머스크는 19일(현지시간) 소셜미디어 엑스(X)에 "xAI가 구축 중인 슈퍼컴퓨터 랙의 절반을 델이 조립하고 있다"고 밝혔다. 델의 설립자이자 최고경영자(CEO)인 마이클 델 또한 "우리는 엔비디아와 함께 '델 AI 팩토리'를 구축해 xAI의 슈퍼컴퓨터를 가동할 것"이라고 말했다. 머스크는 랙 나머지 절반은 슈퍼마이크로 컴퓨터(SMC)가 맡고 있다고 덧붙였다. 앞서 머스크는 xAI의 AI 모델인 '그록2'를 학습시키는 데 엔비디아 최신 GPU 'H100' 약 2만개가 필요하다고 언급한 바 있다. 그는 후속 모델인 '그록3' 이상에는 같은 GPU 1만개가 더 들어갈 것이라고 내다봤다. 이처럼 AI 모델 개발에는 막대한 컴퓨팅 파워가 필요하다. 슈퍼컴퓨터는 고성능 컴퓨터 서버를 대규모로 연결해 만들어진다. 서버들이 꽂히는 랙에는 전원과 냉각 등의 장비가 갖춰져 있어야 한다. 델은 엔비디아 GPU를 탑재한 서버를 제조·판매하며 AI 수혜주로 급부상했고, 올해 주가가 99% 상승했다. SMC 또한 데이터센터 냉각 기술 보유업체로 222% 주가 상승을 기록했다. 머스크는 2015년 오픈AI를 공동 설립했다가 3년 만에 투자 지분을 모두 팔았고, 지난해 오픈AI의 '챗GPT'에 맞서겠다며 xAI를 론칭했다. 테슬라를 키운 것처럼 xAI에도 과감한 투자를 단행해 AI 장비 시장의 주요 고객이 됐다. xAI는 지난달 60억달러 투자 유치에 성공하며 기업가치가 240억달러까지 치솟았다. AI 기술력 확보 경쟁이 치열해지면서 거대 IT 기업들과 AI 스타트업들이 대규모 투자와 협력에 나서고 있다.2024-06-20 08:17:15
-
일론 머스크 "테슬라 AI" 개발 박차...엔비디아 칩 구매 4조∼5조원 규모 [이코노믹데일리] 일론 머스크 테슬라 최고경영자(CEO)가 올해 테슬라의 인공지능(AI) 기술 개발이 당초 계획대로 진행될 것이라고 밝혔다. 연간 엔비디아의 AI 반도체 칩 구매에 4조원에서 5조원대 규모의 지출을 예상한다고 언급했다. 머스크는 4일(현지시간) 엑스(X, 옛 트위터) 계정을 통해 "내가 말한 테슬라의 올해 AI 관련 지출 약 100억달러(약 13조7천700억원) 중 절반 가량은 내부 비용"이라며 "주로 테슬라가 설계한 AI 추론 컴퓨터와 우리의 모든 차에 탑재된 센서, 그리고 자율주행 학습용 슈퍼컴퓨터 '도조'에 사용된다"고 설명했다. 머스크는 이어 "AI 훈련 슈퍼클러스터 구축을 위한 엔비디아 하드웨어가 그 비용의 3분의 2 가량"이라며 "테슬라의 엔비디아 구매에 대한 현재 추정치는 올해 30억달러에서 40억달러(약 4조1,250억원에서 5조5,000억원) 규모"라고 밝혔다. 이런 머스크의 언급은 이날 오전 미 경제매체 CNBC의 보도 내용에 대한 반응으로 나왔다. CNBC는 엔비디아의 내부 메모와 이메일 내용을 인용해 머스크 CEO가 당초 테슬라에 주문한 AI 반도체 칩을 X와 xAI에 먼저 배송하도록 지시했다고 전했다. 보도에 따르면 지난해 12월 엔비디아 고위 간부 메모에는 "일론은 원래 테슬라에 공급될 예정인 H100 GPU(그래픽처리장치) 1만2천개를 X로 재배정해 X의 H100 GPU 클러스터를 테슬라보다 우선 배치하고 있다"고 쓰여 있었다. 또한 올해 1월과 6월 예정된 X의 H100 1만2천개 주문은 테슬라로 재배정됐다고 전했다. 머스크는 지난 4월 테슬라 실적 콘퍼런스콜에서 올해 말까지 엔비디아 H100 활용 개수를 3만5천개에서 8만5천개로 늘릴 것이라고 밝힌 바 있다. 며칠 뒤 X에 올린 글에서도 "테슬라는 올해 훈련과 추론 AI를 결합하는 데 약 100억달러를 지출할 것"이라고 했다. 시장에서는 엔비디아 AI 칩 공급량 확보를 위한 경쟁이 치열한 상황이다. CNBC는 엔비디아 내부 이메일에서 머스크의 칩 재배정 조치가 테슬라가 원하는 만큼 지분을 확보하지 못할 경우 외부에서 AI를 개발하겠다는 그의 언급을 뒷받침한다고 지적했다. 실제 머스크는 지난 1월 X 글에서 "25%의 의결권 없이 테슬라를 AI와 로봇 공학 분야 리더로 키우기 불편하다"며 그 정도 지분을 갖지 못하면 "테슬라 외부에서 제품을 만들 것"이라고 밝혔다. 테슬라 위임장에 따르면 머스크는 20.5% 지분을 보유 중이다.2024-06-05 08:11:16
-
엔비디아, 1분기 매출 260억 달러 돌파… 전년 동기 대비 262% 증가 [이코노믹데일리] 엔비디아가 22일(미국 현지시간) 1분기(2~4월) 실적을 발표하며 놀라운 성장세를 보여주었다. 매출은 260억 4천만 달러(약 35조 6천억원)로 전년 동기 대비 262% 증가했고, 순이익은 주당 6.12달러(약 8천360원)로 전년 동기 대비 4.5배 늘어났다. 이는 시장 예상치를 훨씬 뛰어넘는 수치다. 엔비디아의 놀라운 성장세에 대하여 엔비디아 콜레트 크레스 최고재무책임자(CFO)는 "호퍼 GPU 출하량이 급격히 늘어났으며, 메타는 라마3에 2만 4천개의 H100 GPU를 적용했다"고 설명했다. 실제로 엔비디아 데이터센터 수익의 40% 가량이 대형 클라우드 서비스 제공업체(예: 아마존, 구글, 마이크로소프트)에서 나온 것으로 나타났다. 이처럼 데이터센터 부문의 성장이 엔비디아 실적 급증의 주요 동력이 되었지만, 다른 부문들도 견고한 성장세를 보여주었다. 데스크톱PC·노트북용 지포스 GPU를 공급하는 게이밍 부문 매출은 26억 5천만 달러(약 3조 6천217억원)로 전년 대비 18% 증가했고, 서버간 데이터 전송을 처리하는 인피니티밴드 제품 매출은 32억 달러(약 4조 3천753억원)로 전년 대비 3배 이상 늘었다. 워크스테이션 칩(쿼드로 등) 매출은 4억 2천700만 달러(약 5천838억원), 자동차용 반도체 매출은 3억2천900만 달러(약 4천498억원)를 기록했다. 특히 주목할 만한 것은 젠슨 황 엔비디아 CEO의 발언이다. 그는 컨퍼런스콜에서 "오는 4분기 차세대 GPU인 '블랙웰'을 주요 데이터센터에 공급할 것이며 이를 통한 매출 상승이 기대된다"고 설명했다. 아마존은 최근 블랙웰 구매를 위해 호퍼 시리즈 구매를 중단한다고 밝힌 바 있어, 블랙웰 출시에 대한 기대감이 높아지고 있다. 블랙웰 출시를 앞두고 엔비디아는 올 2분기(5~7월) 매출을 280억 달러(약 38조 2620억원)로 예상했다. 또한 오는 6월 8일 주식을 10대 1로 액면분할하는 한편 분기별 현금 배당금을 주당 4센트에서 10센트로 2배 이상 늘릴 것이라고 밝혔다. 엔비디아의 놀라운 성장세는 AI반도체 시장의 흐름을 보여주는 중요한 지표가 될 것으로 전망된다. 특히 데이터센터와 차세대 GPU인 블랙웰 출시에 대한 기대감이 높아 향후 엔비디아의 주가 상승세가 이어질 것으로 기대된다.2024-05-23 10:37:08
많이 본 뉴스
영상
Youtube 바로가기
![[데스크칼럼] AI 시대, 개발자의 미래와 생존 전략](https://image.ajunews.com/content/image/2024/10/02/20241002130756978212_518_323.jpg)