2024.11.24 일요일
검색
'엔비디아 H100' 검색결과
기간검색
-
~
검색영역
검색어
-
인텔도 선보인 '저전력 AI 반도체'···삼성전자부터 애플까지 경쟁 '치열' [이코노믹데일리] PC, 노트북 등 온디바이스 기기부터 반도체까지 인공지능(AI)를 대비하고 있다. 핵심 키워드는 '저전력'이다. 인텔이 저전력에 중점을 둔 인공지능(AI) PC용 신형 중앙처리장치(CPU)를 공개했다. 삼성전자와 애플도 저전력 AI 반도체 개발에 열을 올리고 있다. 인텔은 지난 28일 서울 영등포구 콘래드서울 호텔에서 '인텔 AI PC 최신 프로세서 국내 미디어 간담회'를 열고 15세대 인텔 코어 울트라 두 종을 공개했다. 두 종 모두 생성형 AI 기능을 사용하는 데 최적화된 반도체였다. 인텔은 전성비(전력 대비 성능)를 높이는 데 집중했다며 이전 세대보다 최대 40~50%의 전력 소비를 줄였다고 알렸다. '전기 먹는 하마'로 불리는 AI를 저전력으로 사용할 수 있는 비결은 신경처리장치(NPU)에 있다. NPU는 인체의 신경망을 닮도록 설계한 AI 전용 프로세서다. 복잡한 계산보단 단순 데이터 처리에 특화돼 있다. 이번에 공개된 인텔 CPU 루나 레이크 NPU의 경우 43TOPS(1초당 조 단위 연산 횟수)를 처리할 수 있다. 삼성전자는 지난 17일 반도체업계 최초로 12나노(㎚·1㎚=10억분의 1m)급 24기가비트(Gb) GDDR7 D램을 개발했다고 밝혔다. 삼성전자는 모바일 제품에 주로 쓰이는 기술을 도입해 전력 효율성을 전 세대 대비 30% 이상 개선했다고 알렸다. 또 AI 분야에서 사용성이 좋아질 것이라 기대했다. 애플의 반도체 브랜드 애플실리콘도 NPU 성능과 전력 효율성 향상에 주력하고 있다. 애플이 지난 5월 공개한 애플리케이션프로세서(AP) M4의 NPU 성능은 38TOPS 수준이다. 지난 2022년 공개한 M2(15.8TOPS)보다 2.4배 높지만 전력 소비량은 절반 밖에 안된다고 알려졌다. 이처럼 주요 빅테크에서 반도체 전력 효율화에 나선 이유는 엔비디아의 고성능 AI 그래픽처리장치(GPU)와 차별화하기 위해서다. 엔비디아 GPU는 AI 모델 개발에 필수적으로 쓰이지만, 전력 사용량이 많은 게 단점으로 지적된다. 엔비디아 H100 제품의 경우 최대 전력 사용량이 700W에 이르는데 이는 중소형 에어컨과 맞먹는 수준이다. 또 향후 AI 시장이 '온비다이스 AI'를 중심으로 전개될 것이란 기대감도 깔려있다. 온디바이스 AI는 기기 자체에서 구동할 수 있는 AI를 말한다. 기기 내부의 한정된 배터리 전력만 이용하는 만큼 반도체의 전력 효율성을 높이는 게 중요하다. 김명주 서울여자대학교 바른AI 센터장은 "저전력이다 보니 성능은 약간 떨어질 수 있지만, 어지간한 기능을 다 할 수 있다면 저전력이 훨씬 나은 선택"이라며 "GPU의 경우 AI 모델 학습이 끝나면 사용성이 떨어지기 때문에 결국 사용자 단계에선 NPU 성능과 전력 효율성이 중요해진다"고 설명했다.2024-10-31 10:30:00
-
NHN클라우드, 국가 AI 데이터센터 HPC 서비스 이용자 모집…초거대 AI 생태계 활성화 [이코노믹데일리] NHN클라우드(NHN Cloud)는 인공지능산업융합사업단(AICA)과 협력하여 '국가 AI 데이터센터' 초고성능컴퓨팅(HPC) 서비스 이용자를 모집한다고 9일 밝혔다. 이번 사업은 초거대 AI 모델 연구개발을 지원하며, 선정된 기업/기관은 최대 3개월간 무상으로 HPC 서비스를 이용할 수 있다. 모집 대상은 초거대 AI 모델을 활용한 제품 및 서비스 연구개발을 진행하는 국내 기업, 공공기관, 연구소, 대학, 협단체 등이다. 선정된 기업/기관은 제출한 연구개발 계획에 따라 최대 10페타플롭스 규모의 가속기와 연구과제당 SSD 30TB, HDD 200TB의 저장공간을 무상으로 제공받는다. NHN클라우드는 광주광역시에 '국가 AI 데이터센터'를 운영하며, 엔비디아 H100 GPU 1,000장 이상을 포함한 총 99.5페타플롭스 규모의 멀티 AI GPU 팜을 구축했다. 또한, 컴퓨팅 연산능력 88.5페타플롭스, 저장 용량 107페타바이트 규모의 인프라를 갖추고 있다. 김동훈 NHN클라우드 대표는 "이번 사업을 통해 AI 모델 역량 강화 연구에 최적화된 초고성능 HPC 서비스를 제공하고, 앞으로도 강력한 AI 인프라를 바탕으로 AI 생태계를 더욱 확장해 나갈 것"이라고 말했다.2024-07-09 10:07:08
-
일론 머스크 "테슬라 AI" 개발 박차...엔비디아 칩 구매 4조∼5조원 규모 [이코노믹데일리] 일론 머스크 테슬라 최고경영자(CEO)가 올해 테슬라의 인공지능(AI) 기술 개발이 당초 계획대로 진행될 것이라고 밝혔다. 연간 엔비디아의 AI 반도체 칩 구매에 4조원에서 5조원대 규모의 지출을 예상한다고 언급했다. 머스크는 4일(현지시간) 엑스(X, 옛 트위터) 계정을 통해 "내가 말한 테슬라의 올해 AI 관련 지출 약 100억달러(약 13조7천700억원) 중 절반 가량은 내부 비용"이라며 "주로 테슬라가 설계한 AI 추론 컴퓨터와 우리의 모든 차에 탑재된 센서, 그리고 자율주행 학습용 슈퍼컴퓨터 '도조'에 사용된다"고 설명했다. 머스크는 이어 "AI 훈련 슈퍼클러스터 구축을 위한 엔비디아 하드웨어가 그 비용의 3분의 2 가량"이라며 "테슬라의 엔비디아 구매에 대한 현재 추정치는 올해 30억달러에서 40억달러(약 4조1,250억원에서 5조5,000억원) 규모"라고 밝혔다. 이런 머스크의 언급은 이날 오전 미 경제매체 CNBC의 보도 내용에 대한 반응으로 나왔다. CNBC는 엔비디아의 내부 메모와 이메일 내용을 인용해 머스크 CEO가 당초 테슬라에 주문한 AI 반도체 칩을 X와 xAI에 먼저 배송하도록 지시했다고 전했다. 보도에 따르면 지난해 12월 엔비디아 고위 간부 메모에는 "일론은 원래 테슬라에 공급될 예정인 H100 GPU(그래픽처리장치) 1만2천개를 X로 재배정해 X의 H100 GPU 클러스터를 테슬라보다 우선 배치하고 있다"고 쓰여 있었다. 또한 올해 1월과 6월 예정된 X의 H100 1만2천개 주문은 테슬라로 재배정됐다고 전했다. 머스크는 지난 4월 테슬라 실적 콘퍼런스콜에서 올해 말까지 엔비디아 H100 활용 개수를 3만5천개에서 8만5천개로 늘릴 것이라고 밝힌 바 있다. 며칠 뒤 X에 올린 글에서도 "테슬라는 올해 훈련과 추론 AI를 결합하는 데 약 100억달러를 지출할 것"이라고 했다. 시장에서는 엔비디아 AI 칩 공급량 확보를 위한 경쟁이 치열한 상황이다. CNBC는 엔비디아 내부 이메일에서 머스크의 칩 재배정 조치가 테슬라가 원하는 만큼 지분을 확보하지 못할 경우 외부에서 AI를 개발하겠다는 그의 언급을 뒷받침한다고 지적했다. 실제 머스크는 지난 1월 X 글에서 "25%의 의결권 없이 테슬라를 AI와 로봇 공학 분야 리더로 키우기 불편하다"며 그 정도 지분을 갖지 못하면 "테슬라 외부에서 제품을 만들 것"이라고 밝혔다. 테슬라 위임장에 따르면 머스크는 20.5% 지분을 보유 중이다.2024-06-05 08:11:16
많이 본 뉴스
영상
Youtube 바로가기
![[데스크칼럼] AI 시대, 개발자의 미래와 생존 전략](https://image.ajunews.com/content/image/2024/10/02/20241002130756978212_518_323.jpg)