2024.11.22 금요일
검색
'AI 추론' 검색결과
기간검색
-
~
검색영역
검색어
-
마이크로소프트, AI 혁신 위한 '애저 ND GB200 V6' 공개 [이코노믹데일리] 마이크로소프트(MS)가 엔비디아의 최신 블랙웰(Blackwell) GPU를 탑재한 AI 인프라를 공개하며 AI 슈퍼컴퓨팅 시대의 새로운 기준을 제시했다. 20일 연례 개발자 컨퍼런스 '이그나이트 2024'에서 '애저 ND GB200 V6'를 선보이며 수십만 개의 GPU를 네트워크로 연결해 역대 최대 성능을 제공한다고 밝혔다. 애저 ND GB200 V6는 최신 대규모 언어 모델(LLM)과 기타 AI 애플리케이션을 위한 맞춤형 클라우드 서버다. 이 시스템은 엔비디아의 GB200 슈퍼칩을 중심으로 설계됐으며 두 개의 블랙웰 GPU와 그레이스 CPU를 NV링크-C2C로 연결해 뛰어난 데이터 처리 속도를 자랑한다. 이를 통해 수조 개의 매개변수를 처리할 수 있는 강력한 성능과 함께 프로그래밍 단순화를 구현했다. 사티아 나델라 CEO 는 "애저 ND GB200 V6는 대규모 AI 모델 학습과 추론 속도를 혁신적으로 높여 클라우드에서 AI 기술의 새로운 표준을 수립할 것"이라고 강조했다. 이 시스템은 기존 대비 최대 2배의 성능 향상과 강화된 데이터 보안을 제공하며 의료, 금융, 국방 등 고도로 민감한 분야에 적합하다. 현장에서는 AMD와 공동 개발한 '애저 HBv5 VM'도 함께 공개됐다. 이 플랫폼은 AMD의 최신 에픽(EPYC) 9V64H 프로세서를 기반으로 하며 고대역폭 메모리와 고성능 젠(Zen)4 코어를 탑재해 기존 대비 최대 35배 빠른 속도를 제공한다. 특히 기상 모델링, 항공우주 시뮬레이션 등 고도의 계산력을 요구하는 작업에도 최적화됐다. HBv5 VM은 엔비디아 인피니밴드 네트워킹을 활용해 수많은 GPU를 연결하며 온프레미스 시스템 대비 최대 8배 높은 성능을 제공한다고 MS는 설명했다. MS는 또한 자체 설계한 AI 가속기 '마이아(Maia)'와 Arm 기반 프로세서 '콜뱃(Cobalt)'도 발표했다. 마이아는 애저 클라우드에서 AI 워크로드를 처리하도록 설계된 최초의 맞춤형 가속기로 현재 애저 오픈AI 추론 작업을 담당하고 있다. 콜뱃은 전력 소비를 40% 줄이며 에너지 효율성을 극대화한 솔루션이다. 사티아 나델라 CEO는 "마이아는 MS의 가장 영향력 있는 서비스 처리에 핵심적인 역할을 하고 있다"고 말했다. 한편 MS는 AI 기술 발전과 더불어 보안 인프라 강화에도 중점을 두고 있다. 이번에 공개된 하드웨어 보안 모듈(HSM)은 데이터 암호화와 키 관리를 위한 전용 하드웨어로 애저 데이터 센터 전반에 적용된다. 또한 애저부트DPU(ADP)는 클라우드 네트워크 부하를 완화하며 전력 소비를 기존 대비 3분의 1로 줄이고 성능을 최대 4배 향상시킨다. 사티아 나델라 CEO는 "비용 대비 성능 극대화와 효율성 향상은 클라우드 환경의 핵심"이라며 "우리는 업계 파트너들과 함께 지속적인 혁신을 통해 최적의 환경을 제공하고 있다"고 덧붙였다.2024-11-20 10:32:19
-
리벨리온, 서버 안정성 인증 잇달아 획득… AI 데이터센터 시장 본격 공략 [이코노믹데일리] 리벨리온이 글로벌 서버 제조사들로부터 AI반도체 ‘아톰(ATOM)’의 안정성 인증을 잇달아 획득하며 AI 데이터센터 시장 공략을 본격화하고 있다. 특히 멀티카드 환경에서의 검증을 통해 대규모 언어모델(LLM) 구동 능력을 입증했다. 리벨리온은 최근 델 테크놀로지스(Dell Technologies), HPE, 슈퍼마이크로(Supermicro), 레노버(Lenovo), 기가바이트(Gigabyte) 등 다수의 글로벌 서버 제조사로부터 ‘아톰’의 안정성 인증을 획득했다. 국내에서는 이슬림코리아를 비롯한 4개 업체로부터 검증을 마쳤다. 이는 서버 내에서 AI반도체가 문제없이 구동되는지 확인하는 중요한 과정으로 기술적 최적화를 거쳐 서버와 칩 간 호환성을 확보했다. 리벨리온은 특히 멀티카드 환경에서의 검증을 통해 LLM, 특히 ‘라마(Llama) 3.1 70B’와 같은 대규모 언어모델을 안정적으로 지원할 수 있음을 확인했다. 이를 통해 AI 데이터센터 시장에서의 경쟁력을 강화하고 대규모 AI 추론이 필요한 하이퍼스케일러와 국가 데이터센터 등을 대상으로 본격적인 공략을 준비하고 있다. 리벨리온은 각 서버사와 협력해 통신 프로토콜 호환성 및 펌웨어 최적화를 진행, 다양한 서버 환경에서 안정적인 운용을 보장받았다. 이를 통해 고객들은 리벨리온의 NPU 기반 솔루션을 원활하게 사용할 수 있으며 서버 업체로부터 전 범위의 기술 지원을 제공받을 수 있다. 리벨리온은 앞으로도 각 서버 제조사 및 총판사와 협력해 AI 데이터센터를 위한 사업 모델과 솔루션 개발에 박차를 가할 예정이다. 이와 더불어 다수의 서버를 탑재한 랙(Rack) 솔루션도 선보여 초고용량의 AI 추론 트래픽이 요구되는 시장을 적극 공략할 계획이다. 박성현 리벨리온 대표는 “AI 반도체 기술을 넘어 서버와 데이터센터까지 아우르는 사업 모델을 빠르게 확장하고 있다”며 “다양한 글로벌 서버 제조사로부터 정식 인증을 받음으로써 리벨리온의 기술적 우수성을 입증했다. 이를 통해 AI 인프라 사업자로서 입지를 확고히 할 것”이라고 말했다.2024-10-09 16:36:00
-
오픈AI, 2주 내 '추론 능력 향상' AI 모델 스트로베리 출시 예정 [이코노믹데일리] 오픈AI가 새로운 AI 모델 '스트로베리(Strawberry)'를 2주 내에 출시할 예정이다. 정보기술(IT) 전문 매체 디인포메이션은 10일(현지 시간) 오픈AI가 추론 능력을 향상시키는 데 중점을 둔 이 모델을 비밀리에 개발해 왔다고 보도했다. 스트로베리는 오픈AI의 AI 모델 프로젝트 중 하나로, AI의 추론 능력을 강화하기 위해 설계된 것으로 알려져 있다. 스트로베리는 챗GPT의 일부로 출시될 계획이다. 이 모델은 기존의 AI와 차별화된 특징을 가진다. 스트로베리는 질문에 대해 즉시 응답하지 않고, 응답 전에 10~20초간 '생각'하는 과정을 거친다는 점에서 독특하다. 이는 AI가 보다 깊이 있는 추론을 할 수 있도록 설계된 것이다. 디인포메이션은 스트로베리의 초기 버전이 텍스트 입력과 생성만 가능할 것으로 추정했다. 멀티모달 기능(텍스트 외에 이미지, 동영상 등의 다양한 입력과 생성 기능)은 아직 포함되지 않을 가능성이 높다. 그러나 이 모델은 기존 AI가 해결하지 못한 수학 문제까지도 해결할 수 있는 능력을 갖추고 있다고 전해졌다. 오픈AI는 스트로베리와 함께 차세대 주력 모델로 '오리온'(Orion)을 개발 중인 것으로 알려졌다. 오리온은 텍스트, 이미지, 동영상 등 멀티모달 입력을 처리할 수 있는 기능을 추가하여 언어 이해와 생성에서 이전 모델들을 뛰어넘는 성능을 목표로 하고 있다. 오리온의 구체적인 출시 시기는 아직 확정되지 않았다. 2022년 출시된 챗GPT는 주간 활성 이용자 수가 2억 명을 넘어섰으며, 이는 출시 9개월 만에 두 배로 증가한 수치다. 오픈AI는 2019년부터 마이크로소프트(MS)로부터 130억 달러의 투자를 받으며 기술 개발에 박차를 가해왔다. 최근에는 애플, 엔비디아 등과 함께 대규모 자금 조달(펀딩)에 나설 계획도 있다. 오픈AI의 스트로베리와 오리온 모델은 AI 기술의 새로운 도약을 예고하고 있으며, 추론 능력 향상과 멀티모달 기능을 갖춘 AI 모델의 등장은 AI 산업 전반에 큰 영향을 미칠 것으로 보인다.2024-09-11 08:07:23
-
최태원 회장, 美 빅테크 CEO와 연달아 만나···AI·반도체 협력 방안 논의 [이코노믹데일리] 최태원 SK그룹 회장이 지난달 22일부터 시작된 미국 출장에서 주요 빅테크 최고경영자(CEO)들과 연달아 만나고 있다. 빅테크 CEO와 인공지능(AI), 반도체 협업 방안을 논의하는 과정에서 103조원 규모의 미래 산업 투자 계획도 등장했다. SK그룹은 지난주 최 회장이 미국 워싱턴주에서 앤디 재시 아마존 CEO와 만나 AI, 반도체 협력에 대해 논의했다고 1일 전했다. 재시 CEO는 AI, 클라우드(가상 서버) 전문가로 클라우드 서비스인 아마존웹서비스(AWS) CEO를 거쳐 2021년부터 아마존 CEO로 재직하고 있다. 아마존은 최근 AI 학습에 특화한 자체 반도체 ‘트레이니움’과 AI 추론 기능에 초점을 맞춘 ‘인퍼런시아’를 개발했다. 단순 반도체 설계를 넘어 AI 서비스 영역까지 사업을 확대하고 있다. 두 반도체가 정상 작동하기 위해선 고대역폭메모리(HBM)가 필요하기 때문에 아마존은 SK하이닉스의 주요 고객사 중 하나가 될 것으로 보인다. SK하이닉스는 지난 3월 세계 최초로 5세대 HBM인 ‘HBM3E’를 양산한 바 있다. 이어 최 회장은 미국 캘리포니아주에서 팻 겔싱어 인텔 CEO를 만나 반도체 분야 협력 방안을 논의했다. 두 사람은 양사의 오랜 파트너십 관계를 높이 평가하며, 첨단 반도체 제조 협력 확대를 위한 방안 등을 모색한 걸로 알려졌다. SK하이닉스는 지난 2022년 인텔과의 협업을 통해 서버용 D램 'DDR5 MCR DIMM'을 세계 최초로 개발했다. 데이터 전송 속도가 초당 8기가비트(Gb)로 당시 세계 최고 수준이었다. 지난해에는 SK하이닉스의 10나노미터(㎚)급 4세대 D램이 최신 인텔의 서버용 중앙처리장치(CPU) 간 호환성 시험에서 세계 최초로 적합하다는 평가를 받았다. 앞서 샘 올트먼 오픈AI CEO, 사티아 나델라 마이크로소프트(MS) CEO 등도 만나 AI 경쟁력 강화 방안과 사업 방향성을 논의하기도 했다. 최 회장은 미국 출장 중이던 지난달 28~29일엔 경기 이천에서 열린 경영전략회의에 화상으로 참석해 AI, 반도체 등 미래 성장 분야에 투자한다는 계획을 밝혔다. SK그룹은 SK하이닉스가 2028년까지 5년간 AI 관련 사업에 약 82조원을 투자하는 걸 포함해 반도체 사업 경쟁력을 강화하기 위해 총 103조원을 투자할 계획이다. SK 관계자는 “앞으로도 반도체부터 서비스까지 망라한 ‘AI 생태계’를 적극 육성해 국가 경쟁력 강화와 인류 발전에 기여할 계획”이라고 말했다.2024-07-01 17:03:51
-
LG유플러스-딥엑스, 온디바이스 AI 반도체로 新시장 선점 나선다 [이코노믹데일리] LG유플러스와 국내 반도체 팹리스 기업 딥엑스가 손잡고 온디바이스 AI(인공지능) 반도체 사업에 본격 나선다. 양사는 14일 서울 용산구 LG유플러스 사옥에서 업무협약을 체결하고 차세대 NPU(신경망처리장치)에 LG유플러스의 생성형 AI 기술 '익시젠(ixi-GEN)'을 탑재해 개발하기 위한 업무 협약을 체결했다. 개발된 솔루션은 LG유플러스가 제공 중인 통신·미디어 서비스뿐만 아니라 스마트 모빌리티, 로봇, 가전, 스마트 팩토리 등 다양한 산업 분야에서 활용될 전망이다. 향후 AI 기반 B2B·B2C 신규 서비스도 선보일 계획이다. NPU는 AI 추론 연산을 전담하는 차세대 반도체로, 기존 GPU보다 AI 작업 처리 효율이 높고 전력 소모가 적어 주목받고 있다. 딥엑스는 국내 최초로 NPU를 자체 개발한 회사로, 다양한 분야의 온디바이스 AI 시장을 겨냥해 왔다. 이번 협력을 통해 LG유플러스는 익시젠 기반 온디바이스 AI 솔루션을 직접 기획하고 NPU에 최적화된 모델을 개발한다. 딥엑스는 익시젠 기술이 탑재된 NPU를 설계·제작하고 솔루션 상품화 후 최적화 작업도 맡는다. 권용현 LG유플러스 기업부문장은 "LG유플러스의 AI 기술과 딥엑스의 팹리스 기술 결합으로 새로운 시장에서 시너지를 발휘할 것"이라며 "고객에게 차별화된 가치를 제공하기 위해 지속적으로 노력하겠다"고 말했다. 김녹원 딥엑스 대표는 "LG유플러스와 협력해 온디바이스 AI 반도체의 상용화를 앞당기게 됐다"며 "향후 관련 애플리케이션과 서비스 개발도 함께 추진할 것"이라고 설명했다. 업계는 이번 협력으로 NPU 시장에서 국내 기업들의 기술력과 경쟁력이 한층 높아질 것으로 기대하고 있다. 특히 AI가 모든 산업 분야로 확산되는 가운데 NPU 수요도 빠르게 증가할 전망이어서 관심이 쏠리고 있다. LG유플러스의 익시젠은 대화는 물론 이미지·번역·음성합성 등 다양한 분야에서 활용되는 차세대 생성형 AI 기술이다. 향후 딥엑스 NPU와 결합해 폭넓은 AI 솔루션을 선보일 수 있을 것으로 기대된다.2024-06-10 09:21:06
-
일론 머스크 "테슬라 AI" 개발 박차...엔비디아 칩 구매 4조∼5조원 규모 [이코노믹데일리] 일론 머스크 테슬라 최고경영자(CEO)가 올해 테슬라의 인공지능(AI) 기술 개발이 당초 계획대로 진행될 것이라고 밝혔다. 연간 엔비디아의 AI 반도체 칩 구매에 4조원에서 5조원대 규모의 지출을 예상한다고 언급했다. 머스크는 4일(현지시간) 엑스(X, 옛 트위터) 계정을 통해 "내가 말한 테슬라의 올해 AI 관련 지출 약 100억달러(약 13조7천700억원) 중 절반 가량은 내부 비용"이라며 "주로 테슬라가 설계한 AI 추론 컴퓨터와 우리의 모든 차에 탑재된 센서, 그리고 자율주행 학습용 슈퍼컴퓨터 '도조'에 사용된다"고 설명했다. 머스크는 이어 "AI 훈련 슈퍼클러스터 구축을 위한 엔비디아 하드웨어가 그 비용의 3분의 2 가량"이라며 "테슬라의 엔비디아 구매에 대한 현재 추정치는 올해 30억달러에서 40억달러(약 4조1,250억원에서 5조5,000억원) 규모"라고 밝혔다. 이런 머스크의 언급은 이날 오전 미 경제매체 CNBC의 보도 내용에 대한 반응으로 나왔다. CNBC는 엔비디아의 내부 메모와 이메일 내용을 인용해 머스크 CEO가 당초 테슬라에 주문한 AI 반도체 칩을 X와 xAI에 먼저 배송하도록 지시했다고 전했다. 보도에 따르면 지난해 12월 엔비디아 고위 간부 메모에는 "일론은 원래 테슬라에 공급될 예정인 H100 GPU(그래픽처리장치) 1만2천개를 X로 재배정해 X의 H100 GPU 클러스터를 테슬라보다 우선 배치하고 있다"고 쓰여 있었다. 또한 올해 1월과 6월 예정된 X의 H100 1만2천개 주문은 테슬라로 재배정됐다고 전했다. 머스크는 지난 4월 테슬라 실적 콘퍼런스콜에서 올해 말까지 엔비디아 H100 활용 개수를 3만5천개에서 8만5천개로 늘릴 것이라고 밝힌 바 있다. 며칠 뒤 X에 올린 글에서도 "테슬라는 올해 훈련과 추론 AI를 결합하는 데 약 100억달러를 지출할 것"이라고 했다. 시장에서는 엔비디아 AI 칩 공급량 확보를 위한 경쟁이 치열한 상황이다. CNBC는 엔비디아 내부 이메일에서 머스크의 칩 재배정 조치가 테슬라가 원하는 만큼 지분을 확보하지 못할 경우 외부에서 AI를 개발하겠다는 그의 언급을 뒷받침한다고 지적했다. 실제 머스크는 지난 1월 X 글에서 "25%의 의결권 없이 테슬라를 AI와 로봇 공학 분야 리더로 키우기 불편하다"며 그 정도 지분을 갖지 못하면 "테슬라 외부에서 제품을 만들 것"이라고 밝혔다. 테슬라 위임장에 따르면 머스크는 20.5% 지분을 보유 중이다.2024-06-05 08:11:16
많이 본 뉴스
영상
Youtube 바로가기
![[데스크칼럼] AI 시대, 개발자의 미래와 생존 전략](https://image.ajunews.com/content/image/2024/10/02/20241002130756978212_518_323.jpg)