2025.04.03 목요일
검색
'허깅페이스' 검색결과
기간검색
-
~
검색영역
검색어
-
알리바바 클라우드, 엣지 기기용 멀티모달 AI 'Qwen2.5-Omni-7B' 공개 [이코노믹데일리] 알리바바 그룹의 디지털 기술 및 인텔리전스 핵심 부문인 알리바바 클라우드가 최신 멀티모달 인공지능(AI) 모델 'Qwen2.5-Omni-7B'를 31일 새롭게 선보였다. Qwen2.5-Omni-7B 모델은 텍스트, 이미지, 음성, 영상 등 여러 유형의 입력 데이터를 동시에 이해하고 처리할 수 있는 엔드투엔드(end-to-end) 방식으로 개발되었다. 사용자의 다양한 입력에 대해 실시간 텍스트 응답은 물론, 자연스러운 음성 답변까지 생성 가능하다. 특히 70억 개(7B)의 상대적으로 적은 파라미터로 구성된 경량 모델임에도 불구하고 성능 저하 없이 강력한 멀티모달 처리 능력을 구현한 점이 특징이다. 이러한 컴팩트한 설계와 고성능의 조합은 지능형 음성 애플리케이션과 같이 실제 환경에서 민첩하고 비용 효율적으로 작동해야 하는 AI 에이전트 개발에 유리하다. 예를 들어 시각 장애인이 주변 환경을 실시간 음성 설명으로 인지하도록 돕거나 동영상 속 재료를 분석해 요리법을 단계별로 안내하는 등의 서비스 구현이 가능하다. 알리바바 클라우드는 Qwen2.5-Omni-7B 모델을 오픈소스 커뮤니티에 공개했다. 현재 허깅페이스(Hugging Face)와 깃허브(GitHub)를 통해 누구나 접근할 수 있으며 자체 플랫폼인 큐원 챗(Qwen Chat)과 모델스코프(ModelScope)에서도 이용 가능하다. 이번 모델의 우수한 성능은 혁신적인 아키텍처 설계에 기반한다. 텍스트 생성(Thinker)과 음성 합성(Talker) 기능을 분리하여 모달 간 간섭을 최소화한 'Thinker-Talker 아키텍처', 비디오와 오디오 입력을 효과적으로 동기화하여 일관된 콘텐츠 생성을 돕는 'TMRoPE' 위치 임베딩 기술 그리고 끊김 없는 음성 상호작용을 위해 지연 시간을 줄인 '블록와이즈 스트리밍 처리' 기술 등이 적용되었다. Qwen2.5-Omni-7B는 이미지-텍스트, 영상-텍스트, 영상-음성 등 다양한 조합의 방대한 데이터셋으로 사전 학습되어 여러 종류의 작업에서 강력한 성능을 발휘한다. 특히 시각, 청각, 텍스트 정보를 복합적으로 이해하고 추론하는 능력을 평가하는 OmniBench 벤치마크 등 멀티모달 처리 능력이 중요한 평가에서도 최고 수준의 성능을 기록했다. 또한 인컨텍스트 러닝(ICL)과 강화학습(RL)을 통해 문맥에 맞는 음성 이해 및 생성 능력을 향상시키고 음성 응답 시 발음 오류나 부자연스러운 끊김 현상을 크게 줄여 안정성을 높였다. 한편 알리바바 클라우드는 지난해 9월 Qwen2.5 시리즈를 처음 선보인 이후 올해 1월에는 'Qwen2.5-Max'를 출시하여 챗봇 아레나에서 7위를 기록하는 등 우수한 성능을 입증한 바 있다. 시각 이해 모델 'Qwen2.5-VL', 장문 처리 모델 'Qwen2.5-1M' 등도 오픈소스로 공개하며 Qwen 모델 라인업을 지속적으로 확장하고 있다.2025-03-31 15:54:50
-
LG, 추론 AI '엑사원 딥' 오픈소스화…에이전틱 AI 시대 연다 [이코노믹데일리] LG AI연구원이 글로벌 인공지능(AI) 시장에서 경쟁력을 입증할 자체 개발 추론 AI 모델 ‘엑사원 딥’을 18일 오픈소스로 공개했다. 이는 한국 기업이 독자적으로 개발한 AI 모델이 글로벌 AI 생태계에서 본격적으로 경쟁에 나섰다는 점에서 의미가 크다. LG AI연구원은 17~21일(현지시간) 미국 캘리포니아 새너제이에서 열리는 엔비디아 GTC 2024에서 ‘엑사원 딥’을 소개하며 글로벌 시장 진출을 본격화했다. ‘엑사원 딥-32B’는 320억 개의 매개변수를 갖춘 모델이다. 매개변수 6710억개를 가진 중국 딥시크 R1의 5% 규모에 불과하지만 성능 면에서는 뒤떨어지지 않는다는 게 LG AI연구원의 설명이다. LG AI연구원은 이번 공개를 통해 기존 AI 모델이 단순한 정보 처리에 머물던 한계를 넘어서 자율적 의사결정이 가능한 ‘에이전틱 AI’ 시대로의 전환을 예고했다. 에이전틱 AI는 스스로 가설을 설정하고 검증하는 추론 AI로 복잡한 문제 해결에 적합하다. 현재 오픈AI, 구글, 중국 딥시크·알리바바 등 극소수 글로벌 기업만이 추론 AI를 개발하고 있다. LG AI연구원은 AI 오픈소스 플랫폼 ‘허깅페이스’를 통해 엑사원 딥의 논리적 사고력과 문제 해결 능력을 평가한 데이터를 공개했다. 수학 문제 해결 능력 평가 지표에서 95.7점을 기록하며 물리학·화학·생물학 등 과학 분야 등 박사급 논리 추론 평가에서 높은 평가를 받았다. AI 코딩 능력 평가에서는 59.5점을 기록했다. 엑사원 딥-32B와 함께 ‘엑사원 딥-7.8B(경량 모델)’와 ‘엑사원 딥-2.4B(온디바이스 모델)’도 함께 공개됐다. 7.8B 모델은 32B 모델 대비 매개변수가 24% 수준이지만 성능을 95% 유지한다. 2.4B 모델은 32B 모델 대비 매개변수 7.5% 수준이지만 성능 86% 유지하면서 특히 기기 내부에서 데이터를 처리해 보안성과 개인정보 보호 측면에서 강점이 있다. LG AI연구원 관계자는 “2월 국가인공지능위원회에서 ‘딥시크 R1급 모델을 오픈소스로 공개하겠다’고 발표한 이후 한 달 만에 엑사원 딥을 공개했다”며 “LG의 AI 기술 핵심은 모델 크기를 줄이면서도 성능을 유지하는 것”이라고 강조했다.2025-03-18 10:21:43
-
인터넷 은행, AI 혁신에 속도…LLM 도입 확대 [이코노믹데일리] 인터넷 은행이 인공지능(AI) 기술 도입에 열을 올리고 있다. 국내 인터넷 은행 △카카오뱅크 △케이뱅크 △토스뱅크는 각각 업무에 AI 프로그램을 투입하거나 자체 AI를 개발하는 등 다양한 전략을 선택했다. 7일 업계에 따르면 케이뱅크는 지난해 2월 KT·KT클라우드·업스테이지와 업무 협약을 맺고 최근 인터넷 은행 최초로 금융 특화 프라이빗 대형 언어 모델(LLM)을 도입했다. 프라이빗 LLM은 공개적으로 접근이 가능한 챗GPT, 딥시크 등과 달리 특정 조직이나 기업 내부에서만 사용하도록 설계된 AI 언어 모델이다. 기업이 원하는 전문 데이터를 학습시킨 후 외부 클라우드 서버가 아닌 내부 서버에서만 운영한다. 케이뱅크는 프라이빗 LLM을 활용해 업무를 돕는 대화형 AI, 보고서 작성 기능 등을 제공할 계획이다. 카카오뱅크는 지난달 5일 2024년 연간 실적 컨퍼런스콜에서 오픈 AI와 협업을 맺은 카카오와 함께 기술과 금융 전문성을 결합해나갈 예정이라고 밝혔다. 또한 오픈 AI의 챗GPT 모델을 활용해 고객들이 대화 형식으로 금융 정보를 이해하고 계산하는 ‘대화형 AI 금융 계산기’도 개발 중이다. 카카오뱅크의 금융기술 연구소에서도 AI 연구를 진행한다. 지난 2021년 개소 이후 △자체 LLM 개발 △AI 스미싱 문자 확인 서비스 개발 △LLM 테스트 제작 등 다양한 연구 성과를 발표하고 있다. 지난해 1월에는 카카오뱅크가 개발한 LLM ‘카본 빌런’이 AI 플랫폼 ‘허깅페이스’의 성능 비교에서 1위를 차지하기도 했다. 토스뱅크는 자체 AI를 개발해 신분증 검증에 이용한다. 비대면으로 계좌를 개설하는 인터넷 은행 특성상 신분증 위조 위험성이 있다. 토스뱅크는 AI를 활용해 신분증 내 개인정보, 얼굴을 인식하고 적합 여부를 판단해 결격 사유가 있다면 자동으로 신분증 승인을 반려한다. 또한 지난해 5월 생성형 AI 기술을 적용해 사용자가 선택한 사진으로 지폐를 만들어주는 이벤트를 진행하기도 했다. 인터넷 은행의 AI 전략 중 타 업계에서도 주목받는 기술이 프라이빗 LLM이다. 프라이빗 LLM은 기업 내부망에서만 운용하기 때문에 보안성이 높다. 또한 기업 특성에 맞춰 LLM을 학습시키고 조정해 업무에 효율적인 AI 구축이 가능하다. 단 활용 기업이 AI의 개발·수정·유지보수를 위해 관련 기술 역량을 갖춰야 하고 개발 초기에는 많은 투자 비용이 필요할 수 있다. 미국 데이터 플랫폼 기업 클라우데라는 ‘2025년 데이터와 AI에 대한 전망’ 발표에서 "기업들이 AI 혁신을 위해 기업의 니즈를 반영하고 정확한 인사이트를 제공할 수 있는 프라이빗 LLM을 선호할 것"이라고 내다봤다. 업계 관계자는 “금융권은 보안 규제가 엄격하고 전문적인 역량이 필요하기 때문에 프라이빗 LLM의 활용도가 높을 것”이라고 전했다.2025-03-07 17:46:38
-
글로벌 AI 생태계의 국내 AI스타트업의 대담한 도전 [이코노믹데일리] 국내 AI 기업들이 한국어에 특화된 인공지능(AI) 모델을 공개하며 글로벌 AI 생태계에서 새로운 돌파구를 찾고 있다. 영어와 중국어 중심의 기존 AI 생태계를 넘어서기 위한 시도다. 11일 정보통신기술(ICT) 업계에 따르면 국내 AI 전문 스타트업 모레(MOREH)는 자체 개발한 한국어 거대언어모델(LLM) ‘모티프(MOTIF)’를 세계 최대 AI 플랫폼 ‘허깅페이스’에 오픈소스로 공개했다. 모티프는 웹사이트 데이터뿐 아니라 국내 특허와 연구 보고서 등 전문 문서를 학습 데이터로 활용한 점이 강점이다. 이 모델은 한국판 AI 성능 평가 지표인 ‘KMMLU’에서 64.74점을 기록하며 오픈AI, 메타 등 글로벌 경쟁 모델을 능가하는 성능을 입증했다. AI 전문 기업 디노티시아도 LLM 파운데이션 모델 ‘DNA’를 허깅페이스에 오픈소스로 공개하고 생성형 AI 어시스턴트의 베타 테스트를 시작했다. DNA는 KMMLU 벤치마크에서 평균 53.26점을 기록하며 LG의 ‘엑사원 3.5’와 엔씨소프트의 ‘바르코’ 등 경쟁 모델보다 우수한 성과를 보였다. 이 같은 한국어 특화 AI 모델 개발은 글로벌 빅테크 기업들의 AI 모델이 영어와 중국어에 편중된 데 따른 한계를 극복하기 위한 노력으로 평가된다. AI 모델은 기본 패턴을 학습하는 ‘프리-트레이닝’과 특정 분야에 특화하는 ‘파인 튜닝’ 과정을 거치는데 대부분의 데이터가 영어와 중국어 기반으로 구성되어 있다. 이에 따라 언어적 한계와 문화적 차이가 번역 오류나 정보 왜곡을 초래할 수 있다는 우려가 제기돼 왔다. 모레 관계자는 "AI 시장 규모가 가장 크고 연구가 활발한 국가가 미국과 중국"이라며 “GPT-4 등 글로벌 AI 모델은 특정 표현에 대한 설명이 문화적 편향성을 가질 수 있다”며 “모티프는 독도와 같은 민감한 주제에 대해 명확히 한국적 관점에서 답변한다”고 설명했다. AI 전문가들은 한국어 특화 AI 모델이 장기적으로 글로벌 AI 생태계에서 한국어를 포함한 다양한 언어의 데이터 접근성을 높이고 국내 기업의 경쟁력을 강화할 수 있을 것으로 보고 있다. 한국어 AI 모델은 텍스트뿐 아니라 이미지, 법률, 의료 등 다양한 전문 분야로 확장되고 있다. 엔씨소프트는 시각언어모델(VLM) ‘바르코 비전’을 공개하며 이미지와 텍스트를 통합적으로 처리할 수 있는 기술을 선보였다. 모레는 텍스트 입력을 기반으로 이미지를 생성하는 ‘모티프 비전’을 이달 중 출시하고 오픈소스로 공개할 예정이다. 한국 AI 업계의 이 같은 노력이 앞으로 글로벌 AI 시장에서 독자적인 입지를 구축하며 국내 기술력을 입증할 계기가 될지 주목된다.2024-12-11 08:25:57
-
스퀴즈비츠, 거대 언어 모델 서빙 최적화 솔루션 '핏츠 온 칩스' 출시 [이코노믹데일리] AI 경량화 및 최적화 전문 스타트업 스퀴즈비츠가 대형 언어 모델(LLM) 서빙을 효율적으로 지원하는 맞춤형 솔루션 ‘핏츠 온 칩스(Fits on Chips)’를 출시했다고 3일 밝혔다. 이번 솔루션은 LLM 서빙 과정에서 시간과 비용을 획기적으로 절감하고 다양한 하드웨어와의 호환성을 확장하는 데 초점을 맞췄다. 핏츠 온 칩스는 모델 선택부터 서빙 설정, 성능 평가, 배포까지 LLM 서빙에 필요한 모든 과정을 단순화하고 최적화한다. 오픈소스 라이브러리인 허깅페이스와 연동해 다양한 LLM 모델을 쉽게 통합할 수 있으며 이를 통해 최적의 서빙 설정을 빠르게 찾아낸다. 스퀴즈비츠는 기존 엔지니어가 30시간 이상 소요하던 작업 시간을 3시간 내로 단축하고, 비용도 절반 수준으로 줄일 수 있다. 김형준 스퀴즈비츠 대표는 “누구나 쉽게 LLM 서빙을 시뮬레이션하고 분석할 수 있도록 설계된 제품”이라며 “LLM 서비스 기업들의 성능 최적화와 비용 절감에 기여하겠다”고 강조했다. 스퀴즈비츠는 이번 솔루션을 통해 엔비디아 GPU와 인텔 가우디를 비롯한 다양한 하드웨어에서 LLM 서빙이 가능하도록 지원 범위를 확대했다. 특히 인텔, 네이버와 협력해 인텔의 가우디에서 LLM을 최적화하는 프로젝트를 진행 중이다. 이를 기반으로 사용자가 하드웨어별 비용과 속도를 비교 분석해 최적의 옵션을 선택할 수 있도록 한다는 방침이다. 또한 TensorRT-LLM 및 vLLM과 같은 다양한 프레임워크를 비교 분석할 수 있는 기능도 포함됐다. 이를 통해 사용자는 최적화된 서빙 환경을 구축해 인프라의 효율성을 극대화할 수 있다. 스퀴즈비츠는 핏츠 온 칩스를 AMD, 아마존, 구글 등의 하드웨어로 지원 범위를 넓히고, AI Agent와의 연동 기능도 추가할 계획이다. 김형준 대표는 “다양한 기술 개발을 통해 AI 서비스 기업들이 혁신적인 성능을 발휘할 수 있도록 돕겠다”고 말했다. 한편 스퀴즈비츠는 2022년 설립 이후 AI 경량화와 최적화 기술을 바탕으로 주요 학회에 70편 이상의 논문을 발표했으며, 카카오벤처스, 네이버 D2SF, 삼성넥스트 등으로부터 투자를 유치했다.2024-12-03 09:22:08
많이 본 뉴스
영상
Youtube 바로가기
![[기자수첩] 손바닥으로 하늘 가리는 GM](https://image.ajunews.com/content/image/2025/03/20/20250320182759531950_518_323.jpg)