검색결과 총 43건
-
-
알리바바 클라우드, 엣지 기기용 멀티모달 AI 'Qwen2.5-Omni-7B' 공개
[이코노믹데일리] 알리바바 그룹의 디지털 기술 및 인텔리전스 핵심 부문인 알리바바 클라우드가 최신 멀티모달 인공지능(AI) 모델 'Qwen2.5-Omni-7B'를 31일 새롭게 선보였다. Qwen2.5-Omni-7B 모델은 텍스트, 이미지, 음성, 영상 등 여러 유형의 입력 데이터를 동시에 이해하고 처리할 수 있는 엔드투엔드(end-to-end) 방식으로 개발되었다. 사용자의 다양한 입력에 대해 실시간 텍스트 응답은 물론, 자연스러운 음성 답변까지 생성 가능하다. 특히 70억 개(7B)의 상대적으로 적은 파라미터로 구성된 경량 모델임에도 불구하고 성능 저하 없이 강력한 멀티모달 처리 능력을 구현한 점이 특징이다. 이러한 컴팩트한 설계와 고성능의 조합은 지능형 음성 애플리케이션과 같이 실제 환경에서 민첩하고 비용 효율적으로 작동해야 하는 AI 에이전트 개발에 유리하다. 예를 들어 시각 장애인이 주변 환경을 실시간 음성 설명으로 인지하도록 돕거나 동영상 속 재료를 분석해 요리법을 단계별로 안내하는 등의 서비스 구현이 가능하다. 알리바바 클라우드는 Qwen2.5-Omni-7B 모델을 오픈소스 커뮤니티에 공개했다. 현재 허깅페이스(Hugging Face)와 깃허브(GitHub)를 통해 누구나 접근할 수 있으며 자체 플랫폼인 큐원 챗(Qwen Chat)과 모델스코프(ModelScope)에서도 이용 가능하다. 이번 모델의 우수한 성능은 혁신적인 아키텍처 설계에 기반한다. 텍스트 생성(Thinker)과 음성 합성(Talker) 기능을 분리하여 모달 간 간섭을 최소화한 'Thinker-Talker 아키텍처', 비디오와 오디오 입력을 효과적으로 동기화하여 일관된 콘텐츠 생성을 돕는 'TMRoPE' 위치 임베딩 기술 그리고 끊김 없는 음성 상호작용을 위해 지연 시간을 줄인 '블록와이즈 스트리밍 처리' 기술 등이 적용되었다. Qwen2.5-Omni-7B는 이미지-텍스트, 영상-텍스트, 영상-음성 등 다양한 조합의 방대한 데이터셋으로 사전 학습되어 여러 종류의 작업에서 강력한 성능을 발휘한다. 특히 시각, 청각, 텍스트 정보를 복합적으로 이해하고 추론하는 능력을 평가하는 OmniBench 벤치마크 등 멀티모달 처리 능력이 중요한 평가에서도 최고 수준의 성능을 기록했다. 또한 인컨텍스트 러닝(ICL)과 강화학습(RL)을 통해 문맥에 맞는 음성 이해 및 생성 능력을 향상시키고 음성 응답 시 발음 오류나 부자연스러운 끊김 현상을 크게 줄여 안정성을 높였다. 한편 알리바바 클라우드는 지난해 9월 Qwen2.5 시리즈를 처음 선보인 이후 올해 1월에는 'Qwen2.5-Max'를 출시하여 챗봇 아레나에서 7위를 기록하는 등 우수한 성능을 입증한 바 있다. 시각 이해 모델 'Qwen2.5-VL', 장문 처리 모델 'Qwen2.5-1M' 등도 오픈소스로 공개하며 Qwen 모델 라인업을 지속적으로 확장하고 있다.
2025-03-31 15:54:50
-
-
SK텔레콤, 글로벌 AI 스타트업 '투게더AI'에 전략 투자…AI 플랫폼 경쟁력 강화 '승부수'
[이코노믹데일리] SK텔레콤이 글로벌 AI 최적화 전문 스타트업 ‘투게더AI’에 전략적 투자를 단행하며 AI 플랫폼 구축 협력 강화에 나섰다. 24일, SK텔레콤은 투게더AI 투자를 통해 AI 모델, 플랫폼, AI 데이터센터(DC)에 이르는 AI 전 영역에서 기술 경쟁력 강화 및 시너지 창출을 본격화한다고 밝혔다. 2022년 미국 캘리포니아에서 설립된 투게더AI는 AI 클라우드 및 오픈소스 분야를 선도하는 기업으로 최근 3억 5백만 달러 규모의 시리즈B 투자 유치에 성공하며 글로벌 AI 업계의 주목을 받고 있다. 특히 AI 오픈소스 기반의 추론 및 파인튜닝 기술, 엔비디아와의 협력을 통한 저비용 GPU 클러스터 구축 역량을 강점으로 보유하고 있다. 또한 AI 효율화 혁신 알고리즘 ‘플래시어텐션(FlashAttention)’ 개발진이 핵심 인력으로 참여하고 있으며 줌(Zoom), 워싱턴포스트(The Washington Post), 세일즈포스(Salesforce) 등 전 세계 50만 고객을 확보하며 빠르게 성장 중이다. 이번 투자를 통해 SK텔레콤은 투게더AI와 협력하여 글로벌 시장 진출을 앞둔 개인 AI 에이전트 ‘에스터(Aster, A*)’의 경쟁력 강화에 주력할 방침이다. 투게더AI의 AI 모델 학습 및 파인튜닝 역량, 컴퓨팅 자원 효율화 기술은 SK텔레콤의 AI 사업 확장에 핵심적인 역할을 할 것으로 기대된다. 양사는 SK텔레콤의 자체 거대언어모델(LLM) ‘에이닷엑스(A.X)’, AI DC 등 AI 전반에 걸쳐 사업 협력 아이템을 발굴하고 시너지를 극대화할 계획이다. 특히 투게더AI의 GPU 연산 효율화 기술 ‘투게더 커널 콜렉션(Together Kernel Collection)’과 모델 압축 양자화 기술 ‘큐팁(QTIP)’은 AI 모델의 용량을 획기적으로 줄여 GPU 투자비용과 운영비 절감에 크게 기여할 것으로 보인다. SK텔레콤은 투게더AI의 기술력을 바탕으로 AI 모델, AI 플랫폼, AI DC를 아우르는 포괄적인 AI 생태계를 구축한다는 전략이다. SK텔레콤은 지난 2년간 앤트로픽(Anthropic), 퍼플렉시티(Perplexity), 트웰브랩스(Twelve Labs) 등 AI 분야 선도 기업에 대한 과감한 투자와 협력을 통해 AI 기술 경쟁력을 빠르게 확보해왔다. 특히 앤트로픽과 퍼플렉시티는 SK텔레콤 투자 이후 기업 가치가 3배 이상 상승하며 SK텔레콤의 AI 투자 전략의 성공을 입증했다. 앤트로픽은 SK텔레콤이 글로벌 AI 기업으로 도약을 선언하며 처음으로 투자한 기업으로 1400억원 규모의 투자를 통해 텔코 LLM 개발 및 개인 AI 에이전트 ‘에스터’ 개발 등 다방면에서 협력하고 있다. 텔코 LLM은 앤트로픽의 생성형 AI ‘클로드(Claude)’에 SK텔레콤의 한국어 데이터를 학습시킨 통신 특화 LLM으로 현재 SK텔레콤 고객센터와 T월드 상담 업무를 지원하고 있으며 사내 구성원 및 B2B 고객 대상 엔터프라이즈 AI 시장에도 공급되고 있다. AI 검색 분야의 혁신 기업 퍼플렉시티는 SK텔레콤의 투자를 통해 개인 AI 에이전트(PAA) 분야 협력을 강화하고 있다. SK텔레콤의 국내 PAA ‘에이닷’에는 퍼플렉시티 검색 엔진이 탑재되었으며 글로벌 PAA ‘에스터’ 개발도 공동으로 진행 중이다. SK텔레콤은 퍼플렉시티의 국내 시장 진출을 지원하며 자사 고객에게 1년 무료 구독권을 제공하는 등 국내 AI 서비스 확산에도 적극적으로 나서고 있다. 비디오 AI 기술 스타트업 트웰브랩스는 엔비디아, 인텔 등 글로벌 빅테크 기업으로부터 기술력을 인정받고 있으며 SK텔레콤은 지난해 말 발 빠르게 투자하여 ‘K-AI 얼라이언스’의 핵심 멤버로 합류시켰다. 비풀 베드 프라카시 투게더AI 공동창업자 겸 CEO는 “AI는 기존 프로세스 효율성을 넘어 산업 전반의 혁신을 주도하고 있다”며 “SK텔레콤과의 파트너십은 투게더AI에게도 매우 중요하며 SK텔레콤의 차세대 개인 AI 에이전트 개발에 큰 시너지를 낼 것으로 기대한다”고 밝혔다. 이재신 SK텔레콤 AI성장전략본부장은 “이번 투게더AI와의 협력을 통해 SK텔레콤의 AI 플랫폼 기술력을 한층 강화하고 글로벌 AI 시장에 혁신적인 서비스를 제공할 것”이라며 “지속적인 AI 스타트업 투자 및 협력을 통해 ‘SKT만의 AI 사용법’을 만들어 나가겠다”고 강조했다.
2025-03-24 09:25:00
-
-
-
-
-
-
카카오, 자체 개발 AI 모델 '카나나' 공개…오픈소스로 생태계 확장 '선언'
[이코노믹데일리] 카카오가 자체 개발한 인공지능(AI) 언어모델 ‘카나나(Kanana)’의 연구 성과를 공개하며 AI 기술 생태계 확장에 본격적으로 나선다. 카카오는 ‘카나나 테크니컬 리포트’를 통해 자체 AI 모델의 개발 과정과 성능을 상세히 밝히고 경량 모델인 ‘카나나 나노 2.1B’를 오픈소스로 공개했다고 27일 밝혔다. 이번에 공개된 테크니컬 리포트는 카카오가 개발한 ‘카나나’ 언어모델의 구조, 학습 방법, 성능 등을 담은 기술 논문이다. 리포트에는 ‘카나나’ 언어모델의 전체 라인업인 ‘카나나 플래그(Flag)’, ‘카나나 에센스(Essence)’, ‘카나나 나노(Nano)’의 사전 학습부터 후속 학습까지 전 과정이 상세히 기술되어 있다. 특히 ‘카나나 플래그’는 글로벌 최고 수준의 한국어 및 영어 성능을 확보한 초거대 언어모델로 한국어 성능 평가 벤치마크 ‘LogicKor’와 ‘KMMLU’에서 압도적인 성능을, 영어 성능 평가 벤치마크 ‘MT-bench’와 ‘MMLU’에서 경쟁 모델과 유사한 수준의 성과를 기록했다. 카카오는 ‘카나나’ 언어모델 개발에 혁신적인 학습 기법들을 적용하여 효율성과 성능을 동시에 향상시켰다. ‘단계별 사전 학습(Staged pre-training)’, ‘가지치기(Pruning)’, ‘지식 증류(Distillation)’, ‘깊이 업스케일링(DUS, Depth Upscaling)’ 등 최신 기술을 통해 학습 비용을 유사 모델 대비 50% 이상 절감했다. 이러한 기술적 진보를 통해 카카오는 경량 모델부터 초거대 모델까지 다양한 크기의 고성능 ‘카나나’ 언어모델 라인업을 구축하는 데 성공했다. AI 연구 생태계 활성화에 기여하기 위해 카카오는 경량 모델 ‘카나나 나노 2.1B’를 오픈소스로 공개했다. ‘카나나 나노 2.1B’는 베이스 모델, 인스트럭트 모델, 임베딩 모델 형태로 오픈소스 커뮤니티 깃허브를 통해 제공된다. 이 모델은 연구 및 개발에 용이한 크기이며 온디바이스 환경에서도 활용 가능한 고성능 경량 모델이다. 특히 한국어와 영어 처리 능력이 뛰어나 다양한 응용 분야에 활용될 것으로 기대된다. 카카오는 오픈소스 공개를 통해 AI 기술 접근성을 높이고 연구자와 개발자들이 ‘카나나 나노 2.1B’를 기반으로 다양한 연구 및 개발을 진행할 수 있도록 지속적인 모델 업데이트를 지원할 계획이다. 카카오는 향후 ‘카나나’ 모델에 강화 학습, 연속 학습 등 최신 기술을 접목하여 추론, 수학, 코딩 능력과 사용자 요청 수행 정확도를 더욱 향상시킬 예정이다. 또한 음성, 이미지, 영상 등 다양한 형태로 소통할 수 있도록 모델을 지속적으로 고도화하여 실생활에 더욱 유용한 AI 기술로 발전시켜 나갈 방침이다. 김병학 카카오 카나나 성과리더는 “모델 최적화 및 경량화 기술을 통해 글로벌 AI 모델과 견줄 수 있는 고성능 자체 언어모델 라인업을 효율적으로 확보했다”며 “이번 오픈소스 공개가 국내 AI 생태계 활성화에 기여할 수 있기를 기대하며 앞으로도 효율성과 성능 중심의 실용적이고 안전한 AI 모델 개발을 통해 AI 기술 경쟁력을 강화해 나갈 것”이라고 밝혔다.
2025-02-27 15:15:24
-
-
-
SK텔레콤, "통화 요약 AI, 자체 개발 '에이닷X'로 GPT 등 완전 대체" 선언
[이코노믹데일리] SK텔레콤이 자체 개발한 인공지능(AI) 모델 '에이닷X'로 '에이닷 전화'의 통화 요약 기능을 100% 대체했다고 19일 밝혔다. 이는 기존에 사용하던 GPT 등 외부 AI 모델을 완전히 자체 기술로 전환한 것으로 SK텔레콤은 이를 통해 비용 절감과 서비스 성능 향상을 동시에 이루었다고 강조했다. 연합뉴스에 따르면 김태윤 SK텔레콤 파운데이션 모델 담당(부사장)은 "하루 1000만 건에 달하는 통화 요약 서비스에 자체 개발 AI 모델을 적용함으로써 해외 AI 모델 개발사에 지불하던 API(애플리케이션 프로그래밍 인터페이스) 비용을 상당 부분 절감하게 됐다"고 설명했다. SK텔레콤은 이미 오래전부터 자체 AI 모델 개발에 힘써왔다. 2018년 구글이 '버트(BERT)'를 공개했을 때부터 한국어 특화 AI 모델 개발에 착수, '코버트(KoBERT)'와 'KoGPT-2'를 거쳐 현재의 '에이닷X'에 이르렀다. '에이닷X'는 SK텔레콤의 슈퍼컴퓨터 '타이탄'을 활용해 3년간 학습 및 고도화 과정을 거쳤다. '타이탄'은 엔비디아 GPU A100 1천500여 장으로 구축된 강력한 컴퓨팅 인프라다. 초기에는 '멀티 LLM 에이전트' 전략에 따라 '에이닷X'와 함께 오픈AI의 챗GPT, 앤트로픽의 클로드 등 다양한 AI 모델을 혼용했으나, 1년에 걸친 기술 고도화 끝에 '에이닷X' 단독으로 통화 요약 기능을 제공하게 되었다. 김 부사장은 "국내 단일 LLM 서비스 중 가장 많은 트래픽을 처리하는 에이닷 전화 통화 요약 서비스에서 자체 모델만 사용함으로써 비용 절감은 물론 성능 향상이라는 두 마리 토끼를 잡았다"고 강조했다. '에이닷X'는 이제 SK그룹 전체의 기본 AI 모델로 자리매김하고 있다. SK텔레콤은 '에이닷X'의 활용 범위를 B2B(기업 간 거래), B2G(기업·정부 간 거래) 영역으로 확장하고 있으며 정부 AI 사업 수주에도 잇따라 성공하는 등 외부 시장에서도 경쟁력을 인정받고 있다. SK텔레콤 주도로 설립된 AI R&D 센터는 그룹 내 에너지, 로봇 등 다양한 사업 분야에 '에이닷X'를 기반으로 한 AI 기술을 확산시키는 데 주력하고 있다. 김 부사장은 SK텔레콤의 AI 개발 전략에 대해 "초기에는 해외 모델 개발사와의 협력을 통해 기술력을 확보했지만 이제는 협력과 자강, 즉 자체 기술력 강화에 더욱 집중하는 방향으로 전환하고 있다"고 밝혔다. 그는 "에이닷X를 인간 사고와 유사한 추론 능력을 갖춘 모델로 발전시켜 SK그룹 내 각 사업 영역에서 고차원적인 의사 결정과 연구 개발을 지원하는 데 활용할 계획"이라고 덧붙였다. 이는 '에이닷X'가 단순한 통화 요약 기능을 넘어 그룹의 미래 성장 동력을 발굴하는 핵심 엔진 역할을 할 것임을 예고한다. 궁극적으로 SK텔레콤은 '에이닷X'를 텍스트뿐만 아니라 이미지, 영상 등 다양한 데이터를 이해하고 처리하는 멀티모달 AI 모델로 진화시킨다는 목표를 가지고 있다. 김 부사장은 "현재 문서 이미지를 이해하는 기능을 우선적으로 개발 중이며 연내 사내외 서비스에 적용할 예정"이라고 밝혔다. 또한 "자율주행, 로봇 등 미래 기술 분야에 적용될 멀티모달 모델 개발을 위한 기초 연구도 꾸준히 진행하고 있다"고 덧붙였다. 최근 오픈소스 AI 모델 '딥시크'의 등장으로 촉발된 AI 기술 개방화 흐름에 대해 김 부사장은 "오픈소스 AI의 강력한 커뮤니티와 영향력을 인지하고 있으며 딥시크 모델의 등장은 국내 AI 업계에 중요한 화두를 던졌다"고 평가했다. 그는 "SK텔레콤은 오픈소스 커뮤니티에 기여할지 활용할지 등 모든 가능성을 열어두고 신중하게 검토하고 있다"고 밝혔다. 끝으로 김 부사장은 "최근 딥시크 사태 이후 국내 LLM 기술력이 과소평가받는 경향이 있어 안타까움을 느꼈다"며 "국내에도 뛰어난 AI 기술력을 가진 기업과 전문가들이 많다. 다만 모델 공개에 대한 부담감과 격려보다는 비판적인 시선이 있을 수 있다는 우려 때문에 적극적으로 나서지 못하는 측면이 있다"고 지적했다. 그는 "국내 AI 산업 발전을 위해서는 기술 개발에 대한 격려와 지지가 필요하다"고 강조했다.
2025-02-19 08:10:22
-
사이버 보안 필수 시대…삼성SDS, 5대 사이버보안위협 공개
[이코노믹데일리] 삼성SDS는 지난해 국내외에서 발생한 사이버 보안 이슈를 분석해 2025년 주의해야 할 5대 사이버 보안 위협을 발표했다. '2025년 5대 사이버 보안 위협'에는 △인공지능(AI) 악용 피싱에 대비해야… 'AI 보안 위협' △장기 방치 자격 증명 '클라우드 보안 위협' △이중갈취전략으로 진화 중인 '랜섬웨어 공격' △오픈소스 악성코드 유입 '소프트웨어(SW) 공급망 보안 위협' △초연결사회의 독, 인터넷에 연결된 생산 시설과 관련 시스템(OT)·컴퓨팅 장치와 기기, 사물 및 웨어러블 기기 간 사물인터넷(IoT) 보안 위협 등이 선정됐다. 먼저, 올해에는 생성형 AI를 본격적으로 활용하는 기업이 늘고 있어 기업 내 보안 위협도 증가하고 있어 AI 악용 피싱에 대비해야 한다고 설명했다. AI를 악용한 피싱 공격이나 악성코드 피해에 보다 정확하고 신속하게 대응하기 위해 AI 기반의 위협 탐지 및 분석, 보호 시스템 구축이 필요하다. 기업도 AI 발전 속도에 맞춰 보안 위협에 '지능형 보안 관제 시스템'으로 선제 대응하는 등의 지속적 진화가 요구된다는 게 삼성SDS의 설명이다. 클라우드 보안 위협도 지적했다. 코로나 팬데믹 이후 기업들은 생성형 AI, 데이터 분석 등 새로운 기반 기술과 서비스를 도입하기 위해 점점 더 클라우드 인프라를 활용하는 추세다. 하지만 잘못된 클라우드 구성 변경, 장기 방치한 '자격 증명' 노출, 기존 시스템 버전의 보안 설정 등은 보안 사고로 이어질 수 있으므로 '클라우드 환경에 맞는 보안 플랫폼'을 도입해 이를 미연에 방지해야 한다는 제언이다. 자격 증명은 사용자가 자신의 신원을 확인하기 위해 제출하는 정보나 증명서를 의미한다. 이중갈취 전략으로 진화 중인 '랜섬웨어 공격'도 위협 요소로 선정했다. 랜섬웨어는 최근 데이터 암호화와 함께 정보 탈취 후 공개 협박을 병행하는 이중 갈취 전략으로 진화해 그 피해가 커지고 있다. 이로 인해 중요 데이터와 민감 정보 등을 겨냥해 RaaS 등을 통한 랜섬웨어 공격으로 금전적 손실과 기업 이미지 하락이 우려된다. 기업은 외부 접속 및 계정 관리 강화, 주기적 데이터 보호와 관리를 통해 랜섬웨어의 위험을 예방해야 한다. RaaS는 프로그래밍 전문지식 없이 비용만 지급하면 공격을 할 수 있도록 서비스 형태로 제공되는 랜섬웨어다. 아울러 오픈소스 악성코드 유입이 야기하는 'SW 공급망 보안 위협'도 문제 삼았다. 최근 기업들은 내부 자원 뿐만 아니라 오픈소스 등 외부 자원을 활용해 SW개발과 운영을 하고 있다. 그러나 이 경우에 악성코드 유입이 쉬워져 보안 위협도 함께 증가할 수 있다. SW 업데이트를 통해서도 악성코드가 유입될 수 있다. 기업은 SW 및 IT 환경 전반에 대한 감사와 S-BOM 준비, 위험 관리 체계에 대한 능동적 대응 계획을 세워야 한다. S-BOM은 SW에 어떤 요소가 포함됐고 누가 만들었는 지에 대한 정보를 포함하는 구성 요소 목록과 상호 의존도 등 세부 정보를 포함하는 명세서를 의미한다. 마지막으로 초연결사회의 독을 OT/IoT를 파고드는 보안 위협으로 지정했다. OT, IoT에 대한 보안 위협도 커지고 있다. 특히 업데이트가 되지 않은 OT/IoT 장치는 해커의 손쉬운 공격 목표가 되며, 연결된 네트워크 전체를 대상으로 한 침해 사고로 확대될 수 있다. 이에 대응하기 위해 기업은 강력한 인증 절차와 정기적 보안 업데이트 등 기본 원칙을 준수해야 한다고 전했다. 장용민 삼성SDS 보안사업담당은 "AI 기술을 활용한 보안 위협은 이미 지능적이고 교묘해지고 있으며 전사적 관점의 위기 관리 전략이 필요하다"고 말했다.
2025-02-18 10:41:21
-