2024.11.25 월요일
검색
'스퀴즈비츠' 검색결과
기간검색
-
~
검색영역
검색어
-
리벨리온-스퀴즈비츠, NPU 최적화 소형언어모델 경량화 기술 개발 합작 [이코노믹데일리] AI 반도체 스타트업 리벨리온과 AI 모델 경량화 전문 스타트업 스퀴즈비츠가 NPU(신경망 처리 장치) 기반 소형 언어 모델(SLM) 경량화 기술 개발을 위한 전략적 파트너십을 체결했다고 29일 밝혔다. 이번 협력은 국내 최초의 생성형 AI 전용 하드웨어 기반 경량화 소프트웨어 기술 개발 사례로, 지속가능한 생성형 AI 서비스 제공 환경 구축 및 국내 AI 생태계 발전에 기여할 것으로 기대된다. 리벨리온은 국내 최초로 소형 언어 모델 가속이 가능한 NPU를 양산하는 기업이다. 스퀴즈비츠는 엔비디아 GPU뿐 아니라 리벨리온 NPU에도 적용 가능한 AI 모델 경량화 기술을 보유하고 있다. 이번 파트너십을 통해 양사는 각자의 기술력을 결합하여 리벨리온 NPU에 최적화된 다양한 경량화 소형 언어 모델을 개발할 계획이다. 소형 언어 모델은 비교적 적은 파라미터 규모에도 불구하고 특정 작업에 특화된 성능과 운영 수익성을 제공하는 AI 모델이다. 최근 제한된 컴퓨팅 자원에서도 효율적으로 활용 가능한 소형 언어 모델에 대한 관심이 높아지고 있다. 또한, 생성형 AI 가동에 소요되는 비용과 전력을 최소화하기 위한 기술 개발 역시 활발히 진행되고 있다. 스퀴즈비츠의 경량화 기술은 AI 모델의 계산량을 압축하면서도 정확도 손실을 최소화하는 데 강점을 가지고 있다. 이를 통해 리벨리온 NPU는 더욱 효율적으로 작동할 수 있으며, 사용자들은 저렴한 비용으로 고성능 AI 서비스를 이용할 수 있게 된다. 이번 파트너십은 리벨리온과 스퀴즈비츠의 상호 성장에도 기여할 것으로 기대된다. 리벨리온은 경량화 소형 언어 모델 라인업을 강화하여 NPU 판매를 확대할 수 있게 되었고, 스퀴즈비츠는 NPU 시장 진출 기반을 마련했다. 또한, 양사의 기술 협력은 국내 AI 기술 경쟁력을 높이고 지속가능한 AI 생태계 구축에 기여할 것으로 기대된다. 김형준 스퀴즈비츠 대표는 “리벨리온과의 협력을 통해 생성형 AI 기반 서비스 기업 고객들에게 더욱 다양한 하드웨어 옵션을 제공할 수 있게 되었으며, 기업들의 AI 활용 효율성을 높일 수 있도록 지원할 것”이라고 밝혔다. 박성현 리벨리온 대표는 “NPU와 AI 경량화 기술은 지속가능하고 비용 효율적인 AI 비즈니스를 위한 필수 요소이며, 이번 파트너십을 통해 사용자들에게 부담 없이 AI를 도입할 수 있는 기회를 제공할 것”이라고 밝혔다.2024-05-29 10:00:55
많이 본 뉴스
영상
Youtube 바로가기
![[데스크칼럼] AI 시대, 개발자의 미래와 생존 전략](https://image.ajunews.com/content/image/2024/10/02/20241002130756978212_518_323.jpg)