자료사진[사진=게티이미지뱅크]
[이코노믹데일리] 오픈소스(OSS·소스 코드를 인터넷에서 무상으로 공개할 수 있도록 한 소프트웨어)를 기반으로 한 경량급 인공지능(AI) 활용에 관심이 쏠리고 있다. 기존 초거대 AI가 지닌 단점인 효율성과 휴대성을 보완할 대체재가 될 수 있다는 이유에서다.
10일 정보통신기술(ICT)업계에 따르면 공개된 AI모델을 활용해 데이터 양자화 처리로 경량화한 AI모델을 랩톱이나 개인용 PC에 구축하는 개발자들의 시도가 잇따르고 있다.
지난 3월 '노트북으로 GPT 맛보기' 경진대회를 열었던 AI 기업 마인즈앤컴퍼니는 GPT-3 기반 한국어 언어 생성 모델인 코GPT를 경량화해 참가자들이 자신의 랩톱에 AI 모델을 설치해 실력을 겨루도록 했다.
대표적인 경량 AI 모델은 메타의 라마(LLaMA)로 알려져 있다. 라마를 기반으로 한 경량급 생성형 AI는 PC는 물론 스마트폰에서 AI를 실행할 수 있을 정도로 데이터 학습량과 속도를 줄였다는 평가를 받는다.
라마는 영어 버전만 가능했지만, 최근 국내 AI 개발자들이 한국어용 오픈소스를 활용한 한국어 경량 AI를 내놓고 있다. 성능이 나쁘지 않다는 평가인데, 한국어 기반 오픈소스 거대언어모델(LLM) '폴리글랏'이 대표적이다.
이처럼 상용화 시도가 지속적으로 이뤄지고 있지만, 실제 상용화 단계가 가능할지 회의하는 입장도 제기된다.
업계관계자는 "업체마다 사정은 다르겠지만, B2B(Business to Busines·기업 대 기업) 서비스가 중심인 회사와 경량화 추세는 맞지 않다"며 "상용화 시도가 가능한 업체는 제한적일 것"이라고 밝혔다.
한편, 구글·마이크로소프트·오픈AI 등 해외 빅테크 7개 사가 자사 AI 알고리즘을 대중에 공개하고 미국 정부가 제정한 지침에 부합하는지 평가받겠다고 밝힘에 따라 이들 알고리즘을 활용해 국내 AI 업계 발전에 가속이 붙을지도 주목된다.
10일 정보통신기술(ICT)업계에 따르면 공개된 AI모델을 활용해 데이터 양자화 처리로 경량화한 AI모델을 랩톱이나 개인용 PC에 구축하는 개발자들의 시도가 잇따르고 있다.
지난 3월 '노트북으로 GPT 맛보기' 경진대회를 열었던 AI 기업 마인즈앤컴퍼니는 GPT-3 기반 한국어 언어 생성 모델인 코GPT를 경량화해 참가자들이 자신의 랩톱에 AI 모델을 설치해 실력을 겨루도록 했다.
대표적인 경량 AI 모델은 메타의 라마(LLaMA)로 알려져 있다. 라마를 기반으로 한 경량급 생성형 AI는 PC는 물론 스마트폰에서 AI를 실행할 수 있을 정도로 데이터 학습량과 속도를 줄였다는 평가를 받는다.
라마는 영어 버전만 가능했지만, 최근 국내 AI 개발자들이 한국어용 오픈소스를 활용한 한국어 경량 AI를 내놓고 있다. 성능이 나쁘지 않다는 평가인데, 한국어 기반 오픈소스 거대언어모델(LLM) '폴리글랏'이 대표적이다.
이처럼 상용화 시도가 지속적으로 이뤄지고 있지만, 실제 상용화 단계가 가능할지 회의하는 입장도 제기된다.
업계관계자는 "업체마다 사정은 다르겠지만, B2B(Business to Busines·기업 대 기업) 서비스가 중심인 회사와 경량화 추세는 맞지 않다"며 "상용화 시도가 가능한 업체는 제한적일 것"이라고 밝혔다.
한편, 구글·마이크로소프트·오픈AI 등 해외 빅테크 7개 사가 자사 AI 알고리즘을 대중에 공개하고 미국 정부가 제정한 지침에 부합하는지 평가받겠다고 밝힘에 따라 이들 알고리즘을 활용해 국내 AI 업계 발전에 가속이 붙을지도 주목된다.
댓글 더보기