검색결과 총 12건
-
퍼플렉시티의 등장과 전통 포털을 위협하는 신흥 AI 기술, 과연 해법은
[이코노믹데일리] 인공지능(AI) 기술의 비약적인 발전이 가져온 혁명적 변화는 이제 검색 엔진 시장에도 거대한 파장을 일으키고 있다. 그 중심에는 '퍼플렉시티(Perplexity)'라는 신생 기업이 자리하고 있다. 퍼플렉시티는 단순한 검색 엔진을 넘어, '지식 발견 엔진'이라는 새로운 개념을 제시하며 기존 검색 패러다임에 강력한 도전장을 내밀고 있다. 퍼플렉시티의 핵심 기술은 AI를 활용한 대화형 검색 시스템에 있다. 이는 사용자가 단순히 검색어를 입력하면 관련 링크만 나열하는 기존의 방식과는 차원이 다르다. 퍼플렉시티의 AI는 웹에서 정보를 수집하고 이를 분석해 사용자가 원하는 답변을 직접 제공한다. 또한, 사용자의 질문에 대해 AI가 추가적인 관련 질문을 제안해 주어 지속적인 학습과 탐구를 유도한다. 이는 정보 제공을 넘어서 사용자의 지적 호기심을 자극하고 더 깊은 탐구를 이끌어내려는 시도다. 퍼플렉시티의 공동 창업자인 아라빈드 스리니바스는 "우리가 싸워야 할 가장 큰 적은 구글이 아니라, 사람들이 질문을 잘 못하는 것"이라고 강조했다. 이 발언은 퍼플렉시티의 철학이 단순히 정보를 제공하는 데 그치지 않고, 사용자가 보다 나은 질문을 하도록 돕고 그 과정에서 지식의 발견을 촉진하는 데 있음을 잘 보여준다. ◆ 국내 포털의 위기...구글과 MS의 공세 국내 검색 시장에서는 네이버와 다음이 여전히 주요한 포털로 자리 잡고 있지만, 최근 들어 구글과 마이크로소프트(MS)가 AI 기반 검색 서비스를 통해 빠르게 점유율을 확대하면서 국내 포털들의 위기감이 고조되고 있다. 최근 웹로그 분석 사이트 인터넷트렌드 통계에 따르면, 올해 초 네이버와 구글의 국내 검색 시장 점유율 격차는 33.7%포인트였으나, 불과 7개월 만에 이 격차는 16.7%포인트로 좁혀졌다. 이 기간 동안 구글은 약 10%포인트에 가까운 성장을 이루었고, 네이버는 7.7%포인트 하락했다. 특히 주목할 만한 변화는 MS의 빙(Bing)이 다음을 제치고 3위로 올라섰다는 점이다. 이는 AI 기술이 검색 시장에서 얼마나 강력한 파괴력을 지니고 있는지를 보여주는 사례다. 이 같은 변화는 AI 기술이 검색 엔진의 미래를 결정짓는 핵심 요인이 되었음을 의미한다. 구글의 '바드'와 MS의 '챗GPT'가 탑재된 빙은 사용자들에게 새로운 검색 경험을 제공하며 빠르게 시장을 잠식하고 있다. 반면, 국내 포털들은 이 같은 변화에 대해 효과적인 대응책을 마련하지 못하고 있는 상황이다. 네이버와 다음이 과거의 영광에 안주하는 사이, 글로벌 정보기술(IT) 거인들은 이미 AI를 활용해 검색 시장의 판도를 바꾸어 놓고 있다. ◆ 이용 행태의 변화와 규제 리스크와 혁신의 필요성 국내 포털의 위기는 기술적 열세 뿐만 아니라, 신뢰도 하락에서도 비롯되고 있다. 네이버와 다음은 과도한 키워드 광고 노출과 신뢰성 낮은 정보로 인해 사용자들의 신뢰를 잃어가고 있다. 한 조사에 따르면, 전문·학술 자료 검색에서 구글을 선호하는 이용자가 네이버의 두 배에 달하는 것으로 나타났다. 이는 국내 포털들이 제공하는 정보의 신뢰도가 얼마나 낮아졌는지를 단적으로 보여준다. 또한 검색 행태의 변화도 국내 포털에게는 새로운 도전 과제로 떠오르고 있다. 최근 모바일인덱스 조사에 따르면 10대 청소년의 85.4%가 정보 탐색 시 유튜브를 이용한다는 결과가 발표됐다. 이는 텍스트 기반 검색보다 영상 기반의 콘텐츠 소비가 크게 늘고 있음을 의미한다. 이와 같은 변화는 전통적인 텍스트 중심의 검색에 주력해온 국내 포털에게는 매우 큰 도전이다. 젊은 세대가 주로 사용하는 플랫폼이 변화함에 따라, 검색 행태 역시 크게 변하고 있는 것이다. 국내 포털 기업들은 기술적 도전 뿐만 아니라 규제 리스크에도 직면해 있다. 현재 추진 중인 '플랫폼법'은 국내 기업들에게 불리한 역차별을 초래할 수 있다는 우려가 제기되고 있다. 이 법안이 시행될 경우, 국내 포털 기업들은 기존의 규제를 뛰어넘어 더욱 강화된 규제 환경에서 사업을 운영해야 할지도 모른다. 이는 기업들의 신규 채용과 투자가 위축되는 결과로 이어질 수 있으며, 나아가 국내 플랫폼 생태계 전체가 활력을 잃을 수 있는 위험성을 내포하고 있다. 전문가들은 이러한 상황에서 규제보다는 국가적 차원의 지원이 필요하다고 입을 모으고 있다. 국내 포털들이 글로벌 무대에서 경쟁력을 확보할 수 있도록 정부가 보다 적극적인 지원을 해야 한다는 점을 시사하고 있다. ◆ AI 시대의 생존 전략 글로벌 IT 기업들의 공세는 국내 포털에게 중요한 시사점을 제공하고 있다. 단순히 정보를 나열하는 기존의 방식에서 벗어나, 사용자의 호기심을 자극하고 지식 탐구를 돕는 지능형 검색 서비스로의 진화가 필요한 시점이다. 이를 위해 국내 포털들은 몇 가지 전략적 방안을 고려할 필요가 있다. AI 기술 투자를 대폭 확대해야 한다. 네이버의 생성형 AI 검색 서비스인 ‘Cue(큐):’와 같은 자체 AI 모델 개발에 더욱 박차를 가하는 것이 필요하다. 이는 단순히 기술적 경쟁력을 확보하는 것을 넘어, 글로벌 IT 기업들과의 경쟁에서 뒤처지지 않기 위한 필수적인 조치다. 동시에, 글로벌 AI 기업들과의 전략적 제휴를 통해 기술 협력을 강화하는 방안도 고려해볼 만하다. 이를 통해 국내 포털들은 기술력뿐만 아니라, 글로벌 시장에서의 경쟁력을 강화할 수 있을 것이다. 또한 사용자 경험의 혁신이 절실히 필요하다. 앞서 퍼플렉시티가 보여준 것처럼, 단순 정보 제공을 넘어 사용자의 지적 호기심을 자극하고 깊이 있는 탐구를 유도하는 서비스로 거듭나야 한다. 이를 위해 국내 포털들은 사용자 중심의 UI/UX 개선과 더불어, AI를 활용한 맞춤형 정보 제공 시스템을 도입해야 한다. 이를 통해 사용자들이 보다 쉽게 원하는 정보를 찾고, 더욱 깊이 있는 탐구를 할 수 있도록 지원할 필요가 있다. 아울러 신뢰도 회복에 주력해야 한다. 광고 중심의 키워드 콘텐츠 노출을 지양하고, 전문성 있는 정보를 우선적으로 제공하는 알고리즘 개선이 필요하다. 이는 사용자들이 보다 신뢰할 수 있는 정보를 제공받을 수 있도록 하기 위한 필수적인 조치다. 또한, 가짜 뉴스와 같은 신뢰성 낮은 정보의 확산을 막기 위해 보다 엄격한 정보 검증 시스템을 도입할 필요가 있다. 마지막으로 글로벌 시장 진출을 적극 모색해야 한다. 국내 시장에 안주하지 말고, 해외 시장에서도 경쟁력을 갖출 수 있도록 노력해야 한다. 이를 위해 국내 포털들은 글로벌 진출 전략을 강화하고, 현지화된 서비스 제공을 통해 해외 시장에서의 입지를 확대해야 한다. 이는 국내 포털들이 글로벌 IT 기업들과의 경쟁에서 살아남기 위해 필수적인 전략적 선택이 될 것이다. ◆ AI 시대의 검색 전쟁, 글로벌 IT 공세 그리고 국내 포털의 혁신 도전 퍼플렉시티의 등장과 글로벌 IT 기업들의 AI 기반 검색 서비스 공세는 국내 포털 기업들에게 위기이자 기회이다. AI 기술을 중심으로 한 혁신적인 검색 서비스 개발, 사용자 경험의 개선, 신뢰도 회복 등 다각도의 노력이 필요한 시점이다. 이를 위해 국내 포털들은 기술 투자와 혁신을 통해 경쟁력을 강화하고, 사용자들에게 더욱 신뢰할 수 있는 정보와 서비스를 제공해야 한다. 정부 역시 단순한 규제를 넘어 국내 IT 기업들이 글로벌 무대에서 경쟁력을 갖출 수 있도록 지원하는 정책을 마련해야 한다. AI 기술 개발을 위한 R&D 지원, 해외 진출을 위한 제도적 뒷받침 등이 필요하다. 이러한 지원을 통해 국내 포털들이 글로벌 IT 기업들과의 경쟁에서 뒤처지지 않도록 해야 한다. AI 시대의 검색 전쟁은 이제 막 시작됐다. 퍼플렉시티와 같은 혁신적인 스타트업의 도전, 구글과 MS 같은 거대 기업의 공세, 그리고 네이버와 다음으로 대표되는 국내 포털의 대응. 이 삼파전의 결과가 어떻게 될지는 아직 미지수다. 분명한 것은 사용자에게 가장 유용하고 혁신적인 서비스를 제공하는 기업이 궁극적으로 승리할 것이라는 점이다. 우리는 지금 IT 역사의 중요한 변곡점을 목격하고 있다.
2024-08-27 05:00:00
-
AWS, 생성형 AI로 기업 혁신 주도... 안전성과 실용성 강화
[이코노믹데일리] 아마존웹서비스(AWS)가 기업용 생성형 인공지능(AI) 시장에서 혁신을 주도하고 있다. 13일 서울 강남구 AWS코리아 사옥에서 열린 '2024 생성형 AI 미디어 브리핑'에서 AWS는 자사의 대표적 AI 플랫폼인 '아마존 베드록'의 새로운 기능들을 상세히 소개했다. AWS의 대표 AI 플랫폼인 '아마존 베드록'은 다양한 대형 언어 모델(LLM)을 단일 애플리케이션 프로그래밍 인터페이스(API)를 통해 제공한다. 이를 통해 기업 고객은 아마존의 '타이탄', 앤트로픽의 '클로드', 메타의 '라마', 미스트랄 AI의 '미스트랄' 등 여러 모델을 활용하여 AI 애플리케이션을 쉽게 구축할 수 있다. AWS는 하나의 API를 통해 여러 LLM에 접근할 수 있게 함으로써 기업이 AI 애플리케이션을 특정 요구에 맞게 조정할 수 있도록 지원한다. 김선수 AWS코리아 AI·ML 사업개발 수석 스페셜리스트는 "최근 18개월 동안 AWS가 출시한 생성형 AI 및 기계학습 기술의 수는 주요 경쟁사들이 선보인 기술을 모두 합친 것보다 2배 이상 많다"고 밝혔다. 이는 AWS가 AI 기술 혁신에서 선도적 위치를 점하고 있음을 강조했다. 이어 "생성형 AI 모델을 사용하는 기업 중 41%가 3개 이상의 모델을 활용하고 있어, 다양한 모델에 대한 수요가 높다"고 밝혔다. 이번 업데이트에서 가장 주목할 만한 점은 검색 증강 생성(RAG) 기능의 강화다. RAG는 AI가 기존에 학습한 데이터 외에 외부 데이터를 참고해 답변의 질을 높이는 기법이다. AWS는 아마존 S3뿐만 아니라 웹 도메인, 컨플루언스, 세일즈포스, 쉐어포인트 등 다양한 외부 데이터 소스를 RAG에 활용할 수 있도록 했다. AI의 신뢰성과 안전성 향상도 이번 업데이트의 중요한 특징이다. '가드레일 API' 기능은 모든 AI 애플리케이션에 표준화된 보호 조치를 적용할 수 있게 해준다. '컨텍스트 그라운딩 검사'는 AI의 환각을 감지하고 차단하는 기능으로, 답변이 질문과 관련성이 있는지, 기업 데이터에 기반한 내용인지를 체크한다. 강병래 LG유플러스 프로젝트 매니저는 "아마존 베드록을 활용해 영업전산시스템 '유큐브'에 생성형 AI 기능을 탑재했다"며 "다양한 LLM을 손쉽게 선택할 수 있고, 월 300달러 이하의 비용으로 경제적으로 사용 중"이라고 말했다. 개발자를 위한 도구도 강화됐다. '아마존 Q 디벨로퍼'에 추가된 커스터마이제이션 기능은 기업 내부 코드나 모범 사례를 기반으로 맞춤형 코드를 제안한다. 코드 변환 기능은 자바8 기반 코드를 자바17용으로 자동 변환해준다. 윤석찬 AWS코리아 수석 테크 에반젤리스트는 "아마존 내부에서 Q 디벨로퍼의 코드 변환 기능을 활용해 연간 2억 6000만 달러의 비용 절감 효과를 거뒀다"고 밝혔다. AI 안전성에 대한 우려에 대응하기 위해 AWS는 베드록에 '문맥 그라운딩 체크' 기능을 추가했다. 이 기능은 AI 답변의 신뢰성과 정확성을 객관적 수치로 평가하고 필터링한다. 김 수석 스페셜리스트는 "이 기능을 통해 검색 결과의 증명과 요약 작업의 필터링이 75% 향상됐다"고 설명했다.
2024-08-13 17:43:47
-
-
SK텔레콤, 제6회 데보션 테크 데이 개최…AI 기술 스터디 사례 공유
[이코노믹데일리] SK텔레콤은 8일 서울 을지로 SKT타워에서 '제6회 데보션 테크 데이'를 개최하고 102명의 개발자가 12주간 진행한 인공지능(AI) 기술 스터디 사례를 공유했다고 밝혔다. 이번 행사는 개발자들이 자발적으로 참여한 '데보션 오픈랩' 프로그램의 결과물을 소개하며, AI 기술 교류의 장을 마련했다는 점에서 주목받고 있다. 지난 4월 '데보션 오픈랩'을 신설해 개발자들이 최신 AI 기술을 학습하고 연구할 수 있는 환경을 제공해왔다. 이 프로그램에서는 생성형 AI, 오픈 LLM(대규모 언어 모델), LLM 옵스(Operations) 등을 주제로 한 10개의 스터디가 진행되었으며, 백엔드와 네트워크 인프라 등 다양한 기술 분야의 발전을 도모했다. 이번 테크 데이에서는 자폐 아동의 정서적 지원을 위한 LLM 기반 곰인형 ‘에코테디(Echo-Teddy)’, 데이터 추출 및 쿼리 실행을 자동화하는 솔루션 ‘렌즈(Lens)’, AI 문제 생성 자동화 시스템 ‘LLM 에듀뱅크(Edubank)’, 사용자의 여행 일정을 지원하는 솔루션 ‘TGO(Travel Go)’ 등 총 4개의 주요 프로젝트가 공개됐다. 이들 프로젝트는 개발자들의 창의적인 아이디어와 최신 AI 기술을 접목해 실생활에서의 문제 해결을 목표로 하고 있다. '데보션(DEVOCEAN)'은 '개발자들을 위한 영감의 바다(Developers’ Ocean)'라는 의미로, SK ICT 패밀리가 주도하는 대표적인 개발자 커뮤니티다. SK텔레콤은 매 분기 '데보션 테크 데이'를 통해 자사의 기술과 솔루션을 외부에 소개하고, 개발자들 간의 교류를 촉진해 왔다. 특히 이번 행사는 단순한 특강 형식에서 벗어나, 실제 개발자들이 오랜 기간 동안 연구하고 학습한 AI 기술을 공유하는 자리가 되었다. 행사에 참여한 대학생 개발자 김경환 씨는 “데보션 오픈랩을 통해 연령과 소속에 상관없이 다양한 개발자들과 교류하며 시야를 넓힐 수 있었다”며 “개발자로서의 커리어를 고민하고 있는 입장에서 최고의 경험을 얻었다”고 말했다. 이외에도 마이크로소프트의 ‘그래프RAG(GraphRAG)’로 여행 준비하기, AI 플랫폼 ‘쿠브플로우(Kubeflow)’의 활용법, 오픈 LLM/검색 증강 생성(RAG, Retrieval-Augmented Generation) 등 AI 관련 최신 기술과 사례들이 발표되었다. 안정환 SKT 기업문화 담당(CHRO)는 “지난 12주간 진행된 데보션 오픈랩을 통해 개발자 간의 연대가 강화되었으며, 최신 AI 기술의 교류와 발전을 이끄는 양질의 개발 문화를 선도했다”며 “이번 데보션 테크 데이는 집단지성의 힘을 보여준 사례로, SK텔레콤은 앞으로도 급변하는 AI 생태계 속에서 국내 개발자들의 경쟁력 강화에 힘쓸 것”이라고 밝혔다. SK텔레콤은 앞으로도 데보션 테크 데이와 같은 행사를 통해 AI 기술의 발전을 도모하고, 국내 개발자 커뮤니티의 성장을 지속적으로 지원할 계획이다. 이를 통해 SKT는 AI 생태계의 선도 기업으로서의 입지를 더욱 확고히 할 방침이다.
2024-08-08 11:00:00
-
'AX 얼라이언스' 도원결의...6개 AI 기업이 만들어가는 맞춤형 플랫폼 혁명
[이코노믹데일리] 국내 AI 기술 전문기업 6개사가 손을 잡고 기업용 AI 시장 공략에 나섰다. 클루커스, 누리어시스템, 링네트, 투라인코드, 와이즈넛, 위즈 등 6개 회사는 30일 서울 파르나스호텔에서 'AX(AI Transformation) 얼라이언스' 출범식을 개최했다. AX 얼라이언스는 기업들의 AI 도입을 지원하기 위해 각 사의 전문성을 바탕으로 엔드투엔드(End-to-End) AI 플랫폼 구축 솔루션과 서비스를 제공한다. 이를 통해 AI 기술 적용 서비스 및 분야를 확대해 나갈 계획이다. 홍성완 클루커스 대표는 "GPT 등장 초기에는 한 회사의 인력으로 수요 대응이 가능했지만, 이제는 혼자 하기 벅찬 수준이 됐다"며 "6개사는 기업들이 빠르고 쉽게 AI 플랫폼을 적용할 수 있도록 지원하기 위해 '도원결의'했다"고 설명했다. AX 얼라이언스는 AI 인프라 구축, 데이터 전처리, LLM(RAG 구축), 프롬프트 엔지니어링, 파인튜닝, LLMOps, AI 포탈 개발 등 각 사의 전문 기술을 활용해 협력한다. 클루커스와 링네트, 위즈는 클라우드 기반 보안 인프라를, 와이즈넛, 클루커스, 투라인코드는 AI 모델 구축 및 운영을 담당한다. 투라인코드는 사용자 경험 최적화를, 누리어시스템은 보안 기반 AI 포탈 개발을 맡는다. 이러한 협력을 통해 AX 얼라이언스는 산업별 AI 플랫폼 구축 및 레퍼런스 확대, 신속한 기술 도입, 강력한 데이터 보안 및 윤리적 AI 구현, 맞춤형 AI 솔루션 제공, 글로벌 진출 경쟁력 확보 등을 목표로 한다. AX 얼라이언스의 장점으로는 통합 솔루션 제공을 통한 AI 도입 시간 단축, 각 사 강점의 상호 보완적 활용, 유연한 확장성, 비용 효율성 등이 꼽힌다. 홍성완 대표는 "각 사의 AI 관련 인력 300명이면 동시에 30개의 AI 프로젝트를 수행할 수 있게 된다"고 밝혔다. AX 얼라이언스는 신시장 개척을 위한 상시 협의체를 구성해 실증 프로젝트 발굴, 기술검증, 컨설팅, 교육 운영 등 전방위적 협력을 추진한다. 또한 고객의 특화된 요구사항에 맞춘 AI 솔루션 개발을 위해 참여사를 지속 확대할 계획이다. 홍성완 대표는 "AX 얼라이언스를 통해 글로벌 진출도 타진할 것"이라며 "공동출자회사 설립 가능성도 열려 있다"고 덧붙였다. 이를 통해 대형 SI 업체 중심의 수주 관행을 바꾸고, 출혈 경쟁을 피하면서 고객이 원하는 AI 플랫폼을 구축할 수 있을 것으로 기대된다. AX 얼라이언스는 기존 B2B AI 플랫폼 기업들과 차별화된 접근법을 강조한다. 와이즈넛의 강용성 대표는 "20년 넘게 다양한 도메인의 B2B 사업에서 언어 자원과 처리 업무를 해온 경험"을 강점으로 내세웠다. 홍 대표는 "특정 비즈니스 모델에 얽매이지 않고 기술을 가장 빠르게 따라가며 학습해 고객에게 최적의 솔루션을 제공하는 것이 AX 얼라이언스의 궁극적인 목표"라고 강조했다.
2024-07-30 18:32:13
-
주파수 국제표준화 무대 한국 진출…ITU-R 연구반 의장단 8명 배출
[이코노믹데일리] 주파수 관련 국제표준화를 이끄는 국제전기통신연합 전파통신 부문(ITU-R) 전파관리 연구반(SG1) 의장단에 한국 전문가가 새로 선출됐다. 이로써 ITU-R 의장단에 진출한 한국 전파통신 전문가는 총 8명으로 역대 최다이다. 과학기술정보통신부 국립전파연구원은 최근 스위스 제네바에서 열린 ITU-R SG1 국제회의에서 정용준 단장(한국정보통신기술협회)이 부의장으로 선출됐다고 24일 밝혔다. 이전에도 한국은 여러 연구반에서 활약해왔다. 지상통신 연구반(SG5) 의장으로 위규진 한국전파진흥협회 전문위원, WRC-27 준비그룹(CPM-27) 부의장으로 박종민 한국전자통신연구원 책임, 전파통신자문반(RAG) 부의장으로 임재우 전파연 연구관이 활동 중이다. 또한, 전파전파 연구반(SG3) 부의장 김종호 한국전자통신연구원 전문위원, 위성업무 연구반(SG4) 부의장 오대섭 한국전자통신연구원 책임, 방송업무 연구반(SG6) 부의장 이철희 연세대 교수, 과학업무 연구반(SG7) 부의장 이황재 싱크테크노 전문위원이 활동하고 있다. 과기정통부는 ITU 활동 이래 최초로 의장을 포함한 ITU-R 부문 8개 연구반 모두에서 의장단을 확보했다고 설명했다. 이는 국내 산·학·연·관 전문가들이 협력해 ITU-R의 모든 연구반에서 주도적으로 국제표준화 활동을 추진한 결과라고 덧붙였다. 각 연구반의 운영과 의제 설정을 주도할 수 있는 선도적 지위를 확보한 점에서 큰 의미를 가진다. 선출된 연구반 의장단은 2027년 개최되는 세계전파통신회의(WRC-27)까지 이어지는 연구회기 동안 연구반의 핵심 과제를 추진할 예정이다. 주요 논의 의제로는 6G 국제표준인 IMT-2030 표준화와 주파수 발굴, 스펙트럼 가용성 평가와 예측 연구, 100㎓ 이상 대역 전파전파 연구, 위성 IMT-2020 표준화, 무선랜(RLAN) 시스템 특성 연구, 신규 방송 서비스 모델 표준화 등이 있다. 한편, ITU 국제표준화 활동에 체계적으로 대응하기 위해 국립전파연구원은 한국ITU연구위원회를 설치·운영하고 있다.
2024-06-24 14:15:46
-
-
-
-
SK텔레콤, 'AI 멀티엔진' 텔코LLM 활용…'글로벌 시장 공략도 본격화'
[이코노믹데일리] SK텔레콤은 텔코LLM(Large Language Model)을 활용한 다양한 유즈케이스를 모색하고 적극적으로 확대 적용해 나가고 있다. 텔코LLM은 5G 요금제, T멤버십, 공시지원금 등 우리나라의 통신 전문 용어와 AI 윤리가치까지 숙지한 '똑똑한' LLM으로, 고객센터, 인프라, 마케팅, 유통, 법무, HR 등 통신사 운영의 다양한 영역에서 업무 효율성을 높일 것으로 기대된다. SK텔레콤은 텔코 LLM을 통해 고객센터 상담사의 업무 효율성을 크게 향상시킬 계획이다. 현재 고객센터 상담 1건에 약 3분 30초 정도 소요되는데, 텔코 LLM을 도입하면 상담사가 고객과 통화하는 동안 LLM이 해결책을 상담사에게 제공하고 상담 내용을 요약해주는 등 상담 후 처리까지 소요되는 시간을 크게 단축시킬 수 있을 것으로 예상된다. 뿐만 아니라, 텔코LLM은 고객의 문의 내용을 정확하게 파악하고, 상황에 맞는 최적의 답변을 제시할 수 있어 고객 만족도를 높일 수 있을 것으로 기대된다. 또한, 텔코LLM은 고객의 불만 사항을 분석하고, 이를 바탕으로 서비스 개선 방안을 마련하는데에도 활용될 수 있다. 텔코 LLM은 네트워크 인프라 운영에도 활용될 수 있다. 인프라 운용자가 네트워크 모니터링 중 문제가 발생하면, 실시간으로 텔코 LLM에 질문을 입력해 해결 방안을 답변으로 받아볼 수 있다. 텔코 LLM이 장비 매뉴얼, 대응 사례 등의 정보를 기반으로 상황에 맞는 답변을 빠르게 제공하기 때문에, 사람이 직접 정보를 찾는 것보다 대응 시간을 단축시킬 수 있다. ◆ 텔코LLM 개발 과정 공개…'데이터+인공지능+인간 피드백'으로 완성 SK텔레콤의 LLM인 에이닷엑스(A.X)와 오픈AI의 GPT-4, 앤트로픽의 클로드에 한국어로 된 통신 관련 데이터를 학습시켜 다양한 텔코LLM을 개발하는 과정을 공개했다. SK텔레콤은 이 과정을 통해 텔코 특화 LLM 라인업을 다양하게 확보하고 성능과 비용 측면에서 최적화를 달성할 계획이다. SK텔레콤은 텔코LLM 개발을 위해 우선 텔코 데이터를 수집하고 비정형·정형 데이터를 선별, 정제하는 작업을 진행한다. 이를 기반으로 범용 LLM을 통신사 전용으로 파인튜닝(미세 조정)하는 과정을 거친다. 범용 LLM은 통신사의 번호 이전 방법이나 절차 등 전문 지식을 제대로 학습하지 않아 요금제 추천 같은 고객 요구에 제대로 대응하기 어렵다. 통신 관련 데이터를 추가로 학습해 이 문제를 해결하는 과정이 텔코LLM의 파인튜닝이다. 파인튜닝이 된 텔코LLM은 휴먼 피드백 기반의 강화 학습(RLHF; Reinforcement Learning from Human Feedback) 과정을 거친다. 실제 텔코LLM이 답변한 내용에 대하여 상담사들이 품질, 만족도 등을 평가하는 과정이다. 고객의 문의에 대해 유용한 답변을 했는지, 문맥을 제대로 이해했는지 등에 대해 채점하는 사람의 평가를 통한 강화 학습이다. 마지막으로 텔코LLM의 언어 능력, 추론 능력, 통신 특화 과제 수행 능력 등에 대해 모델 평가(벤치마킹)를 한다. 예를 들어 고객이 요금제를 문의하거나 부가서비스 변경을 요청하는 식의 상담 유형을 선택하는 영역에서 낮은 점수를 받으면 관련 데이터를 더 구축하는 방식으로 학습하는 식의 파인튜닝 과정을 통해 계속 고도화하는 방식이다. 이 모든 과정은 계속 주기적으로 반복하여 텔코LLM을 더 똑똑하게 만든다. ◆ 고객센터부터 해외 시장까지, 텔코 LLM 기술의 무한한 가능성 SK텔레콤은 자체 개발한 텔코 LLM 기술을 기반으로 해외 시장 진출을 본격화한다고 30일 밝혔다. 텔코 LLM은 통신 분야에 특화된 대규모 언어 모델로, 고객센터, 인프라, 마케팅, 유통, 법무, HR 등 다양한 영역의 업무 효율성을 극대화할 수 있도록 설계됐다. SK텔레콤은 텔코 LLM을 우선 국내 통신사 운영 전반에 적용할 계획이다. 고객센터에서는 고객 문의에 대한 정확하고 신속한 답변을 제공하고, 인프라 운영에서는 네트워크 문제를 실시간으로 진단·해결하는 데 활용될 예정이다. 또한, 마케팅, 유통, 법무, HR 등 다양한 부서에서도 텔코 LLM을 활용하여 업무 효율성을 높일 수 있을 것으로 전망된다. SK텔레콤은 텔코 LLM 기술을 더욱 효과적으로 활용하기 위해 '텔코 LLM 인텔리전스 플랫폼'도 함께 공개했다. 이 플랫폼은 멀티 LLM, 멀티모달, 오케스트레이션, 검색증강생성(RAG) 등을 지원하며, 통신사들이 텔코 LLM 기반의 인공지능 서비스를 쉽고 효율적으로 구축하고 개발할 수 있도록 돕는다. 30일 열린 SKT 텔코 LLM 기자설명회에서 에릭 데이비스 담당과 정민영 담당이 취재진의 질문을 받고 있다.[사진=선재관 기자] SK텔레콤은 텔코 LLM 기술과 텔코 LLM 인텔리전스 플랫폼을 기반으로 해외 시장 진출을 본격화할 계획이다. 해외 통신사들과 협력하여 텔코 LLM 기반의 인공지능 서비스를 공동 개발하고, 텔코 LLM 인텔리전스 플랫폼을 해외 시장에 진출시킬 예정이다. SK텔레콤은 통신 분야에서 30년 이상 축적한 경험과 노하우, 뛰어난 AI 기술력, 해외 시장에서의 성공적인 사업 경험을 바탕으로 해외 시장에서도 텔코 LLM 기술을 성공적으로 구축하고 글로벌 인공지능 시장의 선두 기업으로 도약할 것으로 기대된다.
2024-04-30 16:31:31
-
-
네이버클라우드, 원티드랩과 손잡고 기업 맞춤형 생성형 AI 도입 가속화
[이코노믹데일리] 네이버클라우드(대표 김유원)는 15일 원티드랩과 '하이퍼클로바X 기반 원티드 LaaS 서비스 협력을 위한 업무협약'을 체결했다고 밝혔다. 이번 협약은 네이버의 초대규모 AI '하이퍼클로바X'와 원티드랩의 생성형 AI 개발·운영 구독 솔루션인 '원티드 LaaS(LLM-as-a-Service)'를 결합해 기업의 생성형 AI 도입을 가속화하는 것을 목표로 한다. 협약에 따르면 양사는 △'하이퍼클로바X'의 활용 확대 지원 △원티드 LaaS 전파를 위한 공동 협력 △성공 사례에 대한 대외 홍보 등에 협력할 예정이다. '하이퍼클로바X'는 언어 능력뿐 아니라 보편 지식, 프로그래밍 등 다양한 분야 문제 해결력까지 갖춘 초거대 언어모델(LLM)이다. 최근 발표된 '하이퍼클로바X'의 테크니컬 리포트에 따르면 '하이퍼클로바X'는 한국어, 일반상식, 수학, 코딩 부문 성능 평가에서 글로벌 오픈소스 모델을 제치고 1위를 기록했으며, 한국어와 영어 데이터를 활용해 제3의 언어로 추론하는 다국어 능력 또한 뛰어남을 확인했다. 고객들은 기업이 보유한 자체 데이터를 '하이퍼클로바X'와 결합해 사용자 니즈에 맞는 신속한 응답을 제공하고 다양한 비즈니스 기회 모색이 가능하다. 원티드 LaaS는 원티드랩이 다수 생성형 AI 서비스를 개발·운영하며 쌓은 노하우를 집약한 솔루션이다. △생성형 AI 서비스를 쉽게 개발할 수 있는 환경 △다양한 LLM 모델 △동화된 테스트 환경 △프로젝트 및 프리셋 단위 상세한 토큰 사용량 관리 △할루시네이션 제어를 위한 RAG 기능 등을 구독 형태로 제공한다. 네이버클라우드 윤희영 상무는 "하이퍼클로바X는 한국 특화 지식뿐 아니라 수학적 추론, 프로그래밍, 다국어 능력 등 다양한 영역에서 글로벌 수준의 경쟁력을 보유하고 있다"며 "이번 협약을 통해 하이퍼클로바X의 활용과 확산을 촉진하고, 생성형 AI 도입을 가속화하여 국내 기업들의 AI 전환에 기여할 것"이라고 말했다. 원티드랩 주형민 AX사업개발 총괄은 "네이버클라우드와 협력을 통해 기업고객이 생성형 AI 서비스 개발 시 글로벌 수준의 능력을 갖춘 '하이퍼클로바X'를 활용할 수 있다는 점, 그리고 언어모델의 선택지를 다양화할 수 있다는 점에 많은 효능감을 느끼게 될 것"이라며 "이번 협약을 시작으로 네이버클라우드와 함께 기업의 생성형 AI 도입을 돕고, 나아가 국내 생성형 AI 생태계 활성화에 기여할 수 있는 다양한 활동을 선보일 계획”이라고 말했다.
2024-04-15 13:57:25