2025.11.05 수요일
검색
'AI 가드레일' 검색결과
기간검색
-
~
검색영역
검색어
-
행안부, 네이버·카카오와 'AI 국민비서' 만든다…연내 시범 서비스 [이코노믹데일리] 정부가 국민 누구나 일상적인 대화만으로 공공서비스를 이용할 수 있는 ‘AI 국민비서’ 시대를 연다. 이를 위해 행정안전부가 국내 대표 빅테크 기업인 네이버, 카카오와 손잡고 민간의 최신 인공지능(AI) 기술을 공공서비스에 접목하는 대규모 프로젝트에 착수했다. 행정안전부는 27일 네이버, 카카오와 ‘AI 에이전트 기반 공공서비스 혁신을 위한 업무협약’을 체결했다고 밝혔다. 3사는 이번 협약을 통해 민간 AI 에이전트에 공공서비스를 연계하는 ‘AI 국민비서(가칭)’ 시범 서비스를 연내에 선보일 계획이다. ‘AI 국민비서’는 복잡한 홈페이지 방문이나 앱 설치 없이 국민들이 가장 많이 사용하는 네이버나 카카오톡 플랫폼에서 AI와 대화하는 것만으로 공공서비스를 이용할 수 있도록 하는 혁신적인 서비스다. 시범 서비스는 전자증명서 발급·제출, 유휴 공공자원 예약(공유누리) 등 국민 수요가 높은 분야부터 시작된다. 이번 프로젝트에서 네이버와 카카오는 각각 자사의 핵심 AI 기술력을 바탕으로 경쟁과 협력을 펼친다. 네이버는 자체 AI 파운데이션 모델인 ‘하이퍼클로바X’를 기반으로 AI 에이전트를 구축한다. 네이버 웹과 앱을 통해 제공될 시범 서비스는 공공시설 예약 후 주변 맛집을 추천해주는 등 네이버의 다른 서비스와 연계한 맞춤형 추천 기능을 더해 편의성을 높일 계획이다. 카카오는 자체 거대언어모델 ‘카나나’를 기반으로 AI 에이전트를 개발해 국민 메신저 카카오톡에 탑재한다. 특히 유해 콘텐츠를 걸러내는 AI 가드레일 모델 ‘카나나 세이프가드’를 적용해 서비스의 신뢰성과 안전성을 확보하는 데 주력한다. 이번 협약은 정부가 민간의 혁신 기술을 적극적으로 수용해 ‘AI 민주정부’를 실현하려는 의지를 보여주는 대표적인 사례다. 정부는 시범 서비스를 거쳐 향후 생애주기별 행정 업무를 한 번에 처리하는 원스톱 서비스로 발전시킨다는 목표다. 윤호중 행정안전부 장관은 “국민이 일상에서 체감할 AI민주정부를 실현하기 위해 민간의 혁신적인 기술과 협력이 필수”라며 “국민 누구나 말 한마디로 쉽고 편리하게 공공서비스를 이용하는 서비스 환경을 만들겠다”고 말했다. 최수연 네이버 대표는 “그간의 협력 경험을 바탕으로 이번 협약이 미래 행정서비스 혁신의 중요한 출발점이 될 수 있도록 최선의 노력을 다 하겠다”고 밝혔으며 카카오 측 역시 “국민의 일상 속 공공서비스 접근 방식을 근본적으로 혁신하는 계기가 될 것”이라고 화답했다.2025-10-27 16:44:50
-
카카오, APEC 포럼서 자체 개발 AI 모델 '카나나' 공개 [이코노믹데일리] 카카오가 5일 열리는 ‘APEC 2025 코리아 글로벌 디지털·AI 포럼’에 참가해 자체 개발한 인공지능(AI) 모델을 공개하며 글로벌 시장에 기술력을 선보인다. 특히 오픈소스로 공개한 멀티모달 언어모델과 AI 가드레일 모델을 전면에 내세워 AI 생태계 기여 의지를 강조했다. 이번 포럼은 인천 송도 쉐라톤 그랜드호텔에서 열리며 카카오는 기업 전시 부스를 마련해 △경량 멀티모달 언어모델 ‘Kanana-1.5-v-3b’ △AI 가드레일 모델 ‘Kanana Safeguard’ 2종을 시연한다. 방문객들은 시연 공간에서 직접 모델의 기능과 특징을 체험할 수 있다. ‘Kanana-1.5-v-3b’는 텍스트뿐 아니라 이미지까지 이해하는 멀티모달 모델로 뛰어난 한국어·영어 이미지 이해 능력을 갖췄다. 예를 들어 광화문 사진을 보여주며 장소 설명을 요청하면 “이 사진은 서울 광화문 일대를 배경으로 하고 있습니다”와 같이 한국 문화에 대한 높은 인식력을 바탕으로 정확한 답변을 내놓는다. 함께 공개된 ‘카나나 세이프가드’는 생성형 AI 서비스의 안전성과 신뢰성을 확보하기 위한 AI 가드레일 모델이다. 한국어 및 한국 문화를 반영한 자체 데이터셋으로 학습해 유해 콘텐츠 탐지 등에서 한국어에 특화된 성능을 보인다. 카카오는 지난 5월 이 모델을 국내 기업 최초로 오픈소스로 공개한 바 있다. 한편 카카오는 이날 메타(Meta)가 주최한 이벤트 세션의 패널토론에도 참여했다. 김경훈 카카오 AI Safety 리더는 연사로 나서 ‘오픈소스 AI의 가치’를 주제로 리눅스 재단, KISTI 등과 함께 논의를 진행하며 글로벌 기술 교류에도 힘썼다. 카카오 관계자는 “전시 공간을 통해 카카오가 구축한 AI 기술 개발 현황을 직접 경험해 볼 수 있는 계기를 마련하고자 했다”며 “앞으로도 AI 기술 개발을 토대로 국내 AI 생태계 활성화와 경쟁력 확보를 위해 노력해 갈 것”이라고 말했다.2025-08-05 15:16:19
-
"AI 유해성 막는다" 카카오, 안전 검증 모델 '카나나 세이프가드' 공개 [이코노믹데일리] 카카오가 인공지능(AI) 서비스의 안전성과 신뢰성을 검증할 수 있는 AI 가드레일 모델 ‘카나나 세이프가드’를 개발하고 국내 기업 최초로 모델 3종을 오픈소스로 공개한다고 27일 밝혔다. 최근 다양한 생성형 AI 서비스 출시로 유해 콘텐츠 위험성에 대한 사회적 우려가 커짐에 따라 기술적·제도적 장치를 마련한 것이다. 주요 빅테크 기업들도 생성형 AI로 발생 가능한 위험 요소를 감지하는 특화 모델을 운영 중이다. ‘카나나 세이프가드’는 카카오가 자체 개발한 언어모델 ‘카나나’를 기반 기술로 활용했으며 한국어와 한국 문화를 반영한 자체 구축 데이터셋을 통해 한국어에 특화된 성능을 갖췄다. 카카오는 AI 모델의 정밀도와 재현율을 평가하는 F1 스코어를 기준으로 한국어 성능에서 글로벌 모델 이상의 성과를 기록했다고 설명했다. 이번에 오픈소스로 공개된 모델은 리스크 유형에 따라 유해성과 위험성을 효과적으로 탐지할 수 있는 3종이다. △사용자의 발화 또는 AI 답변에서 증오, 괴롭힘, 성적 콘텐츠 등에 대한 유해성을 탐지하는 ‘카나나 세이프가드’ △개인정보나 지식재산권 등 법적 측면에서 주의가 필요한 요청을 탐지하는 ‘카나나 세이프가드 사이렌’ △AI 서비스를 악용하려는 사용자 공격을 탐지하는 ‘카나나 세이프가드 프롬프트’이며 모두 허깅페이스를 통해 다운로드 가능하다. 카카오는 안전한 AI 생태계 구축에 기여하고자 해당 모델에 상업적 이용과 수정·재배포 등이 자유로운 아파치 2.0 라이선스를 적용했다. 향후 지속적인 업데이트를 통해 모델을 고도화할 예정이다. 김경훈 카카오 AI 세이프티 리더는 "생성형 AI의 등장 이래 기술 발전과 더불어 AI 윤리와 안전성에 대한 중요성이 국내외에서 점차 부각되고 있다"며 "책임감 있는 AI 구축에 대한 인식을 널리 확산시키고 사회적 가치를 고려한 기술 개발이 이어질 수 있도록 선제적인 대응을 이어갈 계획"이라고 말했다.2025-05-27 10:21:53
많이 본 뉴스
영상
Youtube 바로가기
![[데스크칼럼] 2025 APEC이 산업계에 남긴 과제](https://image.ajunews.com/content/image/2025/11/04/20251104141040830643_518_323.jpg)