2025.08.06 수요일
검색
'AI 가드레일' 검색결과
기간검색
-
~
검색영역
검색어
-
카카오, APEC 포럼서 자체 개발 AI 모델 '카나나' 공개 [이코노믹데일리] 카카오가 5일 열리는 ‘APEC 2025 코리아 글로벌 디지털·AI 포럼’에 참가해 자체 개발한 인공지능(AI) 모델을 공개하며 글로벌 시장에 기술력을 선보인다. 특히 오픈소스로 공개한 멀티모달 언어모델과 AI 가드레일 모델을 전면에 내세워 AI 생태계 기여 의지를 강조했다. 이번 포럼은 인천 송도 쉐라톤 그랜드호텔에서 열리며 카카오는 기업 전시 부스를 마련해 △경량 멀티모달 언어모델 ‘Kanana-1.5-v-3b’ △AI 가드레일 모델 ‘Kanana Safeguard’ 2종을 시연한다. 방문객들은 시연 공간에서 직접 모델의 기능과 특징을 체험할 수 있다. ‘Kanana-1.5-v-3b’는 텍스트뿐 아니라 이미지까지 이해하는 멀티모달 모델로 뛰어난 한국어·영어 이미지 이해 능력을 갖췄다. 예를 들어 광화문 사진을 보여주며 장소 설명을 요청하면 “이 사진은 서울 광화문 일대를 배경으로 하고 있습니다”와 같이 한국 문화에 대한 높은 인식력을 바탕으로 정확한 답변을 내놓는다. 함께 공개된 ‘카나나 세이프가드’는 생성형 AI 서비스의 안전성과 신뢰성을 확보하기 위한 AI 가드레일 모델이다. 한국어 및 한국 문화를 반영한 자체 데이터셋으로 학습해 유해 콘텐츠 탐지 등에서 한국어에 특화된 성능을 보인다. 카카오는 지난 5월 이 모델을 국내 기업 최초로 오픈소스로 공개한 바 있다. 한편 카카오는 이날 메타(Meta)가 주최한 이벤트 세션의 패널토론에도 참여했다. 김경훈 카카오 AI Safety 리더는 연사로 나서 ‘오픈소스 AI의 가치’를 주제로 리눅스 재단, KISTI 등과 함께 논의를 진행하며 글로벌 기술 교류에도 힘썼다. 카카오 관계자는 “전시 공간을 통해 카카오가 구축한 AI 기술 개발 현황을 직접 경험해 볼 수 있는 계기를 마련하고자 했다”며 “앞으로도 AI 기술 개발을 토대로 국내 AI 생태계 활성화와 경쟁력 확보를 위해 노력해 갈 것”이라고 말했다.2025-08-05 15:16:19
-
"AI 유해성 막는다" 카카오, 안전 검증 모델 '카나나 세이프가드' 공개 [이코노믹데일리] 카카오가 인공지능(AI) 서비스의 안전성과 신뢰성을 검증할 수 있는 AI 가드레일 모델 ‘카나나 세이프가드’를 개발하고 국내 기업 최초로 모델 3종을 오픈소스로 공개한다고 27일 밝혔다. 최근 다양한 생성형 AI 서비스 출시로 유해 콘텐츠 위험성에 대한 사회적 우려가 커짐에 따라 기술적·제도적 장치를 마련한 것이다. 주요 빅테크 기업들도 생성형 AI로 발생 가능한 위험 요소를 감지하는 특화 모델을 운영 중이다. ‘카나나 세이프가드’는 카카오가 자체 개발한 언어모델 ‘카나나’를 기반 기술로 활용했으며 한국어와 한국 문화를 반영한 자체 구축 데이터셋을 통해 한국어에 특화된 성능을 갖췄다. 카카오는 AI 모델의 정밀도와 재현율을 평가하는 F1 스코어를 기준으로 한국어 성능에서 글로벌 모델 이상의 성과를 기록했다고 설명했다. 이번에 오픈소스로 공개된 모델은 리스크 유형에 따라 유해성과 위험성을 효과적으로 탐지할 수 있는 3종이다. △사용자의 발화 또는 AI 답변에서 증오, 괴롭힘, 성적 콘텐츠 등에 대한 유해성을 탐지하는 ‘카나나 세이프가드’ △개인정보나 지식재산권 등 법적 측면에서 주의가 필요한 요청을 탐지하는 ‘카나나 세이프가드 사이렌’ △AI 서비스를 악용하려는 사용자 공격을 탐지하는 ‘카나나 세이프가드 프롬프트’이며 모두 허깅페이스를 통해 다운로드 가능하다. 카카오는 안전한 AI 생태계 구축에 기여하고자 해당 모델에 상업적 이용과 수정·재배포 등이 자유로운 아파치 2.0 라이선스를 적용했다. 향후 지속적인 업데이트를 통해 모델을 고도화할 예정이다. 김경훈 카카오 AI 세이프티 리더는 "생성형 AI의 등장 이래 기술 발전과 더불어 AI 윤리와 안전성에 대한 중요성이 국내외에서 점차 부각되고 있다"며 "책임감 있는 AI 구축에 대한 인식을 널리 확산시키고 사회적 가치를 고려한 기술 개발이 이어질 수 있도록 선제적인 대응을 이어갈 계획"이라고 말했다.2025-05-27 10:21:53
많이 본 뉴스
영상
Youtube 바로가기
![[기자수첩] 지시로 SPC 산재 막을 수 없다…진짜 실행력 증명돼야](https://image.ajunews.com/content/image/2025/07/28/20250728160448220653_518_323.jpg)