개인정보보호위원회는 13일 전체회의를 열고 카카오 AI 비서 서비스 '카나나'에 대한 사전 적정성 검토 결과를 의결했다고 밝혔다. 개인정보위는 카카오가 신청한 사전 적정성 검토를 통해 '카나나' 서비스의 개인정보 보호 방안을 면밀히 검토하고 법적 요구사항 준수 및 이용자 개인정보 보호를 위한 추가적인 안전장치 마련을 권고했다.
사전 적정성 검토는 기업이 새로운 서비스 출시 전 개인정보보호법 준수 여부를 사전 검토받고 적정성 평가를 통과할 경우 향후 법 위반에 대한 행정처분을 면제받을 수 있는 제도다. 개인정보위가 사전 적정성 검토 제도와 관련해 논의 결과 및 향후 조치 계획을 공개 브리핑 형태로 밝힌 것은 이번이 처음이다.
카카오는 지난해 12월, 상반기 출시 예정인 AI 비서 서비스 '카나나'의 개인정보보호법 준수 및 이용자 사생활 보호를 위해 사전 적정성 검토를 신청했다. '카나나'는 카카오톡과 별개로 출시되는 AI 친구 서비스로 자체 개발한 거대언어모델(LLM)과 오픈AI의 챗GPT 모델을 결합하여 대화 맥락을 파악, 최적화된 답변을 제공하는 것이 특징이다. '카나'와 '나나' 두 가지 형태로 제공되며 '카나'는 단체 대화 기반 응답, '나나'는 개인 대화 기반 응답에 특화됐다.
개인정보위와 카카오는 사전 적정성 검토 과정에서 △대화방 참여자 개인정보 발설 방지 △대화 데이터 별도 데이터베이스 보관 및 오픈AI 저장 차단 △개인 식별 정보 암호화 처리 △오픈AI 위탁 계약 조건 명확화 △AI 모델 학습 데이터 활용 시 이용자 동의 의무화 등 강화된 안전장치 마련에 합의했다.
카카오는 이용자 대화 데이터를 자사 LLM 학습 데이터로 활용할 경우 반드시 이용자에게 별도 동의를 받고 동의하지 않은 이용자의 데이터는 학습에 활용하지 않기로 했다. 오픈AI와 데이터 위탁 계약 시에는 데이터 활용 목적 제한, 사업 목적 외 사용 금지, 챗GPT 응답 후 데이터 미저장 등 개인정보 보호 조항을 명확히 명시하여 데이터 유출 및 오용 가능성을 원천 차단할 예정이다.
전승재 개인정보위 조사3팀장은 “카카오가 제시한 안전 조치 방안은 개인정보위와의 긴밀한 협의를 통해 구체화된 것”이라며 “카나나 서비스 출시 전 언급된 모든 안전장치가 완벽하게 구현될 수 있도록 철저히 점검할 계획”이라고 강조했다. 또한 사전 적정성 검토 제도를 공개 브리핑한 배경에 대해 "카카오가 선제적으로 안전장치를 마련하고 개인정보위와 적극적으로 협력하여 이용자들이 안심하고 서비스를 이용할 수 있도록 노력했다는 점을 알리기 위함"이라고 설명했다.
개인정보위는 '카나나' 서비스 출시 후 카카오의 사전 적정성 검토 이행 상황을 지속적으로 점검, 이용자 개인정보 보호에 만전을 기할 방침이다.
댓글 더보기