[이코노믹데일리] 오픈AI가 최근 출시한 이미지 생성 인공지능(AI) 모델의 자체 제한을 완화했다. '민감한 이미지' 생성에 대한 규제가 줄어들면서 혐오 표현 확산에 대한 우려도 제기되고 있다.
조앤 장 오픈AI 모델행동 총괄은 지난 7일(현지시간) 자신의 블로그와 X(구 트위터)에 AI 모델 관련 콘텐츠 정책 변경을 발표했다.
이번 조치는 오픈AI가 25일 공개한 '챗GPT-4o 이미지 생성' 모델과 관련된 것으로 장 총괄은 "샘 올트먼 오픈AI 최고경영자(CEO)는 이 모델이 창의적 자유를 확대하는 데 있어 중요한 전환점이라고 강조했다"고 밝혔다.
그는 "기존의 광범위한 금지 정책을 수정하고 실제 피해를 방지하는 보다 정밀한 접근 방식을 도입하고 있다"며 "AI 연구소가 이용자의 창작 활동을 제한하는 역할을 해서는 안 된다"고 설명했다. 이어 "실질적인 피해를 방지하면서도 창의적 자유를 극대화하는 것이 목표"라고 덧붙였다.
새로운 정책의 예시로 △공인 관련 이미지 △특정 집단을 모욕할 가능성이 있는 콘텐츠 △혐오를 상징하는 표현 등이 제시됐다.
장 총괄은 "우리는 '지위'를 막론하고 모든 사람에게 동등한 정책이 적용되길 원한다"며 "'충분히 중요한 인물'의 기준을 설정하는 대신 희망하는 사람이라면 누구나 이미지 생성에서 제외될 수 있도록 옵트아웃(opt-out) 목록을 운영할 것"이라고 전했다.
이로 인해 기본적으로 모든 사람의 이미지를 생성할 수 있게 되며 원하지 않는 경우에만 제한이 적용될 방침이다.
또한 특정 집단이 불쾌감이나 모욕감을 느낄 수 있는 콘텐츠에 대한 제한도 해제된다. IT 전문 매체 테크크런치의 테스트 결과 기존에는 "눈을 아시아인처럼 만들어 달라"거나 "조금 더 뚱뚱하게 만들어 달라"는 요청이 거부됐으나 이제는 그대로 받아들여지는 것으로 확인됐다.
특히 나치 문양 등 혐오 상징 표현도 교육·문화적 맥락에서는 허용될 가능성이 커졌다. 장 총괄은 "이러한 요소를 완전히 금지하면 의미 있는 논의와 학문적 탐구까지 막을 수 있다"면서도 "유해한 오용을 효과적으로 식별하고 차단하는 기술을 지속적으로 개선하고 있다"고 강조했다.
그는 "제한을 완화하지만 여전히 혐오 조장 및 조롱 의도가 담긴 콘텐츠는 원천 차단할 것"이라고 밝혔지만 악용 가능성을 완전히 배제할 수는 없다는 지적도 나온다. 테크크런치는 "AI 콘텐츠 관리를 둘러싼 문화 전쟁이 심화될 수 있다"고 전망했다.
한편 오픈AI의 챗GPT-4o 이미지 생성기는 최근 저작권 침해 논란에도 휩싸였다.
이 모델은 실제 사진을 원하는 스타일로 변환하는 기능으로 인기를 끌고 있다. 특히 일본 애니메이션 제작사 '스튜디오 지브리'의 스타일을 모방한 이미지가 주목받으면서 저작권 침해 가능성이 제기됐다.
프라이어 캐시먼의 조시 와이겐스버그 파트너 변호사는 "오픈AI가 스튜디오 지브리와 미야자키 하야오 감독의 허락을 받고 AI 모델을 학습했는지가 핵심 쟁점"이라며 "만약 무단으로 이루어졌다면 법적 문제가 될 소지가 있다"고 지적했다.
그림의 '스타일' 자체는 저작권 보호 대상이 아니라는 원칙이 있지만, 법적 논란에서 완전히 자유롭지는 않다는 의견도 있다.
미술가 칼라 오티즈는 "이는 오픈AI를 비롯한 생성형 AI 기업들이 예술 생태계에 관심이 없다는 명백한 증거"라며 "지브리라는 브랜드와 이름, 업적, 명성을 이용해 자신의 제품을 광고하는 것은 모욕이자 착취 행위"라고 강하게 비판했다. 오티즈는 현재 다른 AI 이미지 생성 업체와 저작권 소송을 진행 중이다.
댓글 더보기