[이코노믹데일리] 오픈AI가 챗GPT로 작성된 텍스트를 탐지할 수 있는 도구를 개발했지만, 이를 공개하지 않고 있는 것으로 확인됐다. 월스트리트저널(WSJ)은 4일 오픈AI가 약 1년 동안 챗GPT 표절 검사기를 준비해왔으나, 공개 여부에 대한 논쟁이 이어졌다고 보도했다.
이 도구는 챗GPT로 생성된 텍스트에 숨겨진 워터마크를 인식할 수 있으며, 현재 이 워터마크는 인간의 눈에는 보이지 않지만 탐지기에는 감지된다. 탐지기는 문서 전체나 일부가 챗GPT로 작성됐을 가능성을 점수화하여 표시하며, 정확도는 99.9%에 달하는 것으로 알려졌다.
내부 문서에 따르면, 오픈AI의 최고경영자(CEO) 샘 알트먼과 최고기술책임자(CTO) 미라 무라티는 표절 탐지기 출시를 논의했으나, 최종적인 출시 결정에는 소극적인 입장을 보였다. 한 직원은 "챗GPT가 편리함을 제공하는 만큼 윤리적 장치도 필수적"이라고 주장했지만, 도구의 공개는 여전히 미뤄지고 있다.
챗GPT는 몇 초 만에 에세이나 연구 논문을 작성할 수 있어, 학생들이 이를 활용하여 표절을 시도한 사례가 많았다. 뉴욕시의 영어와 저널리즘 교사 알렉사 커터맨은 "교사들 사이에서 챗GPT 표절 문제에 대한 우려가 끊임없이 제기되고 있다"고 WSJ에 전했다.
오픈AI는 도구의 사용자가 워터마크를 의도적으로 제거하거나 다른 언어로 번역 후 재번역하는 등의 방법으로 표절 감지를 피할 수 있다는 점을 우려하고 있다. 또한, 도구 접근 범위와 관련해서도 논의가 진행되고 있으며, 극소수 사용자에게만 제공할 경우 효율성이 떨어질 수 있고, 모든 사용자에게 제공할 경우 악용 가능성이 우려된다.
현재 오픈AI는 이 탐지기를 주로 학교에 제공하여 교사나 교수들이 AI로 작성된 논문과 표절 작업을 식별할 수 있도록 하려는 방향으로 의견을 모은 상태다. 또한, 외부 회사에 제공하여 표절 작업 식별을 지원하는 방안도 검토되고 있다.
오픈AI 관계자는 "텍스트 워터마킹 기술은 뛰어나지만, 중요한 위험성이 동반된다"며 "AI 생태계에 미칠 영향을 고려한 신중한 접근이 필요하다"고 밝혔다.
댓글 더보기