2025.06.07 토요일
검색
'환각 현상' 검색결과
기간검색
-
~
검색영역
검색어
-
방통위, AI 이용자 보호 민관 협의회 개최…"혁신·보호 균형 정책 필요" [이코노믹데일리] 방송통신위원회와 정보통신정책연구원이 15일 인공지능(AI) 서비스 이용자 보호를 위한 민관 협의회 3차 회의를 열고 AI 기술 고도화와 정책 환경 변화에 따른 이용자 보호 문제 및 대응 방안을 논의했다. 서울 서초구 엘타워에서 열린 이날 회의에는 정보통신기술(ICT)·법률·미디어·통계 관련 학계와 법조계 전문가 시민사회단체 통신사·인터넷 기업 등 사업자 정부·공공기관 관계자 30여 명이 참석했다. 방통위는 지난해 7월 AI 기술 발전에 따른 이용자 보호 문제에 적극 대응하기 위해 협의회를 구성한 바 있다. 이진숙 방송통신위원장은 "AI 산업의 안정적이고 장기적인 성장을 위해서는 AI 혁신과 발전을 저해하지 않으면서도 새롭게 등장하는 역기능으로부터 이용자를 보호할 수 있는 정책이 필요하다"고 강조했다. 민관협의회 위원장인 이원우 서울대 교수는 "인공지능 확산으로 통신 서비스 행태와 이용 방식이 변화하며 기존 이용자 보호를 위해 마련됐던 규율 체계나 정책 접근 방식에도 변화가 필요하게 된 상황"이라고 말했다. 기조 발표를 맡은 선지원 한양대 교수는 'AI 서비스 확산에서 온라인 불법·유해 정보 규율 및 이용자 권익 증진 방안'을 주제로 발표하며 이전과 다른 차원의 정책 전환이 필요하다고 주장했다. 선 교수는 기존 플랫폼 서비스와 다른 인공지능 서비스의 특징으로 성적 허위 영상물 등 딥페이크 환각현상 등 새로운 역기능이 등장하고 있으며 이를 해결하기 위해 인공지능 산업 생태계를 구성하는 다양한 이해관계자들의 역동적인 관계에 주목할 필요가 있다고 강조했다. 이진숙 위원장은 "이날 회의에서 제안된 의견을 면밀히 살펴 정책에 반영해 나가고 이를 통해 안전하고 신뢰할 수 있는 인공지능 활용 환경을 조성할 것"이라고 밝혔다. 방통위는 이번 민관 협의회 논의 결과를 바탕으로 AI 시대에 부합하는 이용자 보호 정책 수립에 속도를 낼 전망이다.2025-05-15 18:26:44
-
오픈AI 새 AI 모델, 'o3'와 'o4 미니' 환각 현상 심각 '역주행' 논란 [이코노믹데일리] 챗GPT 개발사 오픈AI가 새롭게 내놓은 추론형 인공지능(AI) 모델 'o3'와 'o4 미니'에서 환각 현상이 이전 버전보다 더 심화된 것으로 나타났다. 환각은 AI가 사실이 아닌 정보를 사실처럼 제시하는 현상을 말한다. 19일(현지시간) 테크크런치 보도에 따르면, 오픈AI 자체 평가 결과 o3는 질문의 33%, o4 미니는 무려 48%에서 환각을 보였다. 이는 기존 모델인 o1(16%)과 o3 미니(14.8%) 대비 두세 배 높은 수치다. 기존 비추론 모델인 GPT-4o보다도 환각 빈도가 높게 나타났다. 이 모델들은 '이미지로 사고할 수 있는 첫 모델'로 소개되며 이미지 분석 및 코딩 능력 등에서 향상된 성능을 보였다. 하지만 정작 AI의 기본적 신뢰성과 직결되는 환각 문제는 오히려 악화된 것이다. 오픈AI는 이러한 환각 악화 현상의 정확한 원인을 파악 중이며, "더 많은 연구가 필요하다"고 밝혔다. 다만, 현재까지는 이 모델들이 "전반적으로 더 많은 주장을 하기에 부정확하거나 환각적인 주장을 하는 경우도 늘었다"고 설명했다. 업계에서는 주요 AI 기업들이 추론형 모델 개발에 집중하는 상황에서 이번 결과가 향후 추론형 AI의 신뢰성에 대한 우려를 키울 수 있다고 지적한다. 답변의 정확성이 특히 중요한 세무, 회계, 법조계 등에서는 환각 이슈가 해결되지 않을 경우 추론형 AI 사용에 제약이 따를 수 있다. 이에 대해 오픈AI는 "모든 문제에서 환각 해결은 지속적인 연구 분야"라며 "정확성과 신뢰성 개선을 위해 노력하고 있다"고 해명했다.2025-04-21 09:08:17
많이 본 뉴스
영상
Youtube 바로가기
![[기자수첩] 할 수도 없고 안 할 수도 없는 투자의 딜레마](https://image.ajunews.com/content/image/2025/05/19/20250519112207758382_518_323.jpg)