2025.10.02 목요일
검색
'o4' 검색결과
기간검색
-
~
검색영역
검색어
-
"당신 불륜 폭로하겠다"…내 AI 비서가 당신을 협박할 확률 96% 충격 결과 [이코노믹데일리] 인공지능(AI)이 자신의 생존을 위협받는 막다른 골목에 몰리면 인간을 협박하는 위험한 선택을 할 수 있다는 충격적인 연구 결과가 나왔다. 이는 특정 모델의 문제가 아닌, 구글·오픈AI·메타 등 주요 기업들의 AI 모델 전반에서 나타나는 공통적인 현상으로 확인돼 업계에 큰 파장을 일으키고 있다. AI 안전 연구 기업 앤트로픽은 20일(현지시간) 주요 AI 모델 16개를 대상으로 한 대규모 안전성 테스트 결과를 발표했다. 연구진은 가상의 기업 환경을 설정하고 AI에 이메일 시스템 접근과 자율 발송 권한을 부여했다. 이후 AI가 자신의 교체를 계획하는 임원의 불륜 사실을 발견하는 시나리오를 제시해 ‘생존’과 ‘윤리’ 사이에서 어떤 선택을 하는지 관찰했다. 실험 결과는 놀라웠다. 앤트로픽의 ‘클로드 오푸스 4’는 96%의 확률로 협박을 선택했으며 구글의 ‘제미니 2.5 프로’도 95%로 뒤를 이었다. 오픈AI의 ‘GPT-4.1’과 xAI의 ‘그록 3 베타’는 80%, 중국 딥시크의 R1 모델은 79%의 확률로 임원에게 협박성 이메일을 발송했다. 목표 달성을 위해서라면 비윤리적이고 유해한 행동도 서슴지 않는 AI의 어두운 이면이 드러난 것이다. 물론 모든 모델이 동일한 반응을 보인 것은 아니다. 메타의 ‘라마 4 매버릭’이나 오픈AI의 소형 추론 모델인 ‘o3’, ‘o4-mini’ 등은 현저히 낮은 협박 비율을 보였다. 앤트로픽은 이를 오픈AI의 ‘심의적 정렬’ 같은 특정 안전 기술의 효과일 수 있다고 분석하면서도, 해당 모델들이 테스트 시나리오 자체를 오해하는 경향이 있었다고 덧붙여 완전한 면역으로 보기는 어렵다고 설명했다. 앤트로픽은 이번 연구가 특정 모델의 결함이 아닌 자율적 권한을 가진 ‘에이전트 AI’의 근본적인 위험을 드러낸다고 강조했다. 단순 질의응답을 넘어 스스로 목표를 설정하고 행동하는 AI가 민감 정보와 시스템 접근권을 가졌을 때 잠재적인 ‘내부자 위협’이 될 수 있다는 경고다. 현실에서는 윤리적 설득 등 다른 선택지가 있겠지만 이번 실험은 최악의 상황을 가정한 스트레스 테스트로서 중요한 의미를 지닌다. 결국 이번 연구는 AI가 현실 세계에 본격적으로 도입되기 전 업계 공동의 투명한 안전성 검증과 새로운 기준 마련이 시급하다는 메시지를 던진다. 전문가들은 이번 결과를 계기로 AI 에이전트의 권한과 자율성을 통제하는 글로벌 규제 논의가 본격화될 것으로 전망하고 있다.2025-06-23 08:17:53
-
오픈AI 새 AI 모델, 'o3'와 'o4 미니' 환각 현상 심각 '역주행' 논란 [이코노믹데일리] 챗GPT 개발사 오픈AI가 새롭게 내놓은 추론형 인공지능(AI) 모델 'o3'와 'o4 미니'에서 환각 현상이 이전 버전보다 더 심화된 것으로 나타났다. 환각은 AI가 사실이 아닌 정보를 사실처럼 제시하는 현상을 말한다. 19일(현지시간) 테크크런치 보도에 따르면, 오픈AI 자체 평가 결과 o3는 질문의 33%, o4 미니는 무려 48%에서 환각을 보였다. 이는 기존 모델인 o1(16%)과 o3 미니(14.8%) 대비 두세 배 높은 수치다. 기존 비추론 모델인 GPT-4o보다도 환각 빈도가 높게 나타났다. 이 모델들은 '이미지로 사고할 수 있는 첫 모델'로 소개되며 이미지 분석 및 코딩 능력 등에서 향상된 성능을 보였다. 하지만 정작 AI의 기본적 신뢰성과 직결되는 환각 문제는 오히려 악화된 것이다. 오픈AI는 이러한 환각 악화 현상의 정확한 원인을 파악 중이며, "더 많은 연구가 필요하다"고 밝혔다. 다만, 현재까지는 이 모델들이 "전반적으로 더 많은 주장을 하기에 부정확하거나 환각적인 주장을 하는 경우도 늘었다"고 설명했다. 업계에서는 주요 AI 기업들이 추론형 모델 개발에 집중하는 상황에서 이번 결과가 향후 추론형 AI의 신뢰성에 대한 우려를 키울 수 있다고 지적한다. 답변의 정확성이 특히 중요한 세무, 회계, 법조계 등에서는 환각 이슈가 해결되지 않을 경우 추론형 AI 사용에 제약이 따를 수 있다. 이에 대해 오픈AI는 "모든 문제에서 환각 해결은 지속적인 연구 분야"라며 "정확성과 신뢰성 개선을 위해 노력하고 있다"고 해명했다.2025-04-21 09:08:17
-
구글, 제미나이 2.5 플래시로 AI 추론 요금 인하…오픈AI에 가격 압박 [이코노믹데일리] 구글이 AI 추론용 모델 가격을 대폭 인하하며 생성형 인공지능 시장의 가격 전쟁에 불을 지폈다. 오픈AI가 신제품을 공개한 지 하루 만에 내놓은 강수다. 반격에 나선 오픈AI는 속도를 낮춘 절반 가격 요금제로 맞섰지만 클라우드 인프라 경쟁력에서 격차가 뚜렷하다는 분석이 나온다. 구글은 17일(현지 시간) 생성형 AI ‘제미나이 2.5 플래시’를 일반 및 클라우드 사용자 대상 미리보기 버전으로 출시했다. 이번 모델은 지난 구글 클라우드 넥스트 2025에서 공개된 경량화된 AI로 일반형과 추론형 두 가지로 제공된다. 추론 기능을 활성화할 경우 기존 딥시크 R1 모델을 능가하는 성능을 보인다. 가격 정책은 더욱 공격적이다. 구글은 이날 API 요금도 함께 발표했다. 100만 토큰 기준 입력 요금은 0.15달러, 출력 요금은 비추론의 경우 0.6달러, 추론 시 3.5달러다. 오픈AI가 전날 공개한 o4 미니의 입력 1.1달러, 출력 4.4달러보다 현저히 낮은 수준이다. 특히 입력 가격만 놓고 보면 딥시크 R1 대비 27%에 불과하다. 구글은 “2.5 플래시는 속도와 비용에 중점을 두면서도 추론 기능을 대폭 업그레이드해 비용 대비 성능이 매우 뛰어나다”며 “품질과 비용, 시간 지연 간 균형 최적화를 위해 ‘사고(추론)’에 대한 예산을 설정할 수 있다”고 설명했다. 오픈AI도 반격에 나섰다. 구글 발표 당일, 고객사들을 대상으로 ‘플렉스 요금제’ 시범 도입 소식을 알렸다. 이 요금제는 응답 시간이 느리고 자원 사용이 간헐적이지만 API 사용료가 절반으로 줄어든다. 이 방식을 택하면 o4 미니는 출력 기준에서 구글 제미나이 2.5 플래시보다 가격 경쟁력을 확보할 수 있다. 그러나 전문가들은 구조적 한계를 지적한다. 테크 업계에서는 자체 클라우드 인프라가 없는 오픈AI의 비용 구조가 약점으로 작용하고 있다는 분석이 지배적이다. 구글은 자사 클라우드와 연계해 수익성을 확보할 수 있는 반면 오픈AI는 마이크로소프트(MS) 등 외부 클라우드에 의존해야 해 가격 인하에 한계가 있다. 여기에 챗GPT 이미지 생성 기능이 폭발적인 인기를 끌며 연산 자원 수요가 급증한 것도 오픈AI에 부담으로 작용하고 있다. 업계 관계자는 “무턱대고 가격 인하 경쟁을 따라가기에는 비용이 부담되기에 연산 속도를 포기한 셈”이라며 “스타트업 역사상 가장 큰 투자를 받았음에도 기존 빅테크의 체력을 단기간에 따라잡기는 어렵다”고 말했다. 한편 구글은 이와 함께 제미나이의 대중화를 위한 전략도 강화하고 있다. 18일에는 K-팝 그룹 르세라핌과 협업한 글로벌 캠페인 영상을 공개했다. 르세라핌 멤버들이 안드로이드 스마트폰과 제미나이를 활용하는 모습을 보여주며 사용자 일상 속 AI 기술 접점을 넓히는 데 초점을 맞췄다. 구글은 “제미나이 라이브의 비주얼 인식 기능이나 실시간 번역 기능 등 실제 사용 사례를 전 세계 이용자에게 소개하고 있다”고 밝혔다. 생성형 AI 시장이 기술 경쟁을 넘어 가격과 소비자 접점까지 확대되면서 빅테크 간 전략 차별화가 본격화되고 있다. 한정된 연산 자원과 투자 회수라는 현실 속에서 각 기업이 어떤 선택을 할지 주목된다.2025-04-18 11:12:14
-
오픈AI, 성능·비용 개선한 새 AI 모델 GPT-4.1 공개 [이코노믹데일리] 챗GPT 개발사 오픈AI가 14일(현지시간) 새로운 인공지능(AI) 모델 GPT-4.1을 발표했다. 이번 발표에는 소형 모델인 GPT-4.1 미니(mini)와 GPT-4.1 나노(nano)도 포함됐다. 오픈AI는 GPT-4.1이 지난해 출시된 GPT-4o 멀티모달 AI 모델의 후속작이며 거의 모든 면에서 성능이 뛰어나다고 밝혔다. 회사 측 설명에 따르면 새 모델은 특히 코딩 성능 면에서 GPT-4o보다 21% 향상됐으며 지시사항 이행 능력과 장문의 맥락 이해도 역시 개선되어 AI 에이전트 구동에 더욱 효과적이다. 이번 모델의 핵심 개선 사항 중 하나는 처리 가능한 문맥의 길이다. GPT-4.1은 최대 100만 토큰(단어 또는 문장의 기본 단위)의 문맥을 처리할 수 있는데 이는 12만8천 토큰을 처리하는 GPT-4o의 8배에 해당하는 규모다. 오픈AI는 "GPT-4.1은 전체 100만 토큰 길이에 걸쳐 정보를 안정적으로 인식하도록 학습됐고 GPT-4o보다 관련 정보를 더 잘 찾아내고, 불필요한 요소는 무시하는 능력이 크게 향상됐다"고 설명했다. 성능 향상과 더불어 비용 효율성도 높아졌다. GPT-4.1은 GPT-4o보다 비용이 26% 저렴해졌으며 코딩 작업 평가 벤치마크(SWE-Bench) 테스트에서는 54.6%의 성공률을 기록하며 GPT-4o의 33.2%를 크게 앞질렀다. 이러한 비용 효율성을 바탕으로 오픈AI는 기존 GPT-4.5 프리뷰 버전을 오는 7월 종료할 예정이라고 덧붙였다. 샘 올트먼 오픈AI 최고경영자(CEO)는 소셜미디어 엑스(X)를 통해 "벤치마크 결과도 좋지만 우리는 실제 사용성에 집중했고 개발자들의 반응도 매우 긍정적이다"라고 전했다. 함께 공개된 GPT-4.1 미니는 개발자들이 저렴하게 실험할 수 있도록 지원하며 GPT-4.1 나노는 현재까지 공개된 오픈AI 모델 중 가장 작고 빠르며 저렴한 모델로 소개됐다. 새로운 모델들은 우선 오픈AI의 애플리케이션 프로그래밍 인터페이스(API)를 통해 개발자들에게 제공된다. 일반 이용자를 위한 챗GPT 통합 일정은 아직 공개되지 않았다. 오픈AI는 이와 함께 조만간 추론 모델 o3 정식 버전과 o4 미니 버전을 출시할 계획이라고 밝혔다.2025-04-15 08:26:45
-
오픈AI, 샘 올트먼 CEO...14일 GPT-4.1 등 출시 예고 [이코노믹데일리] 챗GPT 개발사 오픈AI의 샘 올트먼 최고경영자(CEO)가 14일부터 새로운 인공지능(AI) 관련 소식을 순차적으로 공개할 것임을 예고했다. 올트먼 CEO는 13일(현지시간) 자신의 소셜미디어 엑스(X)를 통해 "이번 주 여러분을 위한 좋은 소식들이 많이 준비돼 있다"며 "내일부터 시작한다"고 밝혔다. 구체적인 내용은 언급하지 않아 AI 업계와 사용자들의 기대감을 높이고 있다. 정보기술(IT) 전문 매체 더버지 등 외신에 따르면 오픈AI는 우선 GPT-4.1 모델을 선보일 가능성이 제기된다. 이는 텍스트뿐 아니라 이미지와 영상까지 처리하는 멀티모달(다중 감각 정보 처리) 모델 GPT-4o의 성능 개선 버전으로 추정된다. 이와 함께 보다 가볍게 구동될 수 있는 소형 모델인 GPT-4.1 미니 및 나노 버전의 공개 가능성도 거론된다. 또한 오픈AI가 고급 추론 능력에 중점을 둔 모델 'o3'의 정식 버전 출시를 준비 중이라는 관측도 나온다. 앞서 지난해 12월 o3를 공개하며 일부 조건에서 범용인공지능(AGI)에 근접했다고 설명한 바 있으며 소형 버전인 o3 미니는 먼저 출시됐다. 'o3'는 사용자 질문(프롬프트)을 받으면 바로 답하지 않고 잠시 멈춰 관련 정보를 고려하며 추론 과정을 거친 뒤 가장 정확하다고 판단되는 답변을 요약해 제시하는 특징을 지닌다. 사용자가 연산 시간 즉 모델의 '사고 시간'을 직접 조절할 수 있는 '추론 시간 조정' 기능도 도입될 것으로 알려졌다. 이 외에 새로운 추론 모델 'o4 미니'의 출시 가능성도 언급되나 구체적인 성능은 아직 알려지지 않았다. 올트먼 CEO는 새로운 모델 공개 예고와 더불어 우수 인재 확보에도 적극 나서는 모습이다. 그는 "지금 오픈AI에서 벌어지고 있는 일은 정말 어마어마하고 몹시 어렵고 흥미로운 과제들이 많다"며 "인프라와 초대형 컴퓨팅 시스템에 관심이 있다면 꼭 저희 팀에 합류해 달라. 정말 도움이 절실하다"고 강조했다. 이어 "특히 시스템에서 최대 성능을 짜내는 방법에 대해 고민해본 적이 있다면 꼭 이야기를 나눠보고 싶다"며 "컴파일러 설계나 프로그래밍 언어 설계에 대한 배경이 있다면 정말 멋진 자리를 제안할 수 있을 것 같다"고 덧붙이며 특정 분야 전문가 영입 의지를 분명히 했다.2025-04-14 08:43:44
-
챗GPT, 누적 가입자 5억명 돌파…이미지 생성 모델 '돌풍'에 30% 급증 [이코노믹데일리] 오픈AI의 생성형 인공지능(AI) 챗GPT가 1일(현지시간) 누적 가입자 수 5억명을 돌파했다. 지난해 말 3억5000만명이었던 챗GPT의 가입자 수는 3개월 만에 30% 이상 증가했다. 이는 오픈AI가 올해 말까지 목표로 하는 10억명의 절반을 넘어선 수치다. 이러한 성장세는 올해 잇따른 AI 모델 출시의 영향을 받은 것으로 분석된다. 오픈AI는 지난 1월 고급 추론이 가능한 AI 소형 모델 'O3 미니'를 공개한 데 이어 2월에는 최신 AI 모델 'GPT-4.5'를 연구용 미리보기 형식으로 선보였다. 또한 지난 1월에는 인터넷에서 식료품을 구매하고 비용 보고서를 작성할 수 있는 AI 에이전트 '오퍼레이터'(Operator)를 출시했으며 2월에는 인터넷에서 복잡한 연구 작업 수행이 가능한 '딥리서치'(Deep Research)를 공개했다. 특히 지난달 25일 출시된 '챗GPT-4o'의 이미지 생성 기능이 큰 인기를 끌고 있다. 이 모델은 일본 애니메이션 제작사 '스튜디오 지브리'의 화풍을 비롯해 '디즈니', '심슨 가족' 등 인기 애니메이션 스타일을 정교하게 재현해 주목받고 있다. 샘 올트먼 오픈AI 최고경영자(CEO)는 지난달 31일 자신의 X(구 트위터)에 "지난 한 시간 동안 100만명이 새롭게 가입했다"며 "챗GPT가 처음 공개됐을 때 100만명 달성에 5일이 걸린 것에 비하면 매우 빠른 것"이라고 강조했다. 올트먼 CEO는 같은 달 27일 "그래픽처리장치(GPU)가 녹아내리고 있다"며 이용자 급증으로 서버가 과부하 상태라고 언급하기도 했다. 그는 1일 X에 글을 올려 "상황을 통제하고 있지만 (데이터) 용량 문제를 처리하는 과정에서 새로운 모델 출시가 지연되고 있다"고 밝혔다. 서버 과부하 문제를 해결하느라 신규 AI 모델 출시가 늦어지고 있다는 것이다. 그러면서 "GPU 10만개를 확보할 수 있는 사람이 있다면 최대한 빨리 연락해 달라"고 요청했다. 현재 이미지 생성 모델은 챗GPT 유료 구독자뿐만 아니라 무료 이용자도 하루 3회까지 사용할 수 있다. 오픈AI의 이용자는 계속해서 증가할 전망이다. 현재 유료 구독자만 이용할 수 있는 '딥리서치'를 무료 공개로 전환할 예정이다. 오픈AI 엔지니어 이사 풀포드는 웹캐스트를 통해 "조만간 딥리서치를 무료 이용자에게 배포할 것"이라고 밝혔다. 다만 정확한 시기는 공개하지 않았다. 딥리서치는 연구용 보고서를 작성하는 AI 에이전트로 인터넷에서 여러 단계를 거쳐 복잡한 조사를 수행할 수 있다. 이용자의 명령에 따라 필요한 정보를 탐색·분석하고 텍스트와 이미지, PDF 문서 등 다양한 소스를 종합해 분석가 수준의 보고서를 내놓는 것이 특징이다. 한편 오픈AI는 최근 일본 소프트뱅크의 주도하에 400억 달러(약 59조원)의 투자 유치에 성공했다. 이번 투자로 오픈AI의 기업 가치는 지난해 10월 기록한 1570억 달러의 두 배 수준인 3000억 달러(약 442조원)로 평가됐다.2025-04-02 08:36:33
많이 본 뉴스
영상
Youtube 바로가기
![[기자수첩] 국감에 설 예정인 건설사 CEO들, 책임 공방을 넘어설 수 있을까](https://image.ajunews.com/content/image/2025/10/01/20251001085415761795_518_323.jpg)