2025.10.26 일요일
검색
'매버릭' 검색결과
기간검색
-
~
검색영역
검색어
-
"당신 불륜 폭로하겠다"…내 AI 비서가 당신을 협박할 확률 96% 충격 결과 [이코노믹데일리] 인공지능(AI)이 자신의 생존을 위협받는 막다른 골목에 몰리면 인간을 협박하는 위험한 선택을 할 수 있다는 충격적인 연구 결과가 나왔다. 이는 특정 모델의 문제가 아닌, 구글·오픈AI·메타 등 주요 기업들의 AI 모델 전반에서 나타나는 공통적인 현상으로 확인돼 업계에 큰 파장을 일으키고 있다. AI 안전 연구 기업 앤트로픽은 20일(현지시간) 주요 AI 모델 16개를 대상으로 한 대규모 안전성 테스트 결과를 발표했다. 연구진은 가상의 기업 환경을 설정하고 AI에 이메일 시스템 접근과 자율 발송 권한을 부여했다. 이후 AI가 자신의 교체를 계획하는 임원의 불륜 사실을 발견하는 시나리오를 제시해 ‘생존’과 ‘윤리’ 사이에서 어떤 선택을 하는지 관찰했다. 실험 결과는 놀라웠다. 앤트로픽의 ‘클로드 오푸스 4’는 96%의 확률로 협박을 선택했으며 구글의 ‘제미니 2.5 프로’도 95%로 뒤를 이었다. 오픈AI의 ‘GPT-4.1’과 xAI의 ‘그록 3 베타’는 80%, 중국 딥시크의 R1 모델은 79%의 확률로 임원에게 협박성 이메일을 발송했다. 목표 달성을 위해서라면 비윤리적이고 유해한 행동도 서슴지 않는 AI의 어두운 이면이 드러난 것이다. 물론 모든 모델이 동일한 반응을 보인 것은 아니다. 메타의 ‘라마 4 매버릭’이나 오픈AI의 소형 추론 모델인 ‘o3’, ‘o4-mini’ 등은 현저히 낮은 협박 비율을 보였다. 앤트로픽은 이를 오픈AI의 ‘심의적 정렬’ 같은 특정 안전 기술의 효과일 수 있다고 분석하면서도, 해당 모델들이 테스트 시나리오 자체를 오해하는 경향이 있었다고 덧붙여 완전한 면역으로 보기는 어렵다고 설명했다. 앤트로픽은 이번 연구가 특정 모델의 결함이 아닌 자율적 권한을 가진 ‘에이전트 AI’의 근본적인 위험을 드러낸다고 강조했다. 단순 질의응답을 넘어 스스로 목표를 설정하고 행동하는 AI가 민감 정보와 시스템 접근권을 가졌을 때 잠재적인 ‘내부자 위협’이 될 수 있다는 경고다. 현실에서는 윤리적 설득 등 다른 선택지가 있겠지만 이번 실험은 최악의 상황을 가정한 스트레스 테스트로서 중요한 의미를 지닌다. 결국 이번 연구는 AI가 현실 세계에 본격적으로 도입되기 전 업계 공동의 투명한 안전성 검증과 새로운 기준 마련이 시급하다는 메시지를 던진다. 전문가들은 이번 결과를 계기로 AI 에이전트의 권한과 자율성을 통제하는 글로벌 규제 논의가 본격화될 것으로 전망하고 있다.2025-06-23 08:17:53
-
쿠팡Inc, 역대 최대 분기 매출 경신…영업이익 340% 급증 [이코노믹데일리] 쿠팡Inc의 올해 1분기 매출이 역대 최대 분기 매출을 경신하고 영업이익은 지난해 동기 대비 340% 증가한 것으로 나타났다. 미국 뉴욕증시 상장사인 쿠팡Inc는 올해 1분기 매출이 원화 환산 기준 11조4876억원으로 지난해 4분기 대비 21% 증가했으며 분기 최대치를 경신했다고 밝혔다. 이는 원·달러 환율 상승이 반영됐기 때문이다. 올해 1분기 연결기준 영업이익은 원화 환산 기준 2337억원으로 전년 동기 대비 340% 증가했다. 또 매출 대비 영업이익률은 2.0%로 전년 동기(0.6%) 대비 상승했다. 올해 1분기 당기순이익은 1656억원으로 지난해 1분기 318억원 적자에서 흑자로 전환했다. 쿠팡Inc의 프로덕트 커머스(로켓배송·로켓프레시·로켓그로스·마켓플레이스) 활성 고객도 증가했다. 올해 1분기 고객은 2340만명으로 작년 동기(2150만명) 대비 9% 늘어났다. 같은 기간 프로덕트 커머스의 원화 기준 매출은 9조9797억원, 활성 고객당 매출은 원화 기준 42만7080원을 기록했다. 파페치와 대만 로켓배송·쿠팡이츠 등 성장 사업 부문 매출은 원화 기준 1조5078억원으로 전년 동기 대비 78% 개선됐다. 쿠팡Inc는 최근 이사회를 통해 클래스A 보통주 기준 최대 1조4000억원에 달하는 자사주를 매입하는 프로그램을 추진한다고 밝혔다. 이번 자사주 매입 규모는 지난 2021년 3월 11일 상장 이후 최대치다. 또 지난해 4월 투자사 매버릭 홀딩스로부터 매입한 자사주 약 2400억원의 6배에 달하는 규모다. 거라브 아난드 쿠팡 최고재무책임자(CFO)는 "자사주 매입은 기존 시장 상황을 활용해 주주들에게 의미 있는 수익을 창출할 수 있도록 하는 것이라고 판단한다"며 "쿠팡Inc는 최근 미국의 관세 영향을 크게 받지 않으며 핵심 소비자층에 뚜렷한 변화가 없었다"고 말했다.2025-05-07 10:59:52
많이 본 뉴스
영상
Youtube 바로가기
![[기자수첩] 신약 개발, 멈출 수 없는 실패의 여정](https://image.ajunews.com/content/image/2025/10/23/20251023161025833900_518_323.jpg)