2025.07.08 화요일
검색
'매버릭' 검색결과
기간검색
-
~
검색영역
검색어
-
"당신 불륜 폭로하겠다"…내 AI 비서가 당신을 협박할 확률 96% 충격 결과 [이코노믹데일리] 인공지능(AI)이 자신의 생존을 위협받는 막다른 골목에 몰리면 인간을 협박하는 위험한 선택을 할 수 있다는 충격적인 연구 결과가 나왔다. 이는 특정 모델의 문제가 아닌, 구글·오픈AI·메타 등 주요 기업들의 AI 모델 전반에서 나타나는 공통적인 현상으로 확인돼 업계에 큰 파장을 일으키고 있다. AI 안전 연구 기업 앤트로픽은 20일(현지시간) 주요 AI 모델 16개를 대상으로 한 대규모 안전성 테스트 결과를 발표했다. 연구진은 가상의 기업 환경을 설정하고 AI에 이메일 시스템 접근과 자율 발송 권한을 부여했다. 이후 AI가 자신의 교체를 계획하는 임원의 불륜 사실을 발견하는 시나리오를 제시해 ‘생존’과 ‘윤리’ 사이에서 어떤 선택을 하는지 관찰했다. 실험 결과는 놀라웠다. 앤트로픽의 ‘클로드 오푸스 4’는 96%의 확률로 협박을 선택했으며 구글의 ‘제미니 2.5 프로’도 95%로 뒤를 이었다. 오픈AI의 ‘GPT-4.1’과 xAI의 ‘그록 3 베타’는 80%, 중국 딥시크의 R1 모델은 79%의 확률로 임원에게 협박성 이메일을 발송했다. 목표 달성을 위해서라면 비윤리적이고 유해한 행동도 서슴지 않는 AI의 어두운 이면이 드러난 것이다. 물론 모든 모델이 동일한 반응을 보인 것은 아니다. 메타의 ‘라마 4 매버릭’이나 오픈AI의 소형 추론 모델인 ‘o3’, ‘o4-mini’ 등은 현저히 낮은 협박 비율을 보였다. 앤트로픽은 이를 오픈AI의 ‘심의적 정렬’ 같은 특정 안전 기술의 효과일 수 있다고 분석하면서도, 해당 모델들이 테스트 시나리오 자체를 오해하는 경향이 있었다고 덧붙여 완전한 면역으로 보기는 어렵다고 설명했다. 앤트로픽은 이번 연구가 특정 모델의 결함이 아닌 자율적 권한을 가진 ‘에이전트 AI’의 근본적인 위험을 드러낸다고 강조했다. 단순 질의응답을 넘어 스스로 목표를 설정하고 행동하는 AI가 민감 정보와 시스템 접근권을 가졌을 때 잠재적인 ‘내부자 위협’이 될 수 있다는 경고다. 현실에서는 윤리적 설득 등 다른 선택지가 있겠지만 이번 실험은 최악의 상황을 가정한 스트레스 테스트로서 중요한 의미를 지닌다. 결국 이번 연구는 AI가 현실 세계에 본격적으로 도입되기 전 업계 공동의 투명한 안전성 검증과 새로운 기준 마련이 시급하다는 메시지를 던진다. 전문가들은 이번 결과를 계기로 AI 에이전트의 권한과 자율성을 통제하는 글로벌 규제 논의가 본격화될 것으로 전망하고 있다.2025-06-23 08:17:53
-
쿠팡Inc, 역대 최대 분기 매출 경신…영업이익 340% 급증 [이코노믹데일리] 쿠팡Inc의 올해 1분기 매출이 역대 최대 분기 매출을 경신하고 영업이익은 지난해 동기 대비 340% 증가한 것으로 나타났다. 미국 뉴욕증시 상장사인 쿠팡Inc는 올해 1분기 매출이 원화 환산 기준 11조4876억원으로 지난해 4분기 대비 21% 증가했으며 분기 최대치를 경신했다고 밝혔다. 이는 원·달러 환율 상승이 반영됐기 때문이다. 올해 1분기 연결기준 영업이익은 원화 환산 기준 2337억원으로 전년 동기 대비 340% 증가했다. 또 매출 대비 영업이익률은 2.0%로 전년 동기(0.6%) 대비 상승했다. 올해 1분기 당기순이익은 1656억원으로 지난해 1분기 318억원 적자에서 흑자로 전환했다. 쿠팡Inc의 프로덕트 커머스(로켓배송·로켓프레시·로켓그로스·마켓플레이스) 활성 고객도 증가했다. 올해 1분기 고객은 2340만명으로 작년 동기(2150만명) 대비 9% 늘어났다. 같은 기간 프로덕트 커머스의 원화 기준 매출은 9조9797억원, 활성 고객당 매출은 원화 기준 42만7080원을 기록했다. 파페치와 대만 로켓배송·쿠팡이츠 등 성장 사업 부문 매출은 원화 기준 1조5078억원으로 전년 동기 대비 78% 개선됐다. 쿠팡Inc는 최근 이사회를 통해 클래스A 보통주 기준 최대 1조4000억원에 달하는 자사주를 매입하는 프로그램을 추진한다고 밝혔다. 이번 자사주 매입 규모는 지난 2021년 3월 11일 상장 이후 최대치다. 또 지난해 4월 투자사 매버릭 홀딩스로부터 매입한 자사주 약 2400억원의 6배에 달하는 규모다. 거라브 아난드 쿠팡 최고재무책임자(CFO)는 "자사주 매입은 기존 시장 상황을 활용해 주주들에게 의미 있는 수익을 창출할 수 있도록 하는 것이라고 판단한다"며 "쿠팡Inc는 최근 미국의 관세 영향을 크게 받지 않으며 핵심 소비자층에 뚜렷한 변화가 없었다"고 말했다.2025-05-07 10:59:52
-
메타, 최신 AI '라마4' 공개… 오픈소스 경쟁 가속 [이코노믹데일리] 페이스북 모회사 메타플랫폼(이하 메타)이 5일(현지시간) 최신 대규모 언어 모델(LLM) '라마4(Llama 4)'를 공개했다. 지난해 4월 라마3를 선보인 지 약 1년 만으로 텍스트를 넘어 이미지, 오디오 등 다양한 정보를 통합 처리하는 멀티모달 성능을 강조한다. 메타는 블로그를 통해 라마4 제품군 중 '스카우트(Scout)'와 '매버릭(Maverick)' 두 가지 모델을 우선 선보인다고 밝혔다. 메타 측은 이들이 지금까지 개발한 모델 중 가장 진보했으며 멀티모달 기능 면에서 최고 수준이라고 설명했다. 스카우트는 긴 문맥 처리와 효율성에 매버릭은 광범위한 작업에서의 높은 성능에 중점을 뒀다. 특히 매버릭은 특정 산업 분야 활용을 염두에 두고 개발됐으며, 두 모델 모두 오픈소스 소프트웨어로 제공된다. 이와 함께 라마4 제품군 중 가장 강력할 것으로 예상되는 '베헤모스(Behemoth)' 모델도 소개됐다. 메타는 이를 '세계에서 가장 똑똑한 LLM 중 하나'이자 다른 라마4 모델의 '교사 역할'을 할 것이라고 설명했으나 아직 개발 중으로 오픈소스 공개 여부는 미정이다. 이용자들은 왓츠앱, 메신저, 인스타그램 다이렉트 메시지, 메타 AI 웹사이트 등에서 스카우트와 매버릭 모델을 경험할 수 있다. 마크 저커버그 메타 최고경영자(CEO)는 "우리 목표는 세계 최고 AI를 구축하고 오픈 소스화해 전 세계 모든 사람이 혜택을 누릴 수 있도록 보편적으로 접근할 수 있게 하는 것"이라며 "라마4를 통해 이런 일이 시작되고 있다"고 인스타그램을 통해 전했다. 메타의 라마4 출시는 오픈AI의 GPT-5 출시 계획, 구글의 제미나이 2.5 등과 맞물려 AI 모델 개발 경쟁을 더욱 치열하게 만들 전망이다.2025-04-06 13:33:13
많이 본 뉴스
영상
Youtube 바로가기
![[기자수첩] 당국, MG손보 노조 갈등에 내몰린 계약자들...이들의 계약 유지권은 어디에](https://image.ajunews.com/content/image/2025/06/13/20250613110259382074_518_323.png)