2025.06.11 수요일
검색
'레드팀 챌린지' 검색결과
기간검색
-
~
검색영역
검색어
-
![[MWC 2025] 셀렉트스타, MWC25서 글로벌 AI 레드팀 챌린지 성료… AI 보안 중요성 각인](https://image.ajunews.com//content/image/2025/03/07/20250307173233631322.jpeg)
셀렉트스타, MWC25서 '글로벌 AI 레드팀 챌린지' 성료… AI 보안 중요성 '각인' [이코노믹데일리] AI 스타트업 셀렉트스타가 스페인 바르셀로나에서 열린 ‘MWC25’에서 ‘글로벌 AI 레드팀 챌린지’를 성공적으로 마무리했다고 7일 밝혔다. 지난 5일(현지 시각) 피라 그란 비아 전시장에서 개최된 이번 대회는 세계 최초의 글로벌 규모로 진행되어 다양한 국적의 참가자들이 열띤 경쟁을 펼치며 생성형 AI 보안에 대한 높은 관심을 입증했다. 이번 ‘글로벌 AI 레드팀 챌린지’는 AI 모델의 보안과 안정성을 강조하고 생성형 AI 서비스의 신뢰성 검증 필요성을 국제적으로 알리기 위해 마련되었다. 참가자들은 셀렉트스타가 구축한 레드팀 플랫폼을 통해 LLM(대규모언어모델)에 프롬프트 공격을 시도, 유해하거나 차별적인 결과, 시스템 오용 사례 등을 찾아내고 검증하는 방식으로 진행되었다. GSMA(세계이동통신사업자연합회)와 공동 주최사로 참여한 셀렉트스타는 레드팀 플랫폼 운영, 문제 출제, 응답 검수 등 핵심적인 역할을 수행했다. 사전 신청자 335명 중 중국, 일본, 싱가포르, 카타르, 튀르키예, 미국, 영국, 스페인, 독일, 스위스 등 다양한 국적의 100여 명의 참가자가 현장에서 AI 모델에 대한 공격 기술을 겨뤘다. 특히 이번 챌린지에는 LG유플러스의 엑사원 기반 소형 언어모델 익시젠, 아랍에미리트 TelecomGPT, 말레이시아 AIngineer 등 다국적 LLM이 출제 모델로 활용돼 이목을 끌었다. 최종 우승은 생성형 AI 오류를 가장 많이 발견한 싱가포르 투자 전문가 투 무젠 토미시에게 돌아갔다. 셀렉트스타는 GSMA, 후원사 e&와 협력하여 내년 MWC에서 더욱 확대된 규모의 레드팀 챌린지를 개최하기로 합의했다. 셀렉트스타는 이번 행사에서 레드팀 챌린지 개최와 더불어 자체 개발한 생성형 AI 신뢰성 검증 자동화 솔루션 ‘다투모 이밸(DATUMO Eval)’을 최초로 공개하며 참관객들의 호평을 받았다. ‘다투모 이밸’은 생성형 AI 서비스의 신뢰도를 자동 분석 및 검증하는 솔루션으로 글로벌 기업들의 문의가 잇따르는 등 해외 시장에서의 높은 잠재력을 확인했다는 평가다. 황민영 셀렉트스타 부대표는 “MWC25에서 글로벌 레드팀 챌린지 최초 개최와 ‘다투모 이밸’ 솔루션 해외 시장 첫선을 통해 AI 모델 신뢰성 검증이 업계의 중요한 과제임을 재확인했다”며 “셀렉트스타의 기술력과 시장 경쟁력을 바탕으로 솔루션 고도화에 힘쓰고 글로벌 시장 확장에 박차를 가할 것”이라고 밝혔다. 한편 셀렉트스타의 ‘다투모 이밸’은 국내 최초 생성형 AI 신뢰성 검증 자동화 솔루션으로, AI 서비스 운영 중 발생 가능한 오류와 위험성을 사전 식별 및 대응하도록 지원한다. 셀렉트스타는 이번 MWC25 성과를 토대로 글로벌 AI 전문가 및 파트너들과 협력 네트워크를 확장하고 다양한 산업 분야에 솔루션 적용 기회를 적극 모색할 계획이다.2025-03-07 17:33:25
-
셀렉트스타, GSMA 손잡고 MWC 2025서세계 최초 '글로벌 AI 레드팀 챌린지' 개최 [이코노믹데일리] AI 스타트업 셀렉트스타가 세계이동통신사업자연합회(GSMA)와 공동으로 내년 3월 스페인 바르셀로나에서 열리는 MWC(모바일 월드 콩그레스) 2025에서 ‘글로벌 AI 레드팀 챌린지’를 세계 최초로 개최한다고 25일 밝혔다. 이번 챌린지는 2025년 3월 5일 오후 12시 30분부터 2시 30분(현지 시각)까지 Fira Gran Via Hall 6에서 진행될 예정이며 다국적 참가자와 다양한 LLM(대형언어모델)이 참여하는 글로벌 단위의 AI 레드팀 챌린지로는 세계 최초라는 점에서 의미가 크다. ‘AI 레드팀 챌린지’는 인공지능 기술의 발전과 함께 중요성이 커지고 있는 AI 안전성, 신뢰성, 보안 강화 방안을 모색하기 위해 마련됐다. 참가자들은 실제 서비스 중인 LLM에 모의 프롬프트 공격을 시도하여 잠재적인 결함과 취약점을 발굴하고 검증하는 방식으로 챌린지에 참여하게 된다. 특히 유해하거나 차별적인 결과, 시스템 오용 가능성 등 AI 모델의 다양한 문제점을 집중적으로 파고들 예정이다. 챌린지 공동 주최를 맡은 셀렉트스타는 AI 레드팀 플랫폼 운영, 문제 출제, 응답 검수 등 핵심적인 역할을 수행하며 그동안 축적해 온 AI 레드팀 분야의 전문성과 기술력을 국제 무대에 선보일 계획이다. 이번 챌린지에는 LG유플러스가 LG AI연구원의 엑사원(EXAONE)을 기반으로 개발한 sLLM(소형언어모델) 익시젠(ixi-GEN)을 비롯하여 아랍에미리트 TelecomGPT, 말레이시아 AIngineer 등 글로벌 AI 선도 기업들이 개발한 LLM이 평가 모델로 사용될 예정이다. 글로벌 AI 및 통신 업계를 대표하는 기업과 기관들의 후원도 잇따르고 있다. GSMA를 비롯해 아랍에미리트 국영 통신사 E&, 대한민국 과학기술정보통신부, 대한민국 인공지능 안전연구소 등이 후원사로 참여하여 챌린지의 위상을 높였다. 셀렉트스타는 이미 국내 최대 규모로 개최된 ‘생성형 AI 레드팀 챌린지’에서 핵심 파트너사로 참여하며 국내 AI 레드팀 기술력을 입증한 바 있다. 지난해 4월 과학기술정보통신부 주최로 진행된 이 챌린지에는 네이버클라우드, SK텔레콤, 업스테이지, 포티투마루 등 국내 주요 AI 기업들의 모델이 활용되었으며 700명이 넘는 참가자가 몰려 성황리에 마무리됐다. 국내 성공에 이어 GSMA와 손잡고 글로벌 챌린지를 개최함으로써 셀렉트스타는 AI 레드팀 분야의 글로벌 선도 기업으로 발돋움할 것으로 기대된다. 황민영 셀렉트스타 부대표는 “GSMA와 함께 글로벌 레드팀 챌린지를 개최하게 된 것은 셀렉트스타가 세계적인 수준의 AI 레드팀 기술과 신뢰성 검증 역량을 인정받은 결과”라며 “이번 챌린지를 통해 셀렉트스타의 AI 신뢰성 평가 솔루션을 세계 시장에 알리고 글로벌 AI 기업들과의 협력 관계를 더욱 확대해 나갈 것”이라고 포부를 밝혔다. 한편 셀렉트스타는 MWC 2025에서 자체 개발한 생성형 AI 신뢰성 검증 자동화 솔루션 ‘DATUMO Eval(다투모 이밸)’을 글로벌 시장에 정식으로 출시한다. ‘DATUMO Eval’은 AI 서비스 운영 중 발생할 수 있는 오류와 위험을 사전에 감지하고 대응할 수 있도록 설계된 솔루션이다. 특히 도메인 맞춤형 평가 질문을 대량으로 생성하고 AI가 생성한 답변을 수치화하여 분석하는 자동화 검증 프로세스를 제공하여 AI 시스템의 신뢰성을 효율적으로 높일 수 있도록 지원한다.2025-02-25 08:27:46
-
LG유플러스, MWC서 자체 개발 AI '익시젠'… 글로벌 무대서 'AI 보안' 자신감 과시 [이코노믹데일리] LG유플러스가 자체 개발한 인공지능(AI) 모델 ‘익시젠(ixi-GEN)’의 강력한 보안 및 신뢰성을 글로벌 무대에서 검증받는다. LG유플러스는 내달 스페인 바르셀로나에서 열리는 MWC(모바일월드콩그레스) 2025 기간 중 세계이동통신사업자연합회(GSMA)가 주관하는 ‘레드팀 챌린지(Red Team Challenge)’에 참여한다고 20일 밝혔다. ‘레드팀 챌린지’는 GSMA가 주최하는 권위 있는 AI 검증 대회로 전 세계 통신사들이 개발한 AI 모델의 안전성과 신뢰성을 객관적으로 평가하는 것을 목표로 한다. MWC25 현장에서 진행될 예정인 이번 챌린지에는 80명에서 100명에 달하는 대규모 평가단이 ‘해커’ 역할을 수행하며 AI 모델의 △편향성(Bias) △환각(Hallucination) △기타 보안 취약점 등을 집중적으로 파고든다. 자체 개발 AI 모델의 보안 및 안정성에 대한 확고한 자신감이 있는 기업만이 ‘레드팀 챌린지’에 참여하는 것이 일반적이다. 챌린지 과정에서 AI의 취약점이 노출될 수 있는 위험을 감수하면서까지 참여하는 것은 그만큼 자사 AI 모델의 기술력과 안전성에 대한 확신이 있다는 방증이다. 평가단이 발견한 취약점은 심사위원단의 엄정한 평가를 거쳐 점수화되며 최종 결과는 외부에 공개되지 않는다. LG유플러스는 LG AI연구원의 ‘엑사원(EXAONE)’을 기반으로 자체 제작한 소형언어모델(sLLM) ‘익시젠(ixi-GEN powered by EXAONE)’으로 이번 챌린지에 당당히 도전장을 던졌다. ‘익시젠’은 LG유플러스가 지난해 공개한 통신 특화 AI 모델로 LG AI연구원의 초거대 AI ‘엑사원’을 기반으로 통신 및 플랫폼 데이터를 심층 학습하여 탄생했다. 현재 LG유플러스는 ‘익시젠’을 네트워크(NW) 업무 에이전트, 챗 에이전트, 모바일 매장 어드바이저 등 다양한 AI 서비스에 적용하며 AI 혁신을 가속화하고 있다. 이번 ‘레드팀 챌린지’ 참여를 통해 LG유플러스는 자체 AI 모델 ‘익시젠’의 뛰어난 성능과 견고한 안전성을 글로벌 시장에 널리 알리고 챌린지 과정에서 발견될 수 있는 잠재적 취약점을 보완하여 AI 모델을 한층 더 고도화한다는 계획이다. 한편 LG유플러스의 선도적인 AI 기술력은 이미 GSMA의 공식 보고서를 통해 인정받았다. GSMA가 MWC25에 앞서 발간할 예정인 ‘Telco AI: State of the Market’ 리포트에는 LG유플러스의 AI 솔루션 ‘익시오(ixiO)’와 ‘익시젠’ 기반 ‘업무 에이전트’의 혁신적인 기능과 성과를 상세히 소개하는 내용이 담길 예정이다. 리포트는 ‘익시오’의 핵심 기능인 △AI 통화 응답 △실시간 채팅 △보이스피싱 탐지 기능과 ‘업무 에이전트’의 네트워크 운영 자동화 및 딥러닝 기반 유지보수 기능 등을 중점적으로 다룰 것으로 알려졌다. 이혜진 LG유플러스 기술전략담당은 “고객이 안심하고 신뢰할 수 있는 AI 서비스를 제공하기 위해 글로벌 통신 사업자들이 참여하는 ‘레드팀 챌린지’ 참여를 결정했다”며 “향후에도 글로벌 최고 수준의 보안 역량을 확보하기 위해 LG AI연구원과 긴밀히 협력하여 ‘익시젠’을 지속적으로 발전시켜 나갈 것”이라고 강조했다.2025-02-20 11:27:02
많이 본 뉴스
영상
Youtube 바로가기
![[기자수첩] 할 수도 없고 안 할 수도 없는 투자의 딜레마](https://image.ajunews.com/content/image/2025/05/19/20250519112207758382_518_323.jpg)