셀렉트스타, GSMA 손잡고 MWC 2025서세계 최초 '글로벌 AI 레드팀 챌린지' 개최

[이코노믹데일리] AI 스타트업 셀렉트스타가 세계이동통신사업자연합회(GSMA)와 공동으로 내년 3월 스페인 바르셀로나에서 열리는 MWC(모바일 월드 콩그레스) 2025에서 ‘글로벌 AI 레드팀 챌린지’를 세계 최초로 개최한다고 25일 밝혔다.

이번 챌린지는 2025년 3월 5일 오후 12시 30분부터 2시 30분(현지 시각)까지 Fira Gran Via Hall 6에서 진행될 예정이며 다국적 참가자와 다양한 LLM(대형언어모델)이 참여하는 글로벌 단위의 AI 레드팀 챌린지로는 세계 최초라는 점에서 의미가 크다.

‘AI 레드팀 챌린지’는 인공지능 기술의 발전과 함께 중요성이 커지고 있는 AI 안전성, 신뢰성, 보안 강화 방안을 모색하기 위해 마련됐다. 참가자들은 실제 서비스 중인 LLM에 모의 프롬프트 공격을 시도하여 잠재적인 결함과 취약점을 발굴하고 검증하는 방식으로 챌린지에 참여하게 된다. 특히 유해하거나 차별적인 결과, 시스템 오용 가능성 등 AI 모델의 다양한 문제점을 집중적으로 파고들 예정이다.

챌린지 공동 주최를 맡은 셀렉트스타는 AI 레드팀 플랫폼 운영, 문제 출제, 응답 검수 등 핵심적인 역할을 수행하며 그동안 축적해 온 AI 레드팀 분야의 전문성과 기술력을 국제 무대에 선보일 계획이다. 이번 챌린지에는 LG유플러스가 LG AI연구원의 엑사원(EXAONE)을 기반으로 개발한 sLLM(소형언어모델) 익시젠(ixi-GEN)을 비롯하여 아랍에미리트 TelecomGPT, 말레이시아 AIngineer 등 글로벌 AI 선도 기업들이 개발한 LLM이 평가 모델로 사용될 예정이다.
  글로벌 AI 및 통신 업계를 대표하는 기업과 기관들의 후원도 잇따르고 있다. GSMA를 비롯해 아랍에미리트 국영 통신사 E&, 대한민국 과학기술정보통신부, 대한민국 인공지능 안전연구소 등이 후원사로 참여하여 챌린지의 위상을 높였다.

셀렉트스타는 이미 국내 최대 규모로 개최된 ‘생성형 AI 레드팀 챌린지’에서 핵심 파트너사로 참여하며 국내 AI 레드팀 기술력을 입증한 바 있다. 지난해 4월 과학기술정보통신부 주최로 진행된 이 챌린지에는 네이버클라우드, SK텔레콤, 업스테이지, 포티투마루 등 국내 주요 AI 기업들의 모델이 활용되었으며 700명이 넘는 참가자가 몰려 성황리에 마무리됐다. 국내 성공에 이어 GSMA와 손잡고 글로벌 챌린지를 개최함으로써 셀렉트스타는 AI 레드팀 분야의 글로벌 선도 기업으로 발돋움할 것으로 기대된다.

황민영 셀렉트스타 부대표는 “GSMA와 함께 글로벌 레드팀 챌린지를 개최하게 된 것은 셀렉트스타가 세계적인 수준의 AI 레드팀 기술과 신뢰성 검증 역량을 인정받은 결과”라며 “이번 챌린지를 통해 셀렉트스타의 AI 신뢰성 평가 솔루션을 세계 시장에 알리고 글로벌 AI 기업들과의 협력 관계를 더욱 확대해 나갈 것”이라고 포부를 밝혔다.

한편 셀렉트스타는 MWC 2025에서 자체 개발한 생성형 AI 신뢰성 검증 자동화 솔루션 ‘DATUMO Eval(다투모 이밸)’을 글로벌 시장에 정식으로 출시한다. ‘DATUMO Eval’은 AI 서비스 운영 중 발생할 수 있는 오류와 위험을 사전에 감지하고 대응할 수 있도록 설계된 솔루션이다. 특히 도메인 맞춤형 평가 질문을 대량으로 생성하고 AI가 생성한 답변을 수치화하여 분석하는 자동화 검증 프로세스를 제공하여 AI 시스템의 신뢰성을 효율적으로 높일 수 있도록 지원한다.