[이코노믹데일리] AI 스타트업 튜닙(대표 박규병)이 자사의 최신 AI 윤리 가드레일 솔루션 패키지를 공개하며 주목받고 있다. 네이버 D2SF의 투자 스타트업인 튜닙은 이번 패키지를 통해 AI 서비스의 윤리적 문제를 해결하기 위한 체계적인 접근을 제시했다.
튜닙의 AI 윤리 가드레일 솔루션은 총 6개의 주요 엔진으로 구성되어 있으며, 이는 AI 서비스의 '공격-감시-탐지-대응' 전 과정을 아우르는 종합 솔루션이다. 각 엔진은 △비윤리적 공격 시뮬레이션을 위한 '조커', △방어 모델 '루시', △혐오 표현 탐지 모델 '세인트 패트릭', △준법 감시 모델 '가디언', △스팸 탐지 모델 '스패무라이', △프롬프트 주입 탐지 모델 '엔젤'로 이루어져 있다.
이 솔루션은 생성형 AI의 윤리적 문제를 해결하기 위해 설계되었으며, 특히 AI 서비스의 안전성을 높이는 데 중점을 두고 있다. 글로벌 AI 시장에서도 비슷한 솔루션이 있지만, 튜닙의 패키지는 '공격-감시-탐지' 전 주기를 효과적으로 관리하는 종합적인 접근을 제공한다.
튜닙은 생성형 AI 기술의 발전과 함께 AI 윤리 문제에 대한 해결책을 모색하고 있다. 최근 MS와 메타는 각각 악의적인 프롬프트 조작 방어 솔루션과 AI 모델의 윤리성 평가 모델을 발표했으며, 튜닙의 이번 패키지도 이와 같은 글로벌 흐름에 부합하는 기술로 평가받고 있다.
각 엔진의 주요 기능은 다음과 같다. '조커'는 비윤리적 발화를 시뮬레이션해 AI의 취약점을 테스트하며, '루시'는 이를 방어하는 역할을 한다. '세인트 패트릭'과 '가디언'은 발화의 윤리성을 탐지하여 기업들이 법적 리스크를 줄일 수 있도록 돕는다. '스패무라이'는 다양한 스팸 텍스트를 탐지하고, '엔젤'은 악의적인 프롬프트 주입 시도를 차단해 AI의 안전성을 높인다.
박규병 튜닙 대표는 “AI 윤리 문제는 기술적 안정성뿐만 아니라 신뢰성 확보가 필수적”이라며, “튜닙의 솔루션 패키지는 다양한 기업들이 안정적이고 윤리적인 AI 서비스를 개발하는 데 큰 도움이 될 것”이라고 밝혔다.
현재 튜닙은 AI 윤리 가드레일 패키지의 웹 데모 체험 기회를 제공하고 있으며, 이를 통해 더 많은 기업들이 AI 윤리 문제를 효과적으로 해결할 수 있도록 지원할 예정이다.
댓글 더보기