2024.11.23 토요일
검색
'가드레일' 검색결과
기간검색
-
~
검색영역
검색어
-
AWS, 생성형 AI로 기업 혁신 주도... 안전성과 실용성 강화 [이코노믹데일리] 아마존웹서비스(AWS)가 기업용 생성형 인공지능(AI) 시장에서 혁신을 주도하고 있다. 13일 서울 강남구 AWS코리아 사옥에서 열린 '2024 생성형 AI 미디어 브리핑'에서 AWS는 자사의 대표적 AI 플랫폼인 '아마존 베드록'의 새로운 기능들을 상세히 소개했다. AWS의 대표 AI 플랫폼인 '아마존 베드록'은 다양한 대형 언어 모델(LLM)을 단일 애플리케이션 프로그래밍 인터페이스(API)를 통해 제공한다. 이를 통해 기업 고객은 아마존의 '타이탄', 앤트로픽의 '클로드', 메타의 '라마', 미스트랄 AI의 '미스트랄' 등 여러 모델을 활용하여 AI 애플리케이션을 쉽게 구축할 수 있다. AWS는 하나의 API를 통해 여러 LLM에 접근할 수 있게 함으로써 기업이 AI 애플리케이션을 특정 요구에 맞게 조정할 수 있도록 지원한다. 김선수 AWS코리아 AI·ML 사업개발 수석 스페셜리스트는 "최근 18개월 동안 AWS가 출시한 생성형 AI 및 기계학습 기술의 수는 주요 경쟁사들이 선보인 기술을 모두 합친 것보다 2배 이상 많다"고 밝혔다. 이는 AWS가 AI 기술 혁신에서 선도적 위치를 점하고 있음을 강조했다. 이어 "생성형 AI 모델을 사용하는 기업 중 41%가 3개 이상의 모델을 활용하고 있어, 다양한 모델에 대한 수요가 높다"고 밝혔다. 이번 업데이트에서 가장 주목할 만한 점은 검색 증강 생성(RAG) 기능의 강화다. RAG는 AI가 기존에 학습한 데이터 외에 외부 데이터를 참고해 답변의 질을 높이는 기법이다. AWS는 아마존 S3뿐만 아니라 웹 도메인, 컨플루언스, 세일즈포스, 쉐어포인트 등 다양한 외부 데이터 소스를 RAG에 활용할 수 있도록 했다. AI의 신뢰성과 안전성 향상도 이번 업데이트의 중요한 특징이다. '가드레일 API' 기능은 모든 AI 애플리케이션에 표준화된 보호 조치를 적용할 수 있게 해준다. '컨텍스트 그라운딩 검사'는 AI의 환각을 감지하고 차단하는 기능으로, 답변이 질문과 관련성이 있는지, 기업 데이터에 기반한 내용인지를 체크한다. 강병래 LG유플러스 프로젝트 매니저는 "아마존 베드록을 활용해 영업전산시스템 '유큐브'에 생성형 AI 기능을 탑재했다"며 "다양한 LLM을 손쉽게 선택할 수 있고, 월 300달러 이하의 비용으로 경제적으로 사용 중"이라고 말했다. 개발자를 위한 도구도 강화됐다. '아마존 Q 디벨로퍼'에 추가된 커스터마이제이션 기능은 기업 내부 코드나 모범 사례를 기반으로 맞춤형 코드를 제안한다. 코드 변환 기능은 자바8 기반 코드를 자바17용으로 자동 변환해준다. 윤석찬 AWS코리아 수석 테크 에반젤리스트는 "아마존 내부에서 Q 디벨로퍼의 코드 변환 기능을 활용해 연간 2억 6000만 달러의 비용 절감 효과를 거뒀다"고 밝혔다. AI 안전성에 대한 우려에 대응하기 위해 AWS는 베드록에 '문맥 그라운딩 체크' 기능을 추가했다. 이 기능은 AI 답변의 신뢰성과 정확성을 객관적 수치로 평가하고 필터링한다. 김 수석 스페셜리스트는 "이 기능을 통해 검색 결과의 증명과 요약 작업의 필터링이 75% 향상됐다"고 설명했다.2024-08-13 17:43:47
-
튜닙, AI 윤리 솔루션 공개…'안전한 AI' 실현 나선다 [이코노믹데일리] AI 스타트업 튜닙(대표 박규병)이 자사의 최신 AI 윤리 가드레일 솔루션 패키지를 공개하며 주목받고 있다. 네이버 D2SF의 투자 스타트업인 튜닙은 이번 패키지를 통해 AI 서비스의 윤리적 문제를 해결하기 위한 체계적인 접근을 제시했다. 튜닙의 AI 윤리 가드레일 솔루션은 총 6개의 주요 엔진으로 구성되어 있으며, 이는 AI 서비스의 '공격-감시-탐지-대응' 전 과정을 아우르는 종합 솔루션이다. 각 엔진은 △비윤리적 공격 시뮬레이션을 위한 '조커', △방어 모델 '루시', △혐오 표현 탐지 모델 '세인트 패트릭', △준법 감시 모델 '가디언', △스팸 탐지 모델 '스패무라이', △프롬프트 주입 탐지 모델 '엔젤'로 이루어져 있다. 이 솔루션은 생성형 AI의 윤리적 문제를 해결하기 위해 설계되었으며, 특히 AI 서비스의 안전성을 높이는 데 중점을 두고 있다. 글로벌 AI 시장에서도 비슷한 솔루션이 있지만, 튜닙의 패키지는 '공격-감시-탐지' 전 주기를 효과적으로 관리하는 종합적인 접근을 제공한다. 튜닙은 생성형 AI 기술의 발전과 함께 AI 윤리 문제에 대한 해결책을 모색하고 있다. 최근 MS와 메타는 각각 악의적인 프롬프트 조작 방어 솔루션과 AI 모델의 윤리성 평가 모델을 발표했으며, 튜닙의 이번 패키지도 이와 같은 글로벌 흐름에 부합하는 기술로 평가받고 있다. 각 엔진의 주요 기능은 다음과 같다. '조커'는 비윤리적 발화를 시뮬레이션해 AI의 취약점을 테스트하며, '루시'는 이를 방어하는 역할을 한다. '세인트 패트릭'과 '가디언'은 발화의 윤리성을 탐지하여 기업들이 법적 리스크를 줄일 수 있도록 돕는다. '스패무라이'는 다양한 스팸 텍스트를 탐지하고, '엔젤'은 악의적인 프롬프트 주입 시도를 차단해 AI의 안전성을 높인다. 박규병 튜닙 대표는 “AI 윤리 문제는 기술적 안정성뿐만 아니라 신뢰성 확보가 필수적”이라며, “튜닙의 솔루션 패키지는 다양한 기업들이 안정적이고 윤리적인 AI 서비스를 개발하는 데 큰 도움이 될 것”이라고 밝혔다. 현재 튜닙은 AI 윤리 가드레일 패키지의 웹 데모 체험 기회를 제공하고 있으며, 이를 통해 더 많은 기업들이 AI 윤리 문제를 효과적으로 해결할 수 있도록 지원할 예정이다.2024-08-02 08:16:28
많이 본 뉴스
영상
Youtube 바로가기
![[데스크칼럼] AI 시대, 개발자의 미래와 생존 전략](https://image.ajunews.com/content/image/2024/10/02/20241002130756978212_518_323.jpg)