AWS의 대표 AI 플랫폼인 '아마존 베드록'은 다양한 대형 언어 모델(LLM)을 단일 애플리케이션 프로그래밍 인터페이스(API)를 통해 제공한다. 이를 통해 기업 고객은 아마존의 '타이탄', 앤트로픽의 '클로드', 메타의 '라마', 미스트랄 AI의 '미스트랄' 등 여러 모델을 활용하여 AI 애플리케이션을 쉽게 구축할 수 있다. AWS는 하나의 API를 통해 여러 LLM에 접근할 수 있게 함으로써 기업이 AI 애플리케이션을 특정 요구에 맞게 조정할 수 있도록 지원한다.
김선수 AWS코리아 AI·ML 사업개발 수석 스페셜리스트는 "최근 18개월 동안 AWS가 출시한 생성형 AI 및 기계학습 기술의 수는 주요 경쟁사들이 선보인 기술을 모두 합친 것보다 2배 이상 많다"고 밝혔다. 이는 AWS가 AI 기술 혁신에서 선도적 위치를 점하고 있음을 강조했다. 이어 "생성형 AI 모델을 사용하는 기업 중 41%가 3개 이상의 모델을 활용하고 있어, 다양한 모델에 대한 수요가 높다"고 밝혔다.
이번 업데이트에서 가장 주목할 만한 점은 검색 증강 생성(RAG) 기능의 강화다. RAG는 AI가 기존에 학습한 데이터 외에 외부 데이터를 참고해 답변의 질을 높이는 기법이다. AWS는 아마존 S3뿐만 아니라 웹 도메인, 컨플루언스, 세일즈포스, 쉐어포인트 등 다양한 외부 데이터 소스를 RAG에 활용할 수 있도록 했다.
AI의 신뢰성과 안전성 향상도 이번 업데이트의 중요한 특징이다. '가드레일 API' 기능은 모든 AI 애플리케이션에 표준화된 보호 조치를 적용할 수 있게 해준다. '컨텍스트 그라운딩 검사'는 AI의 환각을 감지하고 차단하는 기능으로, 답변이 질문과 관련성이 있는지, 기업 데이터에 기반한 내용인지를 체크한다.
강병래 LG유플러스 프로젝트 매니저는 "아마존 베드록을 활용해 영업전산시스템 '유큐브'에 생성형 AI 기능을 탑재했다"며 "다양한 LLM을 손쉽게 선택할 수 있고, 월 300달러 이하의 비용으로 경제적으로 사용 중"이라고 말했다.
개발자를 위한 도구도 강화됐다. '아마존 Q 디벨로퍼'에 추가된 커스터마이제이션 기능은 기업 내부 코드나 모범 사례를 기반으로 맞춤형 코드를 제안한다. 코드 변환 기능은 자바8 기반 코드를 자바17용으로 자동 변환해준다. 윤석찬 AWS코리아 수석 테크 에반젤리스트는 "아마존 내부에서 Q 디벨로퍼의 코드 변환 기능을 활용해 연간 2억 6000만 달러의 비용 절감 효과를 거뒀다"고 밝혔다.
AI 안전성에 대한 우려에 대응하기 위해 AWS는 베드록에 '문맥 그라운딩 체크' 기능을 추가했다. 이 기능은 AI 답변의 신뢰성과 정확성을 객관적 수치로 평가하고 필터링한다. 김 수석 스페셜리스트는 "이 기능을 통해 검색 결과의 증명과 요약 작업의 필터링이 75% 향상됐다"고 설명했다.
댓글 더보기