검색결과 총 10건
-
현대엔지니어링, 플랜트·건설 특화 LLM 개발·시연
[이코노믹데일리] 현대엔지니어링은 인공지능(AI) 연구개발 스타트업 젠티와 함께 플랜트 및 건설 분야 특화 거대 언어 모델(LLM)을 개발하고 지난 18일 이를 시연하는 기술 콘퍼런스를 개최했다고 21일 밝혔다. LLM은 대규모 텍스트를 학습해 인간과 유사하게 언어를 처리하고 생성할 수 있는 AI 모델로, 대표적으로는 챗GPT가 있다. 다만 챗GPT와 같은 보편적 서비스 목적의 프로그램은 보안 문제로 기업 내부 자료를 입력할 수 없을 뿐만 아니라 거짓정보 생성, 최신 정보 업데이트 및 전문 지식 부족, 비용 발생 등의 이유로 실무에 활용하기에는 제약이 있다. 이를 극복하기 위해 현대엔지니어링은 젠티와 협력해 165억개의 말뭉치 토큰으로 이뤄진 방대한 플랜트 건설 분야 데이터를 학습한 파운데이션 모델을 개발했으며, 전문 엔지니어링 자료와 정제된 사내 데이터를 학습시켜 잘못된 정보를 사실인 것처럼 제시하는 '환각 현상'을 줄이고 답변의 신뢰도를 높였다. 최종 성능 검사 결과, 현대엔지니어링의 플랜트 특화 LLM은 오픈AI의 언어모델인 GPT-4와 GPT-3.5, 구글의 젬마2(Gemma2 9B), 업스테이지의 솔라-1O.7B 등과 비교해 미국 기술사 시험인 PE 테스트의 전기(Power) 분야에서 가장 높은 평균 점수를 기록했다. 한국플랜트산업협회가 건설 분야 생성형 AI의 촉진을 위해 개발한 기술 시험에서도 최고점을 달성했다. 현대엔지니어링은 이 모델을 활용해 방대한 사내 기술 자료를 질의·답변 방식으로 검색·요약·번역할 수 있는 '챗파일' 서비스와 과거 사례 및 법률 조항, 표준계약조건(FIDIC) 등을 바탕으로 입찰안내서(ITB) 항목을 비교 분석 및 검토해주는 서비스를 개발하고 있다. 향후 서비스가 업무에 적용될 경우 △ 정보검색 시간 단축 등 생산성 향상 △ 보고서, 문서 자동생성 등 업무 효율화 △ 리스크 분석, 기술적 의사 결정 등 업무 지원체계 확립 △ 임직원 교육 시스템 구축 등의 효과를 낼 것으로 회사 측은 기대하고 있다.
2024-10-21 14:22:05
-
-
-
-
-
AWS, 생성형 AI로 기업 혁신 주도... 안전성과 실용성 강화
[이코노믹데일리] 아마존웹서비스(AWS)가 기업용 생성형 인공지능(AI) 시장에서 혁신을 주도하고 있다. 13일 서울 강남구 AWS코리아 사옥에서 열린 '2024 생성형 AI 미디어 브리핑'에서 AWS는 자사의 대표적 AI 플랫폼인 '아마존 베드록'의 새로운 기능들을 상세히 소개했다. AWS의 대표 AI 플랫폼인 '아마존 베드록'은 다양한 대형 언어 모델(LLM)을 단일 애플리케이션 프로그래밍 인터페이스(API)를 통해 제공한다. 이를 통해 기업 고객은 아마존의 '타이탄', 앤트로픽의 '클로드', 메타의 '라마', 미스트랄 AI의 '미스트랄' 등 여러 모델을 활용하여 AI 애플리케이션을 쉽게 구축할 수 있다. AWS는 하나의 API를 통해 여러 LLM에 접근할 수 있게 함으로써 기업이 AI 애플리케이션을 특정 요구에 맞게 조정할 수 있도록 지원한다. 김선수 AWS코리아 AI·ML 사업개발 수석 스페셜리스트는 "최근 18개월 동안 AWS가 출시한 생성형 AI 및 기계학습 기술의 수는 주요 경쟁사들이 선보인 기술을 모두 합친 것보다 2배 이상 많다"고 밝혔다. 이는 AWS가 AI 기술 혁신에서 선도적 위치를 점하고 있음을 강조했다. 이어 "생성형 AI 모델을 사용하는 기업 중 41%가 3개 이상의 모델을 활용하고 있어, 다양한 모델에 대한 수요가 높다"고 밝혔다. 이번 업데이트에서 가장 주목할 만한 점은 검색 증강 생성(RAG) 기능의 강화다. RAG는 AI가 기존에 학습한 데이터 외에 외부 데이터를 참고해 답변의 질을 높이는 기법이다. AWS는 아마존 S3뿐만 아니라 웹 도메인, 컨플루언스, 세일즈포스, 쉐어포인트 등 다양한 외부 데이터 소스를 RAG에 활용할 수 있도록 했다. AI의 신뢰성과 안전성 향상도 이번 업데이트의 중요한 특징이다. '가드레일 API' 기능은 모든 AI 애플리케이션에 표준화된 보호 조치를 적용할 수 있게 해준다. '컨텍스트 그라운딩 검사'는 AI의 환각을 감지하고 차단하는 기능으로, 답변이 질문과 관련성이 있는지, 기업 데이터에 기반한 내용인지를 체크한다. 강병래 LG유플러스 프로젝트 매니저는 "아마존 베드록을 활용해 영업전산시스템 '유큐브'에 생성형 AI 기능을 탑재했다"며 "다양한 LLM을 손쉽게 선택할 수 있고, 월 300달러 이하의 비용으로 경제적으로 사용 중"이라고 말했다. 개발자를 위한 도구도 강화됐다. '아마존 Q 디벨로퍼'에 추가된 커스터마이제이션 기능은 기업 내부 코드나 모범 사례를 기반으로 맞춤형 코드를 제안한다. 코드 변환 기능은 자바8 기반 코드를 자바17용으로 자동 변환해준다. 윤석찬 AWS코리아 수석 테크 에반젤리스트는 "아마존 내부에서 Q 디벨로퍼의 코드 변환 기능을 활용해 연간 2억 6000만 달러의 비용 절감 효과를 거뒀다"고 밝혔다. AI 안전성에 대한 우려에 대응하기 위해 AWS는 베드록에 '문맥 그라운딩 체크' 기능을 추가했다. 이 기능은 AI 답변의 신뢰성과 정확성을 객관적 수치로 평가하고 필터링한다. 김 수석 스페셜리스트는 "이 기능을 통해 검색 결과의 증명과 요약 작업의 필터링이 75% 향상됐다"고 설명했다.
2024-08-13 17:43:47
-
-
한컴, AI 문서 작성 도구 '한컴어시스턴트' 베타 출시
[이코노믹데일리] 한컴은 AI 지능형 문서 작성 도구 '한컴어시스턴트' 베타 버전을 출시하고 B2G·B2B 고객 대상 PoC를 시작한다고 밝혔다. 한컴어시스턴트는 사용자의 자연어 명령을 이해하고 문서를 자동으로 작성해주는 AI 기반 서비스다. 챗봇, AI 허브, 한컴 sLLM 등으로 구성된 한컴어시스턴트는 기존 LLM 연동 서비스와 차별화된 고도화된 기능을 제공한다. 한컴어시스턴트는 문서 작성 시작부터 마무리까지 전 과정을 지원한다. 기본 정보만 입력하면 문서 초안을 완성하거나 사용자 의도를 파악해 콘텐츠를 자동으로 만들어 준다. 또한, 주로 쓰는 템플릿을 맞춤형으로 제공하고, 헷갈리는 맞춤법도 자동으로 교정한다. 이 외에도 단순 반복 작업을 자동화하고, 기존 문서를 참고해 필요한 내용을 검색하거나 원하는 부분을 추출해 서식 문서도 자동으로 작성해 준다. 한컴어시스턴트는 챗GPT 등 외부망 연결이 필요한 LLM을 사용할 수 없는 폐쇄망 환경에서도 스마트한 문서 작성을 지원한다. 한컴피디아를 함께 연동하면 고객이 보유하고 있는 문서 정보들을 데이터베이스로 활용해 정확도를 높이는 동시에 환각 현상을 최소화하며, 보안이 중요한 환경에서도 안심하고 사용할 수 있다. 한컴어시스턴트는 OCR(문자인식), STT(음성인식) 등의 기능을 고객의 필요에 따라 손쉽게 추가할 수 있으며, 고객사의 고유한 문서 작성 업무 프로세스에 맞춘 별도 모듈을 개발 및 연동 가능하다. 이번 PoC를 통해 한컴어시스턴트는 △공문서·계획서·사업보고서 등 서식 제공 △문서 초안 작성 △문서 요약 △제목 생성 △자주 쓰는 양식 불러오기 △문서 내용 검색 등 문서를 중심으로 한 업무 편의와 효율을 극대화하는 데 초점을 맞췄다. 한컴은 이미 경기도청, 한국전력공사 등과 한컴어시스턴트의 PoC를 진행하고 있으며, 앞으로 B2G·B2B 고객 피드백을 토대로 설루션 경쟁력을 한층 고도화할 예정이다. 김연수 한컴 대표는 "한컴어시스턴트는 그간 축적한 한컴의 문서 기술과 AI 기술을 집약한 제품으로 앞으로 문서 작성의 패러다임을 바꾸는 중요한 전환점이 될 것이라 확신한다"고 며 "이번 PoC를 통해 성능과 안정성을 높여 공공과 기업 고객의 요구를 충족하는 사무 환경에 꼭 필요한 서비스로 자리 잡을 수 있도록 역량을 집중하겠다"고 말했다.
2024-06-28 09:39:02
-
SK텔레콤, 미국 AI 검색엔진 스타트업 퍼플렉시티에 1천만 달러 투자
[이코노믹데일리] SK텔레콤이 전세계 빅테크들이 주목하고 있는 '생성형 AI 검색엔진' 분야에 투자를 단행하고 강력한 사업협력을 추진한다. SK텔레콤은 미국의 생성형 AI 검색엔진 스타트업 퍼플렉시티에 1천만 달러를 투자하며, 양사는 AI 검색엔진 사업 협력을 강화할 예정이다. 퍼플렉시티는 거대언어모델(LLM)을 기반으로 한 대화형 AI 검색 서비스를 제공하는 미국 스타트업으로, 엔비디아와 아마존 회장 제프 베조스 등도 투자를 한 유니콘 기업이다. 이 회사는 월 2.3억 개 이상의 검색 요청을 처리하며, 구글의 대항마로 주목받고 있다. 지난 5월 월스트리트 저널에서 발표한 챗봇 사용성 평가에서 종합 1위를 차지하기도 했다. 양사는 지난 2월 바르셀로나에서 열린 MWC 2024에서 전략적 파트너십을 체결한 데 이어, 이번 투자를 통해 지속 가능한 AI 사업 시너지를 기대하고 있다. 퍼플렉시티는 SK텔레콤의 글로벌 AI 플랫폼 코퍼레이션(GAP Co.)에 향후 투자하기로 합의했으며, GAP Co.는 SK텔레콤의 글로벌 AI 서비스 개발 주체로서 퍼플렉시티와 함께 AI 검색 서비스를 공동 개발할 예정이다. SK텔레콤은 퍼플렉시티의 생성형 AI 검색엔진을 자사의 ‘A.(에이닷)’ 서비스에 탑재해 한국어 데이터와 문화 콘텐츠 정보를 제공하고, 퍼플렉시티와 함께 한국어 검색 성능 개선을 위한 LLM 파인튜닝 및 검색 솔루션 고도화 등 포괄적 공동 개발에 나선다. 퍼플렉시티의 생성형 AI 검색엔진은 검색 후 답을 찾기까지의 지연 시간이 짧고, 사용자에게 정확한 출처의 정보를 제공하는 것이 특징이다. 가령, "호날두와 메시의 실력을 비교해 달라"고 입력하면 AI는 역대 소속 팀별 성적, 수상 횟수, 득점 기록 등 필요한 모든 정보를 요약해 사용자에게 가장 적합한 결과를 제공한다. 이 과정에서 사용자는 다양한 링크를 찾아보는 수고를 덜 수 있다. 또한, 뉴스 기사, 유튜브 동영상, 블로그 게시글 등 답변의 출처를 함께 제공해 생성형 AI의 환각(hallucination) 현상을 방지한다. SK텔레콤은 이번 투자를 통해 퍼플렉시티 서비스를 국내 통신사 중 유일하게 국내 고객들에게 제공할 수 있게 되었다. SK텔레콤은 자사 고객에게 유료 구독형 검색 서비스 ‘퍼플렉시티 프로’를 1년간 무료로 제공할 계획이며, 에이닷, T우주, T멤버십 등 다양한 채널을 통해 공동 마케팅도 추진할 예정이다. 퍼플렉시티의 최고 비즈니스 책임자 드미트리 쉬벨렌코는 "양사는 우리 삶을 풍성하게 하는 최고의 AI 서비스를 제공하겠다는 비전을 공유하고 있다"며, "이번 파트너십을 통해 SK텔레콤 고객에게 퍼플렉시티 프로 서비스를 제공할 수 있게 되어 기쁘게 생각한다"고 말했다. 이어 "고객 일상의 최전선에 있는 통신사와의 파트너십은 퍼플렉시티 성장 전략의 핵심 요인이 될 것이며, 글로벌 통신사와의 최초 협력 사례로 SK텔레콤과의 파트너십이 장기적으로 이어지기를 기대한다"고 덧붙였다. 이재신 SK텔레콤 AI 성장전략 담당 부사장은 "퍼플렉시티와의 투자 협력을 통해 AI 검색엔진 시장에서 글로벌 경쟁력을 확보하게 됐다"며, "양사 간 돈독한 협력을 기반으로 에이닷 검색 능력 강화 및 국내외 최고 수준의 AI 개인 비서 서비스를 출시할 예정"이라고 밝혔다.
2024-06-13 09:32:43
-