검색결과 총 45건
-
스퀴즈비츠, 거대 언어 모델 서빙 최적화 솔루션 '핏츠 온 칩스' 출시
[이코노믹데일리] AI 경량화 및 최적화 전문 스타트업 스퀴즈비츠가 대형 언어 모델(LLM) 서빙을 효율적으로 지원하는 맞춤형 솔루션 ‘핏츠 온 칩스(Fits on Chips)’를 출시했다고 3일 밝혔다. 이번 솔루션은 LLM 서빙 과정에서 시간과 비용을 획기적으로 절감하고 다양한 하드웨어와의 호환성을 확장하는 데 초점을 맞췄다. 핏츠 온 칩스는 모델 선택부터 서빙 설정, 성능 평가, 배포까지 LLM 서빙에 필요한 모든 과정을 단순화하고 최적화한다. 오픈소스 라이브러리인 허깅페이스와 연동해 다양한 LLM 모델을 쉽게 통합할 수 있으며 이를 통해 최적의 서빙 설정을 빠르게 찾아낸다. 스퀴즈비츠는 기존 엔지니어가 30시간 이상 소요하던 작업 시간을 3시간 내로 단축하고, 비용도 절반 수준으로 줄일 수 있다. 김형준 스퀴즈비츠 대표는 “누구나 쉽게 LLM 서빙을 시뮬레이션하고 분석할 수 있도록 설계된 제품”이라며 “LLM 서비스 기업들의 성능 최적화와 비용 절감에 기여하겠다”고 강조했다. 스퀴즈비츠는 이번 솔루션을 통해 엔비디아 GPU와 인텔 가우디를 비롯한 다양한 하드웨어에서 LLM 서빙이 가능하도록 지원 범위를 확대했다. 특히 인텔, 네이버와 협력해 인텔의 가우디에서 LLM을 최적화하는 프로젝트를 진행 중이다. 이를 기반으로 사용자가 하드웨어별 비용과 속도를 비교 분석해 최적의 옵션을 선택할 수 있도록 한다는 방침이다. 또한 TensorRT-LLM 및 vLLM과 같은 다양한 프레임워크를 비교 분석할 수 있는 기능도 포함됐다. 이를 통해 사용자는 최적화된 서빙 환경을 구축해 인프라의 효율성을 극대화할 수 있다. 스퀴즈비츠는 핏츠 온 칩스를 AMD, 아마존, 구글 등의 하드웨어로 지원 범위를 넓히고, AI Agent와의 연동 기능도 추가할 계획이다. 김형준 대표는 “다양한 기술 개발을 통해 AI 서비스 기업들이 혁신적인 성능을 발휘할 수 있도록 돕겠다”고 말했다. 한편 스퀴즈비츠는 2022년 설립 이후 AI 경량화와 최적화 기술을 바탕으로 주요 학회에 70편 이상의 논문을 발표했으며, 카카오벤처스, 네이버 D2SF, 삼성넥스트 등으로부터 투자를 유치했다.
2024-12-03 09:22:08
-
창립 30주년 맞은 포스코이앤씨, AI 기술로 경쟁력 키운다
[이코노믹데일리] 창립 30주년을 맞은 포스코이앤씨가 인공지능(AI)을 기반으로 한 스마트건설 기술개발을 통한 경쟁력 강화에 나서고 있다. 27일 업계에 따르면 포스코이앤씨는 2018년부터 건설 경쟁력 확보를 위해 스마트건설 전담조직을 신설하고 '스마트 컨스트럭션(Smart Construction) 1.0'을 수립해 스마트 기술을 집중적으로 개발해왔다. 올해부터는 'Smart Construction 2.0' 전략을 수립했다. 빌딩정보모델링(BIM), AI, 건설로봇 등을 적극적으로 도입해 건설 현장의 생산성을 향상하고 위험요인을 줄이는 것이 핵심이다. 특히 포스코이앤씨는 다양하고 많은 프로젝트를 수행하며 쌓은 빅데이터를 기반으로 딥러닝을 활용한 AI 기술개발에 집중하고 있다. 우선 건설특화 AI 모델을 설계단계부터 업무에 적용해 업무 효율성을 높이고 설계 오류를 줄여나가는 등 PJT(프로젝트) 관리 지능화를 진행 중이다. 또 AI기술을 기반으로 한 지역별 부동산 시장 분석 시스템도 도입했다. 이 시스템은 전국 219개 시군구 지역의 10년간 수급, 가격, 거래, 개발호재, 경제, 시장 지표 등을 데이터화해 시장현황을 빠르게 파악하고 해당 지역의 부동산 시장에 영향을 미치는 주요 영향인자를 도출할 수 있는 모델이다. 실시간으로 시장의 분석값을 확인할 수 있어 주택공급이 필요한 도시를 발굴하고 적정 공급 규모와 공급 시기를 판단하는 등 영업활동에 적극적으로 활용하고 있다. 원자재 가격예측에도 AI 시스템을 갖췄다. 이 기술로 최대 6개월의 철근과 레미콘, 후판, PHC 파일 등 건설공사에서 핵심이 되는 원자재의 가격을 예측할 수 있다. 최대 6개월 미래 가격을 최대·보통·최소 가격범위로 파악한다. 위험도를 4단계 지수로 구분해 프로젝트 단계별 구매 계획을 수립할 수 있다. 이를 통해 포스코이앤씨는 건설에 쓰일 원자재의 조기 발주 등 최적의 구매전략을 수립해 공사비 원가 상승 부담을 줄이고 있다. 공동주택 철근소요량 예측모델도 활용 중이다. 포스코이앤씨가 지난 30년간 시공하며 쌓은 빅테이터를 기반으로 딥러닝을 활용해 공동주택의 타입별 철근사용량을 분석해 신규 건설에 드는 철근량을 산출하는 모델이다. 견적단계부터 철근사용량의 정확한 예측이 가능하기 때문에 안정적인 철근 수급과 시공 품질 확보가 가능하다. 견적 산출 소요시간을 기존과 비교해 60% 이상 단축하고 정확도 역시 95% 수준으로 향상했다. AI기술을 통해 공동주택 사업 과정에서 발생할 수 있는 위험요인들도 탐지한다. 축적된 공동주택 프로젝트 수행실적 데이터를 기반으로 공사·조달인력·원가 등 주요 요인별 공기지연 위험도를 AI를 통해 직관적으로 확인할 수 있어 공사 초기 이상징후를 미리 파악해 대응할 수 있다. 현재 진행 중인 공동주택 현장에 적극 활용 중이며, 이를 통해 공기연장에 따른 입주 지연 문제를 최소화하고 있다. 안전관리 분야에도 AI기술을 도입했다. 스마트 세이프티 플랫폼을 이용하면 기존에 설치된 폐쇄회로(CC)TV로 얻은 영상정보를 AI기술로 분석해 추락방지 덮개, 안전난간대 등 안전임시시설을 실시간으로 관찰하고 이상이 있는 경우 복구조치를 하게끔 알람을 준다. 이 기술은 자재, 작업자 등 여러 요소의 촬영 영상과 3D 영상을 합성하고 이를 학습시켜 신뢰도를 95% 가까이 향상했다. 드론도 접목했다. 드론 촬영과 비전(Vision) AI 기술을 접목한 AI 균열 이미지 분석 플랫폼으로 콘크리트 균열의 폭, 길이 등이 자동탐지가 가능하다. 또 균열발생량 분석으로 위험균열을 우선 식별할 수 있다. 공동주택 콘크리트 외벽 균열조사에 활발히 적용 중이다. 앞으로 교량, 사일로(Silo) 등 인프라 및 플랜트 구조물에도 확대 적용될 예정이다. 이 밖에도 챗지피티(ChatGPT)와 같은 거대언어모델(LLM) 기술을 활용해 입찰안내서(ITB, Invitation to bid)에서 필수적으로 검토돼야 하는 내용을 자동검토한다. 채팅 형태로 질의 응답할 수 있는 '계약문서 검토 시스템'도 활용 중이다. 이 시스템은 2건의 특허출원을 완료한 상태다. 현재 포스코이앤씨는 도면을 자동으로 검토할 수 있는 시스템을 개발하는 등 건설업계의 AI 분야를 리딩하고 있다.
2024-11-28 10:00:00
-
유아이패스, AI 에이전트와 RPA의 만남....혁신은 이제부터 시작
[이코노믹데일리] 유아이패스가 기업용 자동화 기술의 새로운 지평을 열며 인공지능(AI) 에이전트를 중심으로 한 차세대 자동화 전략을 발표했다. 이는 단순 반복 작업을 넘어 복잡한 의사결정과 창의적 업무까지 지원하는 기술로 기업의 업무 효율을 대폭 향상시킬 것으로 기대된다. 조의웅 유아이패스코리아 지사장은 27일 서울 종로구에서 열린 기자간담회에서 “유아이패스는 단순 업무 자동화 중심의 로봇프로세스자동화(RPA) 시대를 넘어 복잡하고 역동적인 업무까지 자동화하는 새로운 패러다임을 열었다”며 “AI 에이전트는 기업 업무의 자동화를 한 단계 더 발전시킬 것”이라고 밝혔다. 조 지사장은 지난 10월 미국 라스베이거스에서 열린 ‘유아이패스 포워드 2024’에서 발표한 ‘액트2(Act2)’ 전략을 한국 시장에 본격적으로 소개했다. 기존 RPA 기술이 사람이 정해준 규칙에 따라 단순 작업을 처리하는 데 초점을 맞췄다면 이번 전략은 거대언어모델(LLM)과 AI 에이전트를 기반으로 창의적이고 복잡한 업무까지 수행할 수 있도록 진화했다. 백승헌 유아이패스 전무는 “AI 에이전트는 로봇을 대체하는 것이 아니라 로봇·LLM·에이전트가 각자의 역할을 맡아 협력하는 시스템”이라며 “데이터 처리, 의사결정, 역할 기반 업무 수행, 창의적 작업이라는 네 가지 주요 영역에서 AI 에이전트를 활용할 수 있다”고 설명했다. 유아이패스는 완전 자율적인 AI 대신 기업의 신뢰성과 통제를 보장하는 ‘엔터프라이즈 에이전트’ 모델을 제시했다. 백 전무는 “기업은 안정성과 보안을 중시하기 때문에 AI 에이전트에 완전한 자율성을 부여할 수 없다”며 “유아이패스의 엔터프라이즈 에이전트는 이러한 요구를 충족하도록 설계됐다”고 말했다. 내년 초 유아이패스는 기업 맞춤형 AI 에이전트를 제작할 수 있는 도구인 ‘에이전트 빌더’를 커뮤니티 버전으로 출시할 계획이다. 에이전트 빌더는 프롬프팅, 도구 설정, 컨텍스트 그라운딩 등의 기능을 통해 기업이 필요에 맞는 에이전트를 제작할 수 있다. 또한 SAP, 세일즈포스, 슬랙 등 다양한 애플리케이션에 특화된 에이전트 카탈로그를 순차적으로 제공해 자동화를 더욱 쉽게 구현할 수 있도록 지원한다. 백 전무는 “에이전트 빌더로 제작한 에이전트는 다른 카탈로그 에이전트와 연계해 협업도 가능하다”며 “이는 마치 조직 내 직원들이 서로 협업하는 것과 유사한 방식”이라고 설명했다. 또한 자동화 실패율을 낮추기 위한 ‘힐링 에이전트’도 주목받고 있다. 힐링 에이전트는 자동화 과정에서 발생할 수 있는 오류를 자동으로 감지하고 복구하는 기능을 갖췄다. 화면 요소 인식 실패나 예상치 못한 팝업 등에서 발생하는 오류를 자동으로 수정해 기업의 운영 안정성을 높인다. 유아이패스는 인플렉션 AI와 협력해 민감한 데이터를 다루는 기업을 위한 맞춤형 솔루션도 개발 중이다. 이는 기업 내부 데이터를 활용해 클라우드와 온프레미스 환경에서도 안전하게 사용할 수 있는 AI 서비스를 제공한다. 인플렉션 AI의 테드 셸튼 최고운영책임자는 “유아이패스는 고객들이 모든 데이터를 온프레미스에 보관하면서도 AI의 혁신적 기능을 활용할 수 있도록 지원하고 있다”고 강조했다. 유아이패스는 프라이빗 클라우드 환경에서 LLM과 에이전트를 통합해 보안성과 신뢰성을 유지하면서도 자동화의 범위를 확장할 계획이다. 의료 기록 요약과 데이터 분석에 특화된 AI 솔루션도 선보였다. ‘생성형 AI 헬스케어 솔루션’은 HIPAA 규정을 준수하며 의료 문서를 신속히 분석·요약한다. 주요 특징으로는 70% 더 빠른 데이터 처리 속도와 정확도를 꼽을 수 있다. ‘클립보드 AI’는 복잡한 데이터 입력 작업을 자동화해 효율성을 크게 향상시킨다. 기업 간 문서 처리나 공급망 관리에 적용할 경우 시간과 비용 절감 효과를 기대할 수 있다. 백 전무는 “클립보드 AI를 활용하면 기업들이 주당 수백 시간을 절약할 수 있다”고 말했다. 유아이패스는 AI, 로봇, 사람이 유기적으로 협력하는 오케스트레이션 기술을 자동화 성공의 열쇠로 보고 있다. 백 전무는 “AI 에이전트는 적절한 프레임워크 안에서 운영돼야 한다”며 “우리의 강점은 정밀한 로봇 기술, 기업 데이터 활용 능력, 그리고 10년간 축적된 휴먼 인 더 루프 기술”이라고 강조했다. 한편 유아이패스는 단순 RPA를 넘어 복잡한 AI 기반 자동화 기술로 전환하며 기업들의 생산성을 크게 향상시키고 있다. 이번 발표는 글로벌 시장에서 유아이패스가 자동화 리더십을 강화하는 계기가 될 전망이다.
2024-11-27 15:29:06
-
-
-
-
-
-
-
-
NHN, 기업용 고객센터 솔루션 '콘티플'로 새 단장
[이코노믹데일리] NHN이 기업용 고객센터 솔루션 '온라인 컨택'의 기능을 보강해 '콘티플'로 재출시했다고 4일 밝혔다. 콘티플은 고객센터 시스템 구축부터 운영까지 모든 서비스를 클라우드 환경에서 제공하는 통합 상담 솔루션이다. 명칭은 '함께'라는 뜻을 가진 접두어 '콘(con)-'과 여러 가지라는 의미의 '멀티플(multiple)'을 합쳐 만들어졌다. 기업과 소비자가 쉽게 소통할 수 있도록 다양한 상담 경로와 기술, 인프라를 제공한다는 서비스 정체성을 담은 것이다. 콘티플은 음성과 채팅, 이메일, 사회관계망서비스(SMS) 등 여러 경로로 접수되는 각종 문의를 한 곳에서 관리할 수 있다. 또한 실시간 문의와 답변 현황을 확인할 수 있는 모니터링 기능과 여러 부가 사양을 갖췄다. 특히 콘티플은 기업 웹사이트에 고객센터 페이지를 만들 수 있게 해준다. 템플릿을 통해 공지사항, 자주 하는 질문, 1:1 문의, 문의 내역 조회 등 다양한 기능으로 구성된 고객센터를 손쉽게 개설할 뿐 아니라 기업 요구에 맞춰 디자인도 가능하다. 상담사가 직접 해결하기 어려운 문의를 담당 부서로 이관하는 '이슈 관리 기능'도 추가됐다. NHN은 콘티플이 클라우드 기반으로 뛰어난 유연성과 경제성을 갖췄다고 강조했다. 물리 장비를 구축하거나 프로그램을 설치할 필요 없이 고객센터 운영 환경을 만들 수 있고 여러 기능 중 필요한 것만 골라 도입할 수도 있다는 설명이다. NHN은 한게임, 페이코, 티켓링크, 벅스 등 계열사에 콘티플을 도입해 활용성을 검증했다. 향후 NHN은 자체 개발한 거대 언어 모델(LLM)과 안면 인식 등 인공지능(AI) 기술을 탑재한다는 계획이다. 박재연 NHN 컨택AI사업부 이사는 "콘티플은 노후화된 고객센터 솔루션 변경, 신규 도입에 효율화된 기능과 운영 노하우가 필요한 기업의 고민을 한번에 해결해줄 것"이라며 "다양한 산업군에 콘티플을 공급해 나가겠다"고 말했다.
2024-11-04 13:44:13
-
-
리벨리온, 아람코 '테크시프트' 컨퍼런스에 한국 대표 AI 반도체 기업으로 참가
[이코노믹데일리] 국내 AI 반도체 스타트업 리벨리온(대표 박성현)이 사우디 아람코가 주최하는 글로벌 테크 컨퍼런스 'TecShift(이하 테크시프트)'에 한국 기업으로 유일하게 초청받아, AI 인프라 기술과 비전을 현지에서 소개했다. 이번 행사는 사우디 다란에서 열리며, 아람코가 투자한 글로벌 스타트업들과 주요 테크 기업들이 참여해 최신 기술 동향과 미래 협력 방안을 논의하는 자리로 마련됐다. 리벨리온은 지난 7월 아람코의 벤처 자회사인 와에드벤처스로부터 한국 반도체 기업 최초로 200억 원 규모의 전략적 투자를 유치한 바 있으며, 이번 행사에서도 AI 인프라 분야를 대표하는 한국 스타트업으로 초청받았다. 박성현 리벨리온 대표는 "세계 최대 에너지 기업인 아람코가 주최하는 글로벌 테크 컨퍼런스에서 한국을 대표해 기술력을 선보이는 기회를 가지게 되어 매우 의미가 크다"고 밝혔다. 이번 참여를 통해 리벨리온은 사우디 테크 생태계 내 주요 AI 인프라 파트너로 자리매김하겠다는 의지를 드러냈다. 박성현 대표는 ‘미래 컴퓨팅: AI 속도에서의 하드웨어 혁신(Future of Computing: Innovating Hardware at the Speed of AI)’라는 주제의 세션에서 패널로 참석해 글로벌 AI 하드웨어 기업들과 함께 차세대 컴퓨팅 기술의 방향성에 대해 논의했다. 그는 한국 반도체 생태계의 강점을 소개하는 한편, 리벨리온이 데이터센터 상용화를 위해 해결해온 기술적 과제와 주요 성과를 강조했다. 특히 리벨리온의 AI 반도체 기술은 성능과 안정성을 동시에 갖춘 것으로 평가되며, 이번 세션에서 사우디와 글로벌 시장에서의 잠재적 협력 가능성을 제시했다. 행사 중 리벨리온은 전시 부스를 운영하며, NPU(신경망처리장치) 기반의 AI 반도체 기술을 현장에서 직접 소개했다. 이와 함께 LLM(거대언어모델) 추론 데모도 선보이며, 아람코 주요 임원 및 사우디 테크 관계자들의 높은 관심을 받았다. 이를 통해 리벨리온은 사우디 AI 생태계에 실질적 기여를 할 수 있는 기술력을 갖추고 있음을 입증했으며, 향후 아람코와의 추가 협력을 위한 기반을 마련했다. 아람코는 데이터센터 성능 향상 및 AI 기술 혁신을 위해 글로벌 AI 기업들과 협력을 확대하고 있으며, 지난 9월에는 리벨리온을 포함한 4개 AI 하드웨어 기업과 MOU를 체결했다. 이 협약에 따라 리벨리온은 아람코 데이터센터 내 NPU 상용화를 목표로 개념검증(PoC)을 진행 중이다. 박성현 대표는 “이번 행사로 구축한 네트워크를 바탕으로 사업 기회를 확보하고, 사우디 테크 생태계에서 주요 AI 인프라 파트너로 성장하겠다”고 밝혔다. 리벨리온은 아람코와의 협력을 통해 글로벌 AI 시장에서의 입지를 더욱 넓힐 예정이다.
2024-10-29 08:24:29
-
-
현대엔지니어링, 플랜트·건설 특화 LLM 개발·시연
[이코노믹데일리] 현대엔지니어링은 인공지능(AI) 연구개발 스타트업 젠티와 함께 플랜트 및 건설 분야 특화 거대 언어 모델(LLM)을 개발하고 지난 18일 이를 시연하는 기술 콘퍼런스를 개최했다고 21일 밝혔다. LLM은 대규모 텍스트를 학습해 인간과 유사하게 언어를 처리하고 생성할 수 있는 AI 모델로, 대표적으로는 챗GPT가 있다. 다만 챗GPT와 같은 보편적 서비스 목적의 프로그램은 보안 문제로 기업 내부 자료를 입력할 수 없을 뿐만 아니라 거짓정보 생성, 최신 정보 업데이트 및 전문 지식 부족, 비용 발생 등의 이유로 실무에 활용하기에는 제약이 있다. 이를 극복하기 위해 현대엔지니어링은 젠티와 협력해 165억개의 말뭉치 토큰으로 이뤄진 방대한 플랜트 건설 분야 데이터를 학습한 파운데이션 모델을 개발했으며, 전문 엔지니어링 자료와 정제된 사내 데이터를 학습시켜 잘못된 정보를 사실인 것처럼 제시하는 '환각 현상'을 줄이고 답변의 신뢰도를 높였다. 최종 성능 검사 결과, 현대엔지니어링의 플랜트 특화 LLM은 오픈AI의 언어모델인 GPT-4와 GPT-3.5, 구글의 젬마2(Gemma2 9B), 업스테이지의 솔라-1O.7B 등과 비교해 미국 기술사 시험인 PE 테스트의 전기(Power) 분야에서 가장 높은 평균 점수를 기록했다. 한국플랜트산업협회가 건설 분야 생성형 AI의 촉진을 위해 개발한 기술 시험에서도 최고점을 달성했다. 현대엔지니어링은 이 모델을 활용해 방대한 사내 기술 자료를 질의·답변 방식으로 검색·요약·번역할 수 있는 '챗파일' 서비스와 과거 사례 및 법률 조항, 표준계약조건(FIDIC) 등을 바탕으로 입찰안내서(ITB) 항목을 비교 분석 및 검토해주는 서비스를 개발하고 있다. 향후 서비스가 업무에 적용될 경우 △ 정보검색 시간 단축 등 생산성 향상 △ 보고서, 문서 자동생성 등 업무 효율화 △ 리스크 분석, 기술적 의사 결정 등 업무 지원체계 확립 △ 임직원 교육 시스템 구축 등의 효과를 낼 것으로 회사 측은 기대하고 있다.
2024-10-21 14:22:05