2024.11.22 금요일
검색
'윤리적 AI' 검색결과
기간검색
-
~
검색영역
검색어
-
카카오, AI 혁신 이끌 통합 AI브랜드 '카나나' 공개 [이코노믹데일리] 카카오가 인공지능(AI) 통합 브랜드 '카나나'를 처음으로 선보이며 AI 네이티브 기업으로의 새로운 도약과 비전 그리고 방향성을 공개했다. 카카오는 연말 인공지능(AI) 메이트 앱 '카나나'를 사내 테스트 버전으로 출시할 예정이다. 22일 경기도 용인 AI캠퍼스에서 열린 '이프카카오(ifkakao) 2024' 개발자 컨퍼런스에서 정신아 카카오 대표는 "카나나는 사용자 개인의 감정과 맥락을 이해하고 초개인화된 AI 페르소나를 통해 새로운 경험을 제공할 것"이라고 발표했다. 이번 '카나나' 발표는 카카오가 AI 기술을 바탕으로 새로운 소통 방식을 제안하는 중요한 이정표로 평가된다. 카카오는 AI 메이트 '카나나'를 통해 개인화된 소통을 구현할 계획이다. '카나나'는 개인과 그룹 대화를 모두 지원하며 사용자에게 필요한 정보를 기억하고 개인화된 답변을 제공하는 특징을 갖고 있다. 그룹 채팅에서 논의된 중요한 일정이나 정보를 기억해 사용자가 잊지 않도록 알림을 주는 방식이다. 특히 이번 행사에서는 IP 기반의 음성 생성 AI 기술도 주목받았다. 카카오는 카카오엔터테인먼트 소속 아티스트의 목소리를 AI로 학습시키고 이를 다양한 서비스로 확장할 수 있음을 강조했다. 그중 장원영의 목소리를 활용한 음성 모델이 데모 시연되며 카카오의 AI 기술과 콘텐츠 IP 결합의 가능성을 보여주었다. 또한 카카오는 AI 기반 안티 어뷰징 시스템인 ‘페이크 시그널’을 도입해 악의적인 사용자 행위를 탐지하는 등 AI를 활용한 기술적 성과를 공유했다. 카카오모빌리티의 자율주행 택시, 카카오페이의 맞춤형 금융 상품 등 그룹 차원의 다양한 AI 서비스도 소개되었다. 정신아 대표는 "카카오의 경쟁력은 관계를 연결하는 능력에 있다"며 "생성형 AI 시대에도 카카오는 다양한 대화 속에서 개인의 맥락과 감정을 이해하는 서비스를 지향하고 있다"고 강조했다. 카카오는 카카오브레인과의 통합을 통해 6월부터 '카나나'라는 AI 서비스 개발에 착수했으며 이를 기반으로 카나나 엑스 부서를 신설했다. ◆ 개인 메이트 '나나'와 그룹 메이트 '카나' 카나나 서비스는 '나나'와 '카나'라는 두 가지 형태로 제공된다. '나나'는 개인화된 AI 메이트로 사용자의 감정을 이해하고 맞춤형 소통을 제공한다. '카나'는 그룹 대화에서 그룹 관리자 역할을 하며 그룹 대화 내 정보를 기억하고 필요한 답변을 제시한다. 그룹 학습 중 함께 읽은 논문에 대한 퀴즈를 제공하고 채점해주는 기능 등이 이에 해당된다. 카카오는 '카나나' 서비스의 예시로 음성 모드를 포함한 다양한 커뮤니케이션 모드도 지원할 예정임을 밝혔다. 텍스트뿐 아니라 음성으로도 대화가 가능해 사용자가 더욱 편리하게 소통할 수 있을 전망이다. 카카오는 이번 카나나 발표를 통해 AI 네이티브 기업으로의 도약을 선언했다. '카나나'는 카카오가 추구하는 AI 서비스의 핵심 비전으로 사용자가 AI와 자연스럽게 소통하며 개인화된 경험을 누릴 수 있도록 설계됐다. 카카오는 다양한 AI 모델을 연구 중이며 이 중 카나나 플래그, 에센스, 나노 등 여러 모델이 카카오의 주요 서비스에 적용될 계획이다. 정신아 대표는 "카카오는 AI 기술을 바탕으로 새로운 연결을 만들고 있으며 카나나가 AI 네이티브 시대의 대표 서비스가 될 것"이라며 "사용자들의 일상 속에서 더욱 안전하고 윤리적인 AI 기술을 제공할 것"이라고 말했다. 카카오는 AI 기술의 안전한 활용을 위해 'Kakao AI Safety Initiative(ASI)'를 구축하고 기술의 전 과정에서 발생할 수 있는 리스크에 선제적으로 대응할 계획이다. 이로써 사용자들이 AI 시대에도 안전한 환경에서 서비스를 이용할 수 있도록 할 예정이다. 카카오는 '카나나'를 통해 AI 기술을 더욱 발전시키고 사용자와의 소통 방식을 혁신하는데 주력하고 있다. 이와 함께 자율주행 택시, 개인화된 금융 상품, 맞춤형 광고 등 카카오 그룹의 다양한 서비스에도 AI 기술이 적용될 예정이다. 정신아 대표는 "카카오는 AI 기술로 모두가 필요로 하는 미래를 앞당기기 위해 끊임없이 도전할 것"이라고 밝혔다. 카카오는 올해 내로 '카나나'의 사내 테스트 버전을 통해 완성도를 높이고 향후 대중들에게 더욱 편리하고 혁신적인 서비스를 제공할 계획이다.2024-10-22 11:18:33
-
튜닙, AI 윤리 솔루션 공개…'안전한 AI' 실현 나선다 [이코노믹데일리] AI 스타트업 튜닙(대표 박규병)이 자사의 최신 AI 윤리 가드레일 솔루션 패키지를 공개하며 주목받고 있다. 네이버 D2SF의 투자 스타트업인 튜닙은 이번 패키지를 통해 AI 서비스의 윤리적 문제를 해결하기 위한 체계적인 접근을 제시했다. 튜닙의 AI 윤리 가드레일 솔루션은 총 6개의 주요 엔진으로 구성되어 있으며, 이는 AI 서비스의 '공격-감시-탐지-대응' 전 과정을 아우르는 종합 솔루션이다. 각 엔진은 △비윤리적 공격 시뮬레이션을 위한 '조커', △방어 모델 '루시', △혐오 표현 탐지 모델 '세인트 패트릭', △준법 감시 모델 '가디언', △스팸 탐지 모델 '스패무라이', △프롬프트 주입 탐지 모델 '엔젤'로 이루어져 있다. 이 솔루션은 생성형 AI의 윤리적 문제를 해결하기 위해 설계되었으며, 특히 AI 서비스의 안전성을 높이는 데 중점을 두고 있다. 글로벌 AI 시장에서도 비슷한 솔루션이 있지만, 튜닙의 패키지는 '공격-감시-탐지' 전 주기를 효과적으로 관리하는 종합적인 접근을 제공한다. 튜닙은 생성형 AI 기술의 발전과 함께 AI 윤리 문제에 대한 해결책을 모색하고 있다. 최근 MS와 메타는 각각 악의적인 프롬프트 조작 방어 솔루션과 AI 모델의 윤리성 평가 모델을 발표했으며, 튜닙의 이번 패키지도 이와 같은 글로벌 흐름에 부합하는 기술로 평가받고 있다. 각 엔진의 주요 기능은 다음과 같다. '조커'는 비윤리적 발화를 시뮬레이션해 AI의 취약점을 테스트하며, '루시'는 이를 방어하는 역할을 한다. '세인트 패트릭'과 '가디언'은 발화의 윤리성을 탐지하여 기업들이 법적 리스크를 줄일 수 있도록 돕는다. '스패무라이'는 다양한 스팸 텍스트를 탐지하고, '엔젤'은 악의적인 프롬프트 주입 시도를 차단해 AI의 안전성을 높인다. 박규병 튜닙 대표는 “AI 윤리 문제는 기술적 안정성뿐만 아니라 신뢰성 확보가 필수적”이라며, “튜닙의 솔루션 패키지는 다양한 기업들이 안정적이고 윤리적인 AI 서비스를 개발하는 데 큰 도움이 될 것”이라고 밝혔다. 현재 튜닙은 AI 윤리 가드레일 패키지의 웹 데모 체험 기회를 제공하고 있으며, 이를 통해 더 많은 기업들이 AI 윤리 문제를 효과적으로 해결할 수 있도록 지원할 예정이다.2024-08-02 08:16:28
-
'AX 얼라이언스' 도원결의...6개 AI 기업이 만들어가는 맞춤형 플랫폼 혁명 [이코노믹데일리] 국내 AI 기술 전문기업 6개사가 손을 잡고 기업용 AI 시장 공략에 나섰다. 클루커스, 누리어시스템, 링네트, 투라인코드, 와이즈넛, 위즈 등 6개 회사는 30일 서울 파르나스호텔에서 'AX(AI Transformation) 얼라이언스' 출범식을 개최했다. AX 얼라이언스는 기업들의 AI 도입을 지원하기 위해 각 사의 전문성을 바탕으로 엔드투엔드(End-to-End) AI 플랫폼 구축 솔루션과 서비스를 제공한다. 이를 통해 AI 기술 적용 서비스 및 분야를 확대해 나갈 계획이다. 홍성완 클루커스 대표는 "GPT 등장 초기에는 한 회사의 인력으로 수요 대응이 가능했지만, 이제는 혼자 하기 벅찬 수준이 됐다"며 "6개사는 기업들이 빠르고 쉽게 AI 플랫폼을 적용할 수 있도록 지원하기 위해 '도원결의'했다"고 설명했다. AX 얼라이언스는 AI 인프라 구축, 데이터 전처리, LLM(RAG 구축), 프롬프트 엔지니어링, 파인튜닝, LLMOps, AI 포탈 개발 등 각 사의 전문 기술을 활용해 협력한다. 클루커스와 링네트, 위즈는 클라우드 기반 보안 인프라를, 와이즈넛, 클루커스, 투라인코드는 AI 모델 구축 및 운영을 담당한다. 투라인코드는 사용자 경험 최적화를, 누리어시스템은 보안 기반 AI 포탈 개발을 맡는다. 이러한 협력을 통해 AX 얼라이언스는 산업별 AI 플랫폼 구축 및 레퍼런스 확대, 신속한 기술 도입, 강력한 데이터 보안 및 윤리적 AI 구현, 맞춤형 AI 솔루션 제공, 글로벌 진출 경쟁력 확보 등을 목표로 한다. AX 얼라이언스의 장점으로는 통합 솔루션 제공을 통한 AI 도입 시간 단축, 각 사 강점의 상호 보완적 활용, 유연한 확장성, 비용 효율성 등이 꼽힌다. 홍성완 대표는 "각 사의 AI 관련 인력 300명이면 동시에 30개의 AI 프로젝트를 수행할 수 있게 된다"고 밝혔다. AX 얼라이언스는 신시장 개척을 위한 상시 협의체를 구성해 실증 프로젝트 발굴, 기술검증, 컨설팅, 교육 운영 등 전방위적 협력을 추진한다. 또한 고객의 특화된 요구사항에 맞춘 AI 솔루션 개발을 위해 참여사를 지속 확대할 계획이다. 홍성완 대표는 "AX 얼라이언스를 통해 글로벌 진출도 타진할 것"이라며 "공동출자회사 설립 가능성도 열려 있다"고 덧붙였다. 이를 통해 대형 SI 업체 중심의 수주 관행을 바꾸고, 출혈 경쟁을 피하면서 고객이 원하는 AI 플랫폼을 구축할 수 있을 것으로 기대된다. AX 얼라이언스는 기존 B2B AI 플랫폼 기업들과 차별화된 접근법을 강조한다. 와이즈넛의 강용성 대표는 "20년 넘게 다양한 도메인의 B2B 사업에서 언어 자원과 처리 업무를 해온 경험"을 강점으로 내세웠다. 홍 대표는 "특정 비즈니스 모델에 얽매이지 않고 기술을 가장 빠르게 따라가며 학습해 고객에게 최적의 솔루션을 제공하는 것이 AX 얼라이언스의 궁극적인 목표"라고 강조했다.2024-07-30 18:32:13
-
LG, 유네스코와 AI 윤리 플랫폼 공동 개발 [이코노믹데일리] LG그룹 인공지능(AI) 개발 본산인 LG AI연구원이 윤리적인 AI 연구와 활용에 관한 교육 플랫폼을 유네스코와 함께 개발한다. LG AI연구원은 AI 서울 정상회의가 열린 지난 22일 서울 성북구 한국과학기술연구원(KIST)에서 유네스코와 'AI 윤리 글로벌 온라인 공개 강좌(MOOC)' 사업을 공동 추진하기 위한 협약을 체결했다. LG AI연구원과 유네스코는 올해 안에 국제 전문가로 자문 그룹을 꾸리고 AI 윤리 교육 코스를 개발한다. MOOC는 오는 2025년 말 공개 예정이다. 이번 협약을 계기로 유네스코는 AI의 윤리적 사용 규약을 담은 첫 국제 표준 'AI 윤리 권고'를 바탕으로 AI 교육 핵심 파트너인 LG와 협업을 본격화하기로 했다. LG는 "유네스코와의 협업은 AI 서울 정상회의 주요 의제인 안전과 포용을 실천하기 위한 실질적인 움직임이라는 데 의미가 있다"고 강조했다. MOOC는 유네스코가 운영하는 AI 윤리·거버넌스 플랫폼에서 무상으로 제공될 예정이다. LG AI연구원과 유네스코는 산업 현장과 정부에서 사용 가능한 교육 프로그램을 구성하기 위해 각 주체별 AI 윤리 실천 우수 사례를 공모, 선정할 계획이다. 김수현 유네스코 아태지역사무소장은 "유네스코와 LG AI연구원은 AI 윤리 실천을 위한 글로벌 커뮤니티를 육성할 것"이라며 "이번 프로젝트는 AI 기술의 책임 있는 개발과 배치를 촉진하고 지리적·부문적 경계를 뛰어넘는 윤리적 문화를 조성할 것"이라고 밝혔다. LG AI연구원과 유네스코는 향후 국제 행사와 포럼을 공동 개최하는 등 AI 윤리의식을 높이는 활동을 해나갈 계획이다. LG AI연구원은 지난해 11월 국내 기업 최초로 유네스코와 AI 윤리 협약을 맺기도 했다. 배경훈 LG AI연구원장은 "AI 안전성을 위해서 AI를 연구하고 정책을 입안하는 사람들의 AI 윤리 인식 증진이 필요하다"며 "이번 MOOC 사업이 전 세계 AI 전문가와 정책 입안자들의 AI 윤리 역량 강화에 기여하기 바란다"고 말했다.2024-05-23 10:51:51
많이 본 뉴스
영상
Youtube 바로가기
![[데스크칼럼] AI 시대, 개발자의 미래와 생존 전략](https://image.ajunews.com/content/image/2024/10/02/20241002130756978212_518_323.jpg)