2025.09.02 화요일
검색
'책임감 있는 AI' 검색결과
기간검색
-
~
검색영역
검색어
-
SKT, 'AI 거버넌스 포털' 공식 오픈…AI 서비스 신뢰·안전 관리 전사적 시스템화 [이코노믹데일리] SK텔레콤이 인공지능(AI) 기술의 신뢰성과 안전성을 전사적으로 관리하기 위한 통합 시스템인 ‘AI 거버넌스 포털’을 공식 오픈했다. 이는 AI 서비스 개발의 전 과정에 걸쳐 발생할 수 있는 위험 요소를 체계적으로 진단하고 관리하는 ‘AI 안전벨트’를 제도화한 것으로 AI 시대의 리더십을 확보하려는 SK텔레콤의 강력한 의지를 보여준다. SK텔레콤은 2일, 자체적으로 수립한 AI 거버넌스 원칙 ‘T.H.E. AI’를 기준으로 모든 AI 서비스의 위험과 기회 요인을 분석하고 관리하는 포털 시스템을 구축했다고 밝혔다. ‘T.H.E. AI’는 △통신 기술 기반의 신뢰(by Telco) △인류를 위한 다양성과 포용(for Humanity) △윤리적 가치 중심의 투명성과 책임성(with Ethics)을 핵심 가치로 삼는다. 이번에 공개된 포털의 가장 큰 특징은 사업 부서의 자가진단과 전문가 그룹의 심층 검토로 이어지는 ‘이중 검증(Double Check)’ 체계다. 먼저 AI 서비스를 기획하고 개발하는 사업팀은 ‘T.H.E. AI’ 원칙에 기반해 개발된 60여 개의 체크리스트를 통해 1차 자가진단을 수행한다. 이 체크리스트는 △신뢰성(Reliability) △다양성과 포용(Diversity & Inclusion) △결정 투명성(Transparency) △윤리적 책임성(Ethical Accountability) 등 4개 영역으로 구성돼 AI가 만들어낼 수 있는 다양한 사회·윤리적 문제점을 사전에 점검하도록 설계됐다. 이후 2단계 검증은 사내 기술, 서비스, 법무, 거버넌스 등 다양한 분야의 최고 전문가들로 구성된 ‘레드팀(Red Team)’과 AI 거버넌스 전담팀이 맡는다. 이들은 사업팀의 자가진단 결과를 바탕으로 AI 모델의 기술적 결함이나 취약점은 물론 저작권 침해 가능성, 답변의 편향성, 유해 콘텐츠 생성 가능성 등 잠재적 위험 요인을 심층적으로 분석한다. 특히 ‘레드팀’은 단순한 자문을 넘어 발견된 문제점에 대한 구체적인 개선 조치까지 요구하는 등 AI 서비스의 안전성과 신뢰성을 담보하는 최종 관문 역할을 수행한다. 이러한 진단과 평가는 서비스 출시 전에만 한정되지 않는다. 기획, 개발, 테스트 등 출시 전 단계부터 서비스 출시 후 운영, 장애 관리, 성능 개선에 이르기까지 AI 서비스의 생애주기 전반에 걸쳐 지속적으로 이뤄진다. SK텔레콤은 이 모든 과정을 ‘AI 거버넌스 포털’에서 통합 관리하도록 시스템을 구축했다. 이를 통해 진단 이력을 체계적으로 추적하고 평가 결과를 한눈에 파악할 수 있는 대시보드 형태로 제공해 관리의 효율성과 투명성을 높였다. 정재헌 SKT CGO(사장)는 “AI 거버넌스 포털 오픈을 통해 AI 기술의 신뢰와 안전성을 높여 국가대표 AI 기업의 리더십을 강화해 나갈 것”이라며 “AI 기술의 윤리적 책임성과 투명성을 강화해 고객에게 더 나은 가치를 제공하겠다”고 밝혔다. 한편 SK텔레콤의 이번 AI 거버넌스 포털 구축은 AI 기술의 발전 속도만큼이나 중요해진 ‘책임감 있는 AI(Responsible AI)’를 구현하기 위한 선제적 조치로 평가된다. AI 기술의 부작용에 대한 사회적 우려가 커지는 상황에서 기업 스스로 엄격한 내부 통제 시스템을 마련했다는 점에서 의미가 크다.2025-09-02 10:04:44
-
LG유플러스, AI 경영 시스템 국제 표준 'ISO/IEC 42001' 인증 획득 [이코노믹데일리] LG유플러스가 투명하고 안전한 인공지능(AI) 서비스 제공을 위해 국제 표준인 ‘AI 경영 시스템(ISO/IEC 42001)’ 인증을 획득했다. 이번 인증은 LG유플러스가 신뢰할 수 있는 AI 서비스를 기반으로 AI 분야 경쟁력을 한층 강화하는 계기가 될 전망이다. 지난 9일 LG유플러스 용산사옥에서 이상엽 CTO, 문동민 한국표준협회 회장 등이 참석한 가운데 인증 수여식이 열렸다. ‘AI 경영 시스템(ISO/IEC 42001)’은 국제표준화기구(ISO)와 국제전기기술위원회(IEC)가 공동 개발한 AI 분야 최초의 국제 표준으로 기업이 AI를 체계적으로 관리하고 운영하도록 지원하는 규격이다. AI 기술 확산에 따른 사회적·윤리적 문제에 대응해 책임감 있는 AI 개발 및 활용 요구가 높아지는 가운데 LG유플러스는 이러한 글로벌 흐름에 발맞춰 고객 신뢰를 확보하고자 이번 인증을 추진했다. 이를 위해 국제표준 규격에 기반한 관리체계를 적용하고 LG그룹 및 회사 전략과 부합하는 AI 리스크 관리 체계를 수립했으며 AI 경영 환경 분석 리스크 평가 및 통제 거버넌스 운영 관리 성과 평가 등 세부 요건을 충족했다. 이번 인증으로 LG유플러스는 AI 관련 이슈와 리스크에 능동적으로 대응 가능한 프로세스를 국제적으로 공인받게 됐다. 특히 정보보호 및 품질 분야 ISO 인증에 이어 AI 경영 시스템 인증까지 확보함으로써 고객이 안심하고 사용할 수 있는 AI 서비스 기반을 더욱 공고히 했다. LG유플러스는 올해 초 발표한 AI 전략 ‘4A’ 실현에도 이번 인증을 적극 활용할 방침이다. 4A 전략은 ‘안심할 수 있는(Assured) AI’를 시작으로 고객 맞춤형(Adaptive) 경험 제공 일상과 함께하는(Accompanied) AI를 거쳐 궁극적으로 세상을 밝게 만드는(Altruistic) AI로 발전시킨다는 내용을 담고 있다. LG유플러스는 이번 인증을 계기로 ‘AI 윤리’를 한층 강화한다. 회사는 고객 개인정보 비식별화 유해 정보 자동 차단 부적절한 질문 답변 거부 등 AI 윤리 강화에 힘써왔으며 LG AI연구원 등 그룹사와 협력해 AI 연구개발 전 과정에서 잘못된 의사결정을 방지하는 거버넌스 체계도 구축했다. 이상엽 LG유플러스 CTO는 “이번 인증으로 LG유플러스는 AI 관련 이슈와 리스크에 능동적으로 대응할 수 있는 프로세스를 갖췄음을 국제적으로 인정받았다”며 “앞으로도 LG유플러스는 가장 안전하고 신뢰할 수 있는 AI를 통해 고객들이 차별화된 경험을 할 수 있도록 기술 역량을 집중해 나갈 것”이라고 말했다.2025-06-10 09:41:08
-
"AI 유해성 막는다" 카카오, 안전 검증 모델 '카나나 세이프가드' 공개 [이코노믹데일리] 카카오가 인공지능(AI) 서비스의 안전성과 신뢰성을 검증할 수 있는 AI 가드레일 모델 ‘카나나 세이프가드’를 개발하고 국내 기업 최초로 모델 3종을 오픈소스로 공개한다고 27일 밝혔다. 최근 다양한 생성형 AI 서비스 출시로 유해 콘텐츠 위험성에 대한 사회적 우려가 커짐에 따라 기술적·제도적 장치를 마련한 것이다. 주요 빅테크 기업들도 생성형 AI로 발생 가능한 위험 요소를 감지하는 특화 모델을 운영 중이다. ‘카나나 세이프가드’는 카카오가 자체 개발한 언어모델 ‘카나나’를 기반 기술로 활용했으며 한국어와 한국 문화를 반영한 자체 구축 데이터셋을 통해 한국어에 특화된 성능을 갖췄다. 카카오는 AI 모델의 정밀도와 재현율을 평가하는 F1 스코어를 기준으로 한국어 성능에서 글로벌 모델 이상의 성과를 기록했다고 설명했다. 이번에 오픈소스로 공개된 모델은 리스크 유형에 따라 유해성과 위험성을 효과적으로 탐지할 수 있는 3종이다. △사용자의 발화 또는 AI 답변에서 증오, 괴롭힘, 성적 콘텐츠 등에 대한 유해성을 탐지하는 ‘카나나 세이프가드’ △개인정보나 지식재산권 등 법적 측면에서 주의가 필요한 요청을 탐지하는 ‘카나나 세이프가드 사이렌’ △AI 서비스를 악용하려는 사용자 공격을 탐지하는 ‘카나나 세이프가드 프롬프트’이며 모두 허깅페이스를 통해 다운로드 가능하다. 카카오는 안전한 AI 생태계 구축에 기여하고자 해당 모델에 상업적 이용과 수정·재배포 등이 자유로운 아파치 2.0 라이선스를 적용했다. 향후 지속적인 업데이트를 통해 모델을 고도화할 예정이다. 김경훈 카카오 AI 세이프티 리더는 "생성형 AI의 등장 이래 기술 발전과 더불어 AI 윤리와 안전성에 대한 중요성이 국내외에서 점차 부각되고 있다"며 "책임감 있는 AI 구축에 대한 인식을 널리 확산시키고 사회적 가치를 고려한 기술 개발이 이어질 수 있도록 선제적인 대응을 이어갈 계획"이라고 말했다.2025-05-27 10:21:53
-
넥슨, 메이플스토리에 AI 코디 추천 '스타일 파인더' 정식 도입 [이코노믹데일리] 넥슨은 자사의 인기 온라인게임 ‘메이플스토리’ 이용자를 위한 인공지능(AI) 코디 추천 서비스 ‘AI 스타일 파인더(AI Style Finder)’를 정식으로 선보인다고 9일 밝혔다. ‘AI 스타일 파인더’는 자연어 처리 기술을 기반으로 하는 메이플스토리 코디 검색 서비스로 이용자가 문장이나 특정 키워드로 원하는 스타일을 입력하면 그에 맞는 코디 아이템을 추천해주는 플랫폼이다. 이제 이용자들은 ‘AI 스타일 파인더’ 전용 홈페이지나 모바일 앱 ‘메이플핸즈+’를 통해 언제 어디서든 손쉽게 다양한 코디 아이템을 찾아보고 자신의 캐릭터에 직접 적용해 완성된 모습을 미리 확인할 수 있다. 메이플스토리를 현재 플레이하지 않는 이용자라도 기본으로 제공되는 캐릭터를 활용해 원하는 외형의 캐릭터를 꾸며볼 수 있다는 점이 특징이다. 해당 서비스는 지난해 12월 메이플스토리 이용자들을 대상으로 시범 운영을 거쳤으며 이 기간 동안 높은 이용 만족도와 긍정적인 반응을 얻어 이번에 정식 서비스로 출시하게 됐다. 현재 진행 중인 메이플스토리 22주년 기념 전국 순회 오프라인 이벤트 ‘핑크빈의 전국 캠퍼스 투어’ 현장에서도 ‘AI 스타일 파인더’를 직접 체험해 볼 수 있다. 넥슨은 ‘AI 스타일 파인더’를 단순한 코디 아이템 검색 기능을 넘어 이용자들의 창의적인 스타일 표현을 지원하는 서비스로 발전시키기 위해 지속적으로 이용자 의견을 수렴하고 서비스를 개선해 나갈 예정이다. 또한 앞으로도 게임 외부에서도 이용자 각자의 개성과 자율성을 확장할 수 있는 다양한 경험을 제공한다는 계획이다. 한편 넥슨의 AI 연구 조직인 인텔리전스랩스는 유해어 탐지 시스템의 지원 언어 확장, FPS 장르 게임에 적용 가능한 통합 월핵탐지 기술 개발, 자동 이상탐지 시스템 등 AI를 활용해 넥슨 게임 생태계 전반을 지원하는 ‘게임스케일’ 솔루션을 꾸준히 고도화하고 있다. 넥슨은 지난해 AI 윤리위원회를 설립하고 관련 윤리 가이드라인을 구축하는 등 책임감 있는 AI 활용을 위한 체계 마련에도 힘쓰고 있다.2025-05-09 18:31:47
-
![[MWC 2025] KT, AI 윤리 및 리더십 논의 주도… 글로벌 AI 선두주자 입지 강화](https://image.ajunews.com//content/image/2025/03/06/20250306092138205070.jpg)
KT, AI 윤리 및 리더십 논의 주도… 글로벌 'AI 선두주자' 입지 강화 [이코노믹데일리] KT가 MWC25에서 AI 윤리와 통신 산업의 AI 도입 등 주요 의제를 잇달아 논의하며 글로벌 AI 리더십을 확고히 했다. KT는 국내 사업자를 대표해 AI 관련 핵심 세션에 참여, 책임감 있는 AI 생태계 구축과 포용적 디지털 서비스 확산에 대한 비전을 제시하며 국제 사회의 주목을 받았다. KT AI Future Lab장 배순민 상무(CRAIO)는 4일(현지시간) 스페인 바르셀로나 MWC25에서 ‘윤리적 인공지능 구축(Building Ethical Intelligence)’ 세션에 패널로 참석, 글로벌 통신사 의사결정자들과 AI 윤리 문제에 대한 심도 깊은 논의를 진행했다. 참석자들은 AI 기술이 일상에 깊숙이 침투하는 현 상황에서, 공정성, 인간 주체성, 프라이버시, 보안, 투명성 등 책임 있는 AI 도입을 위한 핵심 원칙들을 집중적으로 논의했다. 이 자리에서 배순민 상무는 KT가 책임감 있는 인공지능 센터(RAIC) 설립과 AI 윤리 원칙 ‘ASTRI(Accountability, Sustainability, Transparency, Reliability, Inclusivity)’ 제정을 통해 윤리적 AI 구현에 앞장서고 있음을 강조했다. 또한 ‘KT Responsible AI 리포트’ 발간과 한국어 초거대 언어모델(LLM) 개발 등 KT의 지속적인 노력을 소개하며 책임감 있는 AI 기술 개발을 위한 글로벌 협력 생태계 구축에 대한 의지를 표명했다. 같은 날 오후, 배순민 상무는 ‘통신사들은 AI 혁신에 뒤처지고 있는가? (Are Telcos Behind the AI Curve?)’ 세션에도 참여하여 통신 산업의 AI 도입 현황과 미래를 진단했다. 이 세션에서는 AI 도입 성공 및 실패 사례, 지역별 차이점 분석, 그리고 도입 과정의 장애 요인 극복 전략 등이 논의되었다. 배 상무는 KT와 마이크로소프트의 전략적 파트너십 사례를 소개하며 AI 기술 경쟁 시대에 파트너십의 중요성을 강조했다. 더불어 인프라, 데이터, 인재 육성, 거버넌스 영역에서 통신사의 역할을 제시하며 AI 시대 통신사의 새로운 가능성을 역설했다. 세션에 참여한 글로벌 통신사 관계자들은 AI가 가져올 새로운 기회에 공감하며 대비의 필요성을 인정했으나 생성형 AI 도입의 현실적인 어려움과 에이전트 AI 시대의 도래 시점에 대해서는 다양한 의견을 제시했다. 한편 배순민 상무는 GSMA와 ITU가 공동 주최한 ‘여성 ICT 리더 라운드 테이블’에 참석, AI 기술을 활용한 포용적인 디지털 서비스에 대한 논의에도 참여했다. 각국 전문가들은 젊은 여성과 소녀들이 디지털 분야에서 리더십을 발휘할 수 있도록 지원하는 방안을 모색하며 디지털 포용성 확대를 위한 공동 노력을 다짐했다. 국내 통신사 최초로 책임감 있는 AI 최고 책임자(CRAIO)를 위촉하고 윤리적 AI 구현을 선도해온 KT의 행보는 이번 MWC25 논의를 통해 글로벌 AI 생태계에서 더욱 부각될 전망이다. 배순민 상무는 “AI 기술의 급격한 발전에 발맞춰 윤리적 가이드라인과 실질적인 도입 전략 수립은 필수적인 과제”라며 “KT는 책임감 있는 AI 발전을 선도하는 동시에 실용적인 AI 기술과 서비스를 지속적으로 선보이며 산업 전반의 AI 혁신을 가속화해 나갈 것”이라고 밝혔다.2025-03-06 09:22:42
많이 본 뉴스
영상
Youtube 바로가기
![[데스크 칼럼] 이재명 정부의 스테이블코인 정책 실패, 금융업계만 희생양](https://image.ajunews.com/content/image/2025/09/02/20250902082723432703_518_323.jpg)