2024.11.25 월요일
검색
'AI 윤리' 검색결과
기간검색
-
~
검색영역
검색어
-
KT, 안전한 AI 위한 KT Responsible AI 리포트 발간 [이코노믹데일리] KT가 안전하고 신뢰할 수 있는 AI 활용을 위한 연구 성과를 담은 ‘KT Responsible AI 리포트’를 발간했다. KT는 AI 윤리와 신뢰성을 담보하는 프레임워크를 제시하며 안전한 AI 환경 구축을 목표로 다각적인 노력을 지속해오고 있다. 이번 리포트는 AI의 책임성과 투명성에 관한 KT의 방향성을 구체화한 결과물이다. KT가 공개한 ‘Responsible AI 리포트’는 회사가 추진하는 AI 윤리와 신뢰성을 위한 프레임워크를 설명하며 핵심 원칙 ‘ASTRI’를 소개했다. ASTRI는 △책임성(Accountability) △지속가능성(Sustainability) △투명성(Transparency) △신뢰성(Reliability) △포용성(Inclusivity)을 뜻하며 이 다섯 가지 원칙은 안전한 AI 서비스 구축을 위한 KT의 방향성을 명확히 제시한다. 이는 AI 기술 발전에 대한 대중 신뢰성을 확보하기 위해 필수적인 요소로 평가된다. KT는 이 프레임워크에 따라 AI 거버넌스, 윤리 원칙, 프로세스 등 다양한 항목을 체계적으로 정립했다. 특히 KT는 AI 생태계가 국민 생활에 미치는 영향을 고려해 윤리적 방향성을 확립했으며 ASTRI 원칙은 AI 기술의 방향성을 제시하는 '북극성' 역할을 수행한다. KT는 AI 신뢰성 강화를 위해 지난 22일 'Responsible AI 자문위원회'를 출범했다. 이 위원회에는 KT 임원뿐 아니라 고려대, KAIST 교수와 AI 스타트업 전문가들이 참여해 다각적 관점에서 AI 윤리와 책임성 검토를 수행한다. 자문위원회는 AI 모델의 객관적 검증, 국내외 규제 반영 등 다양한 업무를 통해 한국적 가치가 담긴 AI 솔루션 개발을 지원할 예정이다. KT 사내 위원회와의 협업을 통해 AI 관련 논문 저술, 학술 발표 등 연구 활동도 지속된다. 이는 KT의 AI 서비스가 객관적이고 신뢰성 높은 기반 위에 운영될 수 있도록 돕는 역할을 한다. KT는 국제적인 협력도 병행하고 있다. 캐나다 벡터 연구소와 파트너십을 체결해 AI 윤리의 글로벌 기준을 강화하는 데 힘쓰는 한편 마이크로소프트와도 AI 신뢰성 제고를 위한 협업을 이어가고 있다. 또한 4월에는 서울 AI 기업 서약에 동참해 안전한 AI 활용을 다짐했으며 중국 차이나모바일, 일본 NTT도코모와 함께 AI 산업 백서를 발간해 글로벌 통신업계의 AI 윤리 기준 수립에도 기여하고 있다. KT는 올해 4월 ‘Responsible AI Center(책임감 있는 AI 센터, RAIC)’를 설립해 AI 윤리 원칙 고도화, 거버넌스 구축, 평가 체계 수립 등을 통해 안전한 AI 연구에 박차를 가하고 있다. RAIC는 KT 내부에서 AI 윤리 지침을 정립하고 임직원들이 AI 윤리를 일상 업무에 적용할 수 있도록 체계적인 교육을 지원한다. 배순민 KT Responsible AI Center 센터장은 “RAIC는 신뢰받는 AI 활용을 목표로 정책 수립과 모니터링에 주력하고 있다”며 “이번 리포트 발간을 계기로 국내외 AI 이해관계자와의 협력이 확대되기를 기대한다”고 밝혔다.2024-10-27 16:11:41
-
튜닙, AI 윤리 솔루션 공개…'안전한 AI' 실현 나선다 [이코노믹데일리] AI 스타트업 튜닙(대표 박규병)이 자사의 최신 AI 윤리 가드레일 솔루션 패키지를 공개하며 주목받고 있다. 네이버 D2SF의 투자 스타트업인 튜닙은 이번 패키지를 통해 AI 서비스의 윤리적 문제를 해결하기 위한 체계적인 접근을 제시했다. 튜닙의 AI 윤리 가드레일 솔루션은 총 6개의 주요 엔진으로 구성되어 있으며, 이는 AI 서비스의 '공격-감시-탐지-대응' 전 과정을 아우르는 종합 솔루션이다. 각 엔진은 △비윤리적 공격 시뮬레이션을 위한 '조커', △방어 모델 '루시', △혐오 표현 탐지 모델 '세인트 패트릭', △준법 감시 모델 '가디언', △스팸 탐지 모델 '스패무라이', △프롬프트 주입 탐지 모델 '엔젤'로 이루어져 있다. 이 솔루션은 생성형 AI의 윤리적 문제를 해결하기 위해 설계되었으며, 특히 AI 서비스의 안전성을 높이는 데 중점을 두고 있다. 글로벌 AI 시장에서도 비슷한 솔루션이 있지만, 튜닙의 패키지는 '공격-감시-탐지' 전 주기를 효과적으로 관리하는 종합적인 접근을 제공한다. 튜닙은 생성형 AI 기술의 발전과 함께 AI 윤리 문제에 대한 해결책을 모색하고 있다. 최근 MS와 메타는 각각 악의적인 프롬프트 조작 방어 솔루션과 AI 모델의 윤리성 평가 모델을 발표했으며, 튜닙의 이번 패키지도 이와 같은 글로벌 흐름에 부합하는 기술로 평가받고 있다. 각 엔진의 주요 기능은 다음과 같다. '조커'는 비윤리적 발화를 시뮬레이션해 AI의 취약점을 테스트하며, '루시'는 이를 방어하는 역할을 한다. '세인트 패트릭'과 '가디언'은 발화의 윤리성을 탐지하여 기업들이 법적 리스크를 줄일 수 있도록 돕는다. '스패무라이'는 다양한 스팸 텍스트를 탐지하고, '엔젤'은 악의적인 프롬프트 주입 시도를 차단해 AI의 안전성을 높인다. 박규병 튜닙 대표는 “AI 윤리 문제는 기술적 안정성뿐만 아니라 신뢰성 확보가 필수적”이라며, “튜닙의 솔루션 패키지는 다양한 기업들이 안정적이고 윤리적인 AI 서비스를 개발하는 데 큰 도움이 될 것”이라고 밝혔다. 현재 튜닙은 AI 윤리 가드레일 패키지의 웹 데모 체험 기회를 제공하고 있으며, 이를 통해 더 많은 기업들이 AI 윤리 문제를 효과적으로 해결할 수 있도록 지원할 예정이다.2024-08-02 08:16:28
-
네이버 커넥트재단, 장애·비장애 학생들과 함께하는 'PLAY AI TOGETHER' 프로그램 운영 [이코노믹데일리] 네이버 커넥트재단이 장애 학생과 비장애 학생을 대상으로 AI 윤리 및 다양성 교육 프로그램 ‘PLAY AI TOGETHER’를 시작한다. 이 프로그램은 9월부터 11월까지 전국 초등학교 저학년 통합학급에서 진행된다. 커넥트재단은 이 프로그램을 통해 총 800여명의 학생에게 AI와 데이터에 대한 이해를 높이고, 다양성을 존중하는 태도를 배울 기회를 제공할 예정이다. ‘PLAY AI TOGETHER’ 프로그램은 인공지능 윤리와 기술 다양성에 관한 교육 콘텐츠를 4차시에 걸쳐 진행한다. 참여 학생들은 AI 기술의 기본 개념과 데이터의 중요성, 그리고 다양한 기술의 필요성에 대해 학습하게 된다. 이 프로그램은 비장애 학생과 장애 학생이 함께 수업을 받는 통합학급을 대상으로 하며, 모든 학생이 평등하게 양질의 교육을 받을 수 있도록 설계됐다. 네이버 커넥트재단은 교육과정 개발에 특수교사미래교육연구회(SeeD)와 협력하며, 교사 연수를 통해 SW·AI 교육 역량을 강화할 예정이다. 또한, 이 프로그램은 특수교사와 일반 교사가 협력하는 팀티칭 방식으로 진행되어, 통합교육의 우수 사례를 발굴하고 교육 현장에 확산하는 데 기여할 것으로 기대된다. 김지각 네이버 커넥트재단 소프트웨어 교육 리더는 “이번 프로그램은 장애 학생과 비장애 학생 모두에게 기회를 제공하며, 함께 성장할 수 있는 기회를 마련하기 위해 노력하고 있다”며 “커넥트재단은 앞으로도 다양한 파트너와 협력하여 교육의 기회를 넓혀가겠다”고 전했다. 한편 네이버 커넥트재단은 ‘소프트웨어야놀자 온라인 오픈클래스’, ‘도란도란 쥬니버스쿨’ 등 다양한 프로그램을 통해 교육 격차 해소에 앞장서고 있다. 이들 프로그램은 누구나 무료로 참여할 수 있으며, 교육 소외계층 유아에게도 소프트웨어 교육을 제공하고 있다.2024-07-25 10:42:21
-
윤송이 NC문화재단 이사장, 인간 중심 AI의 중요성 강조 [이코노믹데일리] NC문화재단(이사장 윤송이)은 27일부터 28일까지 한국과학기술원(KAIST)과 공동 개최한 인공지능(AI) 윤리 컨퍼런스 'FAIR AI 2024'를 성공적으로 마무리했다고 밝혔다. 이번 컨퍼런스에는 AI 연구자, 개발자, 교육자 등 인공지능 관련 전문가 250여 명이 참여했다. 참가자들은 AI 기술의 올바른 개발과 사용을 위해 필수적인 'AI 윤리'를 집중적으로 논의했다. 윤송이 이사장은 컨퍼런스 개회사에서 "AI를 지혜롭게 활용하기 위해서는 인간의 창의성이 중요하다"고 강조하며 "AI는 인간의 창의성을 위협하는 것이 아닌 강화하는 방향으로 사용해야 한다"고 말했다. 이후 진행된 다양한 발표와 토론에서도 인간 중심 AI의 중요성이 지속적으로 강조됐다. 컨퍼런스 둘째 날에는 컴퓨터 공학과 인문학, 사회과학이 결합된 다학제적 AI 윤리 교육인 '임베디드 에틱스'에 대한 집중적인 논의가 이루어졌다. 임베디드 에틱스는 AI 개발 단계부터 윤리적 가치를 고려하고 설계하는 것을 의미하며, 인공지능 윤리 실현을 위한 새로운 패러다임으로 주목받고 있다. 컨퍼런스에서는 국방, 의료, 법률 등 다양한 분야에서 발생하는 AI 윤리 이슈를 심층적으로 분석했다. 특히, 국방 분야의 책임 있는 AI 구현, AI 윤리와 관련된 법적 이슈, 헬스케어 분야 AI 활용을 통한 사회적 격차 해소 등에 대한 논의가 활발하게 진행됐다. NC문화재단 관계자는 "이번 컨퍼런스가 AI 윤리에 대한 사회적 관심을 높이고, 윤리적 기준 마련과 제도 개선에 기여했다는 평가를 받았다"고 밝혔다. 또한 "앞으로도 지속적인 연구와 토론을 통해 인공지능 시대의 윤리적 가치를 확립하는 데 앞장서겠다"고 밝혔다.2024-06-28 15:36:03
-
네이버, 2023 ESG 통합보고서와 TCFD 보고서 공개 [이코노믹데일리] 네이버가 25일 '2023 ESG 통합보고서'와 'TCFD 보고서'를 공개했다. 이번 보고서에서는 네이버의 환경·사회·지배구조(ESG) 전략과 기후변화 대응 계획을 상세히 소개했다. 네이버는 2023 통합보고서에서 다양한 이해관계자의 요구를 분석해 구체화한 ESG 7대 전략을 발표했다. △팀네이버 기술 기반 ESG 영향력 확대 △정보보호 강화와 안전한 인터넷 생태계 조성 △파트너 상생과 지역사회 기여 △2040 카본 네거티브 달성과 친환경 활동 확대 △구성원 성장과 인권 존중 △지배구조 투명성 유지와 선진화 △윤리경영·리스크 관리 강화 등이 포함됐다. 네이버는 지난해 총 1만6809tCO2e(이산화탄소상당량톤)의 온실가스를 절감했으며, 이 중 재생에너지 사용과 전자문서를 통해 4537tCO2e를 줄였다. 또한, 올해는 세종 사옥을 포함한 모든 건축물에서 세계 최고 수준의 친환경 인증인 LEED 플래티넘 등급을 획득했다. 안정적인 ESG 경영을 위해 네이버는 AI 윤리 및 안전성 실천체계를 수립했다. 민경립 부사장은 "책임감 있는 AI 개발과 사용 확산을 위해 AI 윤리 및 안전성 실천체계를 마련하고 있다"고 말했다. 네이버는 접근성, 그린인터넷 등 기술 기반 사용자향 ESG 가치 강화 활동도 지속할 예정이다. 중·소상공인(SME)과 창작자의 역량을 증진하는 상생 캠페인 '프로젝트 꽃' 캠페인도 계속 확대되고 있다. 지난해 총 1063억 원 규모의 사회적 기여 성과를 창출했으며, 커넥트재단을 통한 교육 지원, 해피빈을 통한 기부 및 펀딩 등 다양한 활동을 전개했다. 네이버는 지배구조 부문에서도 건전하고 투명한 지배구조 확립을 위해 지속적으로 노력하고 있다. 개인정보보호 강화, 인권경영 고도화, 중소상공인의 지속적 성장을 위한 프로그램도 꾸준히 발전시키고 있다. 한편, 네이버는 글로벌 ESG 평가기관인 모건스탠리캐피털인터내셔널(MSCI)과 서스테이널리틱스(Sustainalytics)로부터 각각 'AA' 등급과 '인더스트리 톱 레이티드' 평가를 받았다. 한국ESG기준원으로부터는 A등급+을 획득했고, 서스틴베스트의 ESG 성과평가에서도 1위로 선정됐다.2024-06-25 17:00:49
-
![[2024 KEDF] 김주영 의원 AI 개발과 함께 규범도 준비해야](https://image.ajunews.com//content/image/2024/06/11/20240611151825958401.jpg)
김주영 의원 "AI 개발과 함께 규범도 준비해야" [이코노믹데일리] 김주영 더불어민주당 국회의원은 “인공지능(AI)에 대한 연구를 진행하는 동시에 관련 규범과 법적·제도적 장치도 준비할 필요가 있다”고 강조했다. 김 의원은 11일 이코노믹데일리가 창간 6주년을 기념해 서울 여의도 CCMM에서 진행된 ‘2024코리아이코노믹디자인포럼(KEDF)’에서 “AI가 일자리 문제를 해결하는 대안책이 될 수 있다고 본다”면서도 “윤리적 제재가 이뤄지지 않으면 오히려 인류에 해를 끼칠 수 있다”는 우려를 전했다. 지난 2021년 AI 챗봇 ‘이루다’가 성차별·소수자 혐오표현을 사용하며 ‘AI 윤리’ 논란이 불거진 가운데 최근까지도 법적 규범이 부재하다는 지적이 꾸준히 제기됐다. 그러나 과학기술정보통신부가 추진하던 ‘AI 산업 육성 및 신뢰 기반 조성에 관한 법률안’(AI 기본법)은 21대 국회였던 지난해 본회의를 통과하지 못한 채 폐기됐다. 저출생 문제와 관련해 김 의원은 “인구가 점점 줄어드는 데 대한 우려가 전 세계적 관심사로 떠오른 가운데 출생률을 높이기 위해 수백조원의 돈을 투입했는데 반등 소식이 없다”며 “AI가 저출생 문제의 대안책이 될 수 있다고 본다”고 말했다.2024-06-11 17:11:21
-
![[2024KEDF] 산업계에 불어 닥친 AI 열풍…생산성 혁명은 시작됐다](https://image.ajunews.com//content/image/2024/06/03/20240603113232822038.jpg)
산업계에 불어 닥친 'AI 열풍'…'생산성 혁명'은 시작됐다 [이코노믹데일리] 구글 딥마인드가 개발한 인공지능(AI) 바둑기사 알파고에서 오픈AI의 챗GPT에 이르기까지 세계적인 AI 붐이 일면서 기업 경영에도 변화의 바람이 불고 있다. 기업들 중엔 AI 전략을 수립하고 정보 보호 문제 등을 책임지는 '최고AI책임자(CAIO)'를 세우는 경우도 생겨났다. 경영 전반을 총괄하는 최고경영자(CEO)나 곳간을 관장하는 최고재무책임자(CFO)를 두듯 AI가 기업의 주요한 경영 요소로 떠오른 것이다. AI 전문 임원 모시기 경쟁은 국내 기업에서도 활발하다. 기업분석연구소 리더스인덱스가 최근 집계한 30대 그룹 AI 전문 임원 수를 보면 지난해 89명에서 올해 187명으로 두 배 가량 늘었다. AI나 빅데이터 같은 업무를 전담하지 않더라도 각 사업 영역에서 AI와 관련성이 큰 일을 하는 임원까지 포함하면 그 수는 더 많다는 게 중론이다. 정보통신기술(ICT) 기업들은 수시 인사를 통해 AI 부서를 신설하거나 조직 개편의 중심에 AI를 뒀다. 카카오는 사내에 흩어진 AI 기술·서비스 관련 팀을 모아 통합 조직을 꾸렸고 네이버는 5개 사내 독립기업(CIC)을 12개 전문 조직으로 재편하면서 모든 부서 업무에 AI를 도입했다. 전통적인 사업을 하는 기업들도 AI 중심 경영에 속도를 내고 있다. 롯데는 최근 계열사별 AI 도입을 총지휘하는 AI 태스크포스(TF) 운영 기간을 오는 9월까지로 연장했다. 식품·유통·화학군 등 각 영역마다 AI 도입 과제를 발굴하고 실질적인 성과를 내기 위해서다. 강도 높은 사업 구조 개편에 착수한 SK 역시 TF를 만들어 AI 사업 체계를 점검하기로 했다. 일찌감치 AI연구원을 설립한 LG는 한국판 챗GPT인 '엑사원'을 개발한 데 이어 AI 윤리 문제 해결에도 뛰어들었다. 전문 임원이나 조직을 두는 것을 넘어 AI를 새로운 수익 사업으로 육성하는 움직임도 잇따르고 있다. 자체 AI 플랫폼 구축이 어려운 기업을 대상으로 솔루션을 판매하는 식이다. ICT 업계에서는 LG유플러스가 가장 적극적이다. LG유플러스는 업무를 효율적으로 처리해주는 기업용 AI 서비스 '아쿠아'를 개발해 이달 중 공개할 예정이다. 아쿠아는 챗GPT나 구글 제미나이 같이 대화 방식으로 사내 빅데이터를 추출해준다. 신사업 아이템을 발굴하거나 마케팅 전략을 수립하려면 방대한 양의 데이터를 빠르고 정확하게 분석해야 하는데, 아쿠아는 여기에 걸리는 시간을 획기적으로 줄여준다는 점을 내세우고 있다. LG유플러스는 현재 기반이 되는 오픈AI의 최신 AI 엔진인 GPT-4 터보와 더불어 LG 엑사원을 적용해 아쿠아의 성능을 높일 계획이다. KT 역시 미디어 분야에 최적화한 '매직 플랫폼'을 내놨고 SK텔레콤도 업무용 AI 솔루션을 선보일 예정이다. 기업이 AI 솔루션 사업에 적극적인 이유는 관련 시장의 폭발적인 성장이 예상되기 때문이다. 조사 주체마다 편차는 있지만 AI 시장이 기하급수적으로 커진다는 동일한 전망을 내놓는다는 데서 성장 가능성을 엿볼 수 있다. 글로벌 시장 조사업체 IDC는 2027년 전 세계 생성 AI 시장 규모가 1511억 달러(약 209조원)에 달할 것으로 봤다. 마켓앤마켓도 그 규모를 2030년 1조3452억 달러(1862조원)로 예측하기도 했다. 기업이 AI 도입으로 가장 크게 기대하는 건 생산성 향상이다. 한국경영자총협회가 지난 3월 발표한 매출액 상위 100대 기업 중 회원사를 대상으로 조사한 결과 응답 기업의 85.7%가 AI로 업무 소요 시간이 줄어들 것이라고 기대했다. 맥킨지는 AI가 생산성을 끌어올리면서 전 세계에서 4조4000억 달러(6076조원)에 이르는 경제적 가치가 창출될 것으로 추산했다. AI가 사람의 자연어를 이해할 수 있게 되면서 육체적 노동뿐 아니라 지식 노동까지 자동화가 가능해졌다고 맥킨지는 설명했다. 이코노믹데일리는 오는 11일 서울 여의도 CCMM빌딩에서 '2024 KEDF(Korea Economic Design Forum)'를 열고 급속도로 발전하는 AI가 생산성 향상에 미칠 효과를 살펴본다. 특히 이번 2024 KEDF는 'AI와 일의 품격: 대한민국 인구 4000만명 시대가 온다'를 주제로 여러 분야에서 AI가 국가적 과제인 저출산과 인구 감소의 해법이 될 가능성을 논의한다.2024-06-04 07:00:00
많이 본 뉴스
영상
Youtube 바로가기
![[데스크칼럼] AI 시대, 개발자의 미래와 생존 전략](https://image.ajunews.com/content/image/2024/10/02/20241002130756978212_518_323.jpg)