검색결과 총 16건
-
튜닙, AI 윤리 솔루션 공개…'안전한 AI' 실현 나선다
[이코노믹데일리] AI 스타트업 튜닙(대표 박규병)이 자사의 최신 AI 윤리 가드레일 솔루션 패키지를 공개하며 주목받고 있다. 네이버 D2SF의 투자 스타트업인 튜닙은 이번 패키지를 통해 AI 서비스의 윤리적 문제를 해결하기 위한 체계적인 접근을 제시했다. 튜닙의 AI 윤리 가드레일 솔루션은 총 6개의 주요 엔진으로 구성되어 있으며, 이는 AI 서비스의 '공격-감시-탐지-대응' 전 과정을 아우르는 종합 솔루션이다. 각 엔진은 △비윤리적 공격 시뮬레이션을 위한 '조커', △방어 모델 '루시', △혐오 표현 탐지 모델 '세인트 패트릭', △준법 감시 모델 '가디언', △스팸 탐지 모델 '스패무라이', △프롬프트 주입 탐지 모델 '엔젤'로 이루어져 있다. 이 솔루션은 생성형 AI의 윤리적 문제를 해결하기 위해 설계되었으며, 특히 AI 서비스의 안전성을 높이는 데 중점을 두고 있다. 글로벌 AI 시장에서도 비슷한 솔루션이 있지만, 튜닙의 패키지는 '공격-감시-탐지' 전 주기를 효과적으로 관리하는 종합적인 접근을 제공한다. 튜닙은 생성형 AI 기술의 발전과 함께 AI 윤리 문제에 대한 해결책을 모색하고 있다. 최근 MS와 메타는 각각 악의적인 프롬프트 조작 방어 솔루션과 AI 모델의 윤리성 평가 모델을 발표했으며, 튜닙의 이번 패키지도 이와 같은 글로벌 흐름에 부합하는 기술로 평가받고 있다. 각 엔진의 주요 기능은 다음과 같다. '조커'는 비윤리적 발화를 시뮬레이션해 AI의 취약점을 테스트하며, '루시'는 이를 방어하는 역할을 한다. '세인트 패트릭'과 '가디언'은 발화의 윤리성을 탐지하여 기업들이 법적 리스크를 줄일 수 있도록 돕는다. '스패무라이'는 다양한 스팸 텍스트를 탐지하고, '엔젤'은 악의적인 프롬프트 주입 시도를 차단해 AI의 안전성을 높인다. 박규병 튜닙 대표는 “AI 윤리 문제는 기술적 안정성뿐만 아니라 신뢰성 확보가 필수적”이라며, “튜닙의 솔루션 패키지는 다양한 기업들이 안정적이고 윤리적인 AI 서비스를 개발하는 데 큰 도움이 될 것”이라고 밝혔다. 현재 튜닙은 AI 윤리 가드레일 패키지의 웹 데모 체험 기회를 제공하고 있으며, 이를 통해 더 많은 기업들이 AI 윤리 문제를 효과적으로 해결할 수 있도록 지원할 예정이다.
2024-08-02 08:16:28
-
네이버 커넥트재단, 장애·비장애 학생들과 함께하는 'PLAY AI TOGETHER' 프로그램 운영
[이코노믹데일리] 네이버 커넥트재단이 장애 학생과 비장애 학생을 대상으로 AI 윤리 및 다양성 교육 프로그램 ‘PLAY AI TOGETHER’를 시작한다. 이 프로그램은 9월부터 11월까지 전국 초등학교 저학년 통합학급에서 진행된다. 커넥트재단은 이 프로그램을 통해 총 800여명의 학생에게 AI와 데이터에 대한 이해를 높이고, 다양성을 존중하는 태도를 배울 기회를 제공할 예정이다. ‘PLAY AI TOGETHER’ 프로그램은 인공지능 윤리와 기술 다양성에 관한 교육 콘텐츠를 4차시에 걸쳐 진행한다. 참여 학생들은 AI 기술의 기본 개념과 데이터의 중요성, 그리고 다양한 기술의 필요성에 대해 학습하게 된다. 이 프로그램은 비장애 학생과 장애 학생이 함께 수업을 받는 통합학급을 대상으로 하며, 모든 학생이 평등하게 양질의 교육을 받을 수 있도록 설계됐다. 네이버 커넥트재단은 교육과정 개발에 특수교사미래교육연구회(SeeD)와 협력하며, 교사 연수를 통해 SW·AI 교육 역량을 강화할 예정이다. 또한, 이 프로그램은 특수교사와 일반 교사가 협력하는 팀티칭 방식으로 진행되어, 통합교육의 우수 사례를 발굴하고 교육 현장에 확산하는 데 기여할 것으로 기대된다. 김지각 네이버 커넥트재단 소프트웨어 교육 리더는 “이번 프로그램은 장애 학생과 비장애 학생 모두에게 기회를 제공하며, 함께 성장할 수 있는 기회를 마련하기 위해 노력하고 있다”며 “커넥트재단은 앞으로도 다양한 파트너와 협력하여 교육의 기회를 넓혀가겠다”고 전했다. 한편 네이버 커넥트재단은 ‘소프트웨어야놀자 온라인 오픈클래스’, ‘도란도란 쥬니버스쿨’ 등 다양한 프로그램을 통해 교육 격차 해소에 앞장서고 있다. 이들 프로그램은 누구나 무료로 참여할 수 있으며, 교육 소외계층 유아에게도 소프트웨어 교육을 제공하고 있다.
2024-07-25 10:42:21
-
윤송이 NC문화재단 이사장, 인간 중심 AI의 중요성 강조
[이코노믹데일리] NC문화재단(이사장 윤송이)은 27일부터 28일까지 한국과학기술원(KAIST)과 공동 개최한 인공지능(AI) 윤리 컨퍼런스 'FAIR AI 2024'를 성공적으로 마무리했다고 밝혔다. 이번 컨퍼런스에는 AI 연구자, 개발자, 교육자 등 인공지능 관련 전문가 250여 명이 참여했다. 참가자들은 AI 기술의 올바른 개발과 사용을 위해 필수적인 'AI 윤리'를 집중적으로 논의했다. 윤송이 이사장은 컨퍼런스 개회사에서 "AI를 지혜롭게 활용하기 위해서는 인간의 창의성이 중요하다"고 강조하며 "AI는 인간의 창의성을 위협하는 것이 아닌 강화하는 방향으로 사용해야 한다"고 말했다. 이후 진행된 다양한 발표와 토론에서도 인간 중심 AI의 중요성이 지속적으로 강조됐다. 컨퍼런스 둘째 날에는 컴퓨터 공학과 인문학, 사회과학이 결합된 다학제적 AI 윤리 교육인 '임베디드 에틱스'에 대한 집중적인 논의가 이루어졌다. 임베디드 에틱스는 AI 개발 단계부터 윤리적 가치를 고려하고 설계하는 것을 의미하며, 인공지능 윤리 실현을 위한 새로운 패러다임으로 주목받고 있다. 컨퍼런스에서는 국방, 의료, 법률 등 다양한 분야에서 발생하는 AI 윤리 이슈를 심층적으로 분석했다. 특히, 국방 분야의 책임 있는 AI 구현, AI 윤리와 관련된 법적 이슈, 헬스케어 분야 AI 활용을 통한 사회적 격차 해소 등에 대한 논의가 활발하게 진행됐다. NC문화재단 관계자는 "이번 컨퍼런스가 AI 윤리에 대한 사회적 관심을 높이고, 윤리적 기준 마련과 제도 개선에 기여했다는 평가를 받았다"고 밝혔다. 또한 "앞으로도 지속적인 연구와 토론을 통해 인공지능 시대의 윤리적 가치를 확립하는 데 앞장서겠다"고 밝혔다.
2024-06-28 15:36:03
-
네이버, 2023 ESG 통합보고서와 TCFD 보고서 공개
[이코노믹데일리] 네이버가 25일 '2023 ESG 통합보고서'와 'TCFD 보고서'를 공개했다. 이번 보고서에서는 네이버의 환경·사회·지배구조(ESG) 전략과 기후변화 대응 계획을 상세히 소개했다. 네이버는 2023 통합보고서에서 다양한 이해관계자의 요구를 분석해 구체화한 ESG 7대 전략을 발표했다. △팀네이버 기술 기반 ESG 영향력 확대 △정보보호 강화와 안전한 인터넷 생태계 조성 △파트너 상생과 지역사회 기여 △2040 카본 네거티브 달성과 친환경 활동 확대 △구성원 성장과 인권 존중 △지배구조 투명성 유지와 선진화 △윤리경영·리스크 관리 강화 등이 포함됐다. 네이버는 지난해 총 1만6809tCO2e(이산화탄소상당량톤)의 온실가스를 절감했으며, 이 중 재생에너지 사용과 전자문서를 통해 4537tCO2e를 줄였다. 또한, 올해는 세종 사옥을 포함한 모든 건축물에서 세계 최고 수준의 친환경 인증인 LEED 플래티넘 등급을 획득했다. 안정적인 ESG 경영을 위해 네이버는 AI 윤리 및 안전성 실천체계를 수립했다. 민경립 부사장은 "책임감 있는 AI 개발과 사용 확산을 위해 AI 윤리 및 안전성 실천체계를 마련하고 있다"고 말했다. 네이버는 접근성, 그린인터넷 등 기술 기반 사용자향 ESG 가치 강화 활동도 지속할 예정이다. 중·소상공인(SME)과 창작자의 역량을 증진하는 상생 캠페인 '프로젝트 꽃' 캠페인도 계속 확대되고 있다. 지난해 총 1063억 원 규모의 사회적 기여 성과를 창출했으며, 커넥트재단을 통한 교육 지원, 해피빈을 통한 기부 및 펀딩 등 다양한 활동을 전개했다. 네이버는 지배구조 부문에서도 건전하고 투명한 지배구조 확립을 위해 지속적으로 노력하고 있다. 개인정보보호 강화, 인권경영 고도화, 중소상공인의 지속적 성장을 위한 프로그램도 꾸준히 발전시키고 있다. 한편, 네이버는 글로벌 ESG 평가기관인 모건스탠리캐피털인터내셔널(MSCI)과 서스테이널리틱스(Sustainalytics)로부터 각각 'AA' 등급과 '인더스트리 톱 레이티드' 평가를 받았다. 한국ESG기준원으로부터는 A등급+을 획득했고, 서스틴베스트의 ESG 성과평가에서도 1위로 선정됐다.
2024-06-25 17:00:49
-
-
-
-
네이버 이해진 GIO, AI 서울 정상회의서 "다양한 AI 모델 등장 필요" 강조
[이코노믹데일리] 네이버 이해진 글로벌투자책임자(GIO)는 21일 오후 열린 AI 서울 정상회의(AI Seoul Summit) 정상 세션에서 AI 시대에서 보다 안전한 AI를 위해서는 각 지역의 문화와 가치를 존중하는 다양한 AI 모델들이 등장해야 한다고 강조했다. 이해진 GIO는 "사용자들이 하나의 키워드로 다양한 검색 결과에서 정보를 선택하는 검색과 달리 바로 답을 제시하는 AI는 선택의 여지 없이 답을 얻는 방식"이라며 "이러한 AI의 특성은 특히 어린이나 청소년들에게 매우 큰 영향을 미칠 것"이라고 지적했다. 그는 소설 구절을 인용하며 "극소수 AI가 현재를 지배하게 되면 과거 역사, 문화에 대한 인식은 해당 AI의 답으로만 이루어지게 되고 결국 미래까지 해당 AI가 큰 영향을 미칠 것"이라고 우려했다. 이러한 우려를 해결하기 위해서는 다양한 시각을 보여주고 각 지역의 문화적, 환경적 맥락을 이해하는 다양한 AI 모델들이 등장해야 한다고 강조했다. 그는 "역사에는 다양한 시각이 존재하며 다양한 AI 모델로 각국의 문화 등 다양성을 지킬 수 있고 어린이들, 청소년들도 제대로 된 역사관, 시각을 가질 수 있다"고 말했다. 네이버는 이미 다양성을 통해 연결이 더 큰 가치를 창출할 수 있도록 기술과 서비스를 실현해 왔으며, AI 윤리 준칙 발표에 이어 보다 구체화된 'AI 안전 실행 프레임워크'(NAVER AI Safety Framework)를 내달 공개할 예정이다. 이해진 GIO는 "네이버는 각 지역의 문화와 가치를 존중하고 이해하며 책임감 있는 다양한 AI 모델들이 등장하고 많은 글로벌 국가들이 자체 소버린(Sovereign) AI를 확보할 수 있도록 어떤 형태든 기술로 지원해 나갈 것"이라고 밝혔다. 한편, 이번 AI 서울 정상회의는 5월 21일부터 22일까지 진행되며, 전세계 국가 정상, 국제기구, 세계적인 AI 기술 기업의 대표 등이 참여해 AI의 안전성을 강화하면서도 혁신을 촉진하고 포용과 상생을 도모하는 AI 발전방안에 대해 포괄적인 논의를 진행한다.
2024-05-22 10:18:32
-
미셸 더넬란 영국 과학혁신기술부 장관, 네이버 1784 방문…AI·로봇 등 첨단 기술 체험
[이코노믹데일리] 미셸 더넬란(Michelle Donelan) 영국 과학혁신기술부 장관 일행이 21일 테크 컨버전스 공간이자 세계 최초 로봇 친화형 빌딩인 네이버 1784를 방문했다. 더넬란 장관은 21일부터 개최되는 'AI 서울 정상회의(AI Seoul Summit)'에 참석하기 위해 방한했다. 회의에 앞서 네이버를 방문한 더넬란 장관은 AI, 로봇, 자율주행, 클라우드, 디지털트윈, 5G 등 첨단 기술들이 공간과 융합된 사례를 직접 체험했다. 네이버 최수연 대표, 김유원 네이버클라우드 대표, 석상옥 네이버랩스 대표, 하정우 네이버클라우드 AI이노베이션 센터장 등이 더넬란 장관 일행을 맞이했다. 21일 경기도 성남시 네이버 1784를 찾은 미셸 더넬란 영국 과학혁신기술부 장관이 최수연 네이버 대표와 함께 AI safety를 주제로 대담을 나누고 있다 더넬란 장관은 네이버 1784 방문 후 "네이버의 혁신적인 기술에 깊은 인상을 받았다"고 밝혔다. 특히, 로봇 배달 서비스, AI 기반 의료 솔루션, 자율주행 기술 등을 직접 체험하며 큰 관심을 보였다. 네이버는 안전하고 지속 가능한 AI 생태계 구축을 위해 다양한 활동을 펼치고 있다. 국내외 유수 연구기관들과 협력하여 글로벌 최상위 AI 학회에서 다수의 연구 결과가 채택되는 성과를 거두었다. 또한, AI 서비스 출시 과정에서 사회적 관점을 반영할 수 있는 AI 윤리 자문 프로세스를 운영하고 있다. 최근 주목받는 생성형 AI 기술의 안전성 강화를 위한 '레드팀'도 운영 중이다.
2024-05-21 14:51:08
-
AI 상담원, 진상고객 차단 기술 상용화 임박...욕설·혐오표현 걸러낸다
[이코노믹데일리] 고객센터 상담원들에게 성희롱, 욕설, 혐오표현을 일삼는 이른바 ‘진상고객’을 AI가 판단하고 차단하는 기술이 곧 등장할 예정이다. 특히 통신사들은 이러한 상황에 적극 대응하고 있으며, SK텔레콤이 선두주자로 나서고 있다. SK텔레콤은 텔코(통신 특화) 거대언어모델(LLM)의 출시를 앞두고, 이를 부적절한 대화에 적절히 대응하도록 훈련시키는 '레드팀'을 가동 중이다. 레드팀은 진상고객 역할을 맡아 텔코 LLM과 의도적으로 부적절한 대화를 나눈 후, 모델이 이를 제대로 감지하고 경고나 차단 등으로 대응하는지 확인한다. 이 과정을 통해 취약점을 발견하고 보완하는 작업을 반복하고 있다. 이를 통해 텔코 LLM이 실전 수준의 경험을 쌓게 되는 것이다. SK텔레콤은 텔코 LLM 기반 서비스의 AI 윤리와 안전성을 강화할 계획이다. 텔코 LLM은 통신 데이터를 전문적으로 학습해, 통신사들의 고객센터 상담사를 보조하는 AI 비서 개발에 우선 활용된다. AI 비서는 상담 내용을 요약하고 고객 요구에 적절한 답변을 만드는 역할뿐만 아니라, 부적절한 대화를 걸러내 상담사를 보호하는 역할도 중요하다. SK텔레콤은 노골적인 욕설뿐 아니라 의도가 겉으로 드러나지 않는 부적절한 대화도 학습했다. SK텔레콤은 지난달 열린 기자간담회에서 "상담 관련 내용을 모니터링하면서 시스템이 적절할 때 개입해 상담사를 보호할 수 있는 시스템을 논의 중"이라고 밝혔다. AI의 윤리성·안전성 확보는 다른 ICT 기업들의 서비스 개발에도 필수조건으로 자리잡았다. 안전성 문제는 당국의 규제로 이어질 수 있어, 기업들은 선제적으로 대응해야 사업 차질을 피할 수 있다. 이달 오픈AI가 음성과 시각정보를 인식하고 소통에 활용하는 멀티모달 GPT-4를 공개하며, 부작용 우려도 커지고 있다. 한 업계 관계자는 "AI 발전에 따라 환각 현상, 가짜뉴스, 저작권 및 개인정보 침해 등 문제가 불거지면서 기술적, 제도적으로 안전성 확보 노력이 필수가 됐다"며 "각 기업들이 AI 윤리 등 내부 지침을 세우고 이를 개발과정에 적용하는 노력을 하고 있다"고 말했다. KT는 AI 안전성 확보를 위한 업무를 전담하는 ‘책임감 있는 AI센터(RAIC)’를 신설했다. LG유플러스는 ‘AI·데이터거버넌스팀’을 확대 개편해 AI 안전성 기능을 부여했다. 네이버는 올해 초 CEO 직속 ‘퓨처AI센터’를 만들고, 자사의 ‘하이퍼클로바X’가 높은 안전성 지표를 얻었다는 기술보고서를 공개했다. 구글은 연례 개발자회의 ‘I/O’에서 AI 기반 레드팀 도입, AI 생성 콘텐츠의 악용 방지를 위한 워터마크 ‘신스ID’ 도입, 관련 개발도구 ‘책임감 있는 생성형 AI 툴킷’ 제공 등 최신 노력을 소개했다. 정부 차원의 논의도 활발하다. 한국과 영국 정부는 오는 21일과 22일 양일간 ‘AI 서울 정상회의’를 개최한다. 주요국 정상과 국제기구 수장, 빅테크 대표들이 참석하는 정상세션과, 과학기술정보통신부 장관 등이 참석하는 장관세션을 통해 국내외 민관이 모여 AI 안전성 강화 방안을 논의할 예정이다. 특히 우리 정부는 글로벌 논의를 주도해나갈 계획이다. 국내에서는 AI 안전성과 관련된 규제를 포괄하는 ‘AI 산업 육성 및 신뢰 기반 조성에 관한 법률안’, 즉 AI 기본법에 대한 입법 논의가 진행 중이다.
2024-05-19 18:36:14
-
AI 서울 정상회의 및 AI 글로벌 포럼 개최…'AI 거버넌스' 국제 논의
[이코노믹데일리] 과학기술정보통신부는 오는 21일부터 이틀간 서울에서 '인공지능(AI) 서울 정상회의'와 'AI 글로벌 포럼'을 개최한다고 17일 밝혔다. 이번 행사는 지난해 영국 블레츨리 파크에서 개최된 'AI 안전성 정상회의'에 이어 두 번째로 열리는 AI 서울 정상회의와 윤석열 대통령이 국제사회에 제안한 'AI 글로벌 포럼'이 합쳐진 행사다. AI 서울 정상회의는 21일 오후 8시 30분부터 90분간 화상회의 방식으로 진행된다. 주제는 'AI 안전성 정상회의를 토대로, 혁신적이고 포용적인 미래로'로, 한·영 양국 정상이 공동으로 주재한다. 송상훈 정보통신정책실장은 "지난해 영국에서 열린 AI 안전성 정상회의가 AI 위기 대응에 집중했다면, 이번에는 AI 안전뿐만 아니라 혁신, 포용으로 확대해 AI 거버넌스의 3대 목표로서 안전·혁신·포용을 국제사회에 제시할 계획"이라고 밝혔다. 정상 세션에는 주요국 정상, 국제기구 수장, 빅테크 대표 등이 참석해 AI 안전·혁신·포용 분야 협력 방안을 논의한다. AI 글로벌 포럼은 22일 오전 개회식을 시작으로 오후까지 이어진다. 고위급 라운드테이블과 전문가 세션으로 구성되며, 오후 전문가 세션은 일반 국민도 유튜브로 청취할 수 있다. 라운드테이블에는 정부, 기업, 학계, 시민사회 등 국내외 주요 인사들이 참여해 AI 윤리, 데이터 보호, 알고리즘 투명성 등 AI 글로벌 거버넌스 핵심 과제를 논의한다. 전문가 세션에서는 AI 안전, AI 윤리, AI 법규, AI 경제 등 주제별 심층 토론이 진행된다. 과학기술정보통신부는 이번 행사를 통해 AI 분야 국제 협력을 강화하고, AI 거버넌스 구축을 위한 논의를 활성화하며, 우리나라의 AI 기술 및 산업 발전에 기여할 것으로 기대한다.
2024-05-17 12:27:02
-
-
-
KT, 책임감 있는 인공지능 센터(RAIC) 신설… 안전하고 믿을 수 있는 AI 기술 선도
[이코노믹데일리] KT는 전하고 믿을 수 있는 인공지능(AI) 기술을 제공하기 위해 '책임감 있는 인공지능 센터(Responsible AI Center, RAIC)'를 신설한다고 23일 밝혔다. RAIC는 AI 기술이 사회에 긍정적인 영향을 미칠 수 있도록 윤리적 가치 실현에 앞장서는 전담 조직이다. RAIC는 AI 기술과 관련된 잠재적 위험을 최소화하기 위한 연구를 수행한다. 특히, 안전성, 투명성, 개인정보보호 등 AI가 악용될 수 있는 분야에서 위험 수준을 관리하는 체계를 구축한다. 또한, 사내 적용 중인 AI 윤리원칙을 고도화하고 실무에 즉시 적용 가능한 지침으로 마련한다. KT는 지난해 AI 윤리원칙을 수립하고 통신 AI 산업의 발전을 위한 백서를 발간한 바 있다. 주요 내용은 △AI 기술과 제품 개발에서 공정성, 비차별, 투명성, 해석 가능성의 원칙 준수 △표준화와 개방형 생태계 통해 자원과 기술 공유 강화 △책임감 있는 AI 개발을 위한 사회적 책임 강화 등이다. 최근 EU AI 법이 통과되고 5월 AI 서울 정상회의가 개최되는 등 AI 규범에 관한 국제적 논의와 공조가 활발하게 진행되고 있다. 이에 맞춰 KT는 세계 최고 수준의 AI 연구 기관인 캐나다 벡터연구소와 'Responsible AI'를 주요 어젠다로 두고 협력하고 있다. KT는 이번 RAIC 신설로 AI를 사회가 지향하는 가치와 목적에 사용하도록 하는 거버넌스 체계를 확립한다. 이는 지난 MWC 2024에서 선포한 'AICT 회사'[1]로서의 경영 비전을 구체화하기 위한 방안이다. KT는 RAIC에 AI 윤리, 정책 개발 및 협력, 소프트웨어 엔지니어링, 데이터 등 다양한 분야의 전문가를 신규 영입한다. 채용 관련 자세한 정보는 KT그룹 채용 홈페이지에서 확인할 수 있다. 배순민 KT RAIC Center장 상무는 "KT는 투명성, 공정성, 안전성 등 윤리적 가치를 실현해 AI가 일상의 삶과 산업을 혁신하고 사회에 긍정적인 영향을 미치는 기술이 될 수 있도록 'Responsible AI'를 지속 강화해 나갈 것"이라고 밝혔다.
2024-04-23 10:37:29
-
미래산업의 게임 체인저...AI 표준 논의한다...AI 국제표준화 총회 개막
[이코노믹데일리] 산업통상자원부 국가기술표준원(NKS)은 22일부터 26일까지 서울 중구 대한상공회의소에서 국제표준화기구(ISO)와 국제전기기술위원회(IEC)와 공동 주최하는 'AI 국제표준화 총회(ISO/IEC JTC1/SC42)'를 개최한다. 이번 총회에는 한국, 미국, 영국, 독일, 일본 등 40여개국에서 온오프라인 방식으로 270여 명의 전문가가 참석한다. 2017년 설립된 AI 국제표준화 총회는 현재 64개국에서 700여 명의 전문가가 활동 중이다. 자율주행차, 로봇, 의료, 금융 등 AI 응용 산업의 표준을 다루는 다른 위원회의 활동에 지침이 되는 표준을 마련하는 기구다. 총회 산하에는 AI 경영 시스템 등 기반(펀더멘털), 데이터 품질을 비롯한 데이터, AI 시스템의 신뢰성 등을 다루는 5개의 작업반(WG)과 4개의 공동작업반(JWG)이 운영 중이다. 이번 총회에서는 생성형 AI의 윤리 문제를 포함한 AI 성숙도 모델, AI 경영 시스템 가이드 등 산업계가 주목하는 분야에 관한 국제표준 개발 논의가 진행된다. 특히, 최근 미국 오픈AI의 챗GPT 등장으로 AI가 미래 산업의 판도를 바꿀 게임 체인저로 부상하고 있는 가운데, 이에 따른 윤리 문제 해결 방안 마련이 중요한 과제로 떠오르고 있다. 한국은 이번 총회에서 AI를 전 산업에 확대 적용하도록 지원하는 표준화 자문조직(AG) 신설을 제안하는 한편, AI 윤리 점검 서식, AI 성숙도 모델 등 신규 국제 표준 2개를 제안할 계획이다. 정인교 통상교섭본부장은 환영사에서 "표준은 AI의 안전성과 신뢰성 확보에 기여함은 물론 국가 간 무역 장벽을 해소하고 산업화를 촉진하는 AI 시대의 핵심 이행 도구로 부각되고 있다"고 밝혔다. 또한 "반도체, 정보통신기술(ICT) 등 산업 강국의 이점을 기반으로 AI 분야 국제표준 제정에서 선도 역할을 수행하겠다"고 강조했다. 정부는 최근 AI 산업 육성을 위해 정책 역량을 집중하고 있다. 특히, AI 반도체 시장 진출을 위한 핵심 전략으로 표준 마련에 적극 지원하고 있다. 이번 총회 결과는 국내 AI 산업 발전과 해외 시장 진출에 중요한 영향을 미칠 것으로 기대된다.
2024-04-22 08:12:24