2024.11.22 금요일
검색
'AI 서울 정상회의' 검색결과
기간검색
-
~
검색영역
검색어
-
네이버, AI 워터마크 기술 표준 'C2PA' 국내 최초 가입 [이코노믹데일리] 네이버가 인공지능(AI) 워터마크 기술 표준을 구축한 '콘텐츠 출처 및 진위 확인을 위한 연합(C2PA)'에 국내 최초로 가입하며 글로벌 AI 안전 리더십을 강화했다. 15일 정보통신기술(ICT) 업계에 따르면 네이버는 지난 13일 'C2PA'(Coalition for Content Provenance and Authenticity)에 가입했다. 이는 안전한 AI 생태계 구축을 위한 중요한 발걸음이다. C2PA는 2021년 설립된 글로벌 연합체로, 구글, 마이크로소프트(MS), 인텔 등 90여 개 기업이 회원으로 참여하고 있다. C2PA는 AI 생성 이미지와 디지털 콘텐츠 출처 인증에 활용되는 워터마크 기술 등 콘텐츠 출처 기술 표준을 개발하여 글로벌 확산을 이끌고 있다. 오픈 AI는 이미지 생성 AI 도구인 '달리3'(DALL-E 3)에 C2PA 워터마크 기술을 도입하여 신뢰성을 강화했다. 네이버는 AI 생성 콘텐츠의 악용 방지를 위해 C2PA 회원사인 글로벌 기업들과 워터마크 삽입 기술 최적화 등 기술 표준 연구를 공동으로 진행할 계획이다. 또한, C2PA 기술 규약을 네이버 서비스에 적용하기 위한 논의도 이어갈 방침이다. 네이버는 그동안 AI 안전 논의에 힘을 기울여 왔다. 지난해 11월, 영국 정부 주최의 첫 번째 'AI 정상회의'에 참석하여 AI 안전성 연구와 '레드팀' 운영 관련 협력을 논의했다. 올해 5월 열린 'AI 서울 정상회의'에서는 다양한 사회 문화적 맥락을 이해하는 AI 모델들의 공존을 강조했다. 최근 네이버는 구글, 인텔, 메타 등 글로벌 빅테크가 참여하는 개방형 컨소시엄 'ML커먼스(Commons)'에서 AI 안전 벤치마크 구축 작업에 기여했다. 또한, AI가 생성한 코드 데이터에 워터마크를 삽입하면서도 코드의 품질은 보존하는 선택적 워터마킹 기술 'SWEET'을 제안해 글로벌 자연어처리 학회 'ACL 2024'에 채택되었다. 이외에도 네이버는 한국의 문화적 맥락을 반영한 한국어 중심의 편향성 측정 벤치마크 데이터셋 'KoBBQ'를 제안한 연구와 초대규모 언어모델이 제공하는 답변의 신뢰도를 예측할 수 있는 모델을 제안한 연구 등을 세계적 권위의 AI 학회에서 발표했다. 네이버 관계자는 "국내 최초로 AI 안전성 실천 체계인 '네이버 ASF(AI Safety Framework)'를 발표한 데 이어 C2PA에 가입하며 안전한 AI를 위한 글로벌 리더로 자리매김했다"고 말했다.2024-07-15 08:11:51
-
LG, 유네스코와 AI 윤리 플랫폼 공동 개발 [이코노믹데일리] LG그룹 인공지능(AI) 개발 본산인 LG AI연구원이 윤리적인 AI 연구와 활용에 관한 교육 플랫폼을 유네스코와 함께 개발한다. LG AI연구원은 AI 서울 정상회의가 열린 지난 22일 서울 성북구 한국과학기술연구원(KIST)에서 유네스코와 'AI 윤리 글로벌 온라인 공개 강좌(MOOC)' 사업을 공동 추진하기 위한 협약을 체결했다. LG AI연구원과 유네스코는 올해 안에 국제 전문가로 자문 그룹을 꾸리고 AI 윤리 교육 코스를 개발한다. MOOC는 오는 2025년 말 공개 예정이다. 이번 협약을 계기로 유네스코는 AI의 윤리적 사용 규약을 담은 첫 국제 표준 'AI 윤리 권고'를 바탕으로 AI 교육 핵심 파트너인 LG와 협업을 본격화하기로 했다. LG는 "유네스코와의 협업은 AI 서울 정상회의 주요 의제인 안전과 포용을 실천하기 위한 실질적인 움직임이라는 데 의미가 있다"고 강조했다. MOOC는 유네스코가 운영하는 AI 윤리·거버넌스 플랫폼에서 무상으로 제공될 예정이다. LG AI연구원과 유네스코는 산업 현장과 정부에서 사용 가능한 교육 프로그램을 구성하기 위해 각 주체별 AI 윤리 실천 우수 사례를 공모, 선정할 계획이다. 김수현 유네스코 아태지역사무소장은 "유네스코와 LG AI연구원은 AI 윤리 실천을 위한 글로벌 커뮤니티를 육성할 것"이라며 "이번 프로젝트는 AI 기술의 책임 있는 개발과 배치를 촉진하고 지리적·부문적 경계를 뛰어넘는 윤리적 문화를 조성할 것"이라고 밝혔다. LG AI연구원과 유네스코는 향후 국제 행사와 포럼을 공동 개최하는 등 AI 윤리의식을 높이는 활동을 해나갈 계획이다. LG AI연구원은 지난해 11월 국내 기업 최초로 유네스코와 AI 윤리 협약을 맺기도 했다. 배경훈 LG AI연구원장은 "AI 안전성을 위해서 AI를 연구하고 정책을 입안하는 사람들의 AI 윤리 인식 증진이 필요하다"며 "이번 MOOC 사업이 전 세계 AI 전문가와 정책 입안자들의 AI 윤리 역량 강화에 기여하기 바란다"고 말했다.2024-05-23 10:51:51
-
SK텔레콤, 유영상 CEO 'AI 서울 정상회의'서 지속가능한 AI 혁신 방안 발표 [이코노믹데일리] SK텔레콤(대표이사 유영상)은 21일과 22일 양일간 서울에서 열린 ‘AI 서울 정상회의’에서 유영상 CEO가 약 17개국 정부와 재계 인사들 앞에서 대한민국 대표 AI 기업으로서 지속가능한 혁신 방안에 대해 발표했다고 23일 밝혔다. ‘AI 서울 정상회의’는 미국, 영국 등 주요국 정상과 디지털부 장관, 국내외 빅테크 대표들이 참석하는 행사다. 21일에는 정상세션, 22일에는 장관세션으로 나뉘어 진행됐다. 유 CEO는 22일 장관세션에서 17개국 디지털부 장관들과 오픈AI, 마이크로소프트(MS) 등 빅테크 기업 대표들이 참석한 가운데 국내외 기업 중 유일하게 ‘지속 가능하고 신뢰할 수 있는 AI(Building Sustainable & Reliable AI)’라는 주제로 발표를 했다. 유 CEO는 AI로 창출될 경제적·사회적 가치와 AI로 인해 발생하는 사회적 문제를 언급하며, 국제사회가 균형 있는 발전을 위해 협력해야 한다고 강조했다. 그는 데이터센터 등 AI 인프라 관련 에너지 소비와 접근성 저하 문제를 지적하며, 이를 해결하기 위한 한국 정부와 기업들의 노력을 소개했다. 유 CEO는 “데이터센터를 구축하고 운영하는 데 막대한 전력과 비용이 소요된다”며, “한국의 경우 기업과 정부가 협력해 전력 사용량과 탄소 배출량을 줄이는 AI 칩 개발과 AI 데이터센터(AIDC) 구축에 힘쓰고 있다”고 밝혔다. 그는 AI의 한계성과 페이크 뉴스 같은 부작용을 극복하기 위한 방법도 제안했다. 유 CEO는 “부정확한 학습 데이터나 기술적 한계로 인해 비윤리적이거나 잘못된 정보가 발생할 수 있으며, 이러한 정보가 악용되어 페이크 뉴스 같은 사회 문제가 발생한다”고 말했다. 그는 최근 한국 과학기술정보통신부가 개최한 ‘생성형 AI 레드팀 챌린지’를 언급하며, “이 행사는 SKT, 네이버 등 주요 한국 기업의 AI 모델에서 약점과 위험요소를 찾아내는 행사로, AI 지속가능성과 안전성에 대해 깊이 생각해 볼 수 있는 기회였다”고 평가했다. 유 CEO는 ‘지속 가능하고 신뢰할 수 있는 AI 발전’을 위해 세 가지 논의 아젠다를 제시했다. 첫째, AI 선도 국가들이 AI를 개발하고자 하는 국가들과 협력해 AI 인프라를 확산하고, 전 세계 누구나 AI에 접근할 수 있도록 해야 한다고 제안했다. 둘째, AI 활용 범위를 넓히면서 새로운 일자리 창출을 위한 국가와 민간 기업들의 고민이 필요하다고 말했다. 마지막으로, AI의 광범위한 활용과 함께 학습 데이터 편향성 문제를 최소화할 기술적·정책적 조치를 마련해야 한다고 강조했다. 유 CEO는 “국제사회가 AI의 안전성에 대해 심각하게 고민하는 것도 필요하지만, AI가 창출할 수 있는 혁신성에 대해서도 균형 있는 고심과 노력이 필요하다”며, “국가와 기업들이 협력해 안전을 기반으로 AI 부작용을 최소화하고, 지속가능한 AI 혁신을 이루는 균형 있는 선순환 구조가 필요하다”고 강조했다.2024-05-23 08:13:36
-
AI 안전성 확립·지속가능 발전 논의...에너지·환경 등 부작용 대응 방안 모색 [이코노믹데일리] 한국과학기술연구원(KIST)에서 22일 오후 열린 'AI 서울 정상회의' 장관 세션에 21개국 장관급 인사와 국내외 주요 기업 19곳 고위 관계자 등이 대거 참석했다. 이종호 과기정통부 장관과 미셸 도넬란 영국 과학혁신기술부 장관이 공동의장을 맡아 'AI 안전성 확립 역량 강화'와 '지속 가능한 AI 발전 촉진'을 주제로 논의를 이끌었다. 이 장관은 개회사에서 "지난해 영국에서 만난 이후 6개월 만에 생성형 AI는 우리 예상을 뛰어넘는 속도로 발전했고, 일상과 경제, 사회 전반에 새로운 혁신을 일으키고 있다"고 말했다. 이어 "동시에 AI 위험과 부작용에 대한 우려도 커지며 국제사회는 관련 규범 정립을 위한 노력을 본격화하고 있다"며 "전날 정상급 합의문 '서울 선언'에서 제시된 비전을 토대로 이번 세션에서 AI 안전과 지속가능 발전을 논의하겠다"고 덧붙였다. 도넬란 장관은 "AI 발달 속도가 매우 빨라 우리도 더 빨리 행동해 안전성을 담보해야 한다"고 강조했다. 그러면서 "사회 전반이 AI 리스크에 대한 회복탄력성을 갖춰야 한다"며 "과학계 리더들이 구체적 활동계획을 내놓기를 기대한다"고 말했다. 1세션에서는 주요국 AI 안전 연구소 설립 현황을 공유하고 글로벌 공조 방안을 논의했다. 또한 '국제 AI 과학보고서'를 바탕으로 현재와 가까운 미래의 AI 위험요인을 진단하고 안전성 강화 방안을 모색했다. 2세션에서는 AI로 인한 에너지·환경·일자리 등 부작용에 대한 회복탄력성 확보 방안이 논의됐다. 특히 AI 운영 시 막대한 전력 소모에 대응할 필요성이 높아지면서 저전력 반도체 등 한국의 AI 반도체 비전을 중심으로 새 글로벌 의제가 제기됐다. 이날 장관 세션에는 공동의장 외에도 세스 센터 미국 국무부 핵심·신흥기술 부특사, 슈테판 슈노르 독일 연방디지털교통부 장관, 니시다 시오지 일본 총무성 차관 등 20개국 고위인사가 참여했다. 유엔에서는 아만딥 싱 길 사무총장 기술특사가 자리했다. 해외 기업에서는 에이든 고메즈 코히어 대표이사, 앤드루 잭슨 코어42 최고책임자, 크리스티나 몽고메리 IBM 최고신뢰임원, 잭 클라크 앤트로픽 공동설립자, 나타샤 크램튼 마이크로소프트 최고AI책임자, 롭 셔먼 메타 부사장 겸 최고개인정보보호책임자 등이 참석했다. 국내에서는 전경훈 삼성전자 사장, 유영상 SK텔레콤 대표, 배경훈 LG AI연구원장 등 주요 기업 관계자들이 자리를 함께했다. 학계와 시민사회에서도 카네기 국제평화기금 아서 넬슨 부이사관, 휴먼인텔리전스 대표 루먼 차우더리, 카이스트 오혜연 교수, 서울대 이경무 교수 등이 참가했다.2024-05-22 16:08:56
-
네이버 이해진 GIO, AI 서울 정상회의서 "다양한 AI 모델 등장 필요" 강조 [이코노믹데일리] 네이버 이해진 글로벌투자책임자(GIO)는 21일 오후 열린 AI 서울 정상회의(AI Seoul Summit) 정상 세션에서 AI 시대에서 보다 안전한 AI를 위해서는 각 지역의 문화와 가치를 존중하는 다양한 AI 모델들이 등장해야 한다고 강조했다. 이해진 GIO는 "사용자들이 하나의 키워드로 다양한 검색 결과에서 정보를 선택하는 검색과 달리 바로 답을 제시하는 AI는 선택의 여지 없이 답을 얻는 방식"이라며 "이러한 AI의 특성은 특히 어린이나 청소년들에게 매우 큰 영향을 미칠 것"이라고 지적했다. 그는 소설 구절을 인용하며 "극소수 AI가 현재를 지배하게 되면 과거 역사, 문화에 대한 인식은 해당 AI의 답으로만 이루어지게 되고 결국 미래까지 해당 AI가 큰 영향을 미칠 것"이라고 우려했다. 이러한 우려를 해결하기 위해서는 다양한 시각을 보여주고 각 지역의 문화적, 환경적 맥락을 이해하는 다양한 AI 모델들이 등장해야 한다고 강조했다. 그는 "역사에는 다양한 시각이 존재하며 다양한 AI 모델로 각국의 문화 등 다양성을 지킬 수 있고 어린이들, 청소년들도 제대로 된 역사관, 시각을 가질 수 있다"고 말했다. 네이버는 이미 다양성을 통해 연결이 더 큰 가치를 창출할 수 있도록 기술과 서비스를 실현해 왔으며, AI 윤리 준칙 발표에 이어 보다 구체화된 'AI 안전 실행 프레임워크'(NAVER AI Safety Framework)를 내달 공개할 예정이다. 이해진 GIO는 "네이버는 각 지역의 문화와 가치를 존중하고 이해하며 책임감 있는 다양한 AI 모델들이 등장하고 많은 글로벌 국가들이 자체 소버린(Sovereign) AI를 확보할 수 있도록 어떤 형태든 기술로 지원해 나갈 것"이라고 밝혔다. 한편, 이번 AI 서울 정상회의는 5월 21일부터 22일까지 진행되며, 전세계 국가 정상, 국제기구, 세계적인 AI 기술 기업의 대표 등이 참여해 AI의 안전성을 강화하면서도 혁신을 촉진하고 포용과 상생을 도모하는 AI 발전방안에 대해 포괄적인 논의를 진행한다.2024-05-22 10:18:32
많이 본 뉴스
영상
Youtube 바로가기
![[데스크칼럼] AI 시대, 개발자의 미래와 생존 전략](https://image.ajunews.com/content/image/2024/10/02/20241002130756978212_518_323.jpg)