대한민국 AI안전연구소 출범…아태지역 AI 안전 허브 목표

[이코노믹데일리] 정부가 AI 기술의 악용과 위험에 체계적으로 대응하기 위해 'AI안전연구소'를 출범했다. 판교 글로벌 R&D센터에서 열린 개소식에서는 국내 ICT 대기업과 학계가 협력해 AI 안전 기술 개발 및 정책 연구를 강화할 것을 다짐했다.  

AI안전연구소는 지난 5월 AI서울정상회의에서 윤석열 대통령이 제안한 글로벌 AI안전 네트워크 구축 계획의 일환으로 설립됐다. 연구소는 AI의 기술적 한계, 통제력 상실, 악의적 사용 등 다양한 위험 요인에 전문적으로 대응하기 위해 탄생했다.  

유상임 과학기술정보통신부 장관은 “AI 안전은 지속 가능한 발전의 필수 조건”이라며, "아태지역의 AI 안전 연구 중심지로 자리 잡을 수 있도록 전폭적으로 지원하겠다"고 밝혔다.  

삼성전자, LG AI연구원, 네이버, 카카오 등 주요 기업과 학계 및 연구기관 24곳이 함께 참여한 대한민국 AI안전컨소시엄이 연구소와 협력을 다짐하며 MOU를 체결했다. 컨소시엄은 위험 식별과 평가, 국제 규범 대응 등을 중점적으로 추진할 예정이다.  

김명주 초대 소장은 “연구소는 규제기관이 아닌 지원기관으로서 국내 기업들이 글로벌 경쟁력을 유지할 수 있도록 AI 리스크를 최소화하는 데 주력할 것”이라고 강조했다.  

AI안전연구소는 '국제 AI안전연구소 네트워크'의 일원으로 글로벌 협력을 이어갈 계획이다. 이날 축사에서 세계적인 AI 석학 요슈아 벤지오 교수는 “AI안전연구소는 AI 위험 평가, 안전 요건 수립, 국제 협력을 통해 AI 안전성을 높이는 데 중요한 역할을 할 것”이라고 밝혔다.  

미국, 영국, 일본의 AI안전연구소 소장들도 대한민국의 AI 안전 리더십을 높이 평가하며 “국경을 넘어 AI 기술을 안전하게 만들어가는 협력을 강화하자”고 입을 모았다.  

AI안전연구소는 AI안전 프레임워크 개발, 국제 표준화 대응, 데이터 기반 정책 연구 등 다양한 분야에서 연구를 추진할 예정이다. 특히 산업계의 실질적인 참여를 통해 글로벌 경쟁력을 강화할 수 있는 AI 안전 기술을 개발하고 정책적 선진화를 목표로 하고 있다.