2025.04.04 금요일
검색
'AI 안전' 검색결과
기간검색
-
~
검색영역
검색어
-
KOSA, 'K-AI 유니콘 프로젝트 10' 발표…2030년 AI 유니콘 10개 육성 목표 [이코노믹데일리] 한국소프트웨어산업협회(KOSA) 산하 초거대AI추진협의회가 글로벌 AI 시장을 선도할 AI 유니콘 기업 10개 육성을 목표로 하는 ‘K-AI 유니콘 프로젝트 10’을 17일 발표했다. 이와 함께 한국이 세계 3대 AI 강국(G3)으로 도약하기 위한 ‘AI 비전 25’도 공개하며 AI 산업 육성에 대한 강력한 의지를 표명했다. ‘AI 비전 25’는 AI 산업 진흥을 위한 8대 분야 25개 세부 과제를 담고 있다. 8대 분야는 △AI 서비스 제도·정책 기반 마련 △AI 안전·신뢰·윤리 확립 △AI 리터러시 확산 △AI 컴퓨팅 인프라 구축 △AI 데이터 확보 △AI 인재 양성 △유망 AI 기업 발굴 △AI 글로벌 협력 강화 등이다. KOSA는 ‘AI 비전 25’를 통해 2030년까지 글로벌 경쟁력을 갖춘 AI 유니콘 기업 10개를 육성하고 대한민국을 AI 선도 국가로 도약시킨다는 목표를 세웠다. 배경훈 초거대AI추진협의회장(LG AI연구원장)은 “초거대AI추진협의회는 AI 기업들의 의견을 수렴하여 ‘AI 비전 25’를 수립했다”며 “AI 기업들이 현장에서 체감하고 공감할 수 있는 실질적인 비전을 제시하고자 노력했다”고 밝혔다. 또한 “'AI 비전 25'를 로드맵 삼아 글로벌 시장을 선도하는 AI 유니콘 기업을 육성하고 대한민국 AI 산업 생태계를 활성화하는 데 기여하겠다”고 강조했다. 조준희 한국소프트웨어산업협회장은 “국내 AI 기업들은 자체 언어 모델 개발 등 충분한 기술 경쟁력을 갖추고 있다”며 “정부와 민간의 집중적인 투자를 통해 글로벌 시장 확장 가능성을 입증한다면 AI 유니콘 기업으로 충분히 성장할 수 있다”고 전망했다. 덧붙여 “AI 강국 도약을 위한 ‘AI 비전 25’를 중심으로 정부와 기업 간 협력 네트워크를 구축하고 KOSA AI 산업본부를 중심으로 AI 기업들과의 협력을 강화하여 비전 실현에 적극적으로 나설 것”이라고 밝혔다. 한편 KOSA는 지난해 국내 최초 AI 민간 협의체인 ‘초거대AI추진협의회’를 발족하고 AI 기본법 하위 법령 의견 수렴, AI 학습 데이터 저작권 이슈 대응 등 AI 산업계의 목소리를 대변해왔다. ‘AI 비전 25’는 지난 2년간의 협의회 활동과 회원사 의견 수렴 과정을 거쳐 마련되었으며 KOSA는 ‘AI 비전 25’ 실현을 위해 정부, 기업과 긴밀히 협력하고 AI 산업 육성을 위한 정책 지원 및 사업 확대를 적극 추진할 계획이다.2025-03-17 15:18:40
-
과기정통부, AI 대전환 및 R&D 생태계 조성에 6조 3000억원 집중 투자 [이코노믹데일리] 과학기술정보통신부(이하 과기정통부)가 2025년 연구개발(R&D) 사업에 총 6조 3214억원을 투자하는 ‘2025년도 과기정통부 연구개발사업 종합시행계획’을 확정하고 본격 추진한다. 급변하는 국내외 환경에 대응하여 현장 중심 R&D 생태계 조성, AI 대전환 추진, 기술 사업화 기반 마련을 목표로 하며, 전년 대비 21.2% 증액된 예산이 투입된다. 과학기술 분야에는 5조 58억원, ICT 분야에는 1조 3156억원이 배정된다. 과학기술 분야는 첨단바이오, AI 반도체, 양자 기술 등 ‘3대 게임체인저’ 기술 육성에 집중 투자하며 차세대 디스플레이, 맞춤형 정밀 의료 등 미래 유망 원천 기술 개발과 융합 연구에도 투자를 확대한다. 글로벌 핵심 공급망 확보를 위한 나노·소재 R&D 고도화 및 극한 환경 소재 연구 개발 지원도 포함된다. 연구자 중심 지원 체계 강화를 위해 이공계 대학원생 연구 생활 장려금이 신설되며 혁신·도전적 기초 연구를 위한 신규 사업도 추진된다. 젊은 신진 연구자를 위한 씨앗 연구 사업에는 400억원의 예산이 배정된다. 탄소 중립, 기후 변화, 원자력, 핵융합 등 사회 문제 해결 과제 지원과 함께, R&D 성과를 기술 사업화로 연결하기 위한 전문 인력 양성 및 기술 스케일업 추진에도 힘쓴다. ICT 분야는 AI, AI 반도체, 양자 기술과 더불어 차세대 통신, 사이버 보안 등 디지털 혁신 기술 확보에 주력한다. 국산 AI 반도체 기반 클라우드 기술 개발, 범용 인공지능(AGI) 탐구, AI 안전 연구, 양자 암호 통신 및 양자 센싱 사업화 등이 추진된다. AI 연구를 위한 컴퓨팅 인프라 지원을 위해 민간 클라우드 활용 계획도 포함된다. 차세대 네트워크(6G) 산업 기술 개발에 869억원, 저궤도 위성 통신 기술에 203억원이 투입된다. AI 인재 양성을 위한 학·석사 연계 지원 프로그램도 추진된다. 글로벌 R&D 사업 확대를 대비하여 ‘글로벌 R&D 성과 촉진 체계’도 도입된다. 범부처 글로벌 R&D 협의체를 구성하여 사업 추진 현황을 점검하고 관리하며 글로벌 R&D 성과 데이터베이스 구축 및 우수 성과 홍보와 후속 연구 지원 등 체계적인 관리 시스템을 구축한다. 과기정통부는 이번 시행 계획에 따라 신규 사업 및 과제별 추진 일정을 공고했으며 1월 말 정부 R&D 사업 부처 합동 설명회를 통해 구체적인 내용, 과제 공모 시기 및 절차 등을 안내할 예정이다.2025-01-02 13:34:46
-
롯데건설, 작업자 행동 기반 'AI 안전 모니터링' 기술 개발 [이코노믹데일리] 롯데건설이 안전사고 예방을 위해 작업자 행동 기반 AI 안전 모니터링 기술 개발을 진행하고 있다고 18일 밝혔다. 롯데건설은 해당 개발이 성균관대학교가 주관하고 차세대융합기술연구원, 동국대학교 WISE캠퍼스, ㈜엘아이지시스템, 스마트인사이드 AI 등 총 6개 기관으로 컨소시엄을 구성해 진행됐다고 설명했다. 해당 컨소시엄은 행정안전부 국립재난안전연구원 연구과제인 ‘작업자 행동 기반 안전 모니터링 예측 기술 개발’에 참여하고 있다. 최근에는 기술 적용을 위해 롯데건설이 시공하는 고속국도 제400호선 김포-파주 구간 제1공구 건설현장에서 시연회를 열었다. 시연회에서 작업자는 총 6개의 웨어러블 센서를 착용하고, 테스트베드 구역 내에서 중장비 충돌·협착, 작업자 이상행동 패턴, 출퇴근 시 건강모니터링 등 시나리오에 맞춰 작업을 진행했다. 시나리오 중 일부는 디지털트윈(가상 시뮬레이션 모형) 환경에서 구현하여 작업자의 행동과 위치가 탐지되는 동시에 고정형 카메라를 통해 지속적인 모니터링 데이터를 확보했다. 이후 AI 모델이 탑재된 AI 안전관리 플랫폼(SSIMS.AI, ㈜스마트인사이드AI)으로 분석하여 현장 안전사고 예방 및 사고 감소 효과를 기대할 수 있다고 롯데건설은 설명했다. 롯데건설 기술연구원 관계자는 “이번 시연회에서 기술개발의 구현 가능성을 확인했으며, 앞으로도 지속적인 연구개발을 통해 경쟁력 있는 기술을 확대해 나갈 계획이다”라고 말했다.2024-12-18 14:10:19
-
네이버, 유엔에서 AI 안전 정책 사례 공유 [이코노믹데일리] 네이버는 지난 5일(현지시간) 스위스 제네바의 유엔 사무소에서 열린 행사에서 안전한 인공지능(AI) 생태계 구축을 위한 자사 정책과 사례를 공유했다고 6일 밝혔다. 이 행사는 서울대 AI 정책 이니셔티브(SAPI), Universal Rights Group(URG), 주제네바 대한민국 대표부가 공동 주최했다. 행사에서 네이버의 박우철 정책·RM 아젠다 변호사는 네이버가 운영하는 ‘CHEC(Consultation on Human-centered AI’s Ethical Considerations)’ 프로세스를 발표했다. CHEC는 AI 개발 및 서비스 기획 단계에서 윤리적 원칙을 적용하도록 설계된 자문 시스템으로 기술적 검토와 사회적 관점을 동시에 고려한다는 특징을 가진다. 박 변호사는 “현장의 상황을 고려하지 않으면 AI 윤리 원칙은 추상적 구호에 그칠 수 있다”며, “네이버는 CHEC를 통해 기획자와 개발자의 눈높이에 맞춰 현실적인 협업을 진행하고 있다”고 설명했다. 또한 네이버는 지난해 발표한 ‘사람을 위한 클로바X 활용 가이드’와 올해 새롭게 구축한 ‘ASF(AI Safety Framework)’를 통해 AI 기술의 잠재적 위험을 인식하고 체계적으로 관리하기 위한 정책을 지속적으로 발전시키고 있다. 하정우 네이버 퓨처 AI 센터장은 “네이버는 빠르게 발전하는 AI 기술 환경에서 주요 기술을 내재화하며 서비스 현장과 긴밀히 소통하고 있다”며 “안전하고 지속 가능한 글로벌 AI 생태계 구축에 기여하기 위해 더욱 노력할 것”이라고 밝혔다. 이 행사에서는 네이버 외에도 서울대 SAPI 연구진과 유엔 관계자들이 참여해 ‘신기술에 대한 인권 기반 접근’을 구체적으로 실현하기 위한 방안을 논의했다. SAPI 디렉터 임용 서울대 교수는 “인권 중심의 규범을 기술 현장에 적용하기 위한 실천적 방안이 공유되어 의미 있는 시간이었다”며 향후 지속적인 협력을 강조했다. 한편 네이버의 이러한 노력은 글로벌 AI 정책 논의에서 한국 기업의 입지를 강화하는 데 기여하고 있으며 산업 실무에 적용 가능한 윤리적 AI 원칙을 확산시키는 데 중요한 역할을 하고 있다.2024-12-06 10:34:32
-
대한민국 AI안전연구소 출범…아태지역 AI 안전 허브 목표 [이코노믹데일리] 정부가 AI 기술의 악용과 위험에 체계적으로 대응하기 위해 'AI안전연구소'를 출범했다. 판교 글로벌 R&D센터에서 열린 개소식에서는 국내 ICT 대기업과 학계가 협력해 AI 안전 기술 개발 및 정책 연구를 강화할 것을 다짐했다. AI안전연구소는 지난 5월 AI서울정상회의에서 윤석열 대통령이 제안한 글로벌 AI안전 네트워크 구축 계획의 일환으로 설립됐다. 연구소는 AI의 기술적 한계, 통제력 상실, 악의적 사용 등 다양한 위험 요인에 전문적으로 대응하기 위해 탄생했다. 유상임 과학기술정보통신부 장관은 “AI 안전은 지속 가능한 발전의 필수 조건”이라며, "아태지역의 AI 안전 연구 중심지로 자리 잡을 수 있도록 전폭적으로 지원하겠다"고 밝혔다. 삼성전자, LG AI연구원, 네이버, 카카오 등 주요 기업과 학계 및 연구기관 24곳이 함께 참여한 대한민국 AI안전컨소시엄이 연구소와 협력을 다짐하며 MOU를 체결했다. 컨소시엄은 위험 식별과 평가, 국제 규범 대응 등을 중점적으로 추진할 예정이다. 김명주 초대 소장은 “연구소는 규제기관이 아닌 지원기관으로서 국내 기업들이 글로벌 경쟁력을 유지할 수 있도록 AI 리스크를 최소화하는 데 주력할 것”이라고 강조했다. AI안전연구소는 '국제 AI안전연구소 네트워크'의 일원으로 글로벌 협력을 이어갈 계획이다. 이날 축사에서 세계적인 AI 석학 요슈아 벤지오 교수는 “AI안전연구소는 AI 위험 평가, 안전 요건 수립, 국제 협력을 통해 AI 안전성을 높이는 데 중요한 역할을 할 것”이라고 밝혔다. 미국, 영국, 일본의 AI안전연구소 소장들도 대한민국의 AI 안전 리더십을 높이 평가하며 “국경을 넘어 AI 기술을 안전하게 만들어가는 협력을 강화하자”고 입을 모았다. AI안전연구소는 AI안전 프레임워크 개발, 국제 표준화 대응, 데이터 기반 정책 연구 등 다양한 분야에서 연구를 추진할 예정이다. 특히 산업계의 실질적인 참여를 통해 글로벌 경쟁력을 강화할 수 있는 AI 안전 기술을 개발하고 정책적 선진화를 목표로 하고 있다.2024-11-27 10:09:52
-
정부, AI안전연구소 설립 및 10조원 클라우드 시장 육성 계획 발표 [이코노믹데일리] 정부가 인공지능(AI) 생태계 경쟁에서 앞서기 위해 클라우드 시장을 10조 원 규모로 키우고 AI 안전연구소를 설립해 AI 안전성을 연구하는 등 관련 인프라를 강화할 계획이다. 이를 통해 글로벌 AI 안전 기준을 선도하고 AI 시대에 대응하는 기술·인프라 경쟁력을 확보한다는 목표다. 과학기술정보통신부(이하 과기정통부)는 AI와 클라우드 투자에 대한 세액공제를 확대하고 민간 클라우드 도입을 촉진해 국내 클라우드 시장을 2027년까지 10조 원 규모로 육성할 계획을 18일 밝혔다. 공공부문에서도 민간 클라우드 사용을 장려하고 정보시스템 구축 시 민간 클라우드와 서비스형 소프트웨어(SaaS)를 우선 고려하도록 촉진할 예정이다. AI와 클라우드 기술을 결합해 글로벌 경쟁력이 강화되고 있는 가운데 국내 클라우드 활용률은 여전히 낮은 상황이다. 이에 정부는 민간 부문의 투자 촉진을 위해 혁신 펀드 조성과 함께 클라우드 인력 양성을 강화할 계획이다. 장기철 과기정통부 인터넷진흥과장은 "세액공제 관련 세부 사항이 거의 확정되었다"고 언급했다. ◆ AI안전연구소 출범…국제 협력 강화 AI 안전 문제를 연구하고 국제적 협력을 강화하기 위해 AI안전연구소가 오는 11월 판교에 문을 연다. AI의 위험성을 평가하고 국제 기준에 맞춰 연구를 진행할 예정인 이 연구소는 한국전자통신연구원(ETRI) 산하에 설립된다. AI안전연구소는 글로벌 AI 안전 거버넌스 네트워크에 참여해 국제적 협력을 추진하고 AI 통제력 상실, AI모델의 보안 강화, 딥페이크 탐지 등 첨단 AI 위험에 대비하는 연구개발(R&D)을 수행할 계획이다. 내달 미국 샌프란시스코에서 열리는 국제 AI안전연구소 네트워크 행사에서 본격적인 역할을 시작한다. 남철기 과기정통부 AI기반정책과장은 "연구소는 초기 10명 규모로 시작해 내년까지 30명으로 확대할 것"이라며 "AI 안전성 확보를 위해 다양한 연구와 국제 협력을 지속할 예정"이라고 밝혔다. ◆ 중장기 목표...세계적 AI안전 연구 선도 AI안전연구소는 AI안전 정책·평가·기술 분야의 3개 연구실로 구성되며 AI 안전성 평가 도구와 데이터셋 구축, 위험 완화 방안을 마련하는 등 AI위험을 관리하는 연구를 수행할 계획이다. 또한 AI기술이 경제·사회 전반에 미치는 영향을 분석하고 대응책을 마련해 안전한 AI 활용을 보장할 방침이다. 과기정통부는 AI안전연구소를 통해 AI 안전 정책을 고도화하고 국제적 협력을 강화해 세계적인 AI안전 연구기관으로 발전시키는 것을 목표로 하고 있다. 송상훈 과기정통부 정보통신정책실장은 "AI 안전성 확보를 위한 연구소 설립은 글로벌 AI 경쟁에서 중요한 역할을 할 것"이라고 강조했다.2024-10-18 18:03:14
-
AI, 2024 노벨 과학상 석권... 과학계 혁명 AI 시대를 열다 [이코노믹데일리] 인공지능(AI)이 2024년 노벨 과학상 수상자 발표가 과학계에 큰 반향을 일으키고 있다. 물리학상과 화학상 모두 인공지능(AI) 연구자들이 수상하면서, AI가 과학 발전의 새로운 주역으로 부상했음을 명확히 보여주고 있다. 스웨덴 왕립과학원 노벨위원회는 2024년 노벨 화학상 수상자로 데이비드 베이커 미국 워싱턴대 교수, 데미스 허사비스 구글 딥마인드 최고경영자(CEO), 존 점퍼 구글 딥마인드 수석연구원을 선정했다. 이들은 AI 기반의 단백질 구조 예측 및 설계 시스템인 '알파폴드(AlphaFold)'와 '로제타폴드(RosettaFold)'의 개발을 통해 생명과학 분야에 혁신적인 변화를 이끌었다. 노벨위원회는 "50년 넘게 풀리지 않았던 단백질 구조 예측 문제를 해결한 이들의 연구는 인류에게 큰 혜택을 줄 것"이라고 평가했다. 이들이 개발한 AI 시스템인 '알파폴드'와 '로제타폴드'는 기존 방식으로는 수백 년이 걸릴 단백질 구조 예측을 대폭 단축해 신약 개발과 같은 생명과학 연구에 새로운 지평을 열었다. 화학상에 앞서 2024년 노벨 물리학상은 AI의 기초를 세운 존 홉필드 프린스턴대 교수와 제프리 힌턴 토론토대 명예교수가 공동 수상했다. 이들은 인공 신경망과 딥러닝 기술을 개발하며 현대 AI의 이론적 토대를 마련한 공로를 인정받았다. 힌턴 교수는 '심층신뢰신경망(Deep Belief Networks)'을 통해 AI가 스스로 학습하고 추론할 수 있는 능력을 발전시켰으며, 홉필드 교수는 '홉필드 네트워크'로 AI 연구에 중요한 기초를 제공했다. 노벨위원회는 "이들의 연구는 AI가 단순한 이론적 도구에서 실제 과학 문제를 해결하는 실용적인 기술로 발전할 수 있는 기반을 마련했다"고 설명했다. ◆ 과학계의 평가, AI가 주도하는 새로운 시대 과학계는 이번 노벨상 수상을 두고 "사실상 AI가 과학을 주도하는 시대가 열렸다"는 평가를 내놓고 있다. 석차옥 서울대 화학부 교수는 "AI의 파급력은 기초과학의 틀을 깨고 새로운 패러다임을 열어갈 것"이라며 향후 수십 년간 AI의 영향력이 지속될 것으로 전망했다. AI는 이미 연구 방식을 근본적으로 바꾸고 있다. 로제타폴드와 알파폴드를 필두로 한 AI 단백질 구조 예측 및 설계 도구는 단백질 연구자들에게 없어서는 안 될 필수 도구가 되었다. 의료 진단 분야에서도 수천만 장의 의료 이미지를 학습한 AI가 의사보다 더 정확한 진단을 내릴 수 있게 되었으며, 기상학에서도 AI는 기후 변화로 인한 이변을 예측하는 데 슈퍼컴퓨터보다 나은 성능을 보이고 있다. 나아가 AI는 과학 연구의 전 과정을 수행하는 'AI 과학자'로도 발전하고 있다. 일본 스타트업 사카나 AI가 개발한 AI는 연구자가 논문의 방향만 제시하면 AI가 아이디어를 구체화하고 실험을 수행하며 논문을 작성하는 단계까지 진행한다. 미국 카네기멜런대 화학공학과 게이브 고메스 교수팀 역시 유사한 'AI 화학자'를 개발하고 있다. ◆ AI의 선구자, 데미스 허사비스 이번 노벨 화학상 수상자 중 가장 주목받는 인물인 데미스 허사비스는 AI 분야의 선구자로 꼽힌다. 1976년 영국 북런던에서 태어난 허사비스는 어릴 때부터 체스와 바둑 등에서 뛰어난 재능을 보였고, 2011년 AI 스타트업 '딥마인드 테크놀로지스'를 창업했다. 2016년에는 AI 바둑 프로그램 '알파고'로 이세돌 9단을 상대로 승리하며 세계적인 주목을 받았다. 허사비스는 AI의 발전 가능성을 높이 평가하면서도 그 위험성에 대해서도 경고하고 있다. 그는 2023년 "AI로 인한 멸종 위험을 줄이는 것은 핵전쟁이나 팬데믹과 같은 사회적 위험처럼 전 세계적으로 최우선적으로 다뤄져야 한다"는 AI 안전 성명서에 서명한 바 있다. 베이커 교수는 2003년 많은 사람들이 불가능하다고 믿었던 '완전히 새로운 기능을 가진 단백질'을 컴퓨터로 설계하는 방법을 개발했다. 이후 그의 연구팀은 의약품, 백신, 나노물질, 초소형 센서 등으로 쓰일 수 있는 단백질을 잇따라 설계했다. 베이커 교수는 알파폴드에 영감을 받아 단백질 구조를 해독하고 설계하는 AI 모델인 로제타폴드를 개발했다. 국제 학술지 네이처는 "AI는 방대한 데이터를 분석하고 패턴을 감지하며 연구 자원을 최적화하고 가설을 생성할 수 있다"며 "이러한 능력은 기후 변화, 식량 안보, 질병 등 전 세계 문제 해결에 기여할 수 있다"고 평가했다. 이번 노벨상 수상은 AI가 단순한 도구를 넘어 과학 발전의 핵심 동력으로 자리매김했음을 보여주는 중요한 사건이다. AI는 이제 인류의 지식 확장과 문제 해결 능력을 획기적으로 향상시키는 기술로 인정받고 있으며, 앞으로 더 큰 혁신이 기대된다.2024-10-10 10:20:17
많이 본 뉴스
영상
Youtube 바로가기
![[기자수첩] 손바닥으로 하늘 가리는 GM](https://image.ajunews.com/content/image/2025/03/20/20250320182759531950_518_323.jpg)