검색결과 총 10건
-
-
-
-
-
-
-
네이버 최수연 대표, 한국의 AI 경쟁력과 글로벌 협력 확대 방안 제시
[이코노믹데일리] 19일 대한상공회의소가 개최한 제주포럼에서 네이버 최수연 대표는 한국의 AI 기술 경쟁력과 아시아 지역에서의 리더십 확보를 위한 기업 간 협력의 중요성을 강조했다. 이번 포럼에는 대한상공회의소 최태원 회장, 카이스트 김재철 AI 대학원 정송 원장이 함께 참석했다. 최수연 대표는 ‘AI 시대, 우리 기업의 도전과 미래 비전’을 주제로 한 대담에서, “한국은 뛰어난 AI 산업 생태계와 독자적인 디지털 플랫폼을 보유하고 있으며, 글로벌 AI 선도 국가로 인정받고 있다”고 밝혔다. 이어 그는 네이버가 국내 민간 기업 최초로 슈퍼컴퓨터를 도입하고, 하이퍼스케일 데이터센터 ‘각 세종’을 구축하며, 세계적으로 인용되는 혁신적인 연구를 진행하고 있다는 점을 강조했다. 최 대표는 “한국은 중국을 제외하면 아시아에서 유일하게 자국 언어를 중심으로 초거대 생성형 AI 모델을 처음부터 끝까지 개발하고 서비스에 적용한 사례를 보유하고 있다”며, 이러한 경험을 바탕으로 비영어권 지역에서 AI 기술 리더십 이니셔티브를 발휘할 수 있음을 밝혔다. 또한, AI 발전의 방향성에 대한 논의가 활발해지고 있으며, 각 지역의 문화와 가치를 반영한 소버린 AI의 확산을 위해 다양한 국가 및 기업들과 파트너십을 구축할 것이라고 덧붙였다. 최 대표는 “네이버는 자국어 중심 모델 개발 경험을 바탕으로, 글로벌 소버린 AI 생태계를 확장하는 데 기여하고자 한다”고 전했다. 한편, 네이버는 AI 분야의 주요 과제 해결을 위해 글로벌 기업들과 협력을 확대하고 있다. 최근에는 엔비디아와 소버린 AI 모델 구축 방안을 논의했으며, 인텔과는 AI 칩 소프트웨어 연구·개발 협력을 시작했다. 또한, AI 안전 벤치마크 구축에 기여하는 개방형 컨소시엄 ‘MLCommons’와 AI 생성 콘텐츠 탐지 관련 기술 연구를 진행하는 글로벌 연합체 ‘C2PA’에도 국내 기업 최초로 가입해 활동을 이어가고 있다.
2024-07-19 11:03:50
-
-
네이버, AI 안전성 실천 체계 '네이버 ASF' 발표… "소버린 AI로 안전한 생태계 구축"
[이코노믹데일리] 네이버(대표이사 최수연)는 17일 인공지능(AI) 시스템의 안전성을 실천하는 체계 '네이버 ASF(인공지능 세이프티 프레임워크)'를 발표했다. 이는 네이버가 AI 시스템을 개발하고 배포하는 과정의 모든 단계에서 잠재적 위험을 인식하고 평가하며 관리하기 위한 대응 체계다. 네이버 ASF는 AI 시스템이 초래할 수 있는 위험을 '통제력 상실 위험'과 '악용 위험'으로 구분하고, 이에 대응하는 구체적인 방안을 마련했다는 점에서 차별화된다. 네이버는 인간이 AI 시스템을 제어할 수 없게 되는 '통제력 상실 위험'을 대비하기 위해 'AI 위험 평가 스케일'을 마련했다. 이를 통해 AI 시스템의 위험성을 주기적으로 평가하고 관리한다. 특히, 현존 최고 성능의 AI 시스템을 '프런티어 AI'로 정의하고, 이에 해당하는 시스템은 3개월마다 위험 평가를 실시한다. 또한, 시스템 성능이 기존보다 6배 이상 급격히 향상된 경우에는 추가 평가를 진행한다. 네이버 ASF는 '악용 위험'에 대해 'AI 위험 평가 매트릭스'를 적용한다. 이는 AI 시스템의 사용 목적과 안전 조치의 필요성 정도에 따라 위험 관리 방식을 차별화하는 방식이다. 예를 들어, 생화학 물질 개발과 같은 특수한 목적으로 사용되는 AI 시스템은 특별한 자격을 갖춘 사용자에게만 제공함으로써 위험을 완화한다. 또한, 사용 목적과 관계없이 안전 조치의 필요성이 높은 AI 시스템은 추가적인 기술적·정책적 안전 조치를 통해 위험이 완화될 때까지는 배포하지 않는다. 네이버는 한국 외 다른 지역의 정부 및 기업과 협력하여 '소버린 AI'를 공동 개발하고, 특정 문화권에서 발생 가능한 AI 시스템의 위험을 식별하며, 위험 수준을 측정하는 벤치마크를 문화권별로 구축하여 '문화적 다양성'을 반영한 AI 안전 체계를 구축할 계획이다. 네이버는 이미 한국어를 기반으로 구축한 AI 안전성 강화 학습 데이터셋을 글로벌 시장으로 확장해나가는 경험을 가지고 있다. 지난해 'ACL 2023'에서 네이버는 종교, 도덕 등 사회적으로 첨예한 문제에 대한 AI의 편향적 발화를 완화하기 위한 새로운 대규모 한국어 데이터셋을 제안한 연구를 발표했다. 최수연 네이버 대표는 "네이버는 '하이퍼클로바X'라는 소버린 AI 개발을 통해 문화적, 지정학적 상황과 지역적 이해가 AI 성능뿐만 아니라 안전성에도 영향을 미친다는 것을 입증했다"며 "향후 글로벌 시장에서도 소버린 AI를 개발하면서 네이버 ASF를 지속적으로 개선해 나갈 것"이라고 말했다. 또한, "이를 통해 다양한 지역의 문화와 가치를 반영하는 다수의 AI 모델이 안전하게 사용되고 공존하는 지속 가능한 AI 생태계 구축에 네이버가 적극적으로 기여할 것"이라고 밝혔다. 하정우 네이버 퓨처 AI 센터장은 "네이버는 국내외 유수 연구기관 및 전문가들과 협력하며 AI 안전성 관련 선행 연구와 정책 분야에서 다양한 성과를 거두며 안전하고 지속 가능한 AI 생태계를 만드는 데 앞장서왔다"며 "네이버 ASF는 생성형 AI 시대에 네이버가 다시 한 번 선제적으로 수립한 안전성 검증 프로토콜로, 이러한 앞선 경험을 글로벌 커뮤니티에도 공유하며 AI 안전성 분야 리더십을 확보해 나갈 것"이라고 밝혔다. 네이버 ASF는 국내 최초의 AI 안전성 실천 체계라는 점에서 의의가 크다. 또한, '문화적 다양성'을 반영한 AI 안전 체계 구축을 추진한다는 점에서 차별화된다. 이는 네이버가 해외 시장 진출에도 적극적으로 나설 것임을 보여주는 지표이기도 하다. 네이버의 AI 안전성 노력은 국내외에서 긍정적인 평가를 받고 있다. 특히, 네이버가 제안한 'AI 위험 평가 매트릭스'는 AI 시스템의 위험성을 다각적으로 평가하고 관리하는 데 유용한 도구로 평가받고 있다. 또한, 네이버가 추진하는 '소버린 AI' 개발은 특정 국가나 기업에 의존하지 않고 자율적으로 AI 기술을 개발하고 활용하려는 노력으로 주목받고 있다. 네이버는 앞으로도 네이버 ASF를 지속적으로 개선하고 보완해 나갈 계획이다. 또한, 국내외 유수 연구기관 및 기업과 협력하여 AI 안전성 연구를 활성화하고, 국제적인 AI 안전성 기준 마련에도 참여할 계획이다.
2024-06-17 10:11:22
-
애플 자체 '온디바이스 및 서버 파운데이션 모델' 평가 보고서 공개... 신뢰성 논란
[이코노믹데일리] 애플이 자사 AI 시스템 성능을 자체 평가한 '온디바이스 및 서버 파운데이션 모델 성능 보고서'를 공개하면서 신뢰성 논란이 일고 있다. 이 보고서에서 애플은 자사 AI 모델이 '인간 만족도' 평가에서 구글, 오픈AI, 마이크로소프트(MS) 등 주요 기업의 AI보다 앞선 성능을 보였다고 밝혔다. 구체적으로 30억 개 매개변수를 가진 '온디바이스' 모델은 구글의 '파이-3 미니', '미스트랄-7B', '젬마-7B' 등 대형 모델보다 성능이 우수했다고 한다. 또 서버 기반 AI 모델 역시 데이터브릭스, 미스트랄, GPT-3.5 터보보다 효율적이라고 설명했다. 애플은 '사람의 평가에 중점을 둔 이유는 사용자 경험과 높은 상관관계가 있기 때문'이라며 750개의 '신중히 선별된 응답 세트'를 활용해 평가했다고 밝혔다. 그러나 이같은 주장에 대해 업계에서는 평가 방식의 불투명성을 지적하고 있다. 애플이 자체 개발한 비공개 AI 모델과 이미 공개된 타사 모델을 비교했기 때문에 외부에서 실험 결과를 재현하거나 검증하기 어렵다는 지적이다. 또한 모델 정확도를 사람의 주관적 평가로 판단했지만, 평가 참여자 수와 특징 분포, 구체적인 평가 방법 등을 공개하지 않았다는 점도 문제로 꼽혔다. 음성 AI를 연구하는 장준혁 한양대 교수는 "객관적 검증 없이 자기 벤치마크만 내세우는 것은 의미가 없다"며 "제3자 평가가 중요하다"고 지적했다. 그는 이어 "애플이 AI 인력과 데이터 투자가 부족했기 때문에 내세울 게 없는 것 아니냐"며 의구심을 제기했다. 한편 애플 측은 단순 AI 파운데이션 모델이 아닌, 요약·이모티콘 생성 등 사용처에 맞게 모듈화한 AI 성능을 평가한 것이라고 해명했다. 또 향후 알려지지 않은 피해를 파악하고 개선할 계획이라고 덧붙였다. AI 스마트폰의 '두뇌' 역할을 하는 신경망처리장치(NPU) 성능에서도 애플과 삼성전자의 경쟁이 주목된다. 애플 'A16 바이오닉' NPU는 17TOPS(초당 1조 번 연산) 수준인 반면 퀄컴 '헥사곤'은 50TOPS, 삼성전자 '엑시노스2400'은 42TOPS로 알려졌다. 삼성전자는 최근 엣지퓨전 모델 개발을 완료하고 AP 탑재를 검토 중인 것으로 전해졌다. AI 기술 경쟁이 치열해지면서 주요 기업들의 AI 모델 성능을 둘러싼 다툼도 불가피해 보인다. 업계는 객관적이고 공정한 평가 기준 마련이 시급하다고 입을 모으고 있다.
2024-06-13 08:13:15