검색결과 총 4건
-
-
-
네이버, AI 안전성 실천 체계 '네이버 ASF' 발표… "소버린 AI로 안전한 생태계 구축"
[이코노믹데일리] 네이버(대표이사 최수연)는 17일 인공지능(AI) 시스템의 안전성을 실천하는 체계 '네이버 ASF(인공지능 세이프티 프레임워크)'를 발표했다. 이는 네이버가 AI 시스템을 개발하고 배포하는 과정의 모든 단계에서 잠재적 위험을 인식하고 평가하며 관리하기 위한 대응 체계다. 네이버 ASF는 AI 시스템이 초래할 수 있는 위험을 '통제력 상실 위험'과 '악용 위험'으로 구분하고, 이에 대응하는 구체적인 방안을 마련했다는 점에서 차별화된다. 네이버는 인간이 AI 시스템을 제어할 수 없게 되는 '통제력 상실 위험'을 대비하기 위해 'AI 위험 평가 스케일'을 마련했다. 이를 통해 AI 시스템의 위험성을 주기적으로 평가하고 관리한다. 특히, 현존 최고 성능의 AI 시스템을 '프런티어 AI'로 정의하고, 이에 해당하는 시스템은 3개월마다 위험 평가를 실시한다. 또한, 시스템 성능이 기존보다 6배 이상 급격히 향상된 경우에는 추가 평가를 진행한다. 네이버 ASF는 '악용 위험'에 대해 'AI 위험 평가 매트릭스'를 적용한다. 이는 AI 시스템의 사용 목적과 안전 조치의 필요성 정도에 따라 위험 관리 방식을 차별화하는 방식이다. 예를 들어, 생화학 물질 개발과 같은 특수한 목적으로 사용되는 AI 시스템은 특별한 자격을 갖춘 사용자에게만 제공함으로써 위험을 완화한다. 또한, 사용 목적과 관계없이 안전 조치의 필요성이 높은 AI 시스템은 추가적인 기술적·정책적 안전 조치를 통해 위험이 완화될 때까지는 배포하지 않는다. 네이버는 한국 외 다른 지역의 정부 및 기업과 협력하여 '소버린 AI'를 공동 개발하고, 특정 문화권에서 발생 가능한 AI 시스템의 위험을 식별하며, 위험 수준을 측정하는 벤치마크를 문화권별로 구축하여 '문화적 다양성'을 반영한 AI 안전 체계를 구축할 계획이다. 네이버는 이미 한국어를 기반으로 구축한 AI 안전성 강화 학습 데이터셋을 글로벌 시장으로 확장해나가는 경험을 가지고 있다. 지난해 'ACL 2023'에서 네이버는 종교, 도덕 등 사회적으로 첨예한 문제에 대한 AI의 편향적 발화를 완화하기 위한 새로운 대규모 한국어 데이터셋을 제안한 연구를 발표했다. 최수연 네이버 대표는 "네이버는 '하이퍼클로바X'라는 소버린 AI 개발을 통해 문화적, 지정학적 상황과 지역적 이해가 AI 성능뿐만 아니라 안전성에도 영향을 미친다는 것을 입증했다"며 "향후 글로벌 시장에서도 소버린 AI를 개발하면서 네이버 ASF를 지속적으로 개선해 나갈 것"이라고 말했다. 또한, "이를 통해 다양한 지역의 문화와 가치를 반영하는 다수의 AI 모델이 안전하게 사용되고 공존하는 지속 가능한 AI 생태계 구축에 네이버가 적극적으로 기여할 것"이라고 밝혔다. 하정우 네이버 퓨처 AI 센터장은 "네이버는 국내외 유수 연구기관 및 전문가들과 협력하며 AI 안전성 관련 선행 연구와 정책 분야에서 다양한 성과를 거두며 안전하고 지속 가능한 AI 생태계를 만드는 데 앞장서왔다"며 "네이버 ASF는 생성형 AI 시대에 네이버가 다시 한 번 선제적으로 수립한 안전성 검증 프로토콜로, 이러한 앞선 경험을 글로벌 커뮤니티에도 공유하며 AI 안전성 분야 리더십을 확보해 나갈 것"이라고 밝혔다. 네이버 ASF는 국내 최초의 AI 안전성 실천 체계라는 점에서 의의가 크다. 또한, '문화적 다양성'을 반영한 AI 안전 체계 구축을 추진한다는 점에서 차별화된다. 이는 네이버가 해외 시장 진출에도 적극적으로 나설 것임을 보여주는 지표이기도 하다. 네이버의 AI 안전성 노력은 국내외에서 긍정적인 평가를 받고 있다. 특히, 네이버가 제안한 'AI 위험 평가 매트릭스'는 AI 시스템의 위험성을 다각적으로 평가하고 관리하는 데 유용한 도구로 평가받고 있다. 또한, 네이버가 추진하는 '소버린 AI' 개발은 특정 국가나 기업에 의존하지 않고 자율적으로 AI 기술을 개발하고 활용하려는 노력으로 주목받고 있다. 네이버는 앞으로도 네이버 ASF를 지속적으로 개선하고 보완해 나갈 계획이다. 또한, 국내외 유수 연구기관 및 기업과 협력하여 AI 안전성 연구를 활성화하고, 국제적인 AI 안전성 기준 마련에도 참여할 계획이다.
2024-06-17 10:11:22
-
네이버 D2SF, 이미지 생성 AI 스타트업 NXN Labs에 신규 투자…패션 업계 이미지 제작 효율화
[이코노믹데일리] 네이버 D2SF가 이미지 생성 AI(인공지능) 스타트업 'NXN Labs'(엔엑스엔랩스)에 신규 투자했다고 8일 밝혔다. NXN Labs는 법인 설립 후 2개월 만에 첫 투자 유치에 성공했다. 네이버 D2SF는 기술 가치와 잠재력에 주목해 투자를 단행했으며 이번 투자에는 KB인베스트먼트, 스마일게이트 인베스트먼트가 공동으로 참여했다. NXN Labs는 이커머스에 특화해 가상 피팅, 가상 모델 제작 등에 활용할 수 있는 이미지 생성 AI 모델을 개발 중이다. 패션 업계를 타겟으로 브랜드의 디자인적 특성을 보존하면서도 고품질의 이미지를 간편히 생성하는 솔루션을 준비하고 있다. 특히 직접 구축한 데이터셋에 기반해 디자인의 패턴, 모델의 체형까지 정교하게 구현하는 것은 물론, 높은 해상도의 이미지를 제공한다. 이를 통해 기존 패션 브랜드가 룩북 및 광고 이미지 제작에 소요했던 많은 시간과 비용이 효율화될 것으로 기대된다. NXN Labs는 자체 개발한 모델을 활용해 패션 브랜드사, 국내 이커머스 플랫폼 등과 PoC(사업화 지원)를 진행하며 사용성을 점검하고 있다. 생성 이미지 퀄리티에 대해 긍정적인 피드백을 확인했으며, 올해 국내외 이커머스, 광고 산업을 중심으로 레퍼런스 구축 협력에 본격 돌입할 예정이다. 또한 2025년까지 북미에 상용 솔루션을 출시할 수 있도록 관련 기술을 고도화하고 있다. NXN Labs는 지난해 12월에 창업한 극초기 스타트업이다. 이재원 대표는 스탠포드 컴퓨터공학 전공으로 맥킨지, 소프트뱅크벤처스 등을 거쳐 시장 전반에 대한 이해도가 높다. 홍리나 CTO(최고기술책임자)는 스탠포드에서 인지공학 전공 후 마이크로소프트 본사 생성 AI 부서 코파일럿 팀 소속으로 연구 및 제품 개발에 참여한 전문가다. 이재원 NXN Labs 대표는 "NXN Labs는 상업적 이미지 생성 AI 업계의 넥스트 어도비(Adobe)를 꿈꾸며, 누구나 손쉽게 이미지, 비디오를 자유롭게 생성할 수 있는 멀티 모달 AI 기술 스타트업으로 성장하겠다"라고 말하며 "이러한 기술의 가치에 공감하는 네이버 D2SF로부터 투자를 유치하고, 나아가 우수한 기술 스타트업들과 함께 할 수 있어 기대가 크다"고 전했다. 한편 현재까지 네이버 D2SF 투자의 80%는 시드 투자로, 창업 후 D2SF로부터 첫 기관 투자를 받은 스타트업이 62%에 달한다.
2024-05-08 10:14:18