검색결과 총 10건
-
-
네이버, AI 안전성 실천 체계 '네이버 ASF' 발표… "소버린 AI로 안전한 생태계 구축"
[이코노믹데일리] 네이버(대표이사 최수연)는 17일 인공지능(AI) 시스템의 안전성을 실천하는 체계 '네이버 ASF(인공지능 세이프티 프레임워크)'를 발표했다. 이는 네이버가 AI 시스템을 개발하고 배포하는 과정의 모든 단계에서 잠재적 위험을 인식하고 평가하며 관리하기 위한 대응 체계다. 네이버 ASF는 AI 시스템이 초래할 수 있는 위험을 '통제력 상실 위험'과 '악용 위험'으로 구분하고, 이에 대응하는 구체적인 방안을 마련했다는 점에서 차별화된다. 네이버는 인간이 AI 시스템을 제어할 수 없게 되는 '통제력 상실 위험'을 대비하기 위해 'AI 위험 평가 스케일'을 마련했다. 이를 통해 AI 시스템의 위험성을 주기적으로 평가하고 관리한다. 특히, 현존 최고 성능의 AI 시스템을 '프런티어 AI'로 정의하고, 이에 해당하는 시스템은 3개월마다 위험 평가를 실시한다. 또한, 시스템 성능이 기존보다 6배 이상 급격히 향상된 경우에는 추가 평가를 진행한다. 네이버 ASF는 '악용 위험'에 대해 'AI 위험 평가 매트릭스'를 적용한다. 이는 AI 시스템의 사용 목적과 안전 조치의 필요성 정도에 따라 위험 관리 방식을 차별화하는 방식이다. 예를 들어, 생화학 물질 개발과 같은 특수한 목적으로 사용되는 AI 시스템은 특별한 자격을 갖춘 사용자에게만 제공함으로써 위험을 완화한다. 또한, 사용 목적과 관계없이 안전 조치의 필요성이 높은 AI 시스템은 추가적인 기술적·정책적 안전 조치를 통해 위험이 완화될 때까지는 배포하지 않는다. 네이버는 한국 외 다른 지역의 정부 및 기업과 협력하여 '소버린 AI'를 공동 개발하고, 특정 문화권에서 발생 가능한 AI 시스템의 위험을 식별하며, 위험 수준을 측정하는 벤치마크를 문화권별로 구축하여 '문화적 다양성'을 반영한 AI 안전 체계를 구축할 계획이다. 네이버는 이미 한국어를 기반으로 구축한 AI 안전성 강화 학습 데이터셋을 글로벌 시장으로 확장해나가는 경험을 가지고 있다. 지난해 'ACL 2023'에서 네이버는 종교, 도덕 등 사회적으로 첨예한 문제에 대한 AI의 편향적 발화를 완화하기 위한 새로운 대규모 한국어 데이터셋을 제안한 연구를 발표했다. 최수연 네이버 대표는 "네이버는 '하이퍼클로바X'라는 소버린 AI 개발을 통해 문화적, 지정학적 상황과 지역적 이해가 AI 성능뿐만 아니라 안전성에도 영향을 미친다는 것을 입증했다"며 "향후 글로벌 시장에서도 소버린 AI를 개발하면서 네이버 ASF를 지속적으로 개선해 나갈 것"이라고 말했다. 또한, "이를 통해 다양한 지역의 문화와 가치를 반영하는 다수의 AI 모델이 안전하게 사용되고 공존하는 지속 가능한 AI 생태계 구축에 네이버가 적극적으로 기여할 것"이라고 밝혔다. 하정우 네이버 퓨처 AI 센터장은 "네이버는 국내외 유수 연구기관 및 전문가들과 협력하며 AI 안전성 관련 선행 연구와 정책 분야에서 다양한 성과를 거두며 안전하고 지속 가능한 AI 생태계를 만드는 데 앞장서왔다"며 "네이버 ASF는 생성형 AI 시대에 네이버가 다시 한 번 선제적으로 수립한 안전성 검증 프로토콜로, 이러한 앞선 경험을 글로벌 커뮤니티에도 공유하며 AI 안전성 분야 리더십을 확보해 나갈 것"이라고 밝혔다. 네이버 ASF는 국내 최초의 AI 안전성 실천 체계라는 점에서 의의가 크다. 또한, '문화적 다양성'을 반영한 AI 안전 체계 구축을 추진한다는 점에서 차별화된다. 이는 네이버가 해외 시장 진출에도 적극적으로 나설 것임을 보여주는 지표이기도 하다. 네이버의 AI 안전성 노력은 국내외에서 긍정적인 평가를 받고 있다. 특히, 네이버가 제안한 'AI 위험 평가 매트릭스'는 AI 시스템의 위험성을 다각적으로 평가하고 관리하는 데 유용한 도구로 평가받고 있다. 또한, 네이버가 추진하는 '소버린 AI' 개발은 특정 국가나 기업에 의존하지 않고 자율적으로 AI 기술을 개발하고 활용하려는 노력으로 주목받고 있다. 네이버는 앞으로도 네이버 ASF를 지속적으로 개선하고 보완해 나갈 계획이다. 또한, 국내외 유수 연구기관 및 기업과 협력하여 AI 안전성 연구를 활성화하고, 국제적인 AI 안전성 기준 마련에도 참여할 계획이다.
2024-06-17 10:11:22
-
네이버 이해진 GIO, AI 서울 정상회의서 "다양한 AI 모델 등장 필요" 강조
[이코노믹데일리] 네이버 이해진 글로벌투자책임자(GIO)는 21일 오후 열린 AI 서울 정상회의(AI Seoul Summit) 정상 세션에서 AI 시대에서 보다 안전한 AI를 위해서는 각 지역의 문화와 가치를 존중하는 다양한 AI 모델들이 등장해야 한다고 강조했다. 이해진 GIO는 "사용자들이 하나의 키워드로 다양한 검색 결과에서 정보를 선택하는 검색과 달리 바로 답을 제시하는 AI는 선택의 여지 없이 답을 얻는 방식"이라며 "이러한 AI의 특성은 특히 어린이나 청소년들에게 매우 큰 영향을 미칠 것"이라고 지적했다. 그는 소설 구절을 인용하며 "극소수 AI가 현재를 지배하게 되면 과거 역사, 문화에 대한 인식은 해당 AI의 답으로만 이루어지게 되고 결국 미래까지 해당 AI가 큰 영향을 미칠 것"이라고 우려했다. 이러한 우려를 해결하기 위해서는 다양한 시각을 보여주고 각 지역의 문화적, 환경적 맥락을 이해하는 다양한 AI 모델들이 등장해야 한다고 강조했다. 그는 "역사에는 다양한 시각이 존재하며 다양한 AI 모델로 각국의 문화 등 다양성을 지킬 수 있고 어린이들, 청소년들도 제대로 된 역사관, 시각을 가질 수 있다"고 말했다. 네이버는 이미 다양성을 통해 연결이 더 큰 가치를 창출할 수 있도록 기술과 서비스를 실현해 왔으며, AI 윤리 준칙 발표에 이어 보다 구체화된 'AI 안전 실행 프레임워크'(NAVER AI Safety Framework)를 내달 공개할 예정이다. 이해진 GIO는 "네이버는 각 지역의 문화와 가치를 존중하고 이해하며 책임감 있는 다양한 AI 모델들이 등장하고 많은 글로벌 국가들이 자체 소버린(Sovereign) AI를 확보할 수 있도록 어떤 형태든 기술로 지원해 나갈 것"이라고 밝혔다. 한편, 이번 AI 서울 정상회의는 5월 21일부터 22일까지 진행되며, 전세계 국가 정상, 국제기구, 세계적인 AI 기술 기업의 대표 등이 참여해 AI의 안전성을 강화하면서도 혁신을 촉진하고 포용과 상생을 도모하는 AI 발전방안에 대해 포괄적인 논의를 진행한다.
2024-05-22 10:18:32
-
MS, 연례 개발자 회의 '빌드 2024'에서 코파일럿 서비스 대거 공개
[이코노믹데일리] 마이크로소프트(MS)는 최근 인공지능(AI) 기술을 활용한 코파일럿을 다양한 플랫폼에 적용하고, 새로운 AI 모델을 출시하며 개발자 생산성을 극대화한다고 밝혔다. 오픈AI GPT 기반 AI 서비스 '코파일럿'을 중심으로 50가지 이상의 신규 서비스와 파트너십을 발표하며 기업 고객 집중 공략을 선언했다. 이는 지난 14일 구글이 자사 AI '제미나이'를 사업 전반에 적용한 지 일주일 만에 나온 대응이다. 테크 업계에서는 "AI 주도권 싸움에서 선두를 달리고 있는 두 회사가 치열한 AI 생태계 싸움에 돌입했다"는 평가가 나오고 있다. 21일(현지시간) 미국 시애틀에서 열린 'MS 빌드 2024'에서 MS는 윈도우용 코파일럿 스택, 깃허브 코파일럿 확장 기능, 팀 코파일럿, 오픈AI GPT-4o, 파이-3 멀티모달 모델 '파이-3 비전', 암 기반 CPU '코발트 100', AMD MI300x AI가속기 등을 공개했다. 나델라 CEO는 "오픈AI는 MS의 가장 전략적이면서 중요한 파트너십을 맺고 있다"며 "매우 마법 같은 GPT-4o 모델을 MS의 코파일럿에서도 활용할 것"이라고 밝혔다. 텍스트와 이미지, 오디오를 통합적으로 처리하는 GPT-4o는 생성형AI 경험의 새로운 기준을 제시한 혁신적인 멀티모달 모델로 평가받고 있다. 실제로 GPT-4o는 이미 MS의 클라우드 기반 AI 개발 플랫폼인 '애저 AI 스튜디오'와 API(응용프로그래밍인터페이스)에서 제공되고 있어, 누구나 이 기능을 활용해 혁신적인 AI 앱을 만들 수 있게 됐다. 나델라 CEO는 이날 행사에서 '마인크래프트' 게임을 하며 GPT-4o 기반 코파일럿과 대화하는 시연을 직접 선보이기도 했다. 그는 "오픈AI의 혁신에 따라 이런 모든 혁신을 MS 애저에서 제공하겠다고 약속한다"며 양사의 지속적인 협력 의지를 내비쳤다. 이에 맞춰 MS는 이번 행사를 통해 코파일럿 신규 기능들을 대거 공개했다. MS는 윈도우용 코파일럿 스택을 출시하며 AI 개발 환경을 개선했다. 이 스택은 애플리케이션 개발에 적용 가능한 API 라이브러리, 온디바이스 모델 구현을 돕는 프레임워크 및 툴체인 등으로 구성된다. 팀 단위에서 활용할 수 있는 '팀 코파일럿'이다. 개인용 코파일럿에 이은 팀 코파일럿은 팀즈, 루프, 플래너 등 협업 도구에서 호출되며 일정 관리, 시간 추적, 메모 작성 등의 진행자 역할을 수행한다. 또한, 180만 구독자를 보유한 '깃허브 코파일럿'의 새 확장 기능을 공개했다. 사용자는 도커, 센트리 등 자사와 타사 서비스 기능으로 이 코드 생성 도구를 직접 맞춤 설정할 수 있다. MS는 오픈AI의 최신 멀티모달 LLM(대규모 언어 모델)인 GPT-4o를 '애저 AI 스튜디오'와 API를 통해 제공한다고 밝혔다. 텍스트, 비전, 오디오를 처리하는 이 모델은 사용자의 생성형 AI 경험을 혁신할 것으로 기대된다. 사티아 나델라 MS CEO는 기조연설에서 "70여년 전 현대 컴퓨팅이 시작될 때 우리에겐 두 가지 꿈이 있었다. 컴퓨터가 우리를 이해할 수 있고, 정보가 넘쳐나는 세상에서 효과적으로 추론·계획·행동할 수 있도록 도와줄 수 있을까 하는 꿈이었다"며 AI가 그 꿈을 실현하는 데 중요한 역할을 할 것이라고 강조했다. 그는 또한 "지금은 DNN의 스케일링 법칙이 이 지능 혁명을 주도하고 있으며, 우리는 이 법칙들이 반년마다 두 배씩 증가하는 것을 목도하고 있다"고 덧붙였다.
2024-05-22 09:56:38
-
안랩, 일본 최대 IT 전시회 'Japan IT Week Spring 2024' 참가
[이코노믹데일리] 안랩(AhnLab)이 4월 24일부터 26일까지 3일간 일본 도쿄 빅 사이트(Tokyo Big Sight)에서 열린 일본 최대 정보기술(IT) 전시회 ‘Japan IT Week Spring 2024’에 참가해 안랩의 글로벌 전략 솔루션 및 서비스를 소개했다. 안랩은 별도 부스를 마련하고 일본 중소기업을 위한 SaaS형 보안 솔루션 ‘V3 Security for Business’, OT(운영기술) 환경 보안 솔루션 ‘안랩 OT 프레임워크’ 및 ‘안랩 EPS’와 ‘CEREBRO(세레브로)-XTD’ 솔루션, SaaS형 보안 위협 분석 플랫폼 ‘안랩 XDR’, 차세대 위협 인텔리전스(Threat Intelligence) 플랫폼 ‘안랩 TIP(티아이피)’ 등 안랩의 글로벌 전략 솔루션 및 서비스를 선보였다. 일본 법인 및 현지 파트너가 참여한 안랩 부스에는 약 1000여 명의 참관객이 방문했다. 안랩은 이들을 대상으로 제품 소개와 시연, 다수의 솔루션 도입 상담을 진행했다. 특히 많은 중소기업 관계자들이 SaaS형 보안 솔루션인 ‘V3 Security for Business’에 관심을 보였다. 방문객들은 특히 보안 관리를 위한 서버나 시스템 구축 없이 윈도우•맥OS•리눅스 및 안드로이드•iOS 디바이스 관리와 보안까지 한 번에 해결할 수 있는 점에 주목했다. 또한, 일본 내 대형 제조기업 등의 OT 보안에 대한 관심도 이어졌다. 안랩 부스를 방문한 OT 업계 관계자들은 OT 전체망 내 다양한 자산에 대한 가시성과 위협 탐지•대응을 제공하는 ‘안랩 OT 보안 프레임워크’와 주요 솔루션에 대한 설명을 듣고 상담을 진행했다. 나온웍스(안랩의 OT 보안 자회사)의 ICS(산업제어시스템) 프로토콜 DPI(Deep Packet Inspection*) 기술로 다양한 종류의 설비 식별 및 이상 제어 명령 탐지/분석이 가능한 점이 관계자들의 호응을 얻었다. 보안 위협 분석 플랫폼 ‘안랩 XDR’에 대한 관심도 높았다. 방문객들은 최신 보안 위협 시나리오에 기반한 시나리오 룰(*)과 이를 연계한 자산 위험도 분석 기능에 대한 설명을 듣고 관련 상담을 이어갔다. 이와함께 차세대 위협 인텔리전스 플랫폼 ‘안랩 TIP’가 제공하는 글로벌 공격 그룹 분석 정보와 수준 높은 위협 인텔리전스(위협 유형, 악성 파일정보•IP•URL 등)도 참관객들의 이목을 끌었다. 이상국 안랩 마케팅본부장은 “이번 행사에서 안랩은 부스에 방문한 다양한 현지 기업/기관 관계자들과 미팅을 진행하며 안랩과 보안에 대한 높은 관심을 확인했다”며, “안랩은 현지 법인 및 파트너사들을 중심으로 일본 지역 고객과 소통을 이어가며, 그간 일본 내 기업용 보안 솔루션에 대한 사업을 지속적으로 확장해 나갈 것”이라고 말했다. 안랩의 이번 전시회 참가는 일본 시장 공략 의지를 강하게 보여주는 계기가 됐다. 안랩은 앞으로도 일본 현지 법인 및 파트너들과 긴밀히 협력하여 일본 시장에서 차별화된 경쟁력을 갖춘 보안 솔루션과 서비스를 제공하며, 일본 고객들의 사이버 보안 강화에 기여할 것으로 기대된다. 안랩은 이번 전시회 참가를 통해 일본 시장뿐만 아니라 글로벌 시장에서도 성장세를 이어갈 것으로 전망된다. 안랩은 이미 해외 시장에서 높은 인지도와 입지를 구축하고 있으며, 앞으로도 해외 시장에서 적극적인 투자와 마케팅 활동을 통해 글로벌 보안 기업으로서의 위상을 더욱 강화해 나갈 계획이다.
2024-04-26 10:00:27
-
과기정통부, AI 윤리·신뢰성 확보가 지속가능한 AI 혁신의 핵심
[이코노믹데일리] 과학기술정보통신부(과기정통부)는 18일 서울 서초구 엘타워에서 '제3기 인공지능(AI) 윤리·신뢰성 포럼' 출범식을 개최하고, 최근 멀티모달 기술 등 생성형 AI 기술의 빠른 발전에 따른 AI 윤리·신뢰성의 중요성을 강조하며 지속가능한 AI 혁신을 위한 적극적인 논의를 시작한다고 밝혔다. 이번 포럼은 이상욱 한양대학교 철학과 교수를 위원장으로 하고 학계, 산업계, 법조계, 공공, 시민사회, 국제기구 등 분야별 전문가 20명이 참여하는 포럼으로 구성되어 AI의 사회적 신뢰 기반 조성을 위한 논의를 진행한다. 또한, 이번 포럼은 이달 출범한 AI 전략 최고위 협의회의 윤리·안전 분과로 운영되며, 최고위 협의회와 연계·운영하여 범부처 과제를 발굴하고 정책 과제를 구체화해 이행해 나갈 계획이다. 포럼 출범식에서는 정부가 개발한 'AI 윤리 기준 실천을 위한 자율 점검표(채용 분야)', 'AI 윤리 영향 평가' 프레임워크, AI 윤리 교육 교재 등을 공개하고 국내 AI 윤리·신뢰성 확보를 위한 정책 방향에 관한 종합 토론을 진행했다. 과기정통부는 "향후 격월로 포럼을 운영하여 AI 윤리·신뢰성 관련 글로벌 논의 관련 대응 전략을 모색하고, AI 산업 현장에서의 윤리·신뢰성 확산 방안과 생성형 AI의 악의적 활용을 완화·방지하기 위한 정책 과제 등을 집중 논의해 나갈 계획"이라고 밝혔다.
2024-04-18 15:23:35
-
에프지아이, 세월호 10주기 '생명안전교육 온라인플랫폼'개발
[이코노믹데일리] 세월호참사 10주기를 맞아 4·16재단은 안전할 권리에 대한 사회적 인식을 개선하고, 시민이 주체가 돼 안전한 사회를 만들어 나가기 위해 ‘생명안전교육 온라인플랫폼’을 구축해 공개했다. 세월호참사 이후 각급 학교나 산업현장을 중심으로 안전교육을 진행하고 있지만, 대체로 위기상황에 대한 대응이나 응급구조에 그 내용과 시간이 집중돼 있다, 생명안전교육 온라인플랫폼은 누구나 언제든지 다양하고 전문적인 안전교육 콘텐츠에 접근할 수 있도록 접근성을 높이고, 초등학생부터 성인까지 대상별 맞춤 교육콘텐츠를 통해 안전교육 대상자의 범위를 넓혀 수강자들의 만족도를 높일 수 있도록 구축된 시스템이다. 플랫폼은 일상 속 안전을 지키기 위한 시민 교육 콘텐츠를 비롯해, 나와 내 주변의 안전을 스스로 지키는 청소년을 위한 교육 콘텐츠(청소년 안전리더 과정) 및 안전교육과 관련한 500건 이상의 논문과 영상 자료가 아카이브 형태로 구성돼 있다. 생명안전교육 온라인플랫폼의 오픈을 앞둔 지난 9일 시스템 개발사인 ㈜에프지아이 최재완 대표는 4·16재단에 1000만원을 기부했다. 최 대표는 “이번에 4·16재단 일을 하면서 가슴아픈 참사 당시를 떠올리며 작은 정성 이나마 공익사업을 하는데 보탬이 되고자 기부를 하게 됐다”면서 “앞으로도 꾸준히 사회공헌 활동을 이어갈 예정”이라고 말했다. 에프지아이는 △기업의 홈페이지 개발 관리 △온라인 강의 등 교육관리시스템 △교수학습지원시스템 △학습관리시스템(LMS, Lernning Management System) 등 다양한 분야의 시스템 등을 개발·유지보수 하고 있다. 컴퓨터공학 박사인 최 대표는 약 20여년간의 노하우를 기반으로 4년 전 에프지아이를 설립했다. 최 대표는 “개인적인 회사 보다는 직원들과 같이 성장할 수 있는 회사를 만들어 보고 싶어 2020년 직원 한명과 일을 시작했다”며 “이듬해부터 지금까지 인원도 매출도 늘어나면서 꾸준히 성장해 가고 있다”고 강조했다. 에프지아이는 지난해 '2023 이코노믹데일리 ESG경영대상' 노사친화기업 부문 대상을 수상했다. 에프지아이는 2020년 11월 창업 이후 6개월에 한 번씩 성과공유를 위해 전 직원들에게 연봉 이외의 성과급을 지급했으며 직원 중심의 복리후생 정책을 펼치고 있다. 최 대표는 “가족같은 회사, 풍요로운 회사, 봉사하는 회사를 경영이념으로 삼고 있다”면서 “노-사간 또는 동료 간의 벽을 없애고 항상 대화하며 가족같이 아끼고, 풍요로운 내일을 위해 같이 노력하고 잘 쓰기 위해 일하며, 성공해서 사회에 봉사하는 회사로 일류기업을 지향한다”고 설명했다. 이같은 경영이념을 바탕으로 최 대표는 인력에 대한 어려움 없이 사업을 이어오고 있다. 그는 “이 사업은 사람관리가 가장 중요하다. 그동안 쌓아온 인맥을 통해 어려움을 보완할 수 있었고, 직원들의 복리후생에 신경 쓰면서 그 부분에 있어 경쟁력을 유지할 수 있게 됐다”고 했다. 에프지아이는 보유한 특허와 전자정부 프레임워크 호환성 인증 등을 토대로 차별화된 기술력과 서비스를 통해 성장을 거듭하고 있으며 미래 먹거리로 생성형 AI를 활용한 시스템을 준비하고 있다. “가장 관심을 끌고 있는 AI를 LMS에 적용할 계획이다. 교수님들이 학생들에게 제출받은 레포트를 쉽게 검증할 수 있도록 내용을 함축해 정리해 주는 생성형 AI를 활용한 시스템이 대표적인 예가 될 것이다. 현재 정부 과제를 신청해 결과를 기다리는 중인데, 선정이 되든 안 되든 상관없이 그 부분을 추진해 나갈 생각이다.” 최 대표는 “고객과의 신뢰를 바탕으로 다양한 사업수행 경험과 기술력으로 새로운 가치와 미래를 전달하는데 최선을 다하고 있다”며 “설립 이후 지금까지 쌓아온 경험과 노하우로 에프지아이만의 고유 스타일을 구축해 가면서 새로운 전문 영역에 대해서 도전을 멈추지 않고 있다”고 강조했다. 그러면서 “21세기 감성 비즈니스 시대의 우상이 될 수 있는 전문 디자인 연구소가 될 것”이라고 힘주어 말했다.
2024-04-15 18:44:22
-
-
-