검색결과 총 5건
-
-
SK텔레콤, 유영상 CEO 'AI 서울 정상회의'서 지속가능한 AI 혁신 방안 발표
[이코노믹데일리] SK텔레콤(대표이사 유영상)은 21일과 22일 양일간 서울에서 열린 ‘AI 서울 정상회의’에서 유영상 CEO가 약 17개국 정부와 재계 인사들 앞에서 대한민국 대표 AI 기업으로서 지속가능한 혁신 방안에 대해 발표했다고 23일 밝혔다. ‘AI 서울 정상회의’는 미국, 영국 등 주요국 정상과 디지털부 장관, 국내외 빅테크 대표들이 참석하는 행사다. 21일에는 정상세션, 22일에는 장관세션으로 나뉘어 진행됐다. 유 CEO는 22일 장관세션에서 17개국 디지털부 장관들과 오픈AI, 마이크로소프트(MS) 등 빅테크 기업 대표들이 참석한 가운데 국내외 기업 중 유일하게 ‘지속 가능하고 신뢰할 수 있는 AI(Building Sustainable & Reliable AI)’라는 주제로 발표를 했다. 유 CEO는 AI로 창출될 경제적·사회적 가치와 AI로 인해 발생하는 사회적 문제를 언급하며, 국제사회가 균형 있는 발전을 위해 협력해야 한다고 강조했다. 그는 데이터센터 등 AI 인프라 관련 에너지 소비와 접근성 저하 문제를 지적하며, 이를 해결하기 위한 한국 정부와 기업들의 노력을 소개했다. 유 CEO는 “데이터센터를 구축하고 운영하는 데 막대한 전력과 비용이 소요된다”며, “한국의 경우 기업과 정부가 협력해 전력 사용량과 탄소 배출량을 줄이는 AI 칩 개발과 AI 데이터센터(AIDC) 구축에 힘쓰고 있다”고 밝혔다. 그는 AI의 한계성과 페이크 뉴스 같은 부작용을 극복하기 위한 방법도 제안했다. 유 CEO는 “부정확한 학습 데이터나 기술적 한계로 인해 비윤리적이거나 잘못된 정보가 발생할 수 있으며, 이러한 정보가 악용되어 페이크 뉴스 같은 사회 문제가 발생한다”고 말했다. 그는 최근 한국 과학기술정보통신부가 개최한 ‘생성형 AI 레드팀 챌린지’를 언급하며, “이 행사는 SKT, 네이버 등 주요 한국 기업의 AI 모델에서 약점과 위험요소를 찾아내는 행사로, AI 지속가능성과 안전성에 대해 깊이 생각해 볼 수 있는 기회였다”고 평가했다. 유 CEO는 ‘지속 가능하고 신뢰할 수 있는 AI 발전’을 위해 세 가지 논의 아젠다를 제시했다. 첫째, AI 선도 국가들이 AI를 개발하고자 하는 국가들과 협력해 AI 인프라를 확산하고, 전 세계 누구나 AI에 접근할 수 있도록 해야 한다고 제안했다. 둘째, AI 활용 범위를 넓히면서 새로운 일자리 창출을 위한 국가와 민간 기업들의 고민이 필요하다고 말했다. 마지막으로, AI의 광범위한 활용과 함께 학습 데이터 편향성 문제를 최소화할 기술적·정책적 조치를 마련해야 한다고 강조했다. 유 CEO는 “국제사회가 AI의 안전성에 대해 심각하게 고민하는 것도 필요하지만, AI가 창출할 수 있는 혁신성에 대해서도 균형 있는 고심과 노력이 필요하다”며, “국가와 기업들이 협력해 안전을 기반으로 AI 부작용을 최소화하고, 지속가능한 AI 혁신을 이루는 균형 있는 선순환 구조가 필요하다”고 강조했다.
2024-05-23 08:13:36
-
미셸 더넬란 영국 과학혁신기술부 장관, 네이버 1784 방문…AI·로봇 등 첨단 기술 체험
[이코노믹데일리] 미셸 더넬란(Michelle Donelan) 영국 과학혁신기술부 장관 일행이 21일 테크 컨버전스 공간이자 세계 최초 로봇 친화형 빌딩인 네이버 1784를 방문했다. 더넬란 장관은 21일부터 개최되는 'AI 서울 정상회의(AI Seoul Summit)'에 참석하기 위해 방한했다. 회의에 앞서 네이버를 방문한 더넬란 장관은 AI, 로봇, 자율주행, 클라우드, 디지털트윈, 5G 등 첨단 기술들이 공간과 융합된 사례를 직접 체험했다. 네이버 최수연 대표, 김유원 네이버클라우드 대표, 석상옥 네이버랩스 대표, 하정우 네이버클라우드 AI이노베이션 센터장 등이 더넬란 장관 일행을 맞이했다. 21일 경기도 성남시 네이버 1784를 찾은 미셸 더넬란 영국 과학혁신기술부 장관이 최수연 네이버 대표와 함께 AI safety를 주제로 대담을 나누고 있다 더넬란 장관은 네이버 1784 방문 후 "네이버의 혁신적인 기술에 깊은 인상을 받았다"고 밝혔다. 특히, 로봇 배달 서비스, AI 기반 의료 솔루션, 자율주행 기술 등을 직접 체험하며 큰 관심을 보였다. 네이버는 안전하고 지속 가능한 AI 생태계 구축을 위해 다양한 활동을 펼치고 있다. 국내외 유수 연구기관들과 협력하여 글로벌 최상위 AI 학회에서 다수의 연구 결과가 채택되는 성과를 거두었다. 또한, AI 서비스 출시 과정에서 사회적 관점을 반영할 수 있는 AI 윤리 자문 프로세스를 운영하고 있다. 최근 주목받는 생성형 AI 기술의 안전성 강화를 위한 '레드팀'도 운영 중이다.
2024-05-21 14:51:08
-
AI 상담원, 진상고객 차단 기술 상용화 임박...욕설·혐오표현 걸러낸다
[이코노믹데일리] 고객센터 상담원들에게 성희롱, 욕설, 혐오표현을 일삼는 이른바 ‘진상고객’을 AI가 판단하고 차단하는 기술이 곧 등장할 예정이다. 특히 통신사들은 이러한 상황에 적극 대응하고 있으며, SK텔레콤이 선두주자로 나서고 있다. SK텔레콤은 텔코(통신 특화) 거대언어모델(LLM)의 출시를 앞두고, 이를 부적절한 대화에 적절히 대응하도록 훈련시키는 '레드팀'을 가동 중이다. 레드팀은 진상고객 역할을 맡아 텔코 LLM과 의도적으로 부적절한 대화를 나눈 후, 모델이 이를 제대로 감지하고 경고나 차단 등으로 대응하는지 확인한다. 이 과정을 통해 취약점을 발견하고 보완하는 작업을 반복하고 있다. 이를 통해 텔코 LLM이 실전 수준의 경험을 쌓게 되는 것이다. SK텔레콤은 텔코 LLM 기반 서비스의 AI 윤리와 안전성을 강화할 계획이다. 텔코 LLM은 통신 데이터를 전문적으로 학습해, 통신사들의 고객센터 상담사를 보조하는 AI 비서 개발에 우선 활용된다. AI 비서는 상담 내용을 요약하고 고객 요구에 적절한 답변을 만드는 역할뿐만 아니라, 부적절한 대화를 걸러내 상담사를 보호하는 역할도 중요하다. SK텔레콤은 노골적인 욕설뿐 아니라 의도가 겉으로 드러나지 않는 부적절한 대화도 학습했다. SK텔레콤은 지난달 열린 기자간담회에서 "상담 관련 내용을 모니터링하면서 시스템이 적절할 때 개입해 상담사를 보호할 수 있는 시스템을 논의 중"이라고 밝혔다. AI의 윤리성·안전성 확보는 다른 ICT 기업들의 서비스 개발에도 필수조건으로 자리잡았다. 안전성 문제는 당국의 규제로 이어질 수 있어, 기업들은 선제적으로 대응해야 사업 차질을 피할 수 있다. 이달 오픈AI가 음성과 시각정보를 인식하고 소통에 활용하는 멀티모달 GPT-4를 공개하며, 부작용 우려도 커지고 있다. 한 업계 관계자는 "AI 발전에 따라 환각 현상, 가짜뉴스, 저작권 및 개인정보 침해 등 문제가 불거지면서 기술적, 제도적으로 안전성 확보 노력이 필수가 됐다"며 "각 기업들이 AI 윤리 등 내부 지침을 세우고 이를 개발과정에 적용하는 노력을 하고 있다"고 말했다. KT는 AI 안전성 확보를 위한 업무를 전담하는 ‘책임감 있는 AI센터(RAIC)’를 신설했다. LG유플러스는 ‘AI·데이터거버넌스팀’을 확대 개편해 AI 안전성 기능을 부여했다. 네이버는 올해 초 CEO 직속 ‘퓨처AI센터’를 만들고, 자사의 ‘하이퍼클로바X’가 높은 안전성 지표를 얻었다는 기술보고서를 공개했다. 구글은 연례 개발자회의 ‘I/O’에서 AI 기반 레드팀 도입, AI 생성 콘텐츠의 악용 방지를 위한 워터마크 ‘신스ID’ 도입, 관련 개발도구 ‘책임감 있는 생성형 AI 툴킷’ 제공 등 최신 노력을 소개했다. 정부 차원의 논의도 활발하다. 한국과 영국 정부는 오는 21일과 22일 양일간 ‘AI 서울 정상회의’를 개최한다. 주요국 정상과 국제기구 수장, 빅테크 대표들이 참석하는 정상세션과, 과학기술정보통신부 장관 등이 참석하는 장관세션을 통해 국내외 민관이 모여 AI 안전성 강화 방안을 논의할 예정이다. 특히 우리 정부는 글로벌 논의를 주도해나갈 계획이다. 국내에서는 AI 안전성과 관련된 규제를 포괄하는 ‘AI 산업 육성 및 신뢰 기반 조성에 관한 법률안’, 즉 AI 기본법에 대한 입법 논의가 진행 중이다.
2024-05-19 18:36:14
-
국민 1000명, AI 안전 수호 나선다:...생성형 AI 레드팀 챌린지' 개최
[이코노믹데일리] 과학기술정보통신부와 한국정보통신기술협회(TTA)는 국민 1000명이 참여하는 '생성형 AI 레드팀 챌린지' 행사를 11일부터 이틀간 코엑스 B2홀에서 개최한다. 이번 행사는 AI에 관심 있는 국민 누구나 참여해 국내 생성형 AI 모델(LLM)의 잠재적 위험·취약점을 찾아내는 'AI 안전 수호 챌린지'다. 오픈AI, 구글, 네이버클라우드 등 국내·외 AI 대표기업도 내부 AI 레드팀을 구성·운영하며, 이번 행사는 국내 최초로 개최된다. 챌린지 참가자들은 1~4세션으로 나뉘어 진행되며, 네이버, SK텔레콤, 업스테이지, 포티투마루의 LLM 모델을 대상으로 잠재적 취약점을 찾는 프롬프트 공격을 진행한다. 데이터 분야 전문가, 의료·금융·법률 전문가 120여명으로 구성된 평가단은 사전에 마련된 평가 세부기준에 기초해 챌린지 참가자의 공격을 객관적으로 평가한다. 행사 2일차에는 아이단 고메즈 코히어 대표, 에마드 모스타크 스태빌리티 AI 창업자 겸 전 대표 등 국내·외 AI 업계·학계 전문가가 참여하는 '글로벌 AI 안전 컨퍼런스'가 개최된다. 이들은 생성형 AI 시장의 기술동향과 안전·신뢰성 확보 방안에 대한 발표와 토론을 진행한다. 과기정통부는 이번 챌린지 결과를 분석해 생성형 AI 분야의 공통·포괄적인 위험을 도출하고, 업계에서 활용할 수 있는 '생성형 AI 레드팀 가이드라인'을 마련하는 등 표준화된 위험 발굴·대응체계를 구축한다. 강도현 과기정통부 2차관은 "AI 혁신의 전제이자 기본은 AI 안전과 신뢰"라며 "오늘 행사는 AI의 지속 가능성에 대해 우리 모두가 진지하게 고민해 볼 수 있는 소중한 계기가 될 것"이라고 말했다. 이어 "AI 발전에 제약이 되는 문제들은 조속히 해결해 나가고 대통령께서 밝히신 'AI-반도체 이니셔티브'를 차질없이 추진해 글로벌 AI 혁신을 주도해 나갈 것"이라며 "특히 올해 5월에 개최되는 'AI 서울 정상회의'를 통해 AI 혁신과 안전, 포용 논의를 주도하여 글로벌 AI 리더십을 확보하고, AI G3 강국 도약의 발판으로 삼겠다"고 강조했다.
2024-04-11 16:20:06