2026.01.02 금요일
검색
'안전한 AI' 검색결과
기간검색
-
~
검색영역
검색어
-
셀렉트스타, CES 2026 참가… AI 신뢰성 평가 솔루션 '다투모 이밸' 공개 [이코노믹데일리] AI 데이터 및 신뢰성 평가 전문기업 셀렉트스타(대표 김세엽)가 내년 1월 미국 라스베이거스에서 열리는 세계 최대 가전·IT 전시회 ‘CES 2026’에 참가해 글로벌 시장 공략에 나선다. 2022년 이후 4년 만의 재도전이다. 셀렉트스타는 이번 전시에서 글로벌 브랜드 ‘다투모(Datumo)’를 내걸고 유레카 파크에 부스를 마련한다. 핵심 전시 품목은 AI 개발부터 도입 전 과정을 아우르는 올인원 서비스다. 국내 최초로 출시한 AI 신뢰성 평가 솔루션 ‘다투모 이밸(Datumo Eval)’을 필두로 저작권 이슈를 해결한 ‘데이터셋 스토어’와 독자적 데이터 구축 기술을 적용한 ‘AI 데이터 솔루션’을 집중적으로 소개할 계획이다. 특히 주력 제품인 ‘다투모 이밸’은 거대언어모델(LLM)을 포함한 다양한 AI 모델의 성능과 공정성 및 안전성을 객관적 지표로 측정한다. 모델별 맞춤형 평가 지표 설정과 자동 레드팀 분석 기능을 지원해 AI 신뢰성을 체계적으로 검증할 수 있다는 점이 특징이다. 셀렉트스타는 이를 통해 북미 등 글로벌 기업과 협력 방안을 모색한다. 함께 선보이는 ‘데이터셋 스토어’는 뉴스나 방송 등 저작권 검증을 마친 고품질 데이터를 공급해 기업들이 즉시 활용 가능한 데이터 공급망을 구축했다. 김세엽 셀렉트스타 대표는 “금융권을 중심으로 쌓아온 AI 신뢰성 평가 기술력을 글로벌 시장에 선보이는 무대가 될 것”이라며 “AI 개발 전 주기를 아우르는 솔루션으로 기업들의 안전한 AI 도입을 지원하겠다”고 말했다. 한편 셀렉트스타는 올 한 해 스페인 MWC와 일본 GSE 등 해외 주요 전시회에 잇달아 참가하며 기술력을 알렸다. 내년에도 북미와 일본 시장을 중심으로 글로벌 행보를 가속할 방침이다.2025-12-22 14:44:00
-
F5 "2026년 사이버 보안 분수령... 포스트 양자와 에이전틱 AI 대비해야" [이코노믹데일리] 글로벌 보안 기업 F5가 2026년을 아시아태평양 지역 사이버 보안의 향방을 가를 분수령으로 지목하고 차세대 보안 위협에 대한 4대 핵심 전략을 제시했다. F5는 17일 발표한 '2026년 사이버 보안 전망' 보고서를 통해 내년 디지털 성장 국면을 좌우할 핵심 요인으로 포스트 양자 대비와 에이전틱 AI 확산에 따른 API 취약성 및 소버린 AI 인프라 부상 등을 꼽았다. F5는 우선 '선 수집 후 해독(Harvest Now, Decrypt Later)' 공격이 현실적인 위협으로 다가왔다고 경고했다. 해커들이 현재의 암호화된 데이터를 탈취해 저장해 두었다가 향후 양자컴퓨터 기술이 상용화되면 이를 해독하려는 시도가 늘고 있다는 분석이다. 이에 대한 해법으로 기존 시스템을 중단하지 않고 데이터를 보호할 수 있는 하이브리드 암호화 방식 도입을 제안했다. 생성형 AI를 넘어 스스로 판단하고 행동하는 '에이전틱 AI' 확산에 따른 API 보안 공백도 지적했다. AI 에이전트가 외부 시스템과 통신하는 과정에서 API가 필수적으로 사용되는데 이것이 구조적 약점이 될 수 있다는 것이다. F5는 지능형 시스템을 안전하게 확장하려면 API를 지속적으로 탐지하고 일관된 정책을 집행하며 AI 기반 트래픽 흐름에 대한 실시간 가시성을 확보해야 한다고 강조했다. 국가별로 자국 내에 AI 인프라를 구축하려는 '소버린 AI' 흐름도 주요 변수다. 컴퓨팅 자원과 데이터를 자국 내에서 통제하려는 움직임이 커지면서 양자 내성 통신과 AI 런타임 보안의 중요성이 부각되고 있다. 또한 하이브리드 멀티클라우드 환경의 복잡성이 증가함에 따라 단순 보안을 넘어선 '디지털 복원력' 확보가 기업의 필수 생존 과제로 자리 잡았다고 분석했다. 이형욱 F5코리아 지사장은 "한국 기업의 50% 이상이 AI 배포에 API를 활용하고 있지만 정작 보안 프로세스가 성숙 단계에 이르렀다고 답한 비율은 40%에 불과하다"며 "이러한 격차를 해소하는 것이 시급하며 양자 내성 대비와 안전한 AI 실행 및 운영 복원력 확보가 디지털 신뢰를 구축하는 핵심 기반이 될 것"이라고 말했다.2025-12-17 10:37:32
-
개인정보위 2030자문단, AI 프라이버시·데이터 주권 정책 제안 [이코노믹데일리] 개인정보보호위원회가 청년 세대의 목소리를 정책에 반영하기 위해 운영한 자문단의 성과를 공유하고 미래 정책 방향을 모색했다. 개인정보위는 지난 12일 정부서울청사에서 ‘제2기 개인정보위 2030자문단 성과발표회’를 개최했다고 14일 밝혔다. 이날 성과발표회에서 자문단은 인공지능(AI) 대전환 시대를 맞아 개인정보 신뢰 기반을 강화하고 산업 경쟁력과 조화를 이룰 수 있는 다양한 정책 아이디어를 담은 ‘청년정책제안서’를 발표했다. 자문단은 우선 ‘AI 프라이버시 리스크 평가 활성화’를 핵심 과제로 꼽았다. 기업들이 자발적으로 프라이버시 위험을 평가하도록 유도하고 리스크 관리 모델을 고도화해 AI 거버넌스 실행 체계를 마련해야 한다는 주장이다. 이는 급변하는 AI 기술 환경에서 이용자의 불안을 해소하고 안전한 AI 활용 생태계를 조성하기 위한 필수 조건으로 풀이된다. 데이터 주권 강화를 위한 구체적인 방안도 제시됐다. 자문단은 ‘개인정보 이용내역 상시 조회 대시보드’ 개발을 제안하며 청년들이 자신의 개인정보가 언제 어디서 사용되었는지 투명하게 확인하고 통제할 수 있는 환경 구축을 요구했다. 이를 뒷받침하기 위해 상시 조회가 가능한 통지 모델의 법적 근거를 마련하고 청년 대상 인식 제고 캠페인을 통해 데이터 관리 문화를 개선해야 한다고 강조했다. 교육 분야에서는 AI 시대에 걸맞은 ‘개인정보 리터러시 교육’으로의 패러다임 전환을 주문했다. 단순 이론 교육을 넘어 실천 중심의 콘텐츠를 개발하고 세대 간 개인정보 인식 격차를 해소할 수 있는 소통 체계를 구축해 디지털 시민성을 함양해야 한다는 설명이다. 제2기 자문단은 지난 1년간 개인정보 보호·활용과 침해 방지 및 소통·협력 등 3개 분과로 나뉘어 활동해 왔다. 이들은 분과 간 토론은 물론 한국인터넷진흥원(KISA) 정보보호 클러스터 등 정책 현장을 직접 방문하며 실효성 있는 아이디어를 발굴하는 데 주력했다. 이정렬 개인정보위 부위원장은 “2030자문단원들이 제안한 창의적인 아이디어를 위원회의 정책 방향 수립에 적극 반영하겠다”며 “활동이 끝난 이후에도 개인정보 정책 발전을 위해 각자의 자리에서 지속적으로 관심을 가져달라”고 당부했다.2025-12-14 14:15:26
-
'해킹 사태' 반성 SKT, 글로벌 무대서 'AI 프라이버시' 선언…신뢰 회복 나서 [이코노믹데일리] 최근 대규모 개인정보 유출 사태로 홍역을 치른 SK텔레콤이 글로벌 개인정보보호 무대에서 ‘AI 프라이버시 보호’를 선언하며 신뢰 회복을 위한 강력한 의지를 다졌다. CISO와 CPO를 분리 선임하고 사내 AI 거버넌스 포털을 구축하는 등 최근의 행보와 맞물려 AI 시대의 안전과 신뢰를 선도하겠다는 메시지를 국내외에 각인시키려는 행보로 풀이된다. SK텔레콤은 15일, 개인정보보호위원회가 주최한 ‘글로벌 프라이버시 총회(GPA)’ 사전 행사로 열린 ‘개인정보보호 및 안전활용 선포식’에 참여했다고 밝혔다. GPA는 전 세계 95개국 148개 개인정보 감독기관이 참여하는 최대 규모의 국제 협의체다. 이날 행사에서 차호범 SK텔레콤 개인정보보호최고책임자(CPO)는 국내 주요 기업 및 공공기관 CPO들과 함께 ‘AI 프라이버시 공동선언문’을 발표했다. 이 선언문은 AI 개발 및 활용 과정에서 정보주체의 권리를 보장하고 신뢰를 확보하기 위한 ‘AI 안전 생태계 조성 7대 실천사항’을 담고 있다. SK텔레콤은 최근 글로벌 최고 수준의 정보보호체계 구축을 위해 발 빠르게 움직여왔다. 지난 8월, 기술적 보안을 총괄하는 정보보호최고책임자(CISO)와 개인정보보호법 대응을 담당하는 CPO를 분리 선임하며 전문성과 독립성을 강화했다. 이는 과거 CPO의 역할이 제한적이었다는 개인정보위의 지적을 수용한 조치다. 또한 2024년부터 자체 수립한 AI 거버넌스 원칙 ‘T.H.E. AI’를 경영에 도입한 데 이어 지난 2일에는 AI 서비스의 신뢰성과 안전성을 체계적으로 검증하는 사내 ‘AI 거버넌스 포털’을 공식 오픈했다. 이 포털은 사업팀의 1차 자가진단과 전문가로 구성된 ‘레드팀’의 2차 심층 검토라는 이중 검증 체계를 통해 AI 서비스의 잠재적 위험을 관리한다. 차호범 SK텔레콤 CPO는 “AI 개발과 활용에 필수적인 개인정보처리 과정에 있어 안전과 신뢰를 최우선으로 삼아 안전한 AI 생태계 조성을 위해 지속 노력할 것”이라며 “이를 위해 외부 기관 및 협의회 등과도 적극적으로 협력할 예정”이라고 말했다. 대규모 해킹 사태 이후 뼈를 깎는 쇄신을 약속한 SK텔레콤이 이번 GPA 총회 참여를 계기로 실질적인 변화를 이끌어내고 무너진 고객의 신뢰를 되찾을 수 있을지 귀추가 주목된다.2025-09-15 17:41:53
-
AWS, 에이전트 AI 플랫폼 '베드록 에이전트 코어' 공개 [이코노믹데일리] 아마존웹서비스(AWS)가 복잡한 과업을 자율적으로 수행하는 ‘에이전트 인공지능(AI)’ 시장 선점을 위해 개발과 보안을 아우르는 통합 플랫폼 전략을 공개했다. 단순히 AI 모델을 제공하는 단계를 넘어 기업이 신뢰할 수 있는 AI 에이전트를 실제 서비스 환경에 빠르고 안전하게 배포할 수 있도록 지원하며 시장 주도권을 강화하겠다는 포석이다. AWS는 19일 서울 강남구 본사에서 기자간담회를 열고 최근 미국에서 발표한 생성형 AI 및 보안 신기술을 국내에 소개했다. 전략의 핵심은 ‘아마존 베드록 에이전트 코어’다. 이 서비스는 AI 에이전트의 안정적인 상용 배포와 확장을 지원하는 모듈식 플랫폼으로 런타임·메모리·신원인증 등 7가지 핵심 기능을 기업이 필요에 따라 조합해 사용할 수 있다. 이를 통해 개념 검증 단계의 AI 에이전트를 실제 서비스로 신속하게 전환할 수 있다. AWS는 개발 생산성을 높이는 도구도 함께 선보였다. AI 에이전트 개발에 필요한 코드를 생성하는 ‘키로’와 벡터 데이터 저장·검색 비용을 최대 90%까지 절감하는 ‘아마존 S3 벡터스’ 등이 대표적이다. 특히 AWS는 AI 에이전트 시대의 핵심 경쟁력으로 ‘신뢰’와 ‘보안’을 강조했다. 신은수 AWS 수석 보안 전문 SA는 AI의 환각 현상을 최대 99% 정확도로 탐지하는 ‘자동 추론 검사’와 AI가 생성한 답변이 기존 데이터와 일치하는지 검증하는 ‘가드레일’ 등 고도화된 보안 기능을 소개했다. 또한 최상위 관리자 계정에 다중 인증(MFA)을 의무화하고 내부 위협까지 대응하는 접근 분석기를 도입하는 등 모든 단계에 보안을 내재화했다. 생태계 확장에도 속도를 낸다. AWS 마켓플레이스에 ‘AI 에이전트 및 툴즈’ 카테고리를 신설하고 업스테이지, LG CNS 등 국내외 파트너사들의 솔루션을 공급한다. 기업들은 이를 통해 검증된 AI 에이전트를 쉽게 도입할 수 있다. 최영준 AWS 데이터·AI 스페셜리스트 SA 리더는 “세계에서 가장 신뢰할 수 있고 안전한 AI 에이전트를 배포하도록 지원하겠다”며 “빠른 혁신과 보안 등으로 고객이 AWS의 AI 에이전트 비전을 공유할 수 있도록 지원하겠다”고 밝혔다.2025-08-19 17:24:53
많이 본 뉴스
영상
Youtube 바로가기
![[기원상 칼럼] "권력의 곁을 떠나지 못한 종교, 통일교는 어디로 가는가"](https://image.ajunews.com/content/image/2025/12/31/20251231161508887162_518_323.png)