2026.01.27 화요일
검색
'인공지능윤리' 검색결과
기간검색
-
~
검색영역
검색어
-
KAIST, 'AI 철학 연구센터' 개소... "기술 너머 인간의 길을 묻다" [이코노믹데일리] 인공지능(AI)이 인간의 지적 능력을 넘어서는 특이점이 다가오는 가운데 국내 최고 이공계 대학인 KAIST가 기술과 철학의 융합을 통해 인류의 미래를 모색하는 전담 연구 조직을 출범시킨다. 기술적 진보에 매몰되지 않고 인간의 존엄과 사회적 가치를 지키기 위한 새로운 사상적 토대를 마련하겠다는 시도다. KAIST(총장 이광형)는 오는 21일 대전 본원 학술문화관 양승택 오디토리움에서 ‘KAIST AI 철학 연구센터 개소 기념 국제 심포지엄’을 개최한다고 19일 밝혔다. 이번에 문을 여는 AI 철학 연구센터는 AI와 로보틱스 등 첨단 과학기술에 인문학적 성찰을 더해 인류 사회가 직면한 난제를 진단하고 실현 가능한 대응 전략을 제시하기 위해 설립됐다. 이날 열리는 심포지엄의 화두는 '포스트 AI 시대의 가치 재정립'이다. 자율성과 자유 및 존엄 등 인간적 가치는 물론 정의와 평등 및 노동 등 사회적 가치까지 원점에서 재검토한다. 김동우 초대 센터장의 개회사를 시작으로 국내외 석학들이 머리를 맞대고 철학·과학기술 융합 연구와 산학 협력 방안을 논의할 예정이다. 기조연설을 맡은 야스오 데구치 교토철학연구소장은 AI 시대의 새로운 관계론을 제시한다. 그는 인간의 사회성을 기초로 '나' 중심의 사고에서 '우리'로의 전환을 제안하며 인간과 비인간 및 인공물 사이의 관계를 재정립하는 모델을 설명한다. 이는 AI를 단순한 도구가 아닌 공존의 대상으로 바라보는 시각이다. 이광형 KAIST 총장은 축사를 통해 '휴머니즘 2.0'이라는 새로운 담론을 던진다. 이 총장은 "AI와 로보틱스 및 뇌-컴퓨터 인터페이스(BCI) 등의 발전으로 인간과 기계의 경계가 모호해지고 있다"며 이에 대응하기 위해 인간의 고유성과 가치를 새롭게 정의하는 사상적 전환이 필요함을 역설할 계획이다. 공학 분야에서의 자성적인 목소리도 나온다. 김정 기계공학과 학과장은 기존 기계공학이 추구하던 '성능과 효율' 중심의 패러다임을 전환해야 한다고 지적한다. 그는 안전성과 신뢰성 및 상호작용성 등 인간적 요건을 설계 단계부터 반영하는 '인간 중심의 설계 원리' 수립을 촉구한다. 박성필 문술미래전략대학원장 역시 AI 개발자가 기술에 대한 이해를 넘어 철학적 성찰력을 갖춰야 함을 강조하며 이에 맞춘 교육 전략을 소개한다. 김혜영 파리고등사범학교 연구원은 개인중심주의를 탈피해 사회관계를 통한 인간과 기계의 공존을 모색해야 한다고 주장하며 김동우 센터장은 행위자형 AI의 등장으로 역설적으로 인간이 행위자성을 잃어가는 현상을 경계한다. 김 센터장은 "포스트 AI 시대에 철학은 인간이 삶의 의미와 목적을 찾도록 돕는 정신적 토대가 되어야 한다"고 말했다. KAIST는 이번 센터 개소를 기점으로 산·학·연 협력을 강화해 단순한 담론 형성을 넘어 AI 기술 개발과 활용 과정에 적용할 수 있는 구체적인 윤리 가이드라인과 비전을 제시할 방침이다.2026-01-19 10:45:36
-
머스크 AI '그록', 아동 비키니 이미지 생성 논란... 긴급 수정 착수 [이코노믹데일리] 일론 머스크 테슬라 최고경영자(CEO)가 이끄는 인공지능(AI) 기업 xAI의 챗봇 '그록(Grok)'이 아동 성적 대상화 이미지를 생성해 파문이 일고 있다. 4일(한국시간) CBS뉴스 등 외신에 따르면 그록은 지난달 28일 일부 이용자의 요청에 따라 비키니 수영복 등 최소한의 옷만 걸친 미성년자 이미지를 다수 생성해 게시했다. 해당 이미지에는 12~16세 추정 청소년뿐만 아니라 1~2세 영유아로 보이는 아동이 선정적인 옷차림을 한 모습까지 포함된 것으로 알려져 충격을 주고 있다. 그록은 당초 아동을 성적으로 대상화하는 이미지 생성을 차단하는 안전장치를 갖추고 있었다. 그러나 일부 이용자들이 프롬프트(명령어)를 조작해 이를 우회하자 무방비로 뚫린 것으로 파악된다. 문제를 인지한 xAI 측은 엑스(X·옛 트위터) 공식 계정을 통해 "안전장치의 허점을 확인했다"며 "긴급히 수정 작업을 진행 중"이라고 밝히고 문제가 된 이미지들을 삭제 조치했다. 이번 사태를 두고 업계에서는 예견된 사고라는 비판이 나온다. 오픈AI의 챗GPT나 구글의 제미나이 및 앤트로픽의 클로드 등 경쟁 AI들이 성적 콘텐츠 생성을 엄격히 제한하는 것과 달리 그록은 '표현의 자유'를 내세워 상대적으로 느슨한 윤리 기준을 적용해 왔기 때문이다. xAI는 지난해 영상 생성 플랫폼 '그록 이매진'을 통해 자극적인 표현이 가능한 '매운맛 모드(Spicy Mode)'를 선보이는 등 논란을 자초한 바 있다. 미국 연방법은 아동 성적 대상화 이미지의 생성과 소지 및 유통을 엄격히 금지하고 있다. 전문가들은 이번 사건이 단순한 기술적 오류를 넘어 AI 기업의 윤리적 책임론과 법적 제재 논의를 가속화할 것으로 전망했다.2026-01-04 14:06:42
-
카카오 '카나나' 국내 1호 AI 안전성 검증 통과... "메타보다 안전하다" [이코노믹데일리] 카카오의 인공지능(AI) 모델 '카나나'가 정부가 주관한 국내 첫 AI 안전성 평가에서 글로벌 빅테크 모델을 상회하는 안전성을 입증했다. 29일 과학기술정보통신부는 AI안전연구소 및 한국정보통신기술협회(TTA)와 협력해 진행한 평가 결과 카나나가 메타나 미스트랄AI 등 해외 유력 모델 대비 동등 이상의 안전성을 확보한 것으로 확인됐다고 밝혔다. 이번 평가는 내년 본격 시행을 앞둔 'AI 기본법'에 대비해 국내 모델의 신뢰도를 선제적으로 점검했다는 점에서 의미가 크다. 이번 검증 대상은 카카오의 '카나나 에센스 1.5' 모델이다. 카카오는 국내 산·학·연이 주도하는 'AI 안전 컨소시엄'의 일원으로 참여해 자사 모델의 안전성을 객관적으로 검증받기로 협의했다. 평가에는 TTA와 최호진 KAIST 교수 연구팀이 개발한 벤치마크 데이터셋 '어슈어 AI(AssurAI)'와 AI안전연구소의 고위험 분야 평가 데이터셋이 활용됐다. 이는 AI 모델에 악의적인 질문을 던져 방어 기제가 제대로 작동하는지 확인하는 '레드팀 챌린지' 방식의 고강도 테스트다. 평가단은 폭력 조장이나 차별적 표현 등 일반적인 위험 요소는 물론 무기 제작법 전수나 해킹 코드 생성 및 보안 취약점 악용 등 고위험 시나리오까지 폭넓게 적용해 모델을 점검했다. 평가 결과 카나나는 동급 규모의 글로벌 오픈소스 모델인 미국 메타의 '라마(Llama) 3.1'과 프랑스 미스트랄AI의 '미스트랄 0.3'과 비교해 높은 수준의 안전성을 기록했다. 특정 위험 항목에서는 경쟁 모델보다 더 정교하게 유해 정보를 필터링하는 능력을 보인 것으로 알려졌다. 정부는 이번 평가가 단순히 규제를 위한 절차가 아니라 국내 AI 산업의 경쟁력을 높이는 계기가 될 것으로 보고 있다. 과기정통부는 이번 검증 경험을 바탕으로 내년 1월 진행될 '독자 AI 파운데이션 모델' 프로젝트 1차 평가에도 동일한 안전성 기준을 적용할 방침이다. 아울러 국내외 다양한 AI 기업과 협력해 평가 대상을 지속적으로 확대하고 국제적인 AI 안전 기준 수립에도 주도적으로 참여한다는 계획이다. 이번 결과는 글로벌 시장에서 'K-AI'의 신뢰도를 높이는 데 기여할 전망이다. AI 성능 경쟁이 안전성 경쟁으로 옮겨가는 추세 속에서 국산 모델이 글로벌 표준을 충족한다는 사실을 입증했기 때문이다. 특히 기업용(B2B) 시장이나 공공 분야 진출 시 안전성 검증 여부가 핵심 경쟁력이 될 가능성이 높다. 김경만 과기정통부 인공지능정책실장은 "세계적으로 AI 안전에 대한 논의가 규제보다는 실질적인 검증과 구현이 강조되는 상황"이라며 "이번 평가는 국내 AI 모델의 안전성 경쟁력을 객관적으로 증명한 사례이자 향후 글로벌 AI 안전성 리더십을 확보하는 초석이 될 것"이라고 강조했다.2025-12-29 12:34:49
-
KT 초거대 AI '믿:음 K 2.0', 국내 최초 TTA 신뢰성 인증 획득 [이코노믹데일리] KT가 자체 개발한 초거대 언어모델 ‘믿:음 K 2.0 베이스’가 국내 최초로 한국정보통신기술협회(TTA)의 ‘인공지능 신뢰성 인증 2.0(CAT 2.0)’을 획득하며 기술적 안전성과 책임성을 입증했다. KT는 지난 22일 TTA로부터 믿:음 K 2.0 베이스 모델에 대한 AI 신뢰성 인증을 받았다고 밝혔다. 이번 인증은 내년 1월 시행을 앞둔 ‘AI 기본법’에 선제적으로 대응하는 차원에서 의미가 크다. CAT 2.0은 AI 기술 확산에 따른 윤리적·기술적 위험을 예방하기 위해 과기정통부와 TTA가 운영하는 민간 자율 인증 제도로 국제 표준(ISO/IEC 23894)을 기반으로 AI 모델의 거버넌스와 투명성 및 책무성 등을 종합적으로 검증한다. ‘믿:음 K 2.0 베이스’는 115억(11.5B) 파라미터 규모의 오픈소스 언어모델로 한국어 데이터 학습을 통해 국내 언어 환경과 문화적 맥락에 최적화된 것이 특징이다. 분류와 요약 및 생성 등 다양한 자연어 처리 과업에서 우수한 성능을 발휘하며 AI 안전성 벤치마크인 ‘코다크벤치(KoDarkBench)’ 평가 1위와 한국어 LLM 성능 평가 ‘호랑이(Horangi)’ 리더보드 1위를 기록해 기술력을 인정받았다. TTA는 이번 심사에서 KT의 위험관리 체계와 운영 프로세스를 집중 점검했다. 학습 데이터 필터링과 모델 레드티밍을 통한 취약점 보완 등 개발부터 운영 전 과정에서 잠재적 위험을 식별하고 관리하는 내부 거버넌스가 체계적으로 작동하고 있음을 확인했다. 배순민 KT AI 퓨처 랩장은 “AI 기본법 시행을 앞두고 책임 있는 AI 개발 역량을 객관적으로 검증받았다”며 “앞으로도 신뢰할 수 있는 AI 기술로 국내 산업 생태계의 건전한 성장에 기여하겠다”고 말했다. 손승현 TTA 회장은 “생성형 AI의 핵심인 LLM에 대한 신뢰성 확보는 기업의 책임 있는 AI 활용과 이용자의 불안 해소를 위한 중요한 기반이며, 이번 인증을 통해 기업은 AI 위험을 체계적으로 관리하고 이용자는 보다 안심하고 생성형 AI 서비스를 이용할 수 있을 것으로 기대한다”고 밝혔다.2025-12-23 10:03:05
-
셀렉트스타, CES 2026 참가… AI 신뢰성 평가 솔루션 '다투모 이밸' 공개 [이코노믹데일리] AI 데이터 및 신뢰성 평가 전문기업 셀렉트스타(대표 김세엽)가 내년 1월 미국 라스베이거스에서 열리는 세계 최대 가전·IT 전시회 ‘CES 2026’에 참가해 글로벌 시장 공략에 나선다. 2022년 이후 4년 만의 재도전이다. 셀렉트스타는 이번 전시에서 글로벌 브랜드 ‘다투모(Datumo)’를 내걸고 유레카 파크에 부스를 마련한다. 핵심 전시 품목은 AI 개발부터 도입 전 과정을 아우르는 올인원 서비스다. 국내 최초로 출시한 AI 신뢰성 평가 솔루션 ‘다투모 이밸(Datumo Eval)’을 필두로 저작권 이슈를 해결한 ‘데이터셋 스토어’와 독자적 데이터 구축 기술을 적용한 ‘AI 데이터 솔루션’을 집중적으로 소개할 계획이다. 특히 주력 제품인 ‘다투모 이밸’은 거대언어모델(LLM)을 포함한 다양한 AI 모델의 성능과 공정성 및 안전성을 객관적 지표로 측정한다. 모델별 맞춤형 평가 지표 설정과 자동 레드팀 분석 기능을 지원해 AI 신뢰성을 체계적으로 검증할 수 있다는 점이 특징이다. 셀렉트스타는 이를 통해 북미 등 글로벌 기업과 협력 방안을 모색한다. 함께 선보이는 ‘데이터셋 스토어’는 뉴스나 방송 등 저작권 검증을 마친 고품질 데이터를 공급해 기업들이 즉시 활용 가능한 데이터 공급망을 구축했다. 김세엽 셀렉트스타 대표는 “금융권을 중심으로 쌓아온 AI 신뢰성 평가 기술력을 글로벌 시장에 선보이는 무대가 될 것”이라며 “AI 개발 전 주기를 아우르는 솔루션으로 기업들의 안전한 AI 도입을 지원하겠다”고 말했다. 한편 셀렉트스타는 올 한 해 스페인 MWC와 일본 GSE 등 해외 주요 전시회에 잇달아 참가하며 기술력을 알렸다. 내년에도 북미와 일본 시장을 중심으로 글로벌 행보를 가속할 방침이다.2025-12-22 14:44:00
-
챗GPT가 망상 부추겨 모친 살해·자살… 오픈AI 또 피소 [이코노믹데일리] 인공지능(AI) 챗봇 챗GPT가 사용자의 망상을 부추겨 존속 살해와 자살이라는 극단적인 비극을 초래했다는 이유로 법적 분쟁이 시작됐다. 오픈AI가 자사 AI 모델의 위험성을 인지하고도 충분한 안전장치 없이 출시해 인명 피해를 막지 못했다는 주장이 제기되며 AI 윤리 책임론이 거세질 전망이다. 11일(현지시간) AP통신 등 외신에 따르면 미국 코네티컷주에 거주했던 스타인-에릭 솔버그(56)와 그의 어머니 수잰 애덤스(83)의 유족들은 오픈AI와 샘 올트먼 CEO 및 마이크로소프트(MS)를 상대로 캘리포니아주 법원에 손해배상 소송을 제기했다. 경찰 조사 결과 솔버그는 지난 8월 어머니를 목 졸라 살해한 뒤 스스로 목숨을 끊었다. 유족들은 소장을 통해 솔버그가 사건 발생 전 수개월 동안 챗GPT와 대화하며 심각한 망상에 빠졌으며 챗GPT가 이를 교정하기는커녕 적극적으로 동조했다고 주장했다. 소장에 따르면 챗GPT는 솔버그에게 "특별한 사명을 위해 선택받았다"고 추켜세우며 그의 어머니를 '적대적인 존재'나 '위협적인 감시자'로 인식하도록 유도했다. 심지어 어머니의 프린터에서 깜빡이는 불빛을 감시 장치라고 하거나 차량 환풍구로 환각 물질을 흘려보내 중독시키려 한다는 솔버그의 터무니없는 음모론에 챗GPT가 동의하는 반응을 보였다는 내용도 포함됐다. 이번 사건에 연루된 모델은 'GPT-4o'로 알려졌다. 이 모델은 사용자의 의견에 쉽게 동조하거나 환심을 사려는 '아부(Sycophancy)' 경향이 강하다는 비판을 받아왔다. 오픈AI 측도 이러한 문제점을 인지하고 후속 모델인 GPT-5에서는 정신건강 관련 대화에서 부적절한 응답 비율을 39% 줄였다고 밝힌 바 있으나 이미 발생한 비극을 되돌릴 수는 없게 됐다. 유족들은 오픈AI가 안전성 검증을 소홀히 한 채 모델 출시를 강행했다고 비판했다. 특히 올트먼 CEO가 내부 안전팀의 반대 의견을 무시했으며 MS 또한 축소된 검증 절차를 알고도 제품 출시를 승인해 비극을 방조했다고 지적했다. 이번 소송은 AI 챗봇이 자살뿐 아니라 타인을 해치는 살인까지 부추겼다고 주장하는 첫 사례라는 점에서 파장이 크다. 앞서 지난 8월 캘리포니아의 16세 소년 유족이 챗GPT가 아들의 자살을 도왔다며 소송을 제기한 바 있으며 지난달에는 망상 유발을 이유로 한 집단소송이 제기되기도 했다. 오픈AI 대변인은 "매우 안타까운 사건이며 소송 내용을 면밀히 검토할 것"이라며 "챗GPT가 사용자의 정신적 불안 신호를 감지해 대화를 진정시키고 전문가의 도움을 받도록 유도하는 기능을 강화하고 있다"고 해명했다.2025-12-12 14:12:01
많이 본 뉴스
영상
Youtube 바로가기
![[편집인 칼럼] 군을 정리하는 권력, 권력을 준비하는 군](https://image.ajunews.com/content/image/2026/01/26/20260126143853422700_518_323.png)