과기정통부, AI 윤리수준 점검...첫 걸음 '업스테이지'

[이코노믹데일리] 과학기술정보통신부는 박윤규 제2차관이 인공지능(AI) 챗봇 서비스 애스크업(AskUp·일명 아숙업) 을 만든 국내 대표 AI 업체 '업스테이지'를 방문해 인공지능(AI) 윤리·신뢰성 준수현황을 점검했다고 15일 밝혔다.

이번 현장 방문은 과기정통부가 지난달 11일 개최된 ‘AI 윤리·신뢰성 강화를 위한 간담회’ 이후 AI 윤리 및 신뢰성 준수 현황을 점검하고 AI 윤리 의식을 확산시키기 위한 조치다. 박윤규 과기정통부 제2차관은 이날 업스테이지를 시작으로 AI 서비스 업체들을 연속 방문할 계획이다.

챗GPT를 계기로 초거대 인공지능이 만들어 낼 가능성과 동시에 위험성도 주목받고 있다. 과기정통부는 산업현장을 방문해 인공지능 윤리·신뢰성 준수의 중요성을 전파한다.

첫 번째 현장방문이 이뤄진 '업스테이지'는 챗GPT와 광학문자판독(OCR)기술을 융합한 솔루션을 카카오톡에서 이용할 수 있는 애스크업(AskUP)을 선보이는 등 AI 산업에 빠르게 적응하고 있는 기업이다.

이날 현장방문에서는 생성형 인공지능의 문제점으로 지적받는 환각(Hallucination) 현상을 완화하기 위한 기업의 노력과 인공지능 윤리·신뢰성 확산을 위한 애로사항에 대한 의견이 논의됐다.

환각은 인공지능모델이 사실이 아닌 내용을 마치 사실인 것처럼 답하면서 나타나는 문제 상황을 일컫는다.

업스테이지는 '? 검색'을 도입해 팩트 기반의 정보를 제공하고 있다. 아울러 개인정보 텍스트 마스킹 처리, 부적절한 이미지 생성 요청 시 거절 메시지 노출과 출력 거부 조치 등 다양한 노력을 기울이고 있다.

박윤규 과학기술정보통신부 제2차관은 “인공지능이 산업과 우리 일상 속으로 빠르게 확산되고 있는 상황에서 기술개발부터 활용의 全 단계에서 윤리와 신뢰성을 확보하는 것이 산업발전의 전제조건이 되고 있다”고 강조하며, “국내 기업이 자사 제품 및 서비스에 인공지능 윤리·신뢰성을 선제적으로 확보할 수 있도록 산업현장에 방문하여 애로사항과 지원 필요사항을 경청하고 인공지능 윤리·신뢰성 확산에 앞장서 나가겠다.”고 밝혔다.

이활석 업스테이지 최고 기술 책임자(CTO)는 "챗GPT 등 생성형 인공지능 시대가 열리며 인공지능 윤리·신뢰성 논의가 가속화되고 있어 다양한 노력을 통해 기술 발전에 필수적인 윤리·신뢰성 확보를 위한 노력을 지속할 것"이라고 말했다.

박윤규 2차관은 연속 현장방문에서 기업들의 인공지능 윤리·신뢰성 준수 현황을 파악하고 과기정통부의 인공지능 윤리원칙과 가이드라인을 바탕으로 기업이 자발적으로 인공지능 윤리·신뢰성을 이행할 수 있도록 독려할 계획이다.

한편 이날 업스테이지는 문서 AI 솔루션 '다큐먼트 AI 팩', 추천과 검색을 결합한 애스크업 서제스트(AskUp Seargest) 등을 소개하고 시연했다.