온라인 뉴스 댓글에서 외국 연계 영향력 활동으로 의심되는 패턴과 근거를 제시하는 ‘설명가능한 AI’ 개발을 AI로 생성한 이미지. KAIST 제공. 국내 연구진이 20년간의 네이버 뉴스 댓글 1억1000만건을 인공지능(AI) 기술을 활용해 한국 사회 내부 갈등과 대립을 부추기는 외국과 연관된 의심 계정 2만3998개를 식별했다. 의심 계정을 찾는데 그치지 않고, 계정의 활동 빈도와 기간, 다른 계정과 활동 연관성 등 다양한 행동 패턴을 분석해 의심하게 된 판단 근거까지 제시하는 ‘설명가능한 AI’로 고도화했다. 이들 의심 계정은 진보와 보수 양 진영의 전·현직 대통령과 대선 후보, 정당 등 국내 유명 정치인을 표적으로 댓글 활동을 폭넓게 해 오는 등 한국 사회 내부 갈등과 대립을 키우는 내용들을 집중적으로 올린 것으로 드러났다. KAIST는 이원재 문화기술대학원 교수, 차미영 전산학부 교수(독일 막스플랑크 연구소 단장 겸임), 오혜연 KAIST 전산학부 교수 연구팀이 독일 막스플랑크 연구소 토르스텐 홀츠 교수와 국제공동 연구를 통해 온라인 뉴스 댓글에서 외국 연계 영향력 활동으로 의심되는 패턴을 자동 탐지하고, 그 판단 근거까지 제시하는 ‘설명가능한 AI’ 기술을 개발했다고 12일 밝혔다. 기존 AI 탐지 기술은 특정 계정을 의심 계정으로 분류할 수 있지만, 구체적인 근거를 제시하는 데 한계가 있다. 모바일 일본 야마토 게임 연구팀은 국가안보전략연구원이 식별한 외국 연계 계정 70개를 기반으로 해당 계정과 연관되거나 같은 기사에 반복적으로 댓글을 작성한 계정들을 추적해 2006년부터 2025년까지 20년간 네이버 뉴스에 작성된 1억1265만 건의 댓글과 이용자 404만명의 데이터를 분석했다. 이를 위해 뉴스 댓글을 대상으로 먼저 작성자가 외국과 연계됐다고 의심할 만한 표현이나 맥락이 있는지는 본 뒤, 도덕적 비난이 맹목적 찬양처럼 사회적 양극화를 키울 수 있는 감정이 있는지를 분석했다. 이어 이런 감정이 어느 국가나 대상을 향하는지를 파악했다. 그 결과, 외국 연계 영향력 활동이 의심되는 계정 2만3998개를 찾았다. 의심 계정에서는 특정 정치 진영을 일방적으로 지지하기보다는 한국 사회 내부 갈등과 대립을 키우기 위한 메시지가 두드러졌음을 확인했다. 이는 한국을 도덕적으로 비난하는 메시지가 외국이나 우호 세력을 찬양하는 메시지보다 이용자 호응을 더 많이 이끌어 내고, 댓글 상단에 노출될 가능성을 높이기 위한 의도라고 연구팀은 설명했다. 실제로, 대중의 호응을 많이 얻은 상위 10개 중 7개는 국내 유명 정치인으로 나타났다. 특정 정당이나 이념에 초。이 맞추지 않고 진보와 보수 양 진영의 전현직 대통령과 대선후보, 정당 등도 대상이 됐다. 선거 기간에는 새롭게 활동하는 의심 계정들이 큰 폭으로 늘었다. 모바일 Sea Story game 가령 대통령 선거, 국회의원 선거, 지방선거 기간에 활동을 시작한 의심 계정은 주당 평균 34.19개로, 비선거 기간의 22.61개보다 약 51% 증가했다. 연구팀은 AI가 판단을 내리는 데 근거가 된 댓글 속 표현을 함께 제시해 의심 계정으로 식별된 이유를 확인할 수 있는 설명가능한 인공지능(XAI)로 개발했다. 향후 선거나 국가적 위기처럼 사회적 관심과 갈등이 급격히 높아지는 시기에 온라인 영향력 조작을 위한 의심 계정 식별에 활용할 수 있을 것으로 연구팀은 기대했다. 다만, AI가 의심 계정을 자동 차단하거나 제재하는 방식보다 전문가 판단을 지원하는 도구로 활용되는 것이 바람직하다는 게 연구팀의 설명이다. 이원재 교수는 “의심 계정들은 외국을 직접 찬양하기보다 한국과 국내 정치인을 비난하며 갈등을 키우는 패턴을 보였다”며 “선거 등 사회적 갈등이 높아지는 시기에 우선 검토해야 할 메시지를 가려내는 기준이 될 것”이라고 말했다. 오혜연 교수는 “AI를 통해 댓글의 표면적인 의미를 넘어 갈등 유발 감정과 계정의 조직적인 행동 패턴까지 함께 분석했다”며 “갈수록 교묘해지는 온라인 영향력 활동을 탐지하는 데 활용될 것으로 기대한다”고 밝혔다. 차미영 교수는 “데이터 과학을 실제 사회 문제 해결로 연결한 ‘액셔너블 데이터 과학’ 사례로, 디지털 공론장의 투명성과 신뢰를 높이는 실질적인 도구가 됐으면 한다”고 기대했다. 연구 결과는 컴퓨터 보안 분야 국제학술대회 ‘유즈닉스 시큐리티 심포지엄 2026’에서 13일 발표될 예정이다. 설명 가능한 AI 계층 구조도. KAIST 제공. 이터를 분석했다.