릴게임끝판왕 바로가기 go !!

게티이미지뱅크


2024년 1월 총통 선거를 진행 중이던 대만은 소셜미디어 ‘틱톡’에 올라온 한 영상으로 떠들썩했다. 영상 속 앵커가 당시 현직이던 차이잉원 총통의 사생활을 폭로하는 책을 읽고 있었기 때문이다. 이후 조사에서 영상은 인공지능(AI)으로 제작한 딥페이크로 드러났다. 대만 독립을 주장하는 민주진보당의 재집권을 방해하기 위해 중국 연계 세력이 여론 조작을 노린 것이다. 그해 선거에선 후보들의 가짜 오디오 음성파일이 유포되는 등 각종 조작이 난무했다.
AI와 온라인 정보 관련 세계 전문가들이 "AI 여론전은 더 이상 가설 바다신2 다운로드 이 아닌 현실"이라며 경고에 나섰다. 더 똑똑해진 AI가 스스로 여론 조작을 하는 시대를 대비해야 한다는 것이다. 23일 다니엘 슈뢰더 노르웨이 과학산업기술연구재단(SINTEF) 연구원을 비롯한 전문가 22명은 국제학술지 '사이언스'에 '악성 AI 군집(Swarms)은 어떻게 민주주의를 위협하는가'라는 정책 포럼 논문을 발표했다.
사이언스 오션릴게임 의 정책 포럼은 과학기술 관련 중요 변화에 대한 정책 대응을 촉구하는 장이다. 이번 논문에는 한국인 최초로 독일 막스플랑크연구소 단장에 오른 데이터과학자 차미영 한국과학기술원(KAIST?카이스트) 전산학부 교수, 대만 초대 디지털부 장관 오드리 탕, 노벨 평화상을 받은 필리핀 언론인 마리아 레사 등이 저자로 동참해 무게를 더했다.
논문이 골드몽사이트 주목하는 AI 군집은 대형언어모델(LLM)과 다중 에이전트가 결합해 자율적으로 움직이는 시스템이다. 군집형 AI가 악용될 경우 기존에 사람이 하던 것보다 저렴한 비용으로 훨씬 대규모의 치밀한 여론조작이 가능할 것으로 전망된다. △AI가 생성한 수천여 개의 인격이 △각 집단에 맞는 맞춤형 메시지를 실시간으로 생성해 △장기간에 걸쳐 커뮤니티 여론을 조작하기 때 바다이야기프로그램다운로드 문이다. 논문에 따르면 이미 2024년 인도 선거 당시 유권자의 실제 이름을 부르는 정치인의 복제 AI 음성이 메신저를 통해 대량 살포된 적이 있다. 더 큰 문제는 AI 군집은 △사람의 말버릇과 습관을 모방하기 때문에 가짜인지 판별해내기도 어렵다는 것이다.
저자들은 AI 군집이 가짜 정보나 합의를 부풀려 조작해 장기적으로 민주주의를 훼손할 바다이야기게임2 수 있다고 경고했다. 체제를 비판하는 언론인이나 정치인, 시민활동가들을 조직적으로 괴롭히는 것은 물론, AI 군집이 만들어낸 편향된 정보를 다른 AI에 학습시키는 'LLM 그루밍'도 가능하다는 것이다. 온라인의 수많은 대화가 AI로 생성되면서 시민들의 불신이 커지고 공론장을 이탈하는 현상도 우려된다.
저자들은 이 같은 현상을 막기 위해 출처 증명을 강화해야 한다고 제안했다. 최근 우리나라에서 시행된 AI 기본법이 AI 생성물에 대한 워터마크 표시를 의무화했는데, 한발 더 나아가 AI 활동 자체를 식별하는 암호화한 증명 체계가 필요하다는 것이다. 학계·비정부기구·시민사회가 참여하는 'AI 영향 관측소'를 구축해 공조 대응을 하자는 제안도 했다. 저자들은 또한 플랫폼의 책임 강화를 논의해야 한다고 주장했다. 조작 게시물 차단이나 신고 절차 운영 같은 강력한 방어 도구를 플랫폼이 시민들에게 제공해야 한다는 얘기다.
신혜정 기자 arete@hankookilbo.com