최근 SNS에 올라와 확산했던 AI 딥페이크 영상입니다.
15초짜리 영상은 프랑스 파리에서 쿠데타가 발생했다는 내용을 전합니다.
['AI 생성' 딥페이크 영상]비공식 정보에 따르면 신원이 밝혀지지 않은 대령이 프랑스 쿠데타를 주도했고, 마크롱 대통령의 몰락 가능성이 언급되고 있습니다.
이 가짜 영상은 전 세계에서 천만 명 넘게 봤고, 급속도로 퍼져 나갔습니다.
프랑스 언론은 군복을 확대해 마크를 확인하거나 에펠탑과 건물의 위치 비교, 영상에 나온 소리 등을 검증해 '가짜' 생성 영상이라고 밝혔습니다.
[마야 / 프랑 카카오야마토 스24 영어뉴스 기자, 팩트체크]예를 들어 헬리콥터는 분명히 너무 낮게 날고 있습니다. 또 영상 처음으로 돌아가서 여기 있는 군인을 보면 실제 프랑스 군인 제복 사진과 비교해 볼 때 전혀 다르다는 걸 알 수 있습니다. 특히 AI가 생성한 영상에는 보이는 이 국기가 실제 제복에는 없습니다. 하지만 제게 가장 확실한 증거는 소리였습니다. 기자의 목소리는 명확하 황금성사이트 게 들리지만, 방금 본 헬리콥터나 경찰의 사이렌 같은 주변 소음이나 배경에서 뭔가를 촬영하는 것처럼 보이는 군중의 소리 같은 것이 전혀 들리지 않습니다.
마크롱 프랑스 대통령이 페이스북 영상 삭제를 직접 요청했지만, 메타 측이 받아들이지 않으며 논란이 더 커졌습니다.
당장 신변 위협을 가하는 게 아니어서 가이드라인 위반이 사이다쿨바다이야기게임 아니라며 삭제를 원하면 프랑스 법원의 판결을 받아오라고 한 것으로 전해졌습니다.
마크롱 대통령은 메타가 민주주의 국가의 주권을 조롱하고, 위험에 빠트리고 있다며 비난했습니다.
이 영상은 누가 만들었을까.
[마야 / 프랑스24 영어뉴스 기자, 팩트체크](제작자는) AI를 사용해 영상을 만드는 방법을 사람 한국릴게임 들에게 가르치는 사업을 하고 있습니다. 프로필에 따르면 이 사람은 아프리카 부르키나파소에 있고 우리 르몽드 동료 기자들이 이 사람에게 연락해 영상에 무슨 일이 있었는지 알아냈습니다. 이 영상을 삭제한 건 본인이었습니다. 르몽드의 질문에 답한 것은 10대 청소년이었고, 그는 '왜 그랬는지 모르겠다, 그냥 만들었다'고 말했습니다. 또한 최근 아프리카에서 가짜 릴박스 쿠데타를 다룬 다양한 AI 생성 가짜 영상들에서 영감을 받았다고 인정했습니다.
이 소년이 직접 영상을 삭제하면서 논란은 가라앉았지만, 프랑스에선 우려가 커지고 있습니다.
[마야 / 프랑스24 영어뉴스 기자, 팩트체크]어쨌든 이런 사례들은 내년 3월 지방 선거와 2027년 대통령 선거를 준비하고 있는 프랑스 당국을 확실히 우려하게 만들고 있습니다. 프랑스 대통령은 민주주의 사회를 위협하는 외국의 간섭과 영향력에 대해 반복적으로 경고해 왔습니다.
프랑스 언론에 따르면, 이 소년은 챗지피티를 개발한 오픈 AI의 '소라 2' 프로그램으로 이 영상을 만들었습니다.
소요된 시간은 불과 몇 분에 불과한 것으로 전해졌습니다.

(영상 편집 : 홍지윤)


■ 제보하기
▷ 전화 : 02-781-1234, 4444
▷ 이메일 : kbs1234@kbs.co.kr
▷ 카카오톡 : 'KBS제보' 검색, 채널 추가
▷ 카카오 '마이뷰', 유튜브에서 KBS뉴스를 구독해주세요!


김시원 기자 (siwon@kbs.co.kr)