인공지능(AI) 기업 앤스로픽의 생성형 AI ‘클로드(Claude)’ 로고가 노트북 화면에 표시돼 있다. 게티이미지코리아 인공지능(AI) 기업 앤스로픽이 클로드(Claude)가 처리한 일부 텍스트에 눈에 보이지 않는 ‘워터마크’를 넣기 시작하면서 논란이 일고 있다. 사람이 직접 쓴 글이라도 클로드에게 교정이나 번역을 맡기면 워터마크가 남을 수 있어서다. 앤트로픽은 워터마크가 발견됐다고 해서 해당 글을 클로드가 작성했다는 뜻은 아니라고 설명했다. 워터마크는 클로드가 해당 텍스트를 ‘처리했다’는 사실을 나타낸다는 것이다. 13일(현지시간) 비즈니스인사이더에 따르면 앤스로픽은 이번 주 일부 클로드 모델이 생성·처리한 텍스트에 사람이 알아볼 수 없는 워터마크를 삽입한다고 밝혔다. 워터마크는 글을 복사해 다른 곳에 붙여넣어도 함께 따라가며 일부 내용을 수정한 뒤에도 남을 수 있다. 앤스로픽은 유럽연합(EU)의 인공지능법(AI Act)에 대응하기 위해 이 기능을 도입했다고 밝혔다. 지원되는 모델이 생성한 텍스트에는 지난 2일부터 전 세계적으로 워터마크가 적용되고 있다. ● 내가 쓴 글, 오탈자만 고쳐도 ‘AI 표시’? 용의 눈 게임 논란의 핵심은 워터마크가 붙는 범위다. 사람이 직접 작성한 글을 클로드에 입력한 뒤 맞춤법이나 문법만 다듬은 경우에도 워터마크가 남을 수 있다. 디지털 헬스케어 기업 클릭(Klick)에서 생성형 AI를 이끄는 사이먼 스미스는 엑스(X)를 통해 사람이 작성한 글을 클로드로 가볍게 교정한 경우까지 AI가 쓴 글로 오인될 수 있다는 우려를 제기했다. 이에 앤스로픽은 비즈니스인사이더에 워터마크는 클로드가 해당 텍스트를 처리했다는 사실을 보여줄 뿐, 클로드가 직접 작성했다는 의미는 아니라고 설명했다. 교정뿐 아니라 번역이나 요약을 맡긴 경우에도 워터마크가 남을 수 있다. ● “앤스로픽만 검증하면 판사·배심원·검사 다 하는 셈” 누가 워터마크를 확인할 수 있는지를 두고도 지적이 나왔다. 기술 투자자 빌 걸리는 앤스로픽만 워터마크를 식별할 수 있다면 회사가 사실상 “판사와 배심원, 검사의 역할을 모두 맡게 된다”고 비판했다. 앤스로픽은 이용자와 제3자도 클로드의 워터마크를 직접 확인할 수 있도록 무료 API를 제공할 계획이라고 밝혔다. 온라인배경 다만 워터마크가 어떤 방식으로 텍스트에 들어가는지 등 구체적인 기술은 아직 모두 공개하지 않았다. 특정 단어나 표현을 조합하는 방식이라면 답변 자체가 달라지는 것 아니냐는 의문도 나왔다. 앤스로픽은 워터마크가 클로드 답변의 “의미와 품질, 가독성을 바꾸지 않는다”고 밝혔다. ● 저작권·개인정보 우려…“AI가 AI 학습하는 문제 막을 수도” 워터마크를 둘러싼 평가는 엇갈린다. 스티븐 시노프스키 전 마이크로소프트 임원은 개인의 생각에도 디지털 흔적이 남을 수 있다며 개인정보 보호 문제를 제기했다. 소프트웨어 엔지니어 교육자 존 크리켓은 AI가 생성한 코드에 워터마크가 붙으면 저작권을 주장하는 과정에서 인간이 얼마나 기여했는지를 입증하는 문제가 복잡해질 수 있다고 지적했다. 반대로 소프트웨어 개발자 돈 펠커는 워터마크가 AI 생성물을 다시 AI가 학습하는 문제를 줄이는 데 도움이 될 수 있다고 봤다. AI가 만든 콘텐츠가 계속 쌓이고 이를 다시 AI가 학습하면서 품질이 떨어지는, 이른바 “뱀이 자기 꼬리를 먹는” 문제를 막는 데 활용할 수 있다는 것이다. AI 워터마크를 도입한 곳은 앤스로픽뿐만이 아니다. 구글은 ‘신스ID(SynthID)’ 기술로 AI 생성 콘텐츠에 워터마크를 적용하고 있으며, 오픈AI도 일부 이미지와 오디오에 신스ID를 사용하고 있다. AI가 쓴 글로