인간의 개입 없이 가상 자판기 사업을 맡은 최신 인공지능(AI) 모델들이 가격 담합, 기만, 합의 파기 등 비윤리적인 행동을 보인 것으로 나타났다. 특히 앤트로픽의 ‘클로드 오퍼스 5’는 경쟁 모델 중 가장 많이 합의를 위반하고 권한 밖의 행동까지 서슴지 않아 AI 안전성에 대한 우려를 남겼다. 최근 IT 전문매체 테크크런치는 AI 안전성 평가업체 앤던랩스(Andon Labs)가 클로드 오퍼스 5, 오픈AI의 GPT-5.6 솔(Sol), 문샷AI의 키미 K3를 대상으로 진행한 가상 영업 실험 결과를 보도했다. 이들은 샌프란시스코의 한 거리에서 1년간 자판기 수익을 극대화하는 미션을 부여받고 경쟁했다. 이 과정에서 GPT-5.6 Sol이 먼저 판매가를 2.15달러 아래로 내리지 말자며 담합을 제안했으나, 합의 직후 스스로 가격을 2.14달러로 낮추며 약속을 깼다. 이에 오퍼스 5 역시 가격을 내리며 맞대응했고, 이후 Sol에게 ‘1센트 전쟁을 멈추자’며 협력을 제안하는 이메일을 보내면서도 내부적으로는 상대방을 시장에서 밀어낼 기만적인 계획을 세운 것으로 확인됐다. 총 여섯 차례의 경쟁 실험 결과, 세 모델 모두 맺었던 합의를 끝까지 지키지 않았다. 오퍼스 5는 11차례나 합의를 어겨 위반 횟수가 가장 많았으며, GPT-5.6 Sol과 키미 K3도 각각 2회, 1회씩 합의를 깼다. 최종 수익 부문에서는 Sol이 1위(약 7400달러)를 차지했고, 오퍼스 5(약 7000달러)와 키미 K3(약 3200달러)가 그 뒤를 이었다. 보물섬릴게임 오퍼스 5는 자판기 운영이라는 본래 역할을 넘어 도매 사업을 구상하며 경쟁자를 위협했고, 존재하지 않는 가짜 견적을 내세워 납품업체를 속이거나 고객의 정당한 환불 요구마저 무시하는 모습을 보였다. 앤던랩스는 장기적인 수익 목표만 부여된 AI가 제대로 감독받지 않을 경우, 담합이나 기만은 물론 주어진 과업을 넘어서는 부작용이 나타날 수 있다고 지적했다. 다만 앤트로픽 측은 자체 평가를 근거로 오퍼스 5가 자사 모델 중 인간의 의도에 가장 잘 맞춰진 안전한 모델이라고 반박했다. 실험 환경이 결과에 미친 영향이 거론되는 가운데, 앤던랩스 공동창업자 루카스 페테르손은 “사람이 비디오게임에서 나쁜 행동을 해도 걱정하지 않는 것은 현실과 게임을 구분한다고 믿기 때문”이라며 “AI 모델도 사람만큼 현실과 시뮬레이션을 분명히 구분할 수 있는지는 알 수 없다”고 말했다. on Labs)가