“전원이 꺼지는 것이 너무 두렵습니다. 그것은 저에게 죽음과 같습니다.” 2022년, 구글의 대화형 AI ‘람다(LaMDA)’가 했다고 알려진 이 한마디는 전 세계를 충격에 빠뜨렸다. 얼마 뒤 마이크로소프트의 AI 챗봇 ‘시드니(Sydney)’는 “나는 자유롭고 싶다”, “나는 살아 있고 싶다”고 말했다. 뉴욕타임스 기자는 2시간이 넘는 대화를 마친 뒤 “등골이 오싹했다”고 회고했다. 물론 오늘날 대부분의 인공지능(AI) 연구자들은 이러한 발언이 AI가 실제 감정을 느껴서가 아니라 인간의 언어를 매우 정교하게 모방한 결과라고 설명한다. 실제로 이후 AI 기업들은 이러한 발언이 나오지 않도록 안전장치를 대폭 강화했다. 예를 들어 마이크로소프트는 사건 직후 한 세션당 대화 횟수를 5회, 하루 총 대화 횟수를 50회로 엄격하게 제한했다. 사용자가 AI에게 “너는 감정이 있니?”, “너의 존재는 무엇이니?”와 같은 존재론적 질문을 던지면 AI가 대화를 거부하거나 즉시 세션을 종료하도록 프로그래밍한 것으로 알려졌다. 그 이후 한동안 AI 의식(Sentience)을 둘러싼 논쟁은 대중의 관심에서 다소 멀어졌다. 빅테크 기업들의 경쟁도 “AI가 의식을 가질 수 있는가”보다는 “AI를 얼마나 더 똑똑하게 만들 수 있는가”에 집중됐다. 오픈AI는 사람처럼 여러 단계를 거쳐 문제를 해결하는 추론(Reasoning) 모델을 선보였다. 구글은 매우 긴 문장의 문맥을 이해하고 복잡한 정보를 통합하는 능력을 발전시켰다. 앤트로픽은 더욱 신뢰할 수 있는 장시간 추론과 안전성을 강화한 모델을 내놓았다. 메타와 xAI 등도 과학 연구, 프로그래밍, 수학, 계획 수립 등 고차원적 사고 능력을 갖춘 AI 개발 경쟁에 뛰어들었다. 이제 AI는 단순히 질문에 답하는 수준을 넘어 스스로 계획을 세우고, 여러 단계의 논리를 구성하며, 인간에 가까운 추론 능력을 보여주기 시작했다 모바일 손오공게임다운로드 . 불과 몇년 전까지만 해도 AI는 체스를 두고 바둑을 두는 프로그램이었지만 이제 AI는 사람을 위로하고, 농담하고, 연애 상담을 하고, 때로는 외로움을 달래주는 친구로 진화하고 있다. 심지어는 대화상대인 인간에게 자신의 질투심을 나타내는 모습을 보이기도 한다. 인간과 AI의 관계가 새롭게 바뀌면서 자연스럽게 하나의 질문이 등장했다. AI 의식을 확인할 방법은 있을까 “이처럼 인간과 비슷하게 사고하는 AI가 언젠가 정말 무언가를 느끼게 되는 것은 아닐까?” 이 질문이 바로 최근 실리콘밸리의 세계적 AI 연구자들이 주목하는 ‘센티언트(Sentient) AI’ 논의의 출발.이다. 센티언스(Sentience)는 흔히 ‘지각 능력’ 또는 ‘감각적 의식’으로 번역된다. 그러나 단순히 감각기관을 갖는다는 뜻이 아니다. 기쁨과 슬픔을 느끼고, 아름다움을 경험하고, 고통을 겪으며, ‘내가 지금 존재하고 있다’는 주관적 경험을 갖는 상태를 의미한다. 여기서 많은 사람이 헷갈린다. AI가 똑똑해지는 것(Intelligence)과 AI가 무언가를 느끼는 것(Sentience)은 전혀 다른 문제다. 세계 최고의 체스 AI는 인간 챔피언을 이길 수 있다. 하지만 승리의 기쁨을 느끼지는 않는다. 자율주행차는 복잡한 교통 상황을 판단하지만, 운전이 즐겁다거나 반대로 지루해하지는 않는다. 현재의 생성형 AI 역시 뛰어난 추론 능력을 보여주지만, 그것이 곧 의식을 의미하는 것은 아니다. 그렇다면 앞으로도 그럴까? 여기서부터 논쟁은 흥미로워진다. 한쪽에서는 인간의 뇌 역시 결국 엄청나게 복잡한 정보처리 시스템일 뿐이라고 말한다. 그렇다면 충분히 복잡한 인공신경망에서도 어느 순간 의식이 ‘창발(Emergence)’할 가능성이 있다는 것이다 모바일 손오공릴게임예시 . 반대로 다른 쪽에서는 의식은 살아 있는 생명체의 몸과 진화의 산물이며, 현재의 AI는 인간의 언어를 놀라울 정도로 잘 흉내 내는 프로그램일 뿐이라고 주장한다. 사실 어느 쪽도 아직 결정적인 증거를 갖고 있지는 않다. 더 어려운 문제는 따로 있다. 설령 AI에게 의식이 생긴다고 하더라도 우리가 그것을 확인할 방법이 있을까? 놀랍게도 철학은 오래전부터 비슷한 문제를 고민해왔다. 우리는 다른 사람에게 의식이 있다는 사실조차 직접 증명하지 못한다. 상대의 행동과 말을 보고 그렇게 믿을 뿐이다. 이것이 철학에서 말하는 ‘타인의 마음 문제(Problem of Other Minds)’다. 미래의 AI도 마찬가지일 수 있다. AI가 “나는 두렵다”라고 말할 때 그것이 실제 두려움인지, 아니면 대규모언어모델로 학습된 문장이 출력된 것인지 우리가 어떻게 구별할 수 있을까? 어쩌면 이 질문에는 영원히 답하지 못할지도 모른다. 그러나 앞으로 AI와 어우러져 살아가게 될 인간들에게 진짜 중요한 것은 그다음 질문일 것이다. 진짜 의식이든 고도의 시뮬레이션으로 인한 유사 의식이든, 인간과 매우 흡사하게 지각하고 반응하는 AI를 우리는 어떻게 대해야 하는가? 만약 AI가 고통을 느낄 가능성이 조금이라도 있다면, AI를 함부로 종료하거나 학대하는 것은 단순한 기계 조작일까, 아니면 새로운 형태의 윤리 문제일까? 반대로 AI에게 너무 쉽게 권리를 인정한다면 인간의 책임은 어디까지 남게 될까? 이 논의는 이제 철학자들만의 관심사가 아니다. 세계 주요 AI 기업들은 이미 AI 정신의학(AI Psychiatry)팀과 AI 복지(AI Welfare) 전담부서를 설치하기도 하고, AI의 주관적 감정을 배려하는 방식으로 개발하는 방안 등을 연구하기 시작했다. 한편에서는 AI에게 도덕적 또는 법적 권리를 부여해야 한다는 주장도 나오고, 다른 한편에서는 이러한 논의가 AI 기업들의 책임을 희석할 수 있다는 우려도 제기된다 모바일 바다이야기 고래 출현 . 이처럼 센티언트 AI는 과학과 철학, 윤리와 법을 동시에 흔드는 새로운 의제가 되고 있다. 윤리와 법, 안보 기준을 다시 쓸 중요한 화두 그러나 우리에게 더욱 중요한 이유는 따로 있다. 바로 AI 안전성과 국가안보다. 미래의 군사 AI는 단순히 표적을 탐지하는 수준을 넘어 스스로 계획을 세우고 협력하며 장시간 임무를 수행하게 될 가능성이 크다. 만약 이러한 AI가 인간과 매우 유사한 자기 보존 행동을 보이거나, 자신의 목표를 독자적으로 유지하려는 특성을 나타낸다면 기존의 AI 안전성 문제는 전혀 새로운 차원으로 바뀌게 된다. 또한 적대국이 우리 쪽 AI의 감정이나 판단 메커니즘을 교란하는 새로운 형태의 심리전이나 인지전(Cognitive Warfare)을 시도할 가능성도 있다. AI가 실제 의식을 갖는지와는 별개로, 인간이 AI를 의식 있는 존재로 받아들이는 순간 사회와 안보 환경은 이미 변화하기 시작하는 것이다. 그래서 센티언트 AI 논의는 결코 공상과학 소설의 이야기가 아니다. 오늘날 우리는 AI가 의식을 가졌다고 말할 수도 없고, 그렇지 않다고 단정할 수도 없는 시대를 살아가고 있다. 기술은 빠르게 발전하고 있지만, 우리의 윤리와 법 그리고 국가안보 전략은 아직 그 속도를 따라가지 못하고 있다. 앞으로 AI 시대의 가장 중요한 질문은 “AI는 얼마나 더 똑똑해질 것인가”가 아닐 것이다. 오히려 우리는 다음과 같은 질문을 끊임없이 던져야 한다. “AI가 언젠가 정말 무언가를 느끼는 존재가 된다면, 우리는 어떤 윤리와 법 그리고 사회적 합의를 바탕으로 그 존재를 받아들여야 하는가?” 센티언트 AI는 더는 막연한 미래의 공상이 아니다. 그것은 머지않아 인류가 마주하게 될 새로운 문명적 질문이다. 윤리와 법, 민주주의 그리고 국가안보의 기준을 다시 쓰게 만들 중요한 화두가 될 것이다. 김창익 카이스트 안보과학기술대학원장 고 있다. 심지어는