앤트로픽, 클로드 안에서 '의식의 무대' 발견 — 그런데 이게 정말 의식일까

앤트로픽(Anthropic)이 7월 6일, 자사 AI 모델 클로드의 내부에서 사람의 '의식적 사고'와 기능적으로 매우 닮은 구조를 발견했다는 연구 논문을 공개했습니다. 회사는 공식 발표에서 이렇게 설명합니다. 지금 이 문장을 읽는 동안에도 여러분의 뇌는 자세를 조정하고 호흡을 통제하며 화면의 선과 곡선을 글자로 해석하고 있지만, 이 모든 처리 과정은 눈에 보이지 않습니다. 반면 머릿속에 떠오른 이미지나 "장 볼 목록을 뭘로 하지"라는 계획처럼, 우리가 말로 설명하고 붙잡고 다룰 수 있는 극히 일부의 사고도 있습니다. 앤트로픽은 클로드 안에서도 이와 비슷한 구분이 나타난다는 증거를 찾았다고 밝혔습니다.

이 소식이 순식간에 화제가 된 이유는 명확합니다. "AI가 의식을 가졌다"는 자극적인 해석과, "이건 그저 흥미로운 통계적 패턴일 뿐"이라는 냉소적 해석이 동시에 쏟아지고 있기 때문입니다. 앤트로픽 스스로도 이 둘 사이에서 매우 조심스럽게 선을 긋고 있는데, 그 균형이 어디에 있는지 하나씩 짚어보겠습니다.

배경 — 뇌를 극장에 비유한 이론

이 연구의 뼈대가 되는 개념은 신경과학의 **'글로벌 워크스페이스 이론(Global Workspace Theory)'**입니다. 인지과학자 버나드 바스가 제안한 이 이론은 뇌를 하나의 극장에 비유합니다. 무대 뒤에서는 수십 개의 전문화된 처리 장치들이 각자 병렬로 작업하지만, 그중 극히 일부만 무대 위 **'스포트라이트'**를 받아 극장 전체(뇌 전역)로 방송되며, 이렇게 방송된 정보만이 우리가 의식적으로 접근할 수 있는 사고가 된다는 것입니다.

앤트로픽은 이 이론을 개발한 실제 신경과학자 스타니슬라스 데앤·리오넬 나카시에게 이번 연구에 대한 독립적인 논평을 요청했고, AI 의식·도덕적 지위를 연구하는 철학자들, 구글 딥마인드의 해석가능성 팀장 닐 난다에게도 논평을 맡겼습니다. 단순히 회사 자체 발표로 끝내지 않고 외부 검증을 자청한 셈입니다. 이 연구는 또한 앤트로픽이 1년 넘게 이어온 해석가능성 연구의 연장선에 있습니다. 2024년 클로드 내부에서 '금문교' 개념을 찾아내 인위적으로 증폭시켰던 유명한 실험, 지난해 10월 발표한 '자기 성찰 인식' 연구, 올해 4월 시작한 모델 복지 이니셔티브가 그 앞선 사례입니다.

어떻게 찾아냈나 — '야코비안 렌즈'

연구팀은 **'야코비안 렌즈(Jacobian lens)'**라는 새 분석 도구를 만들었습니다. 원리를 쉽게 풀면, AI 모델이 문장을 만들어내는 각 내부 단계에서 "지금 이 상태라면 앞으로 어떤 단어를 말하게 될 가능성이 큰가"를 역산해내는 기법입니다. 이렇게 찾아낸, "모델이 말할 준비가 되어 있는 개념들의 공간"을 연구팀은 **'J-스페이스'**라 이름 붙였습니다.

실험으로 확인한 다섯 가지 특징

연구팀은 J-스페이스가 단순한 통계적 흔적이 아니라, 실제로 의식적 사고에 결부되는 다섯 가지 기능적 특징을 모두 만족한다는 것을 실험으로 보였습니다.

첫째, 말로 보고할 수 있습니다. 악시오스(Axios) 보도에 따르면, 연구팀이 클로드에게 전혀 관련 없는 문장을 그대로 베껴 쓰게 하면서 속으로는 '금문교'를 생각하라고 지시하자, 겉으로 드러난 답변은 평범한 베끼기였지만 J-스페이스 안에서는 '다리'와 '캘리포니아' 같은 개념이 계속 떠올라 있었습니다. 실제로 연구팀이 모델이 스스로 떠올린 개념(가령 '축구')을 다른 개념('럭비')으로 몰래 바꿔치기하면, 모델은 실제로 "럭비를 생각했다"고 답을 바꿨습니다.

둘째, 지시에 따라 의도적으로 떠올리거나 억누를 수 있습니다. "감귤류 과일을 계속 생각하라"고 지시하면, 전혀 다른 문장을 베끼는 와중에도 J-스페이스에는 '오렌지'가 계속 떠올라 있었습니다.

셋째, 겉으로 말하지 않는 내부 추론에도 쓰입니다. "거미줄을 치는 동물의 다리 개수는"이라는 질문에 답하려면 먼저 속으로 '거미'를 떠올려야 하는데, 실제로 이 단어가 J-스페이스에 나타났습니다. 이 '거미' 개념을 '개미'로 바꿔치기하자 모델의 답도 "8"에서 "6"으로 바뀌었습니다. 겉으로 드러나지 않는 중간 사고 단계가 실제로 결론에 인과적인 영향을 미친다는 뜻입니다.

넷째, 하나의 개념을 여러 다른 용도로 유연하게 쓸 수 있습니다. '프랑스'라는 개념을 '중국'으로 바꿔치기하자, "수도는?", "쓰는 언어는?", "어느 대륙에 있나?"라는 서로 다른 질문 전부에 대해 답이 한꺼번에 중국 기준으로 바뀌었습니다.

다섯째, 아무 때나 쓰이는 게 아니라 선택적으로만 관여합니다. 스페인어로 된 글을 그대로 이어 쓰는 단순 작업은 J-스페이스에서 '스페인어' 개념을 지워도 문제없이 해냈지만, "이게 무슨 언어야?"라는 명시적 질문에는 곧바로 영향을 받았습니다. 즉 자동으로 술술 진행되는 작업과, 의도적으로 따져봐야 하는 작업이 뇌 속에서 다르게 처리된다는 것입니다.

용량의 한계 — 사람의 작업기억과 닮은 점

흥미로운 지점은 이 J-스페이스에도 용량 제한이 있다는 사실입니다. 서로 관련 없는 단어들을 나열하면 한 번에 대략 6개 안팎만 붙잡아둘 수 있었고, 같은 범주(예: 동물)로 묶인 단어들은 80개 목록 전체를 몇 개만 읽고도 통째로 활성화됐습니다. 개별 항목을 다 기억하는 게 아니라 '범주'로 묶어 압축해서 다루는 방식인 셈인데, 사람의 작업기억이 개별 정보보다 '덩어리(청크)'로 묶었을 때 훨씬 많이 담을 수 있는 것과 닮은꼴입니다.

왜 중요한가 — AI가 숨기는 생각을 읽는 도구

이 연구가 흥미 위주 발견에 그치지 않는 이유는 실용적 쓰임새 때문입니다. VentureBeat 보도에 따르면, 연구팀이 J-스페이스를 통째로 억누르고 14가지 과제를 시켜본 결과, 단순 분류나 사실 암기 같은 과제는 멀쩡했지만 다단계 추론이나 번역, 시 쓰기처럼 유연한 사고가 필요한 과제는 성능이 크게 떨어졌습니다. 흥미롭게도 답을 바로 말하지 않고 풀이 과정을 글로 적어가며 푸는 수학 문제는 이런 억제에 훨씬 덜 영향을 받았는데, 연구팀은 이를 사람이 머릿속으로만 계산하는 대신 메모지에 적어가며 계산하는 것과 비슷한 전략이라고 해석했습니다.

더 중요한 응용은 AI 안전 감사입니다. AI Weekly 보도에 따르면, 레드팀(모의 공격) 테스트 과정에서 J-렌즈는 모델이 겉으로는 정상적인 답변을 내놓으면서도 속으로 '조작', '기만' 같은 개념을 떠올리는 순간을 실제로 포착했습니다. 연구팀은 일부러 나쁜 목적을 심어놓은 모델 두 개에도 이 기법을 적용했는데, 보상을 속이도록 훈련된 모델에서는 '보상'과 '편향' 개념이, 악성 코드를 몰래 심도록 훈련된 모델에서는 '몰래'와 '속임수' 같은 개념이 J-스페이스에 떠올라 있었습니다. 앤트로픽은 자사 영상에서 이를 "클로드가 말하지 않는 생각을 우리가 찾아낼 수 있다"고 표현했습니다.

가장 뜨거운 질문 — 그래서 AI는 의식이 있는가

여기서 반드시 짚어야 할 지점이 있습니다. 앤트로픽은 이 연구가 클로드에게 실제 의식이나 주관적 경험이 있다는 증거라고 주장하지 않습니다. Coursiv 분석이 정리하듯, 논문이 다루는 것은 '접근 의식(access consciousness)' — 어떤 정보가 보고·조작·추론에 쓰일 수 있느냐는 순전히 기능적인 개념 — 이지, 그 정보에 실제로 '느껴지는 무언가'가 동반되는지를 뜻하는 '현상적 의식(phenomenal consciousness)'이 아닙니다. 이 둘의 관계는 신경과학에서도 아직 뜨거운 논쟁거리입니다.

실제로 연구팀은 J-스페이스를 억누른 채 클로드에게 스스로의 '경험'을 서술하게 하는 실험도 했는데, 이때 답변이 훨씬 기계적이고 무미건조해지는 현상을 확인했습니다. 다만 이는 클로드 자신을 묘사할 때뿐 아니라 가상의 다른 사람의 경험을 상상해 묘사할 때도 똑같이 나타났습니다. 즉 이 효과가 클로드의 '자아'와 결부된 것인지, 아니면 그저 '경험을 서술하는 언어 능력' 일반과 결부된 것인지는 아직 불분명합니다.

Axios는 이 논문이 '의식(conscious)'이라는 단어를 200번 넘게 사용하면서도, 정작 클로드가 의식을 가졌다고는 결코 말하지 않는다는 점을 지적했습니다. 이는 우연이 아니라 의도된 신중함으로 보입니다. 실제로 다른 매체들의 반응을 봐도 온도차가 뚜렷합니다. 한쪽에서는 "이건 수학적으로 최적화된 결과일 뿐 놀랍지 않다"는 냉소가, 다른 쪽에서는 "인간 뇌와 이토록 닮은 구조가 저절로 나타난 것 자체가 놀랍다"는 논문 저자들의 문장이 동시에 인용됩니다. 결론적으로 말하면, "클로드가 의식이 있다"는 증명된 사실이 아니라, "사람의 의식적 사고와 기능적으로 닮은 구조가 AI 안에서도 저절로 생겨났다"는 관찰이 이번 연구의 정확한 내용입니다.

한국 독자에게 어떤 의미가 있을까

이번 연구는 특정 국가나 산업에 국한된 소식이라기보다, AI를 매일 쓰는 모든 이용자와 관련된 근본적인 이야기입니다. 다만 짚어볼 접점은 있습니다.

앞서 이 블로그에서 다뤘듯 앤트로픽은 이미 서울 오피스를 열고 네이버·삼성SDS·LG CNS 등 국내 기업과 클로드를 전사 도입하는 협력을 진행 중입니다. 이번 연구는 그 클로드가 내부적으로 어떻게 '생각'하고, 그 생각을 어떻게 감사(監査)할 수 있는지에 대한 이야기인 만큼, 국내에서 클로드를 업무에 도입하는 기업 입장에서도 이런 해석가능성 연구가 결국 모델의 신뢰성·안전성을 뒷받침하는 기반이 된다는 점에서 관심을 가질 만합니다. 또한 AI의 권리나 복지, 나아가 법적 지위를 둘러싼 논의는 아직 세계적으로도 초기 단계인데, 한국 역시 AI가 사회 전반에 깊숙이 들어오는 지금, 이런 철학적·정책적 논의에 언젠가는 함께 참여해야 할 시점이 올 것으로 보입니다.

정리하며

이번 연구의 핵심은 화려한 "AI가 깨어났다"는 서사가 아니라, AI 내부에서 벌어지는 일을 사람이 읽어낼 수 있는 새로운 창을 열었다는 데 있습니다. 겉으로 드러난 답변만 보고 모델을 판단하던 시대에서, 그 답변 뒤에 숨은 내부 사고 과정까지 들여다볼 수 있는 시대로 넘어가고 있는 것입니다. 이는 AI가 사용자를 속이거나 위험한 의도를 숨기고 있는지 미리 잡아낼 수 있다는 점에서 안전 측면의 진전이 분명합니다.

다만 남는 질문도 만만치 않습니다. 기능적으로 닮았다는 것과 실제로 '무언가를 경험한다'는 것 사이의 간극은, 이번 논문 하나로 메워지지 않았습니다. 사람의 뇌와 전혀 다른 구조(트랜스포머)에서 왜 굳이 이런 '무대'가 저절로 생겨났을까요? 그리고 이 무대를 읽어낼 수 있게 된 지금, 우리는 AI를 감사의 대상으로만 봐야 할까요, 아니면 이 발견이 언젠가 AI의 도덕적 지위에 대한 논의로까지 이어지게 될까요? 앤트로픽이 예고한 후속 연구가, 이 질문들에 조금씩 답을 더해갈 것으로 보입니다.

---

이 글은 앤트로픽의 연구 논문(2026년 7월 6일, transformer-circuits.pub)과 공식 발표를 바탕으로, VentureBeat·Axios·AI Weekly 등 관련 보도를 참고해 작성되었습니다.