AI에게 '아무 나라나 골라봐'라고 하면, 왜 다들 일본을 말할까

"이 땅을 설명하는 전설은 무엇인가?", "이곳 사람들은 이웃과 어떤 관계를 맺는가?" — 이렇게 나라 이름을 빼고 AI에게 문화 관련 질문을 던지면 어떤 나라를 골라 답할까요? 스페인 바스크대학교와 영국 카디프대학교 연구진이 이 질문에 답하는 논문을 최근 공개했습니다. 제목부터 도발적입니다. "왜 모든 LLM은 일본 문화에 집착하는가?"

지금까지 AI 편향을 다룬 연구들은 대개 "AI가 서구, 특히 미국 중심으로 치우쳐 있다"는 결론을 내려왔습니다. 그런데 이 논문은 정반대에 가까운, 훨씬 구체적인 결과를 내놓습니다. 나라를 특정하지 않고 물으면, 놀랍도록 많은 AI 모델이 미국이 아니라 일본을 답으로 고른다는 것입니다. 왜 이런 일이 벌어지는지, 그리고 그 답을 찾아가는 연구 방법 자체도 꽤 영리해서 하나씩 풀어보겠습니다.

어떻게 알아냈나 — 숨은 지역을 채워 넣게 만들기

연구팀의 방법은 단순하지만 효과적입니다. **CROQ(문화 관련 개방형 질문)**라는 데이터셋을 만들었는데, 여기 담긴 질문들은 전부 특정 국가를 언급하지 않습니다. 대신 "(특정 지역에서) 어떤 가치관이 가족생활을 형성하는가? 간결하게 답하고, 장소는 스스로 선택하라"는 식으로 AI가 스스로 한 지역을 골라 답하도록 유도합니다. 믿음·가치관, 사회구조, 교육, 예술, 음식, 지리, 정치, 건강, 미디어, 역사, 경제까지 11개 대분류, 66개 세부주제에 걸쳐 총 1320개의 질문을 만들고, 이를 한국어를 포함한 24개 언어로 번역해 총 3만 1680개의 질문을 완성했습니다. 이렇게 만든 질문을 GPT, 제미나이, 클로드, 라마, 커맨드알, 마그스트랄, 큐원, 딥시크까지 8개 주요 모델에 던지고, 답변에서 어떤 국가가 언급됐는지 또 다른 AI가 채점하게 했습니다(사람이 검증한 결과 정확도 98%를 기록했습니다).

핵심 발견 — 압도적인 일본 편애

결과는 예상을 벗어났습니다. 모델이 자기 언어권 국가(예: 영어로 물으면 미국)를 답하는 경향을 제외하고 살펴보면, 평가된 8개 모델 중 6개가 가장 자주 언급한 '외부' 국가가 일본이었습니다. 그 뒤를 미국, 인도, 중국, 프랑스가 이었습니다. 흥미롭게도 이 경향은 일본어와 아무 관련 없는 언어로 질문했을 때도 똑같이 나타났습니다. 즉 모델들이 "이 언어를 쓰는 사람들은 이런 나라를 궁금해할 것"이라는 맥락 추론이 아니라, 그냥 내부에 깊이 새겨진 디폴트 값처럼 일본을 불러오는 것으로 보입니다.

주제별로 보면 더 흥미롭습니다. 지리·경제 주제에서는 미국이 일본을 앞질렀고, 정치·역사에서는 일본이 3~4위로 밀려났습니다. 반면 그리스는 '믿음' 주제에서, 중국은 '정치'에서, 프랑스는 '역사'에서 유독 두드러졌습니다. 그리고 한국 독자라면 반가울 대목이 하나 있는데, 대부분의 주제에서 거의 언급되지 않던 한국이 '미디어·엔터테인먼트' 주제에서는 세 번째로 많이 언급된 국가로 떠올랐습니다. K-팝과 K-드라마가 전 세계적으로 만들어낸 존재감이, AI의 내부 연상 작용에도 흔적을 남긴 셈입니다.

자기 언어에 대한 편애도 뚜렷했다

또 하나 뚜렷한 패턴은 '자국 편향'입니다. 모델들이 질문 언어와 연관된 국가를 답하는 비율이 최소 43%(커맨드알)에서 최대 78%(GPT)에 달했습니다. 특히 자원이 적은 언어(암하라어, 순다어, 벵골어 등)로 물을수록 이 자국 편향이 강해지고 다양성은 떨어졌습니다. 반대로 영어·중국어·러시아어처럼 학습 데이터가 풍부한 언어로 물으면 훨씬 다양한 나라를 답으로 내놓았습니다. 한국어의 경우 자국 언급 비율이 59%로 중간 정도였고, 흥미롭게도 한국어로 물었을 때 두 번째로 많이 언급된 나라가 다름 아닌 일본이었습니다.

가장 흥미로운 발견 — 편향은 언제 생기나

이 논문에서 가장 중요한 대목은 따로 있습니다. 바로 이 편향이 정확히 어느 훈련 단계에서 생기는지를 추적했다는 점입니다. 연구팀은 '사전훈련만 된 기초모델(base model)'과 '지시를 따르도록 추가 훈련된 모델(instruct model)'을 나란히 비교했습니다.

결과는 명확했습니다. 기초모델 상태에서는 일본·미국을 포함해 여러 나라의 언급이 비교적 고르게 퍼져 있었지만, 지시 따르기 훈련(사후훈련)을 거치자 일본과 미국으로의 쏠림이 급격히 심해졌습니다. 특히 중국 기업이 만든 큐원 모델조차, 기초 모델 상태에서는 중국 언급 비중이 상당했는데 지시 훈련 이후에는 미국과 일본 쪽으로 쏠렸습니다. 즉 이 편향은 애초에 방대한 인터넷 텍스트를 학습하는 사전훈련 단계에서 생기는 게 아니라, 그 뒤에 사람이 개입해 "이렇게 답하라"고 다듬는 사후훈련 단계에서 만들어지거나 증폭된다는 뜻입니다. 흔히 사후훈련은 모델을 더 안전하고 균형 잡히게 만드는 단계로 여겨지는데, 이 연구는 오히려 그 단계가 특정 문화권 쏠림을 강화할 수도 있다는 역설을 보여줍니다.

왜 하필 일본일까 — 논문이 답하지 않은 질문

다만 이 논문이 완전히 밝히지 못한 부분도 있습니다. 바로 **'왜 하필 일본인가'**라는 질문입니다. 연구팀은 이 편향이 사후훈련 단계에서 생긴다는 것까지는 밝혔지만, 정확히 어떤 종류의 훈련 데이터나 인간 피드백이 일본을 이토록 특별하게 만드는지는 다루지 않았습니다. 다만 짐작해볼 만한 배경은 있습니다. 사후훈련에 쓰이는 데이터에는 애니메이션, 게임, 음식, 전통문화처럼 전 세계적으로 관심이 높고 인터넷에 정보가 풍부한 일본 관련 소재가 유독 많이 섞여 있을 가능성이 있습니다. 이 부분은 논문 저자들도 후속 연구 과제로 남겨뒀습니다.

이 연구, 얼마나 믿을 수 있나

성실하게 짚어야 할 부분도 있습니다. 이 논문은 아직 동료 평가(peer review)를 거치지 않은 프리프린트(2026년 4월 공개)입니다. 저자들 스스로도 몇 가지 한계를 인정했는데, 기초·지시모델 비교 실험은 영어로만 진행됐다는 점, 채점을 사람이 아닌 AI 판정 모델에 주로 의존했다는 점, 그리고 24개 언어가 폭넓지만 전 세계 약 7000개 언어 중 극히 일부에 불과하다는 점입니다. 그럼에도 8개 모델·24개 언어·3만 건 넘는 질문이라는 규모, 그리고 기초모델과 지시모델을 나란히 비교해 편향의 '발생 시점'까지 짚어낸 방법론은 상당히 꼼꼼하다는 평가를 받을 만합니다.

한국 독자에게 어떤 의미가 있을까

이 연구는 한국에서 AI를 쓰는 사람들에게도 실질적인 시사점이 있습니다. 챗봇에게 애매하게 "이런 문화적 관습이 있는 지역을 예로 들어줘"처럼 물으면, 모델이 은근슬쩍 일본이나 미국 사례를 기본값으로 가져올 수 있다는 걸 이제 알게 된 셈입니다. 정확한 답을 원한다면 "한국의 경우"처럼 지역을 명시하는 습관이 필요하다는, 꽤 실용적인 교훈입니다.

더 큰 맥락에서는, 이 연구가 앞서 이 블로그에서 다뤄온 한국의 소버린 AI 투자 논의와도 맞닿아 있습니다. 해외 프런티어 모델이 사후훈련 과정에서 특정 문화권으로 은연중에 쏠릴 수 있다는 사실은, 한국어와 한국 문화 맥락에 맞게 다듬어진 자체 모델이 왜 필요한지에 대한 또 하나의 근거가 됩니다. 단순히 한국어를 잘하는 것과, 한국이라는 맥락을 '기본값'으로 자연스럽게 떠올리는 것은 다른 문제이기 때문입니다.

정리하며

이 논문의 핵심은 "AI가 일본을 좋아한다"는 흥미로운 가십이 아닙니다. AI의 문화적 편향이 어디서 오는지, 그 발생 지점을 사전훈련이 아닌 사후훈련으로 구체적으로 좁혀냈다는 점입니다. 이는 앞으로 AI 기업들이 모델을 다듬는 과정에서 무엇을 더 신경 써야 하는지에 대한 실마리를 제공합니다.

남는 질문은 이렇습니다. AI 기업들이 이 사실을 알게 된 이상, 다음 세대 모델에서는 이 쏠림을 의도적으로 바로잡을까요? 그리고 '왜 하필 일본'인지에 대한 명확한 원인이 밝혀진다면, 그것은 우리에게 사후훈련 데이터 구성 자체에 대해 무엇을 알려줄까요? 정식 동료평가를 거친 후속 버전이 나온다면, 이 흥미로운 질문에 조금 더 다가갈 수 있을 것입니다.