오픈AI·앤트로픽·메타 전부 낙제점 — AI 9개사 '안전 성적표' 최고점이 C+뿐인 이유

오늘은 특정 발표문 대신, 최근 며칠간의 AI 소식을 직접 훑어봤습니다. 구글의 차세대 모델 '제미나이 3.5 프로'가 오늘 출시된다는 소문이 여러 매체에 돌고 있었지만, 확인해보니 정작 구글의 공식 확인은 어디에도 없는 루머 단계였습니다. 확정되지 않은 소식을 사실처럼 전하고 싶지는 않아, 대신 이 블로그가 지금까지 다뤄온 회사들 전체를 한자리에 놓고 평가한 흥미로운 자료를 골랐습니다. 바로 미국의 AI 안전 연구기관 퓨처오브라이프 연구소(Future of Life Institute)가 7월 7일 발표한 '2026년 상반기 AI 안전지수'입니다.

결과부터 말하면 충격적입니다. 9개 주요 AI 기업 중 최고점을 받은 곳조차 C+에 그쳤고, A나 B를 받은 곳은 단 한 곳도 없었습니다. 이 블로그에서 그동안 다뤄온 오픈AI, 앤트로픽, 메타, xAI, 즈푸(Z.ai)까지 모두 이 성적표에 이름을 올렸습니다. 무엇을 어떻게 평가했고, 왜 이렇게 낮은 점수가 나왔는지 짚어보겠습니다.

무엇을 어떻게 평가했나

퓨처오브라이프 연구소는 반년마다 이 지수를 발표하는데, 이번엔 몬트리올대·UC버클리·옥스퍼드대 소속 전문가 등 7명으로 구성된 독립 패널이 미국 학점(GPA) 방식으로 9개 기업을 채점했습니다. 평가 항목은 위험 평가, 현재의 위해(危害), 안전 프레임워크, 실존적 안전, 거버넌스, 정보 공유까지 총 6개 영역, 37개 세부 지표입니다. 공개된 모델 카드, 연구 논문, 벤치마크 결과에 더해 기업 대상 설문조사 답변까지 종합했는데, 9개 기업 중 설문에 응한 곳은 5곳뿐이었다는 점도 투명성 관련 대목에서 짚어볼 만합니다.

성적표 — 최고점도 C+뿐

평가 대상 9개사의 최종 등급은 다음과 같습니다.

순위	기업	등급
1위	앤트로픽	C+
2위	오픈AI	C
3위	구글 딥마인드	C
4위	메타	D+
5위	즈푸(Z.ai)	D-
5위	알리바바 클라우드	D-
7위	xAI	F
8위	딥시크	F
8위	미스트랄	F

앤트로픽이 6개 영역 중 5개에서 1위를 차지하며 전체 1위를 지켰지만, 그마저도 C+에 불과합니다. 오픈AI는 지난 조사의 C+에서 이번엔 C로 한 단계 내려앉았고, 대신 위험 평가 영역에서는 더 폭넓은 평가 체계와 외부 검증 참여를 인정받아 1위로 올라섰습니다. 흥미롭게도 6위였던 메타가 4위로 뛰어오른 반면, 4위였던 xAI는 7위로 떨어지며 자리를 맞바꿨습니다.

왜 다들 이렇게 낮은 점수를 받았나 — 후퇴하는 안전 서약

이번 지수에서 가장 우려스러운 대목은 개별 점수가 아니라 방향성입니다. 보고서는 앤트로픽·오픈AI·구글 딥마인드·메타 네 곳 모두 "위험 수위에 근접하면 개발을 스스로 중단하겠다"던 기존 서약을 완화하거나 철회했다고 지적했습니다. 경쟁 압박을 이유로 든 곳도 있었습니다. TIME 보도에 따르면, 퓨처오브라이프 연구소 공동설립자 맥스 테그마크는 "한 기업이 더 안전하게 행동한다고 해서 경쟁사까지 끌어올리는 효과가 나타날 것"이라는 기대가 이번 조사로 무너졌다고 평가했습니다. 안전 경쟁이 저절로 상향평준화를 이끌 것이라는 낙관이, 현실에서는 통하지 않고 있다는 뜻입니다.

가장 우려되는 흐름 — 안보·군사 분야로 향하는 AI

보고서가 새롭게 짚은 위험 신호도 있습니다. 2024년부터 2026년 사이, 자체적으로 군사적 활용을 금지해왔던 앤트로픽·오픈AI·구글 딥마인드·메타가 하나둘 그 방침을 철회하고 국방 분야 파트너십을 적극 모색하기 시작했다는 것입니다. 원래도 이런 제한이 없던 xAI·미스트랄과 함께, 이제 주요 기업 대부분이 이 흐름에 합류한 셈입니다. 다만 1위를 차지한 앤트로픽조차 검토 패널로부터 "석연치 않은 군사적 관여"로 비판받았다는 대목은 눈여겨볼 만합니다. 이와 별개로 중국의 주요 AI 기업들은 군사적 연계 의혹을 미국 쪽으로부터 받고 있는데, 즈푸(Z.ai)와 알리바바 클라우드 모두 이를 부인하고 있습니다.

그나마 희망적인 신호 — 메타의 반등

모든 소식이 어둡지만은 않습니다. 테그마크는 같은 인터뷰에서 메타가 불과 6개월 만에 6위에서 4위로 뛰어오른 점을 "고무적"이라고 평가했습니다. 한 기업이 이 정도로 빠르게 개선될 수 있다는 사실 자체가, 나머지 기업들에게도 개선의 여지가 있다는 신호로 해석될 수 있다는 것입니다. 다만 D+라는 등급 자체는 여전히 낙제에 가깝다는 점은 변하지 않습니다.

실존적 위험 앞에서는 전원 낙제

보고서가 가장 단호하게 지적한 부분은 '실존적 안전(existential safety)' 영역입니다. 관련 보도에 따르면, 인류 문명 자체를 위협할 수 있는 초강력 AI(AGI·ASI) 등장에 대비해 9개 기업 모두가 "전적으로 부적절한" 수준의 대비만 하고 있다는 평가를 받았습니다. 등급표 맨 위에 있는 앤트로픽조차 이 영역에서는 예외가 아니었습니다. 앞서 이 블로그에서 다룬 즈푸 AI 창업자 탕지에의 편지가 "AGI를 넘어 ASI로 가는 길이 이미 놓여 있다"고 선언했던 것을 떠올리면, 그 웅장한 비전과 실제 대비 수준 사이의 간극이 이 보고서에서 고스란히 드러나는 셈입니다.

한국 독자에게 어떤 의미가 있을까

이번 평가 대상 9개 기업 중 한국 기업은 단 한 곳도 없습니다. 하지만 그렇다고 이 소식이 한국과 무관한 것은 아닙니다. 앞서 이 블로그에서 다뤘듯, 한국 정부는 반도체 초과세수 5조 원을 들여 독자 소버린 AI 모델을 개발하겠다고 밝혔고, 3대 메가프로젝트를 통해 1000조 원 규모의 AI 인프라도 구축하고 있습니다. 국내 기업(LG AI연구원, SK텔레콤, 네이버, 업스테이지 등)이 이런 지원을 발판 삼아 본격적인 프런티어 모델 개발에 뛰어드는 시점에, 이번 안전지수는 하나의 질문을 던집니다. 한국이 키우려는 소버린 AI는, 세계 최고 기업들조차 C+에 그친 이 안전 기준을 어떻게 넘어설 것인가.

경쟁에서 뒤처지지 않으려는 조급함이 안전 기준을 갉아먹는 것이 이번 조사의 핵심 경고인 만큼, 한국도 자국 AI 산업을 키우는 과정에서 같은 함정에 빠지지 않도록 처음부터 안전·거버넌스 기준을 설계에 포함시킬 필요가 있어 보입니다. 뒤늦게 따라잡으려는 입장이기에 오히려, 앞서간 기업들의 시행착오에서 미리 배울 기회가 있는 셈이기도 합니다.

정리하며

이번 안전지수의 핵심은 특정 기업을 향한 비판이 아닙니다. AI 능력이 몇 달 단위로 도약하는 지금, 그 능력을 통제할 안전장치는 오히려 후퇴하고 있다는 산업 전체의 구조적 문제입니다. 자율적 서약에 기대어온 안전 체계가 경쟁 압박 앞에서 얼마나 취약한지를, 이번 보고서가 숫자로 보여준 셈입니다.

남는 질문은 이렇습니다. 정부 규제가 이 자율적 서약의 빈자리를 메우기 전에, 업계 스스로 방향을 되돌릴 수 있을까요? 그리고 메타의 반등이 보여주듯 개선이 가능하다면, 왜 대부분의 기업은 그 반대 방향으로 가고 있을까요? 퓨처오브라이프 연구소가 반년 뒤 내놓을 다음 성적표가, 이 흐름이 정말 바뀌고 있는지를 보여줄 첫 시험대가 될 것입니다.