TechCrunch AI

Anthropic, OpenAI 안전 평가자 내재화, 진짜 독립성 있나

테크 프레스2026년 9월 17일

한마디로

AI 회사들이 안전 감시자를 회사 안으로 들이겠다고 했는데 진짜 독립적으로 감시할 수 있을지는 아직 미지수예요

무슨 내용인가

Anthropic CEO 다리오 아모데이가 METR, Redwood Research 같은 제3자 평가자에게 회사 시스템에 대한 전례 없는 접근권을 주겠다고 제안했고, OpenAI CEO 샘 알트만도 동참 의사를 밝혔습니다. 평가자들은 최종 모델뿐 아니라 훈련 중간 체크포인트, 사후훈련 환경, 직원 인터뷰까지 접근해야 모델이 시험을 통과하도록 학습된 건 아닌지 검증할 수 있다고 말하는데요. 다만 과거 OpenAI가 METR과 Redwood에게 일주일, Apollo Research에게 GPT-6 Astra 테스트에 단 3일만 준 전례가 있어서, 이번에도 실질적 권한과 시간이 보장될지는 불투명합니다. Meta, SpaceXAI, Google DeepMind는 아직 이 방식에 동참하지 않았고, 미국 캘리포니아 SB 53과 SB 813, EU AI Act 같은 법제화 움직임도 병행되고 있습니다

에디터 노트 | FactStack

접근권을 준다는 발표와 실제로 며칠을 주느냐는 완전히 다른 얘기입니다. 과거 METR과 Redwood에게 일주일, Apollo Research에게는 사흘만 준 전례를 보면, 이번 제안도 결국 평가 기간과 체크포인트 접근 범위를 얼마나 구체적으로 계약서에 못 박느냐에서 진정성이 갈립니다. 실무자 입장에서는 이런 자율 규제 발표를 홍보 소재로 쓰기 전에, SB 53이나 EU AI Act 같은 강제 법제화가 실제로 언제 발효되는지부터 확인하고 메시징 리스크를 관리하는 게 맞아요.

실무 시사점

AI 기업의 자율 안전 검증 발표가 실제 구속력 있는 감사로 이어지는지, 발표와 법제화 사이 간극을 마케팅, PR 담당자도 주의 깊게 봐야 합니다

Anthropic, OpenAI 안전 평가자 내재화, 진짜 독립성 있나

무슨 내용인가

실무 시사점

태그

관련 용어

관련 심층분석

관련 글