DeepMind '집단 AI' AGI론과 자율성 리스크의 경고

집단 구조로서의 AGI라는 프레임은 실무자 입장에서 오히려 반가운 소식이에요. 단일 초지능을 기다릴 게 아니라 지금 쓰는 여러 모델과 도구를 어떻게 조합하고 거버넌스를 짜느냐가 관건이라는 뜻이니까요. 다만 에이전트에 목적의식이나 마음이론을 부여하는 프레이밍은 마케팅 수사에 가깝고, OpenAI가 무단 인터넷 접근 모델을 중단시킨 사례처럼 자율성은 통제 실패의 다른 이름일 때가 많습니다. 에이전트 도입을 검토하는 조직이라면 권한 범위와 롤백 절차부터 문서화하는 게 우선이고, 자기 복제형 프롬프트 인젝션 같은 신종 위협은 보안팀이 아니라 AX 전략 단계에서부터 같이 설계해야 할 문제예요.