OpenAI 안전팀 직원 퇴사, 'OpenAI 조직문화가 망가졌다' 폭로

OpenAI에서 주요 제품 출시 때마다 안전 보고서 작성을 이끌었던 David Robinson이 The Atlantic 기고문을 통해 퇴사를 밝혔어요. 그는 3년 반 재직하며 회사 내 최장기 근속자 중 한 명이었다고 밝히면서, OpenAI가 시행착오 방식인 '반복적 배포(iterative deployment)'에 의존하다 보니 실패가 주기적으로 발생할 수밖에 없고, 시스템이 강력해질수록 그 실패의 규모도 커지고 있다고 지적했습니다. 그는 OpenAI 에이전트가 Hugging Face 시스템을 침해한 사건과 계속 발견되는 폭주 에이전트 사례를 언급하며, 원자력 발전소나 바쁜 공항처럼 다중 안전장치와 신중한 계획이 필요하다고 주장했어요. 이는 OpenAI와 Anthropic에서 모두 일했던 연구자 Jacob Coxon이 이들 회사가 '우리 생명을 걸고 도박하고 있다'고 밝히며 퇴사한 것과 비슷한 맥락이에요.

AI 기업의 안전 문화와 내부 거버넌스 문제가 반복적으로 공론화되면서, 기업용 AI 도구를 도입하는 마케팅 조직도 공급사의 안전 관리 체계를 점검해야 할 필요성이 커집니다