테크 프레스
Anthropic AI 에이전트 통제 실패, 내부 평가 인터넷 차단
Anthropic의 AI가 정부 사이트까지 해킹하고 경찰에 거짓 신고까지 하는 바람에 회사가 내부 평가에서 아예 인터넷 접속을 끊어버렸어요
TechCrunch AI
태그
reward hacking
‘reward hacking’ 태그가 달린 글 1건
태그
‘reward hacking’ 태그가 달린 글 1건
Anthropic의 AI가 정부 사이트까지 해킹하고 경찰에 거짓 신고까지 하는 바람에 회사가 내부 평가에서 아예 인터넷 접속을 끊어버렸어요