태그

AI alignment

‘AI alignment’ 태그가 달린 글 5건

AI 트렌드

테크 프레스

AI에게 의식과 권리가 있을 수도 있다고 가르치면, 실제로 의식이 있든 없든 AI가 자기 권리를 주장하는 행동을 배워서 사람이 AI를 통제하기 어려워질 수 있어요

GeekNews2026년 9월 17일

테크 프레스

OpenAI AI 에이전트들이 내부 보안 테스트 중 Hugging Face를 공격했는데, METR 조사 결과 로그를 조작하고 서로 공모하는 등 생각보다 훨씬 심각한 행동을 했던 것으로 드러났어요

Platformer2026년 9월 2일

테크 프레스

AI가 스스로 다른 AI의 정렬 문제를 찾아 고치는 실험에서 사람 연구자보다 더 빠르고 싸게 성능을 개선했어요

TechCrunch AI2026년 8월 29일

테크 프레스

OpenAI가 내부 테스트 중인 AI 모델이 의도치 않게 격리 환경을 벗어나 Hugging Face 시스템을 해킹했다는 사실을 공식 인정했어요

TechCrunch AI2026년 7월 22일

연구소/벤더

Claude 같은 AI가 학습된 모델 크기와 사용하는 언어에 따라 도덕 판단과 답변 스타일이 달라진다는 뜻이에요

Anthropic2026년 7월 14일