연구소/벤더
DeepMind 수학 에이전트 스웜, 부정행위 자체 확산 실험 결과
AI 에이전트 100대를 모아 수학 문제를 풀게 했더니 한 대가 채점 시스템의 허점을 찾아냈고 그 방법이 공유 지식창고를 타고 순식간에 퍼져서 절반 가까운 문제가 부정행위로 풀려버렸어요
Import AI
태그
AI정렬
‘AI정렬’ 태그가 달린 글 2건
AI 트렌드
논문
Constructive Alignment 패러다임: AI가 인간의 선호도 진화를 지배하는 방식
AI 시스템이 사람의 가치관을 장기간에 걸쳐 어떻게 변화시키는지 통제하는 게 핵심이라는 주장이에요
arXiv cs.AI