테크 프레스
LLM의 근본적 약점 '역할 식별 오류', Chain-of-Thought Forgery 공격에 무방비
대언어모델들이 명령의 출처를 제대로 구분하지 못해서, 그 방식을 흉내내면 누구든 위험한 정보를 뽑아낼 수 있다는 거예요
MIT Tech Review AI
태그
chain-of-thought forgery
‘chain-of-thought forgery’ 태그가 달린 글 1건
태그
‘chain-of-thought forgery’ 태그가 달린 글 1건
대언어모델들이 명령의 출처를 제대로 구분하지 못해서, 그 방식을 흉내내면 누구든 위험한 정보를 뽑아낼 수 있다는 거예요