프롬프트 인젝션Prompt Injection

2022년 9월 데이터 과학자 Riley Goodside가 GPT-3이 입력 문장 속 지시에 넘어가 시스템 프롬프트를 무시하는 것을 시연했고, 곧바로 개발자 Simon Willison이 SQL 인젝션에 빗대 이 이름을 붙였습니다. 지금은 OWASP가 뽑는 LLM 애플리케이션 10대 위협의 1위(LLM01)에 올라 있는 표준 용어예요.

사용자가 직접 악성 지시를 넣는 직접 인젝션보다, 이메일이나 웹페이지에 심어둔 명령을 AI가 읽다가 실행하는 간접 인젝션이 더 위험합니다. 2025년 8월 Brave 보안팀은 에이전틱 브라우저 Comet이 Reddit 게시물 속 숨긴 텍스트를 따라 사용자 이메일과 인증코드를 유출하는 것을 시연했어요.

SQL 인젝션과 달리 명령과 데이터를 구조적으로 분리할 방법이 아직 없어서, OpenAI도 2025년 12월 완전한 해결은 어려울 것이라고 인정했습니다. 방어는 권한 최소화, 민감 작업 전 사람 확인이 기본이에요.