데이터 신뢰성Datadog
Datadog AI-native SAST란, LLM 앱 취약점 개발 단계서 잡는 법
Datadog이 프롬프트 주입 같은 LLM 앱 특유의 보안 취약점을 코드 리뷰 단계에서 미리 찾아주는 AI 기반 정적 분석 도구를 내놨어요
태그
LLM 보안
‘LLM 보안’ 태그가 달린 글 2건
마테크
AI 트렌드
테크 프레스
LLM의 근본적 약점 '역할 식별 오류', Chain-of-Thought Forgery 공격에 무방비
대언어모델들이 명령의 출처를 제대로 구분하지 못해서, 그 방식을 흉내내면 누구든 위험한 정보를 뽑아낼 수 있다는 거예요
MIT Tech Review AI