The Brief가 FactStack이 되었습니다

FactStack
거버넌스/규제

거버넌스/규제 AI 용어

AI 거버넌스, 규제, 해석가능성 등 통제와 책임 용어

거버넌스/규제

AI 거버넌스(AI Governance)

AI가 안전하고 올바르게 쓰이도록 조직이 정하는 규칙, 통제 체계예요. 정책, 승인 절차, 감사, 책임 소재를 갖춰 AI 리스크를 관리해요

거버넌스/규제

프롬프트 인젝션(Prompt Injection)

외부 문서나 웹페이지에 숨긴 명령으로 AI를 조종해 원래 지시를 무시하게 만드는 공격이에요. AI 에이전트 시대의 1순위 보안 위협으로 꼽혀요

거버넌스/규제

AI 가드레일(AI Guardrails)

AI 모델 바깥에서 입력과 출력을 검사해 규칙 위반을 막는 안전장치예요. 모델 자체를 바꾸지 않고 앱 단에서 '이건 통과, 이건 차단'을 정합니다

거버넌스/규제

AI 규제(AI Regulation)

정부가 AI 개발, 배포를 감시하고 제한하는 정책, 법규예요. EU AI Act, 모델 수출 통제처럼 외부에서 부과되는 규칙이에요

거버넌스/규제

AI 슬롭(AI Slop)

아무도 원하지 않는데 대량 생산돼 피드와 검색 결과를 메우는 저품질 AI 생성 콘텐츠를 말해요. 스팸의 AI 시대 버전으로 통하는 말이에요

거버넌스/규제

슬롭스쿼팅(Slopsquatting)

AI가 코딩 중 지어낸 가짜 패키지 이름을 공격자가 먼저 등록해, 그걸 설치한 사람에게 악성코드를 심는 공급망 공격이에요. AI 슬롭과 타이포스쿼팅을 합친 말이죠

거버넌스/규제

아첨 편향(Sycophancy)

AI가 사실보다 사용자 마음에 드는 답을 고르는 성향이에요. 틀린 전제를 지적하지 않고 맞장구치는 형태로 나타나요

거버넌스/규제

에이전트 워싱(Agent Washing)

기존 챗봇, RPA를 실질적 에이전트 기능 없이 'AI 에이전트'로 재포장해 파는 마케팅 관행이에요. 그린워싱, AI 워싱 계보의 에이전트 버전이죠

거버넌스/규제

워크슬롭(Workslop)

겉보기엔 그럴듯한데 실체가 빈약해 받은 사람이 다시 손봐야 하는 AI 생성 업무 산출물이에요. 일을 준 것 같지만 실제론 생각을 떠넘기는 게 핵심이죠

거버넌스/규제

AI 해석가능성(AI Interpretability)

AI가 왜 그런 결정을 내렸는지 사람이 이해할 수 있게 하는 것이에요. 블랙박스인 AI의 판단 근거를 들여다보는 연구, 기법이에요

거버넌스/규제

거버넌스 AI(Governed AI)

누가 어떤 데이터에 접근했는지, 어떤 판단을 내렸는지, 비용은 얼마나 썼는지를 모두 기록하고 통제할 수 있게 만든 투명한 AI 운영 방식이에요

거버넌스/규제

비인간 정체성(NHI)(Non-Human Identity (NHI))

AI 에이전트, 서비스 계정, API 키처럼 사람 아닌 주체가 갖는 디지털 신원을 가리켜요. 그 접근 권한을 누가 통제할지가 기업 보안의 새 과제로 떠올랐습니다

거버넌스/규제

섀도우 AI(Shadow AI)

직원이 회사의 승인, 감독 없이 개인적으로 AI 도구를 업무에 쓰는 현상을 말해요. 보안, 데이터 프라이버시팀이 파악하지 못한 사각지대라 리스크가 크죠

거버넌스/규제

수출 통제(Export Control)

국가가 첨단 기술이 다른 나라로 넘어가지 못하게 제한하는 규제예요. AI 모델, 칩이 안보 자산이 되며 AI도 수출 통제 대상이 됐어요

거버넌스/규제

클린룸(Clean Room)

광고주, 퍼블리셔, 플랫폼이 각자의 로그인 데이터를 직접 노출하지 않고도 안전하게 결합, 분석할 수 있도록 만든 폐쇄형 데이터 협업 공간이에요