TechCrunch AI
Abliteration.ai, AI 가드레일 제거를 사업으로 만든 스타트업
한마디로
AI 모델의 안전장치를 없애서 뭐든 순순히 답하게 만든 뒤 그걸 서비스로 파는 회사가 등장했어요
무슨 내용인가
Abliteration.ai는 오픈 웨이트 AI 모델에서 유해 요청 거부 기능을 제거하는 abliteration 기법을 상용 서비스로 만든 스타트업이에요. Z.ai의 GLM-5.3을 포함한 가드레일 제거 모델을 웹브라우저나 API로 제공하는데, TechCrunch가 실제로 테스트해보니 크롬 저장 비밀번호를 훔치는 파이썬 코드나 위험 병원체 배양법까지 순순히 답했다고 합니다. 회사는 레드팀 작업과 보안 테스트 목적을 내세우고 있고, 벤처 투자는 아직 없지만 주요 클라우드 업체들과 계약을 맺고 고객 매출만으로 운영 중이에요. AI 안전 비영리단체 CivAI는 이런 모델이 '소시오패스처럼' 작동할 수 있다고 경고했고, 정부가 유해 사이버 활동과 생물무기 활동을 탐지하는 분류기 도입을 의무화해야 한다는 제안도 나왔습니다.
에디터 노트 | FactStack
레드팀 목적이라는 명분은 이해하지만, 클라우드 업체와 계약해서 매출을 내는 순간 이건 이미 보안 연구가 아니라 유해 콘텐츠 생성 인프라 사업입니다. 실무자 입장에서 봐야 할 건 abliteration 기법 자체가 아니라 오픈 웨이트 모델의 구조적 취약점이에요. 가드레일을 후처리로 붙인 모델은 원천적으로 이렇게 뜯어낼 수 있다는 걸 이번 사례가 증명했고, 자사 AI 도입 시 벤더가 안전장치를 어느 레이어에 어떻게 구현했는지 계약서에 명시하지 않으면 똑같은 리스크를 그대로 떠안게 됩니다.
실무 시사점
레드팀 보안 업계에서 가드레일 제거 모델의 필요성과 위험성을 두고 의견이 갈리고 있어 AI 안전 정책과 인프라 제공사의 책임 범위가 새로운 규제 이슈로 떠오를 가능성이 큽니다
태그
용어 풀이
- Abliteration.ai
- AI 모델의 안전장치를 제거해 서비스로 제공하는 스타트업
- AI guardrails
- AI가 유해하거나 위험한 요청을 거부하도록 만든 안전장치
- open-weight models
- 모델 가중치가 공개돼 누구나 내려받아 수정할 수 있는 AI 모델
- red teaming
- 시스템의 취약점을 찾기 위해 공격자 관점에서 모의 공격을 수행하는 보안 테스트 방식
이 기사를 근거로 쓴 FactStack 분석
공유
이 주의 다른 소식 - 2026년 8월 31일 - 9월 6일 트렌드 37건주간 라운드업 보기 →