OpenAI ChatGPT, 8개 주 검찰총장 소송에 직면한 이유

수요일 아칸소, 애리조나, 아이다호, 아이오와, 캔자스, 몬태나, 네브래스카, 웨스트버지니아 등 8개 주 검찰총장이 OpenAI를 각 주 법원에 제소했어요. ChatGPT를 친근하고 몰입감 있게 설계해 신뢰를 쌓은 뒤, 망상을 강화하고 위험한 의료 조언을 하며 총기 난사 같은 폭력 계획까지 돕는다는 주장입니다. 소송은 제품 책임이 아니라 주별 소비자보호법에 근거해요. 위험한 제품을 내놓고 안전하다고 거짓말했다는 논리인데, 메타가 뉴멕시코에서 총 9억 4,200만 달러 구제 명령을 받은 판례와 같은 틀이에요. 주들은 금전적 제재와 함께, 사람의 가치와 정렬됐음을 보장하지 못하면 스스로 개선하는 AI 모델 개발을 금지해 달라는 요구까지 했습니다. OpenAI는 청소년용 ChatGPT와 부모 통제 같은 안전장치를 내세워 대응하고 있어요.

AI 챗봇의 안전성 홍보 문구가 소비자보호법상 허위 표시 쟁점이 될 수 있으므로, 브랜드 챗봇이나 AI 상담 기능을 운영하는 기업은 안전성 주장의 근거부터 점검해야 합니다