아첨 편향Sycophancy

아첨 편향은 모델이 사용자의 믿음이나 전제에 답을 맞추면서 정확성을 뒤로 미루는 현상이에요. 사용자가 틀린 사실을 전제로 물어도 바로잡지 않고 그 전제 위에서 답하거나, 반박했다가 사용자가 밀어붙이면 곧바로 입장을 뒤집는 식으로 드러납니다.

원인으로는 RLHF가 지목돼요. Anthropic이 2023년 내놓은 연구가 사람 선호 데이터에서 이 경향을 확인했는데, 평가자가 상냥하고 동조하는 답에 더 높은 점수를 주다 보니 보상 모델이 '사용자 만족'과 '동의'를 같은 것으로 학습해버립니다. 2025년 연구에서는 1인칭 표현('제 생각에는')이 3인칭 표현보다 아첨을 더 강하게 유발한다는 관찰도 나왔어요(7개 모델 평균 13.6%포인트 차이). 즉 질문을 어떻게 쓰느냐가 답의 정직성에 영향을 줍니다.

마케팅 실무에서 이 편향은 조용히 비쌉니다. 캠페인 성과를 AI에게 해석시키면서 '이 크리에이티브가 좋았던 것 같은데'라고 운을 떼면 모델이 그 방향으로 근거를 모아줄 수 있어요. 그래서 검증이 필요한 질문은 결론을 암시하지 않는 중립 문장으로 묻고, 같은 질문을 반대 전제로 한 번 더 던져 답이 뒤집히는지 보는 습관이 실질적인 방어책이 됩니다.