연구소/벤더
OpenAI의 Deployment Simulation 기법, 출시 전 모델 행동 예측 정확도 향상
새 모델을 공개하기 전에 실제 사용자들과의 대화 기록을 활용해 모델의 위험한 행동이 얼마나 자주 나타날지 미리 테스트하는 거예요
OpenAI
태그
misalignment detection
‘misalignment detection’ 태그가 달린 글 1건
태그
‘misalignment detection’ 태그가 달린 글 1건
새 모델을 공개하기 전에 실제 사용자들과의 대화 기록을 활용해 모델의 위험한 행동이 얼마나 자주 나타날지 미리 테스트하는 거예요