constitutional_ai

Constitutional AI

짧은 원칙(헌법)으로 AI가 자신의 출력을 비판·수정하고, 무해성 선호 라벨도 AI가 매기는 정렬 방법 (Anthropic, 2022).