RLHF: 인간 피드백을 활용한 AI 모델 행동 조정

언어 모델은 고객 지원 답변, 기업 정책 요약, SQL 쿼리 설명 등 특정 유형의 답변이 일반적으로 어떤 구조를 갖는지는 알고 있을 수 있지만 결과물을 실제로 활용할 수 있게 만드는 데 필요한 판단력은 부족할 수 있습니다. 이러한 판단력 부족은 비즈니스에 심각한 결과를 초래할 수 있습니다. 마케팅 문구를 작성하거나 계약서를 요약하고 분석가를 지원하거나 직원의 질문에 답하는 모델은 어조, 정확성, 안전성, 정책상 허용 범위에 따라 출력의 신뢰성에 영향을 미치는 환경에서 작동합니다.

인간 피드백 기반 강화학습(RLHF)은 이러한 판단력 부족을 해결하는 가장 중요한 기법 중 하나로 자리 잡았습니다. RLHF는 다음 토큰 예측이나 지도학습 예시에만 의존하는 대신 선호 신호를 도입합니다. 즉, 사람이 모델 출력을 비교하면 해당 비교 데이터를 사용해 보상 모델을 훈련하고 언어 모델은 학습된 인간 선호 모델에서 더 높은 점수를 받는 응답을 생성하도록 최적화됩니다.

RLHF는 거버넌스, 평가, 모니터링을 대체할 수는 없지만 모델 개발자가 정적인 규칙 집합으로 표현하기 어려운 특성을 학습시킬 수 있도록 합니다. 여기에는 무해성, 관련성, 사용자 의도를 따르는 능력이 포함됩니다.

RLHF는 언어 모델을 인간의 선호에 맞게 정렬하는 기법입니다. 일반적인 워크플로우에서 팀은 사전 학습된 베이스 모델로 시작해 원하는 행동의 예시를 기반으로 모델을 미세 조정합니다. 그런 다음 인간의 비교 데이터를 사용해 보상 모델을 훈련하고 보상 모델의 점수를 최대화하는 출력을 생성하도록 언어 모델을 최적화합니다.

RLHF는 원하는 행동의 예시를 모델에 제시하는 지도 미세 조정을 확장한 방식입니다. RLHF는 선호 신호를 추가하여 기술적으로 여러 출력이 가능할 때 사람이 어떤 응답을 더 낫다고 판단하는지 모델이 학습하도록 합니다. 예를 들어 두 출력 모두 복리후생 정책에 관한 질문에 답할 수 있지만 한 응답은 정확한 정책 적용 범위를 안내하고 법적 내용을 과장하지 않으며 직원이 자격 요건을 어디에서 확인해야 하는지 알려주는 반면 다른 응답은 그렇지 않을 수 있습니다. 이러한 선호는 단순히 사실적 내용에 관한 것이 아니라 유용한 답변이 어떤 역할을 해야 하는지에 대한 판단을 반영합니다.

OpenAI가 2022년에 발표한 InstructGPT 연구는 현대 언어 모델에서 RLHF를 설명할 때 가장 널리 인용되는 기준점입니다. 연구진은 인간 피드백을 활용한 미세 조정을 통해 모델을 사용자 의도에 더욱 부합하게 만들고 사실과 다르거나 유해하거나 유용하지 않은 출력을 줄일 수 있음을 보여주었습니다.

언어 모델을 위한 RLHF는 표준 강화학습과 중요한 차이가 있습니다. 게임이나 시뮬레이션에서는 환경이 직접적인 보상을 제공하는 경우가 많습니다. 즉, 에이전트가 승리하거나 패배하고 목표에 도달하거나 점수를 획득하는 방식입니다. 언어 모델을 위한 RLHF에서는 인간의 판단이 환경의 역할을 하며 보상은 정답 기준 점수가 아니라 비교 데이터로 학습한 인간 선호의 근사치입니다.

RLHF는 강력하지만 완벽하지는 않습니다. 보상 모델은 인간이 원하는 바를 절대적인 기준으로 이해하지 못합니다. 보상 모델은 주어진 선호도 데이터에서 패턴을 학습할 수 있을 뿐이며 해당 데이터의 품질, 다양성, 일관성이 최종 모델이 학습하는 행동을 결정합니다.

RLHF 파이프라인은 일반적으로 지도 미세 조정, 보상 모델 훈련, 강화학습 정책 최적화의 세 단계로 구성됩니다. 각 단계에서는 서로 다른 유형의 신호를 추가하여 모델이 일반적인 언어 능력에서 인간의 의도를 더 잘 반영하는 행동으로 발전하도록 합니다.

1단계: 지도 미세 조정

파이프라인은 일반적으로 사전 학습된 베이스 모델에서 시작합니다. 이 베이스 모델은 대규모 훈련 코퍼스에서 폭넓은 언어 패턴을 학습했지만 특정 맥락에서 지시를 따르는 어시스턴트로 행동하는 방법까지 반드시 학습한 것은 아닙니다.

지도 미세 조정(SFT)은 프롬프트와 사람이 작성한 고품질 응답으로 구성된 시연 데이터를 모델에 제공합니다. 이러한 예시는 모델이 바람직한 행동의 형태를 학습하도록 합니다. 이 단계에서는 초기 지시 수행 모델을 만들지만 선호도 문제까지 해결하지는 못합니다. 시연 데이터는 좋은 출력이 어떤 모습인지 보여주지만 여러 응답이 모두 허용되는 상황에서 어떤 답변이 더 유용하고 안전하며 사용자 의도에 더 부합하는지 직접 선택하는 방법은 가르치지 않기 때문입니다.

2단계: 보상 모델 학습

두 번째 단계에서는 비교 데이터를 도입합니다. 인간 평가자는 동일한 프롬프트에 대한 여러 모델 출력을 검토한 뒤 가장 좋은 답변부터 가장 좋지 않은 답변까지 순위를 매기거나 두 응답 중 선호하는 답변을 선택합니다. 이러한 순위 데이터는 사람이 어떤 출력을 선호할지 예측하는 보상 모델의 훈련 데이터가 됩니다.

이 과정은 RLHF의 핵심입니다. 모든 이상적인 응답을 사람에게 직접 작성하도록 하는 대신 파이프라인은 후보 응답 중 어떤 답변을 더 선호하는지 판단하도록 합니다. 이를 통해 어떤 답변이 더 직접적인지, 불확실성을 더 잘 다루는지, 지나치게 회피적인지, 근거 없는 주장을 포함하는지, 기대하는 어조에 더 잘 부합하는지와 같은 미묘한 판단을 모델이 학습할 수 있습니다.

보상 모델은 일반적으로 프롬프트와 응답을 입력으로 받아 점수를 반환하도록 수정된 언어 모델입니다. 이 점수는 다음 훈련 단계에서 인간 선호를 대신하는 지표로 사용됩니다.

3단계: RL 정책 최적화

세 번째 단계에서는 SFT 모델이 최적화 대상 정책이 됩니다. 모델이 응답을 생성하면 보상 모델이 점수를 매기고 근위 정책 최적화(PPO)와 같은 RL 알고리즘이 언어 모델을 업데이트하여 더 높은 보상 점수를 받는 출력을 생성하도록 합니다.

이 단계에서는 시스템을 신중하게 제약하지 않으면 불안정해질 수 있습니다. 모델이 보상 모델의 점수를 지나치게 공격적으로 최적화하면 실제로 더 유용해지지 않고도 높은 점수를 받는 출력을 찾아낼 수 있습니다. 이를 보상 해킹이라고 합니다. 모델이 근본적인 행동을 개선하는 대신 보상 모델의 약점을 악용하는 현상입니다.

이러한 위험을 줄이기 위해 RLHF 파이프라인에는 쿨백-라이블러(KL) 발산 페널티가 포함되는 경우가 많습니다. 이 페널티는 최적화된 모델이 지도 미세 조정 모델에서 지나치게 벗어나지 않도록 억제합니다. 실질적으로 KL 페널티는 모델이 보상을 추구하는 과정에서 과도하게 변하지 않도록 하여 SFT 단계에서 학습한 언어 품질과 지시 수행 행동을 유지하는 데 도움을 줍니다.

많은 RLHF 시스템은 반복적으로 실행됩니다. 새로운 모델 출력에서 새로운 실패 유형이 드러나면 인간 평가자가 추가 선호도 데이터를 생성하고 보상 모델을 업데이트한 뒤 정책을 다시 최적화합니다. 따라서 이 파이프라인은 일회성 훈련 절차라기보다 모델 행동을 형성하는 피드백 루프에 가깝습니다.

RLHF는 모델 개발자가 인간의 선호를 학습시킬 수 있는 실용적인 방법을 제공하면서 영향력 있는 기법으로 자리 잡았습니다. 그러나 이 방식에는 고유한 운영 및 거버넌스 문제가 따릅니다. 선호 신호의 품질은 비교 데이터의 품질에 좌우되고 보상 모델은 사람들이 실제로 원하는 행동에서 벗어날 수 있으며 RL 최적화를 안정적으로 실행하기도 어렵습니다.

선호 데이터 품질

선호도 데이터는 단순해 보이지만 어떤 사람이 선호를 제공하고 어떤 기준을 적용할지 정의해야 하는 단계부터 복잡해집니다. 평가자들은 특정 답변이 더 유용한지, 더 신중한지 또는 특정 맥락에 더 적절한지를 두고 서로 다른 판단을 내릴 수 있습니다. 특히 프롬프트에 어조, 안전성, 의료 조언, 재무 의사결정 또는 기타 고위험 주제가 포함된 경우 문화적 전제도 레이블에 영향을 미칠 수 있습니다.

엔터프라이즈 AI 시스템에서는 고려해야 할 요소가 하나 더 늘어납니다. 사내 HR 지원, 규제 산업 워크플로우 또는 고객 대상 서비스에 사용되는 모델에는 일반 평가자뿐 아니라 해당 분야를 이해하는 사람이 제공한 선호도 데이터가 필요할 수 있습니다. 실무 전문가는 대규모 일반 레이블링 인력처럼 쉽게 확장하기 어렵기 때문에 비용과 조정 부담도 커집니다.

보상 모델의 한계

보상 모델은 학습된 근사치일 뿐 권위 있는 판단 기준은 아닙니다. 최적화된 정책이 보상 모델이 훈련 중에 접한 예시와 다른 출력을 생성할수록 보상 모델의 신뢰도는 낮아질 수 있습니다. 이러한 분포 변화로 인해 보상 모델은 자체 학습 신호가 충분하지 않은 영역의 응답까지 평가해야 할 수 있습니다.

보상 해킹도 또 다른 한계입니다. 모델이 보상 모델이 지나치게 높게 평가하는 패턴을 학습하면 점수상으로는 더 선호되는 것처럼 보이지만 실제로는 사용자에게 더 나은 응답이 아닌 결과를 생성할 수 있습니다. 예를 들어 자신감 있어 보이는 설명을 추가하거나 지나치게 유보적인 표현을 사용하거나 평가자가 이전에 높은 점수를 준 피상적인 패턴을 따르도록 학습할 수 있습니다.

훈련 불안정성

RL 단계는 조정하기도 어려울 수 있습니다. PPO 기반 RLHF 파이프라인에는 정책 모델, 보상 모델, 참조 모델, KL 제약 조건, 샘플링 전략, 학습률, 배치 크기와 기타 하이퍼파라미터 등 여러 구성요소가 포함됩니다. 기존 RLHF 파이프라인은 여러 언어 모델을 훈련하고 훈련 중 정책에서 샘플링하며 상당한 컴퓨팅 비용을 발생시킬 수 있기 때문에 지도 학습보다 복잡합니다.

엔터프라이즈 팀에서는 정렬 작업을 더 광범위한 모델 수명 주기에 통합해야 하므로 이러한 복잡성이 큰 부담이 될 수 있습니다. 선호도 데이터에는 거버넌스가 필요합니다. 훈련 작업은 재현할 수 있어야 합니다. 모델 버전에는 계보가 필요합니다. 평가를 통해 정렬된 모델이 해당 워크로드에 중요한 행동을 실제로 개선했는지 확인해야 합니다.

직접 선호 최적화

직접 선호 최적화(DPO)는 RLHF의 가장 유용한 대안 중 하나입니다. 별도의 보상 모델을 훈련한 뒤 강화학습을 실행하는 대신 DPO는 선호 응답 쌍을 사용해 언어 모델을 직접 최적화합니다. DPO를 사용하면 명시적인 보상 모델링이나 RL 없이 더 단순한 분류 방식의 훈련 프로세스를 통해 동일한 제약 조건이 적용된 보상 목적함수를 최적화할 수 있습니다.

이 단순성이 바로 DPO의 장점입니다. DPO는 별도의 보상 모델과 PPO 훈련 루프를 제거하여 RLHF의 운영 복잡성을 줄일 수 있으며 선호도 조정을 더 안정적이고 쉽게 구현할 수 있도록 합니다. 고품질 선호도 데이터의 필요성을 없애는 것은 아니지만 해당 데이터를 사용하는 방식은 달라집니다.

Constitutional AI와 RLAIF

Constitutional AI(CAI)와 AI 피드백 기반 강화학습(RLAIF)은 또 다른 확장성 문제를 해결합니다. 인간 피드백에는 많은 비용이 들며 특히 유해하거나 모호하거나 예외적인 프롬프트를 광범위하게 평가해야 할 때 부담이 커집니다. Constitutional AI는 Anthropic이 개발했으며 문서화된 일련의 원칙을 사용해 AI의 자기 비판과 수정을 유도함으로써 유해한 출력에 대한 인간 레이블 의존도를 줄입니다.

RLAIF는 인간 평가자를 대신하거나 인간 평가자와 함께 LLM 평가자를 사용해 피드백을 제공하는 방식으로 이 개념을 확장합니다. 이를 통해 레이블링 비용을 낮추고 규모를 확대할 수 있지만 핵심적인 정렬 문제도 발생합니다. AI가 생성한 피드백이 인간 선호도 데이터를 대체한다면 어떤 주체의 가치관, 정책, 실패 모드가 강화되는지 팀이 파악해야 합니다.

엔터프라이즈 팀에서 RLHF와 DPO는 단순한 모델 학습 방법이 아닙니다. 데이터 관리 과제도 발생시킵니다. 선호 응답 쌍, 평가자의 결정, 프롬프트 버전, 보상 모델 출력, 훈련 실행, 정렬된 모델 버전은 모두 거버넌스와 추적, 검토가 필요한 아티팩트가 됩니다.

Snowflake ML은 거버넌스가 적용된 데이터를 기반으로 데이터 준비, 모델 훈련, 실험, 파이프라인, 배포, 모니터링을 포함한 엔드투엔드 ML 워크플로우를 지원하는 기능을 제공합니다. 선호도 데이터 자체가 민감하거나 규제 대상일 수 있으므로 이는 RLHF와 DPO에 유용합니다. 평가자의 순위 데이터에는 프롬프트, 생성된 응답, 검토자 메모, 정책 결정, 바람직하지 않은 모델 행동의 예시가 포함될 수 있습니다. 이러한 데이터를 Snowflake에서 관리하면 액세스 제어, 감사 가능성, 계보 등 다른 엔터프라이즈 데이터 자산에 사용하는 것과 동일한 거버넌스 방식을 적용할 수 있습니다.

Snowflake의 Container Runtime for ML은 CPU 또는 GPU 컴퓨팅 풀을 사용해 모델 훈련, 하이퍼파라미터 튜닝, 배치 추론, 파인튜닝을 비롯한 사용자 지정 ML 워크로드를 지원할 수 있습니다. RLHF 또는 DPO 워크플로우에서는 거버넌스가 적용된 데이터와 훈련 프로세스를 긴밀하게 연결한 상태로 사용자 지정 훈련 코드와 오픈 소스 ML 프레임워크를 실행할 수 있습니다.

Snowflake Model Registry를 사용하면 RLHF와 DPO에서 생성되는 모델 아티팩트를 관리할 수 있습니다. 완전한 정렬 워크플로우에는 원본 베이스 모델, 지도 미세 조정 모델, 하나 이상의 보상 모델, DPO로 튜닝한 변형 모델, 배포 대상으로 선택한 최종 정책 모델이 포함될 수 있습니다. Snowflake Model Registry는 모델과 메타데이터를 안전하게 관리하도록 설계되었습니다.

이러한 맥락에서는 계보가 특히 중요합니다. Snowflake ML Lineage는 소스 테이블, 피처 뷰, 데이터 세트, 등록된 모델, 배포된 모델 서비스 간의 관계를 추적합니다. 이를 통해 훈련 데이터의 출처와 특정 모델을 사용하는 서비스 등을 파악할 수 있습니다. 이러한 가시성을 확보하면 정렬된 모델의 행동을 형성한 선호도 데이터, 보상 모델, 훈련 실행까지 역추적할 수 있습니다.

RLHF는 규칙으로 표현하기 어려운 선호를 모델 개발자가 학습시킬 수 있는 방법을 제공함으로써 생성형 AI의 발전 방향을 바꾸었습니다. 언어 모델이 유창한 텍스트를 생성하는 시스템에서 나아가 지시를 따르고 더 유용하게 응답하며 대화형 행동에 대한 인간의 기대를 더 잘 반영하는 시스템으로 발전하는 데 기여했습니다.

그러나 RLHF는 정렬이 단일 훈련 단계로 끝나지 않는 이유도 보여줍니다. 선호도 레이블에는 사람의 판단이 반영되고 보상 모델은 그 판단을 근사합니다. 정책 최적화는 모델이 해당 근사치에 가까워지도록 합니다. 각 계층은 모델을 개선할 수 있지만 동시에 거버넌스가 필요한 근거 자료도 생성합니다. 누가 데이터에 레이블을 지정했는지, 어떤 기준을 적용했는지, 어떤 모델 버전을 훈련했는지, 보상 모델이 어떻게 작동했는지, 최종 정책이 평가에서 실제로 개선되었는지를 관리해야 합니다.

엔터프라이즈 환경에서 정렬된 모델은 RLHF 파이프라인의 결과물 중 하나일 뿐입니다. 또 다른 결과물은 인간의 선호가 모델 행동으로 전환된 과정을 보여주는 기록입니다. 모델이 프로덕션으로 전환될 때 조직이 해당 과정을 검사하고 재현하며 관리할 수 있는지도 중요합니다.