서비스2026-10-27

아마존 세이지메이커 AI의 멀티턴 강화학습 가이드

한국 독자에게 왜 중요할까?
AWS 세이지메이커의 멀티턴 강화학습 가이드는 국내 개발자와 기업들이 복잡한 다단계 AI 에이전트를 고성능으로 직접 구축하는 데 실질적인 기술 지침을 제공합니다.

인공지능 모델을 학습시키는 기존의 방식은 주로 단일 프롬프트에 대해 더 나은 답변을 내놓도록 가르치는 데 집중되어 왔습니다. 하지만 비용 청구서 처리나 고객 지원 티켓 분류와 같은 에이전트 작업은 이와 다릅니다. 에이전트는 여러 단계의 연속적인 행동을 수행하며, 각 단계는 이전 단계의 결과에 따라 결정됩니다. 이 과정에서는 모방해야 할 단 하나의 정답 경로가 존재하지 않으며, 전체 과정이 성공했는지 여부만이 유일한 신뢰할 수 있는 피드백이 됩니다. 지도 학습이나 단일턴 강화학습은 이러한 다단계 과정의 특성을 반영하기 어렵습니다.

아마존 세이지메이커 AI(Amazon SageMaker AI)에서 제공하는 멀티턴 강화학습(MTRL)은 바로 이러한 다단계 상호작용 신호를 기반으로 모델을 훈련합니다. 세이지메이커 AI는 사용자가 호스팅하는 에이전트에 프롬프트를 보내고, 에이전트는 작업에 필요한 만큼 환경에서 행동한 뒤 에피소드가 끝날 때 하나의 보상을 보고합니다. 여기서는 정답이 되는 구체적인 경로를 지정할 필요 없이 결과에 점수를 매기는 방식만 정의하면 됩니다. 이를 통해 공개된 모델이 학습한 적 없는 사내 워크플로 같은 특정 비즈니스 업무에 소형 모델을 최적화할 수 있습니다.

실제 테스트 과정에서 멀티턴 강화학습을 적용한 결과, 모델의 문제 해결 정답률이 크게 향상되는 성과를 거두었습니다. 훈련에는 토큰 비용이 소요되었으며, 전체 파이프라인은 에이전트와 보상 배포, 데이터셋 준비, 훈련, 모니터링, 평가까지 전 과정을 아우릅니다. 특히 훈련에 사용된 데이터셋과 에이전트, 학습된 모델은 모두 사용자의 AWS 계정 내에 안전하게 보관되며 기본 모델을 훈련하는 데 재사용되지 않습니다. 관련 코드는 샘플 저장소를 통해 제공되므로 개발자들이 직접 환경을 구축하고 테스트해 볼 수 있습니다.

이 시스템은 훈련 작업과 정책 모델을 관리하는 세이지메이커 AI와 에이전트 및 환경을 호스팅하는 에이전트코어(AgentCore)의 두 가지 핵심 축으로 구성됩니다. 각 롤아웃 과정에서 서비스는 에이전트코어 런타임을 호출하며, 정책 모델을 거쳐 게임을 진행한 뒤 보상을 보고합니다. 그룹 상대적 정책 최적화(GRPO) 알고리즘은 동일한 작업에 대한 여러 롤아웃의 보상 편차를 활용해 정책 모델의 로라(LoRA, Low-Rank Adaptation) 어댑터를 업데이트합니다. 이를 통해 복잡한 추론 과정을 효율적으로 개선할 수 있습니다.

멀티턴 강화학습 서비스는 서버리스 방식으로 운영되므로 사용자가 직접 인스턴스를 선택하거나 클러스터 크기를 고민할 필요가 없습니다. 기본 모델과 토큰 사용량을 기준으로 비용이 산정되며, 훈련 과정에서 발생하는 비용은 작업의 길이와 추론 방식에 따라 달라집니다. 에이전트코어 런타임 역시 사용한 자원에 따라 별도로 비용이 청구됩니다. 개발자는 안내에 따라 필요한 역할을 설정하고 샘플 저장소를 복제한 뒤 간단한 명령어 입력을 통해 에이전트를 배포할 수 있습니다.

에이전트 배포 과정에서는 런타임을 위한 리눅스 ARM64 플랫폼 종속성을 빌드하고 클라우드 폼메이션을 통해 안전하게 배포하는 것이 권장됩니다. 런타임 환경 설정에서는 추론 노력 수준을 조절하는 환경 변수를 활용해 토큰 사용량을 최적화할 수 있습니다. 이와 같은 기술적 가이드는 국내 개발자와 기업들이 복잡하고 정교한 다단계 AI 에이전트 시스템을 직접 구축하고 성능을 검증하는 데 실질적인 길잡이가 되어 줍니다.

원문: AWS — Multi-Turn Reinforcement Learning on Amazon SageMaker AI: A hands-on guide

← 오늘의 뉴스로

유튜브 채널

AI 한입구독하기

오늘의 AI 뉴스를 쇼츠로 짧게 정리합니다.

숫자쇼크구독하기

숫자로 놀라는 30초 쇼츠, 자매 채널입니다.