아마존 베드락, 클로드 구조화 출력 지원…기업용 AI 신뢰도 높인다
한국 독자에게 왜 중요할까?
아마존 베드락의 앤스로픽 클로드 구조화된 출력 지원은 엔터프라이즈 환경에서 신뢰성 높은 AI 에이전트 구축을 돕습니다.
아마존웹서비스의 완전관리형 인공지능 서비스인 아마존 베드락이 앤스로픽의 모든 클로드 모델을 대상으로 구조화된 출력(Structured Outputs) 기능을 정식 지원합니다. 기업 고객은 이제 베드락 런타임과 베드락 맨틀 엔드포인트를 통해 클로드 모델을 호출할 때 사전에 정의한 데이터 형식 규격인 제이슨(JSON) 스키마에 완벽히 부합하는 응답을 바로 받아볼 수 있게 되었습니다. 이번 기능 추가는 생성형 인공지능을 실제 기업 업무와 자동화 시스템에 연동하려는 엔터프라이즈 환경에서 신뢰성 높은 인공지능 에이전트를 구축하는 데 중요한 전환점이 될 전망입니다.
지금까지 대형언어모델을 시스템에 연동할 때 가장 큰 걸림돌은 출력 형식의 불확실성이었습니다. 인공지능이 임의로 텍스트를 덧붙이거나 규격에서 벗어난 형식을 반환하면 시스템 파싱 오류가 발생해 재시도 로직을 복잡하게 구성해야 했습니다. 그러나 이번에 적용된 구조화된 출력은 단어를 생성한 뒤 사후 검증하는 방식이 아니라 단어 단위로 텍스트를 만들어내는 토큰 생성 단계에서부터 규격을 강제하는 제약 디코딩(Constrained Decoding) 기술을 사용합니다. 모델이 스키마를 위반하는 토큰을 생성하지 않도록 원천 차단해, 출력 형식을 확률적인 것에서 결정론적인 결과물로 바꿔놓은 것입니다.
이러한 방식 덕분에 데이터 파싱 오류가 원천 차단되며, 필드의 데이터 유형이 지정한 대로 유지되는 타입 안전성(Type Safety)을 확보할 수 있습니다. 스키마에 지정된 필수 항목이 항상 포함되고 불필요한 필드는 생성되지 않으므로, 출력 토큰 수가 줄어들어 대규모 작업 시 추론 비용을 절감하는 효과도 가져옵니다. 별도의 유효성 검증 코드나 실패 시 재시도 로직을 구축하지 않아도 되기 때문에 기업들은 대규모 운영 환경에서도 안정적으로 인공지능 모델을 상용 배포할 수 있습니다.
이 기능은 다양한 산업 분야의 실제 업무에 즉시 활용될 수 있습니다. 금융 실적 보고서나 규제 준수 문서에서 필수 항목을 빠짐없이 추출하거나, 임상 기록을 전자의무기록(EHR) 시스템에 맞게 변환하고 계약서의 핵심 조항을 분석하는 작업이 대표적입니다. 고객 지원 문의의 의도와 감정을 기업 데이터 모델에 맞게 분류해 자동 분배하는 작업도 가능해집니다. 아울러 대용량 데이터를 비동기로 처리하는 배치 추론, 여러 아마존 리전에서 모델을 유연하게 활용하는 교차 리전 추론, 실시간 응답을 받는 스트리밍 환경에서도 구조화된 출력이 매끄럽게 작동합니다.
특히 이번 지원은 스스로 판단하고 행동하는 자율형 인공지능 에이전트를 구축할 때 진가를 발휘합니다. 복합적인 작업 흐름과 서버 측 도구를 활용하는 베드락 맨틀 환경에서는 엄격한 도구 사용(Strict Tool Use) 설정을 통해 모델이 도구를 호출할 때 입력 매개변수가 정의된 스키마와 정확히 일치하도록 만듭니다. 웹 검색이나 코드 인터프리터 같은 도구를 단계별로 연결해 실행할 때 매개변수 오류로 인한 전체 작업 중단을 막아주기 때문에, 복합적인 비즈니스 프로세스를 안정적으로 완수하는 엔터프라이즈 에이전트 구축에 탄탄한 기반을 제공합니다.
대규모 환경에 맞춘 성능 최적화도 반영되었습니다. 아마존 베드락은 새로운 스키마가 처음 전달되면 문법 아티팩트를 컴파일하며, 이후 동일한 스키마를 사용하는 요청에는 컴파일된 문법을 캐시하여 지연 시간을 최소화합니다. 이 캐시는 계정별로 관리되며 최초 접근 후 24시간 동안 유지됩니다. 스키마의 구조적 변경이 없으면 캐시가 유지되므로 반복적인 처리가 요구되는 엔터프라이즈 워크로드에서 효율적입니다. 결과적으로 개발자들은 번거로운 예외 처리와 데이터 정제 작업에서 벗어나 비즈니스 로직과 에이전트 설계에 온전히 집중할 수 있게 되었습니다.
원문: AWS — Structured outputs for Anthropic Claude models on Amazon Bedrock