엔비디아, 국내 대표 오픈소스 AI 모델 최적화 배포 지원
한국 독자에게 왜 중요할까?
엔비디아가 SK텔레콤과 LG 등 국내 주요 기업의 오픈 소스 AI 모델을 최적화하여 배포하면서 국내 AI 생태계의 성능 향상과 실무 적용이 가속화될 것으로 기대되기 때문입니다.
안녕하세요, AI 뉴스 해설 기자입니다. 최근 엔비디아가 국내 주요 기업들의 대표적인 오픈소스 인공지능 모델을 실무 환경에 곧바로 적용할 수 있도록 돕는 배포 솔루션을 공개했습니다. 이번 협력은 국내 AI 기술이 실제 산업 현장에서 더욱 빠르고 넓게 쓰이도록 만드는 중요한 계기가 될 것으로 보입니다.
이번 지원 대상에는 에스케이텔레콤의 에이닷엑스 케이투, 엘지 에이아이 리서치의 케이-엑사원 2.0, 업스테이지의 솔라 오픈 2, 모티프 테크놀로지의 모티프-3가 포함되었습니다. 모두 국내를 대표하는 우수한 오픈소스 모델들로, 이번 최적화를 통해 개발자들이 현업에 배치하는 과정이 한결 수월해졌습니다.
인공지능 모델의 규모가 커지면서 최근에는 하나의 그래픽 처리 장치 용량을 넘어서는 경우가 많아졌습니다. 이 경우 여러 대의 그래픽 처리 장치에 모델을 나누어 탑재해야 하는데, 이때 요청을 알맞게 나누고 통신을 조율하는 작업이 성능 유지의 핵심 과제가 됩니다.
엔비디아가 제공하는 다이나모는 데이터센터 규모의 다중 노드 환경에서 모델을 효율적으로 배포하기 위해 만들어진 오픈소스 분산 추론 서빙 프레임워크입니다. 여기서 추론이란 학습을 마친 인공지능이 입력된 데이터를 바탕으로 결과물을 도출해내는 과정을 뜻합니다.
이 프레임워크는 그래픽 처리 장치 간의 통신과 요청 경로 지정을 알아서 처리하여 인공지능의 실행 성능을 극대화합니다. 엔비디아의 최신 칩인 비이이백 그래픽 처리 장치에 최적화된 이번 배포 방식을 활용하면 개발자들은 복잡한 시행착오를 줄일 수 있습니다.
원문에 따르면 이러한 최적화 방식을 통해 개발자들은 별도의 복잡한 설정 없이도 기존 대비 최대 두 배 향상된 성능을 곧바로 얻을 수 있다고 합니다. 이로 인해 국내 기업들이 우수한 오픈소스 모델을 실무에 빠르게 도입하고 누구나 손쉽게 이용할 수 있는 인공지능 서비스를 구현하는 속도가 한층 빨라질 전망입니다.
원문: NVIDIA — NVIDIA Dynamo Recipes Bring Korea’s Leading Open Models to Production