엔비디아 고효율 오픈 AI 모델 공개, 인프라 비용 절감 길 열려
한국 독자에게 왜 중요할까?
엔비디아가 공개한 고효율 오픈 모델은 국내 AI 연구소와 기업들의 인프라 구축 비용을 크게 낮추어 기술 접근성을 높이므로 매우 중요합니다.
인공지능(AI) 반도체 시장을 선도하는 엔비디아가 대형 데이터센터부터 개인용 데스크톱까지 아우르는 고효율 오픈 AI 모델 제품군인 '네모트론 3.5'를 발표했습니다. 이번에 공개된 모델은 시각과 언어를 함께 처리하는 1,200억 개 매개변수 규모의 '네모트론 3.5 슈퍼 VL'과 로컬 환경에 최적화된 소형 엣지 모델 '볼트' 2종입니다. 고성능 AI 개발에 막대한 컴퓨팅 비용이 들어 고민하던 국내 AI 연구소와 기업들에게 이번 엔비디아의 오픈 모델 공급은 인프라 구축 부담을 덜어줄 단비 같은 소식입니다.
특히 대표 모델인 네모트론 3.5 슈퍼 VL은 엔비디아의 기존 최고 사양 추론 모델 성능을 단 5분의 1 수준의 매개변수 크기로 달성했습니다. 매개변수란 AI가 학습하는 지능의 단위로, 숫자가 작을수록 필요한 하드웨어 자원이 크게 줄어듭니다. 또한 동급 오픈 모델 대비 작업 처리 속도가 5배나 빨라 대규모 비즈니스 업무를 훨씬 적은 서버 비용으로 신속하게 수행할 수 있습니다. 자본력이 부족한 스타트업이나 연구기관도 고성능 인프라를 직접 구축하지 않고 효율적으로 최첨단 AI 에이전트를 운영할 수 있는 환경이 열린 셈입니다.
함께 선보인 볼트 모델은 클라우드로 데이터를 전송하지 않고 개인 컴퓨터나 소형 기기에서 바로 AI를 돌리는 온디바이스 환경을 겨냥했습니다. '볼트 74B-A9B'는 양자화 기술(AI 모델의 용량을 줄여 가볍게 만드는 최적화 방식)을 통해 단 24GB 메모리 환경에서 웹 검색과 코딩 작업을 거뜬히 소화합니다. 4GB 메모리에 최적화된 '볼트 E4B'는 오는 10월 23일 출시되며 대화형 비서 기능에 특화되어 소형 기기에서도 기민하게 작동합니다.
보안과 자체 기술 확보 측면에서도 이번 오픈 모델은 국내 산업계에 큰 이점을 제공합니다. 폐쇄형 인공지능과 달리 가중치와 데이터셋, 학습법이 모두 공개되어 있어 각 기업이 자체 데이터로 모델을 추가 학습시키고 독자 서버에 직접 구축할 수 있습니다. 금융이나 의료, 법률처럼 민감한 정보를 다루는 기업들은 외부 데이터 유출 걱정 없이 독자적인 전문 AI 서비스를 개발할 수 있습니다. 이미 해외 유수 기업들이 계약서 분석, 사이버 보안, 의료 청구 관리 등에 이 모델을 맞춤형으로 도입하고 있습니다.
인프라 제약으로 대형 모델 도입을 망설였던 국내 AI 생태계에 이번 엔비디아의 고효율 오픈 모델 출시는 기술 접근성을 한 단계 끌어올리는 중요한 전환점이 될 것입니다. 연구소와 기업들은 막대한 서버 증설 비용을 아끼면서도 데이터 주권을 지킨 채 실무에 특화된 고성능 AI 서비스를 구축할 수 있는 든든한 기반을 마련하게 되었습니다.