엔비디아, PC 한 대로 돌리는 오픈소스 AI '네모트론 3.5 라이트닝' 공개

🔑 핵심 요약

• 엔비디아, 11일(현지시간) 경량 오픈소스 AI 모델 '네모트론 3.5 라이트닝' 공개
• 단일 GPU로 구동 가능, 무료 다운로드·수정 가능
• 300억 파라미터 규모 MoE 모델로 상시 가동 AI 에이전트용으로 설계

PC 한 대로도 돌아가는 가벼운 AI

엔비디아가 11일(현지시간) 새로운 오픈소스 인공지능 모델 '네모트론 3.5 라이트닝(Nemotron 3.5 Lightning)'을 공개했습니다. PC에 탑재된 단일 GPU만으로도 구동할 수 있는 경량 모델로, 기업들은 엔비디아의 별도 허가나 비용 지불 없이 자유롭게 내려받아 사용하고 수정할 수 있습니다.

기존 '네모트론 3 나노'의 후속 모델로, 사람 대신 백그라운드에서 자율적으로 작업을 처리하는 'AI 에이전트'용으로 특화 설계됐습니다. 약 300억 개 파라미터 중 실제로는 30억 개만 활성화되는 전문가 혼합(MoE) 구조를 채택해, 크기 대비 높은 효율을 냅니다. 독립 벤치마크 플랫폼 아티피셜 애널리시스 측정 결과, 오픈AI의 gpt-oss-120b와 비슷한 수준의 지능을 4분의 1 크기로 구현했고, 초당 약 670토큰을 처리해 동급 모델 중 가장 빠른 추론 속도를 보인 것으로 나타났습니다.

여러 모델을 상황별로 배분하는 '네모 스위치야드'도 함께

엔비디아는 이번 모델과 함께 에이전트 도구 안에서 여러 AI 모델을 작업 성격에 맞게 자동 배분하는 오픈소스 라우팅 라이브러리 '네모 스위치야드(NeMo Switchyard)'도 함께 선보였습니다. 이미 크라우드스트라이크, 코드래빗, 하비 등 기업들이 새 모델을 테스트하며 자사 서비스에 맞게 수정해 활용하고 있는 것으로 전해졌습니다. 두 모델과 도구는 허깅페이스와 엔비디아 공식 웹사이트를 통해 제공될 예정입니다.

왜 무료로 푸는가…"오픈소스가 결국 GPU 판매로"

엔비디아가 오픈소스 AI에 적극 나서는 배경에는 자사 GPU 판매 확대라는 계산이 깔려 있다는 분석입니다. 무료 오픈소스 모델은 오픈AI, 앤스로픽 등이 제공하는 유료 폐쇄형 모델보다 이용 비용이 낮아 AI 사용량 자체를 늘리는 효과가 있고, 이는 결국 엔비디아 AI 칩 수요 확대로 이어진다는 것입니다. 젠슨 황 엔비디아 최고경영자는 지난달 한 인터뷰에서 "무료 AI는 하드웨어와 칩에도 좋은 일이 될 수밖에 없다"고 언급한 바 있습니다. 업계에서는 이번 모델이 중국 문샷AI의 '키미 K3'에 대응하는 성격도 있다는 해석이 나옵니다.

❓ 자주 묻는 질문

Q. 네모트론 3.5 라이트닝은 일반 소비자도 쓸 수 있나요?
A. 오픈소스로 공개돼 개발자나 기업이 허깅페이스 등을 통해 자유롭게 내려받아 활용할 수 있습니다.

Q. 기존 대형 AI 모델과 어떻게 다른가요?
A. 파라미터 규모를 줄여 개인 PC의 GPU 한 개로도 구동할 수 있게 만든 경량 모델이라는 점이 특징입니다.

관련 문의처

엔비디아 코리아 고객지원: 홈페이지 문의 채널 이용 안내

---

오픈소스 AI 경쟁이 한층 치열해지는 모습입니다. 관련 업계 동향은 계속 이어서 전해드리겠습니다.

 

본 게시글은 뉴스핌, 파이낸셜뉴스, 위키트리, CNBC 등 보도와 엔비디아 공식 블로그를 종합·재구성했습니다. 원문을 직접 인용하지 않았습니다.
일상의 시선 | nulfparang.com