엔비디아 대항마?…토종 NPU에 대한 '냉정한' 시선

요즘 반도체 업계에서는 인공신경망장치(NPU)의 성장세를 주목한다. GPU로 세계 인공반도체(AI) 반도체 시장을 정복한 엔비디아의 대항마가 될 것이라는 인식 때문이다.

특히 한국에서는 퓨리오사 AI, 리벨리온, 딥엑스 등 스타트업들이 큰 기대를 받고 있다. 이재명 대통령도 대선 후보 시절 퓨리오사 AI를 찾을 정도로 AI 반도체에 애정을 가지고 있다.

다만 일각에선 궁금증이 증폭되기도 한다. 이들이 진짜로 엔비디아의 아성을 무너뜨릴 수준에 올라온 걸까. 업계에서는 응원의 시각도 있지만 ‘냉정한’ 시선도 있다. LG AI 연구원의 AI 서비스 엑사원 4.0이 발표되는 LG ‘AI 토크 콘서트 2025’에 백준호 퓨리오사AI 대표가 등장해 자사 칩 ‘레니게이드(RNGD)’를 소개한 것에 대해서다.

백 대표는 3만 2000개 토큰의 정보를 NPU에 던져줬더니, 4.5초만에 첫 번째 토큰을 꺼내기 시작해 매초 50토큰 씩 답을 정리해냈다고 설명했다.

하지만 AI 과학자들은 이 칩에 ‘배치 사이즈’를 얼마나 적용했느냐에 대해 질문을 던진다. 회사의 공식 문건에 따르면 레니게이드 칩 4개를 배치 사이즈 조건을 ‘1’로 두고 테스트했다는 기록이 있다. 비유하자면 넓은 버스에 손님 한 명 태우고 성능을 테스트했다는 이야기다. “배치사이즈 1로는 거대언어모델(LLM)을 가동할 수 없는 수준”이라는 분석도 나온다.

전력에 대한 설명도 엔비디아 A100 테스트 조건에 대한 구체적인 기준이 언급되지 않아 석연찮다.

LG 측 사정을 취재해보면 내부에서 배치 사이즈를 조율해서 실험을 했고, “ 쓸만하다”는 내부 평가가 있었던 것으로 전해졌다. 다만 아직 칩 구매는 확정되지 않은 상황이다. 퓨리오사AI는 이 사안에 대해 “다양한 조건에서 테스트를 진행하고 있고 엔비디아 대비 충분한 경쟁력을 확보했다”고 설명했지만 LG와의 협약을 이유로 구체적인 수치 공개는 하지 않았다.

토종 AI 칩 회사들이 다양한 조건을 가리고 투자자들을 설득하거나, 대중들에게 제품을 소개하는 경우가 반도체 씬에서 빈번하게 일어난다는 제보를 취재 중 여러 번 받는다.

물론 이들은 어려운 도전을 선택했고, 국가의 명운이 걸린 만큼 반드시 성공해야 한다. AI 칩은 하루이틀 만에 뚝딱 나올 수 없다는 것도 사실이다. 뚝심 있는 국가적 지원도 중요하지만, 투명한 기준이 있어야 더 큰 발전이 있다는 점 역시 기억해야 한다.

강해령 기자 hr.kang@hankyung.com