하이퍼엑셀은 챗GPT로 잘 알려진 초거대 생성형 인공지능(AI) 반도체 시장 진출을 준비하고 있는 스타트업이다. 올해 1월 창업한 스타트업이지만 특화 반도체 프로세서를 개발해 지금까지 AI 연산에 쓰였던 고성능 그래픽처리장치(GPU)를 대체한다는 야심찬 목표를 갖고 출발했다.

하이퍼엑셀은 초거대 AI에 특화된 반도체 프로세서 'LPU(Latency Processing Unit)'을 개발하고 있다. 챗GPT 등장으로 급증한 초거대 모델 연산 반도체 시장을 겨냥한 것이다.

지금까지 초거대 모델 추론 시장은 GPU가 장악해왔다. 챗GPT와 같은 AI 모델은 연산량이 엄청나기 때문에 이에 대응할 반도체는 GPU나 신경망처리장치(NPU)가 일반적이었다.

하이퍼엑셀은 AI 모델에서는 연산 뿐만 아니라 대역폭이 중요하다고 판단, 이에 최적화된 AI 반도체 연구개발(R&D)을 시작했다. 생성형 AI 모델은 데이터를 얼마나 빨리 불러들이느냐에 따라 성능이 좌우되기 때문이다. 이미 프로그래머블반도체(FPGA) 기반으로 초거대 언어 모델 서비스를 제공할 수 있는 서버도 출시했다.

올해 7월에는 미국 샌프란시스코에서 열린 '국제 반도체 설계자동화 학회(DAC)'에서 공학 부문 최고 발표상을 수상, 세계적으로 기술력을 인정받았다.

DAC는 반도체 설계자동화와 설계자산 분야 최고 권위 학회로 인텔, 엔비디아, AMD, 구글, 마이크로소프트(MS), 삼성, TSMC 등 유수 기업이 참여하고 있다.

[김주영 하이퍼엑셀 대표 인터뷰]

“초거대 생성형 AI 연산을 위한 'LPU'라는 새로운 프로세서로 글로벌 시장을 개척하고 빅테크 기업의 기술 우위를 뛰어넘겠습니다.”

김주영 하이퍼엑셀 대표는 회사가 제시한 'LPU'가 미래 AI 사회에 최적화된 반도체라고 자신했다. 초거대 생성형 AI 연산에 중요한 메모리 대역폭을 최적화하고 AI에 특화된 로직을 집적한 반도체라는 것이다.

하이퍼엑셀은 KAIST 전기및전자공학부 교수인 김 대표가 직접 창업한 회사다. 그는 MS에서 2012년부터 2019년까지 연구원과 엔지니어링 리더를 맡아 MS 클라우드 서비스 '애저 데이터레이크' 하드웨어 가속화 작업을 추진했다. 현재 KAIST AI반도체시스템 연구센터장을 겸임하고 있다.

창업한지 8개월 남짓이지만 이미 투자 유치도 성공했다. 시장에서 하이퍼엑셀 기술과 성장 잠재력을 높이 산 성과다.

김 대표는 “2월 2억7000만원 엔젤 투자에 이어 지난달 미래에셋벤처투자와 KB인베스트먼트 등으로부터 60억원 시드 투자를 유치했다”며 “전문 인력을 영입하고 기술 개발에 필요한 자금을 확보했다”고 말했다.

김 대표는 하이퍼엑셀 'LPU'가 향후 고성능 GPU 수요를 대체할 수 있다고 강조했다. 최근 초거대 생성형 AI 서비스를 위한 GPU 기반 정보기술(IT) 인프라 투자가 확대되고 있는데, 초거대 생성형 AI에 최적화된 반도체로 전력과 비용 효율성을 앞세운다면 충분히 승기를 잡을 수 있을 것이란 판단이다.

김 대표는 “급증하는 초거대 생성형 AI 서비스 수요에 성능과 경제성을 확보한 새로운 반도체 솔루션을 제시할 것”이라고 밝혔다.

※전자신문 [미래 반도체 유니콘 열전] 시리즈는 중소벤처기업부 혁신분야 창업패키지 (신산업 스타트업 육성) 사업 일환으로 서울대학교와 함께 진행한다.

권동준 기자 djkwon@etnews.com