삼성전자가 네이버와 손잡고 자체 개발한 인공지능(AI) 인퍼런스 칩 '마하1'에 대한 정보가 공개됐다. 경계현 삼성전자 DS부문장(사장)은 마하1을 두고 "AI 아키텍처 혁신의 시작"이라고 언급하며 기대감을 드러냈다.

20일 삼성전자 주주총회에서 경계현 사장은 "현존하는 AI 시스템은 메모리 병목으로 인한 성능 저하와 파워 문제를 안고 있다"며 "이 문제를 개선하기 위해 AGI(일반인공지능) 컴퓨팅 앱을 신설하고 AI 아키텍처의 근본적인 혁신을 추진하겠다"고 밝혔다.

삼성전자는 최근 AGI 전용 반도체를 만들기 위해 AGI 컴퓨팅 랩을 설립했다. 구글 텐서처리장치(TPU) 개발자 출신 우동혁 박사가 AGI 컴퓨팅 랩을 이끈다. 연구소는 추론·서비스 응용 분야를 중심으로 대규모언어모델(LLM)용 칩 개발에 집중한다는 계획이다. 

경 사장은 "메모리 처리량을 8분의 1로 줄이고 8배의 파워 효율을 갖는 것을 목표로 현재 개발 중인 마하 AI 인퍼런스 칩이 그 혁신의 시작이 될 것"이라고 말했다. 

마하1은 생성형 AI의 기반이 되는 트랜스포머 모델에 최적화된 칩으로, 여러 알고리즘을 통해 메모리와 그래픽처리장치(GPU) 사이 병목을 최소화시킨 게 특징이다. 특히 고대역폭메모리(HBM) 대신 LP메모리를 사용해도 LLM 추론이 가능하도록 준비하고 있다고 경 사장은 설명했다.

경 사장은 "현재 FPGA를 통해서 기술 검증은 해결했고 시스템온칩(SOC) 디자인을 진행 중"이라며 "올해 연말 칩을 만들고 내년 초면 저희 칩으로 구성된 시스템을 보실 수 있을 것"이라고 말했다.

마하1에는 네이버클라우드의 기술도 담겼다. 이동수 네이버클라우드 이사가 진두지휘 중인 경량화 AI 연구팀과 삼성전자가 함께 개발한 것. 이날 마하1이 처음 공개되며 네이버 측도 기술 개발에 속도를 낼 것으로 보인다.

하정우 네이버 퓨처AI센터장은 자신의 페이스북을 통해 "경계현 사장께서 주주총회에서 삼성전자와 네이버클라우드 경량화AI 연구팀이 함께 개발한 마하1 양산 관련 계획을 말씀해주셨다"며 "그만큼 완성도와 파급력에 자신이 있다는 뜻"이라고 전했다.

아울러 이동수 이사도 자신의 페이스북을 통해 "삼성전자 주주총회에서 (마하1을) 밝혀주셔 조금 놀랐다"며 "영혼을 갈아 넣어보겠다"고 전했다.

이성우 기자 voiceactor@techm.kr