파네시아, CES 2024서 CXL 탑재한 AI 가속기 시연

[지디넷코리아]

CXL 반도체 설계자산(IP) 스타트업 파네시아가 내달 미국 라스베가스에서 열리는 세계 최대 IT 전시회 CES 2024에서 CXL(컴퓨트익스프레스링크)를 탑재한 AI 가속기(CXL-Enabled AI Accelerator)를 시연한다고 밝혔다.

CXL은 차세대 인터페이스 기술로 AI 가속기, 메모리 확장장치, 프로세서, 스위치 등 다양한 시스템 장치를 연결해 장치의 필요에 따라 유연하게 메모리 자원을 공급해줄 수 있다. 이 기능은 서버 운영 비용을 대폭 절감해줄 수 있어, 최근 마이크로소프트, 메타와 같은 글로벌 빅테크 기업의 주목을 받고 있다.

이번 전시회에서 파네시아는 대규모 AI 서비스(생성형 AI, AI 기반 검색 등)에 무한한 메모리를 제공해 처리를 가속하는 CXL 탑재 AI 가속기를 선보인다. 파네시아의 CXL를 탑재한 AI 가속기는 CES 2024 혁신상을 수상하며 우수성을 인정받은 바 있다.

CXL이 연결된 무한한 메모리는 AI 서비스의 처리 가능한 데이터의 양과 처리 속도를 대폭 증가시킴으로써, 정확도와 품질을 향상시켜준다. 이는 기존 AI 가속기가 제한된 메모리 용량으로 인해 제한된 크기의 데이터만을 처리할 수 있었던 것과 비교된다.

시연은 대표적인 대규모 AI 서비스인 AI 기반 이미지 검색으로 구성된다. AI 기반 이미지 검색은 텍스트 대신 이미지를 이용해 사용자가 원하는 데이터를 찾을 수 있는 서비스로 구글, 마이크로소프트 등 글로벌 빅테크 기업의 주요 서비스다.

이 서비스는 수십 테라바이트 이상의 메모리를 필요로 하는데, 메모리에 수천억개에 달하는 데이터 각각에 대해 AI 로 벡터를 생성하고 유지해야하기 때문이다. 느린 SSD 에 벡터들을 관리하던 기존 시스템과 달리, CXL를 탑재한 AI 가속기 기반의 시스템은 CXL 기술이 제공하는 대용량의 빠른 메모리 공간 상에 벡터들을 관리할 수 있어 뛰어난 성능을 보인다.

AI 가속기는 최근 슈퍼컴퓨팅 전시회(SC23)에서 공개한 CXL 3.0 기반의 전체 시스템 프레임워크와 함께 전시될 예정이다. 파네시아의 프레임워크는 CXL 3.0 기술이 적용된 CXL CPU, 스위치, 메모리 확장장치 및 소프트웨어까지 CXL 기술이 적용된 전체 시스템을 구성하는데 필요한 모든 요소를 갖춘 환경을 제공한다.

파네시아 관계자는 "AI 기반 서비스의 정확도 및 품질은 경쟁적인 AI 업계에서 기업의 생존과 직결되는 만큼, 많은 AI 기업이 파네시아의 기술에 관심을 가질 것으로 기대된다"라며 "CXL이 탑재된 가속기는 기존의 가속 시스템 대비 101 배 빠르다"며 "전시부스에서 그 확연한 차이를 체험해볼 수 있을 것"이라고 전했다.

정명수 파네시아의 대표는 "파네시아가 이번 CES 를 통해 제시하는 CXL 기술은 생성형 AI 와 같은 대규모 AI 서비스를 원활하게 운용하기 위한 필수 기술이 될 것"이라며 "파네시아는 AI 가속 시스템뿐 아니라 데이터센터·클라우드·슈퍼컴퓨터 등 다양한 환경에서 비용을 절감하고 성능을 극대화할 수 있는 CXL 솔루션을 가지고 있다"고 말했다.

파네시아 시연은 1월 9일에서 12일까지 미국 라스베가스 유레카 파크에 위치한 카이스트 파빌리온(부스 #62633)에서 진행할 예정이다.