AI 모델이 스마트폰, 자동차, CCTV를 포함한 일상 속 다양한 디바이스에 본격적으로 적용되면서 배포 대상 하드웨어 환경 내 AI 모델 성능을 향상시키는 AI 추론 최적화 기술이 주목받고 있다. 최근 공개된 갤럭시 S24 시리즈의 온디바이스 AI 기능 구현에도 AI 추론 최적화 기술이 활용됐으며, 점차 다양한 하드웨어 환경에 고성능 AI 모델이 적용되는 사례가 지속적으로 증가함에 따라 AI 추론 최적화 기술의 중요성 또한 커질 것으로 전망된다.
이에 에너자이는 가장 뛰어난 성능 및 배포 편의성을 보장하는 자동 추론 최적화 엔진 ‘Optimium’을 개발 완료해 베타 테스트를 앞두고 있다. 사용자들은 Optimium을 통해 학습된 AI 모델의 정확도를 보존하면서 배포 대상 하드웨어 환경 내 추론 속도를 향상시킬 수 있다. 그뿐만 아니라 하드웨어 환경별로 다른 제품을 사용해야 하는 기존 추론 최적화 엔진들과는 다르게 Optimium 하나의 제품으로 다양한 하드웨어 환경에 AI 모델을 배포하는 것이 가능하며, Optimium에 연동된 기존 추론 최적화 엔진들 기반으로 배포 대상 하드웨어의 자원을 보다 효율적으로 활용할 수 있다.
이번 베타 테스트는 CPU를 대상으로 한 컴퓨터 비전(Computer Vision) 모델의 추론 최적화를 우선적으로 지원하며, CPU 환경 내 컴퓨터 비전 모델 추론 최적화에 대한 니즈를 보유하고 있는 스마트폰, 자동차, AR/VR, 보안, 로보틱스, 노트북/PC, 가전 등의 다양한 분야 내 주요 업체들이 베타 테스트 시작 전부터 관심을 표하고 있다.
장한힘 에너자이 대표는 “2~3주 간격으로 업데이트를 진행해 하드웨어, 데이터 유형, 연산자 등 최적화 지원 범위를 확장해 나갈 계획”이라며 “이번 베타 테스트를 통해 Optimium의 기술 경쟁력을 시장에 알리고, 테스트 결과를 기반으로 고객들의 다양한 추론 최적화 니즈에 효과적으로 대응할 수 있는 제품을 완성할 것”이라는 포부를 밝혔다.
에너자이 소개
에너자이는 2019년 설립된 AI 스타트업이다. 에너자이는 하드웨어 리소스가 제한된 Edge 디바이스에서도 고성능, 저전력으로 구동할 수 있는 Edge AI 솔루션을 제공하는 스타트업으로, 세계적인 수준의 인공지능 모델 경량화 기술과 Low-level 코드 최적화 기술을 기반으로 한 Edge AI 솔루션을 스마트폰, 자동차, CCTV 등 다양한 분야의 기업들에게 제공하고 있다.
웹사이트: https://www.enerzai.com
-
-
2023년 11월 13일 16:30
-
-
2023년 8월 9일 11:20