iWave의 Versal AI Edge 기판에서 Vitis AI NPU를 활용하여 더욱 빠른 에지 AI 추론 가능

에지 인공 지능(AI)은 임베디드 시스템이 실시간 데이터를 처리하고 이에 대응하는 방식을 빠르게 변화시키고 있습니다. 이처럼 증가하는 에지 인텔리전스에 대한 수요를 충족하기 위해 iWave Global은 Versal™ AI Edge VE2302 시스템 온 모듈(SoM)과 평가 플랫폼에 Vitis AI NPU(신경 처리 장치)를 성공적으로 통합했습니다.

이번 통합은 고성능, 전력 효율, 초저 대기 시간 AI 추론 솔루션으로 개발자의 역량을 강화하고자 하는 iWave의 노력을 보여줍니다. iW-RainboW-G57D SoM을 기반으로 구축된 이 플랫폼은 실시간 개체 감지와 같은 복잡한 AI 워크로드를 가속화하여, 데이터가 생성되는 위치 가까이에 에지 인텔리전스를 제공합니다.

Vitis AI: AI 워크로드에 FPGA 가속화 제공

Vitis AI는 Versal Adaptive SoC를 포함한 FPGA 기반 하드웨어 플랫폼을 위해 설계된 AMD의 통합 AI 추론 소프트웨어 스택입니다. GPU용으로 학습된 AI 모델을 큰 재작업 없이 FPGA 아키텍처로 원활하게 마이그레이션할 수 있습니다.

TensorFlow, PyTorch, ONNX, Caffe 등 널리 사용되는 딥 러닝 프레임워크를 지원하는 Vitis AI를 활용하여, 개발자는 병렬 처리와 저전력에 최적화된 하드웨어에 학습된 신경망을 효율적으로 배포할 수 있습니다.

그 결과, FPGA 유연성과 특수 신경 가속기의 성능을 결합한 AI 가속 파이프라인이 탄생했으며, 이는 대기 시간이 중요한 에지 애플리케이션에 이상적입니다.

시스템 개요 및 데모 설정

iWave의 VE2302 Versal AI Edge 평가 키트에서 실행되는 Vitis AI NPU의 라이브 데모는 실시간 개체 감지 기능을 실현합니다.

데모 부품:

• iWave VE2302 Versal AI Edge 개발 키트
• HDMI 디스플레이
• 실시간 동영상 입력을 위한 USB 웹캠
• 12V/5A 전원 공급 장치 및 디버그 케이블

AI 추론을 위한 데이터 흐름 프로세스

iW-RainboW-G57D의 AI 추론 워크플로는 VART X API 모듈을 활용하며, 실시간 처리를 위해 구조화되어 있습니다. NPU 애플리케이션을 실행하기 위한 스크립트가 SoM에서 생성됩니다. 이 스크립트는 USB 카메라를 사용하여 동영상을 캡처하고 이를 NV12 형식으로 변환합니다. 그런 다음 변환된 비디오는 NPU에 의해 처리되고 감지된 개체는 HDMI 디스플레이에서 강조 표시됩니다.

데이터 흐름 프로세스는 다음과 같습니다.

실시간 데모 실행 중

VE2302 Versal AI Edge SoM에서 실시간 개체 감지를 경험해 보세요! iWave 전문가가 정확하고 효율적인 개체 감지를 위해 NPU IP를 사용하는 AI 추론을 시연하는 데모를 여기에서 시청하실 수 있습니다.

에지 AI를 위해 Versal AI Edge를 선택해야 하는 이유

AMD의 Versal AI Edge 제품군은 프로그래밍 가능 논리, AI 엔진 및 이기종 프로세싱 시스템을 모두 하나의 칩에 통합한 제품입니다. 이 아키텍처는 결정론적 실시간 제어를 유지하면서 하나의 플랫폼에서 센서 융합, 비전 분석 및 AI 추론을 가능하게 합니다.

주요 특징은 다음과 같습니다.

• AI 엔진 및 비전, 레이더 및 LiDAR 워크로드를 위한 DSP 엔진
• Native MIPI 지원(최대 8MP 해상도)
• 다양한 AI 및 신호 처리 작업을 위한 단정밀도 및 반정밀도 부동 소수점 지원

AI 컴퓨팅과 프로그래밍 가능 논리의 결합은 로봇 공학에서 산업 자동화에 이르기까지 광범위한 에지 AI 사용 사례를 위한 확장 가능한 기반을 제공합니다.

iWave의 Versal AI Edge 시스템 온 모듈의 특징

• VE2302/VE2202/VE2102/VE2002 장치와 호환 가능
• 이중 코어 Arm Cortex-A72 및 Cortex-R5F 프로세서
• 최대 328K 논리 셀 및 150K LUT
• 32Gbps에서 8개의 GTYP 트랜시버
• 최대 8GB LPDDR4 RAM 및 128GB eMMC 스토리지
• 확장을 위한 듀얼 240핀 고속 커넥터
• 연결성: PCIe Gen4, 이더넷, USB 3.0

작고 견고한 SoM은 40G 이더넷, MIPI 카메라 인터페이스, 122개의 구성 가능한 I/O를 지원하므로, 고속 데이터 이동과 실시간 추론이 필요한 에지 AI 시스템에 원활하게 통합할 수 있습니다.

실제 응용 분야

iWave의 Versal AI 엣지 SoM에 탑재된 Vitis AI NPU는 다양한 산업 분야에서 새로운 기회를 열어줍니다.

• 스마트 감시: 지능형 모니터링을 위한 실시간 개체 및 얼굴 인식
• 자동차 & ADAS: 교통 표지판 및 보행자에 대한 고속 감지
• 산업 자동화: 결함 감지 및 예측 유지보수를 위한 온디바이스 분석
• 헬스케어: AI 기반 진단 영상 및 환자 모니터링
• 스마트 리테일: 자동 결제 및 고객 분석
• 스마트 시티: 실시간 동영상 분석을 이용한 적응형 교통 관리

이 솔루션은 높은 처리량의 AI 처리와 전력 효율을 모두 제공하므로, 밀리초가 중요한 환경에서 정밀한 실시간 성능을 제공합니다.

에지 AI 도구로 개발자의 역량 강화

iWave는 소프트웨어 툴, 라이브러리, 기판 지원 패키지(BSP)를 모두 제공하여 Versal 플랫폼에서 AI 개발 주기를 간소화합니다. Vitis AI, OpenCV 및 Linux 기반 개발을 지원하므로 엔지니어는 AI 워크로드를 더 빠르게 배포, 테스트 및 최적화할 수 있습니다.

포괄적인 설명서, 장기적인 가용성(10년 이상), ODM 설계 서비스를 바탕으로, iWave는 고객이 시제품 제작에서 생산까지 자신 있게 확장할 수 있도록 지원합니다.

iWave Global은 신뢰할 수 있는 엔지니어링 솔루션 제공업체로, 산업, 자동차, 의료 및 방위 시장을 위한 FPGA 기반 시스템 온 모듈(SoM) 및 ODM 설계 서비스를 전문으로 합니다. iWave는 수십 년간 축적된 임베디드 전문 지식을 활용하여 안정적이고 확장 가능한 고성능 하드웨어 플랫폼을 통해 에지에서 혁신을 실현합니다.

Versal AI Edge SoM이 AI 혁신을 지원하는 방법을 알아보려면 www.iwave-global.com 또는 mktg@iwave-global.com으로 문의하세요.