視覺AI MPU-高算力、低功耗、實時性常見問題

嵌入式專欄

轉自 | 瑞薩嵌入式小百科

之前由瑞薩主辦了關于“瑞薩RZ/V2H視覺AI MPU-高算力、低功耗、實時性”在線研討會。然后今天分享一下視覺AI MPU-高算力、低功耗、實時性常見的問題。Q1
RZ/V2H高算力主要體現(xiàn)在哪些方面?
集成四核Arm? Cortex?-A55 （1.8GHz） Linux處理器以及瑞薩自有DRP-AI3加速器，提供高達8 TOPS（dense模型）/80 TOPS（sparse模型）的AI推理能力。

Q2
RZ/V2H如何兼顧低功耗和高性能呢？
瑞薩利用自己的DRP核心IP做AI的運算。實現(xiàn)8 TOPS（dense模型）/80 TOPS（sparse模型）AI算力以及10 TOPS/W的高能效。

軟、硬結合系統(tǒng)性地實現(xiàn)AI模型的高算力和低功耗

模型量化：從傳統(tǒng)的16位浮點運算更改為8位整數(shù)運算

模型裁剪：采用靈活的N:M修剪方法AI系統(tǒng)架構實現(xiàn)高功效

通過數(shù)據(jù)重用技術減少外部存儲器通信

使用輸入的零數(shù)據(jù)控制功耗

操作流程調度

Q3
Sparse和dense模型是有什么區(qū)別？
Dense是稠密算法，通常來講大部分原生模型都是Dense類型，它的模型參數(shù)較多，精度高，同時消耗較高的算力。Sparse是對原生模型進行分支裁剪，將復雜模型進行簡化來減少模型參數(shù)，這樣可以在同樣算力的平臺上運行Sparse模型來達到更高的幀率。用戶可以根據(jù)調節(jié)剪枝系數(shù)，來滿足對幀率和精度綜合要求。

Q4
RZ/V2H相關資料在哪里查閱?
RZ/V2H已量產上市，在RZ/V2H主頁可以獲得產品介紹、用戶手冊、開發(fā)板及開發(fā)板設計、軟件及開發(fā)工具以及相關視頻培訓等內容。

RZ/V2H產品頁：
https://www.renesas.cn/cn/zh/products/microcontrollers-microprocessors/rz-mpus/rzv2h-quad-core-vision-ai-mpu-drp-ai3-accelerator-and-high-performance-real-time-processor
Renesas RZ/V AI應用網(wǎng)站https://renesas-rz.github.io/rzv_ai_sdk/latest/Q5
使用DRP-AI進行開發(fā)需要哪些軟件工具和環(huán)境資源？
瑞薩提供全套開發(fā)的AI SDK軟件包，AI開發(fā)工具及AI應用一站式網(wǎng)站，即使是AI剛入門的用戶，也可以利用AI應用一站式網(wǎng)站提供的資源和指導來開發(fā)相應的AI應用。

RZ/V2H AI Software Development Kit
https://www.renesas.cn/cn/zh/software-tool/rzv2h-ai-software-development-kit

AI開發(fā)工具
1
DRP-AI Translator
DRP-AI Translator i8
https://www.renesas.cn/cn/zh/software-tool/drp-ai-translator-i8

經過調整以最大限度地提高DRP-AI性能的工具

AI模型的所有操作都可以由DRP-AI執(zhí)行，從而實現(xiàn)高速性能，并降低CPU負載
2
DRP-AI TVM
github - renesas-rz - rzv_drp-ai_tvm
https://github.com/renesas-rz/rzv_drp-ai_tvm

支持多個AI框架（ONNX、PyTorch、TensorFlow等）

此外，它還支持與CPU一起運行，從而可以運行更多的AI模型
3
DRP-AI EXTENSION（支持V2H）
DRP-AI Extension Pack (Pruning Tool)
https://www.renesas.cn/cn/zh/software-tool/drp-ai-extension-pack-pruning-tool

DRP-AI擴展包，用于在AI模型訓練環(huán)境中創(chuàng)建稀疏模型

瑞薩電子提供豐富的AI應用一站式網(wǎng)站指南。在這網(wǎng)站內，易于查找和獲取所需的AI應用程序以及免費的預訓練庫資源。
Renesas RZ/V AI應用網(wǎng)站
https://renesas-rz.github.io/rzv_ai_sdk/latest/

------------ END ------------


單片機和PHY芯片連接時的注意事項


瑞薩RA8系列教程 | RA8輸出PWM實現(xiàn)方法


Cortex-M3與M85單片機的SysTick使用上有區(qū)別嗎？