什么是高效的邊緣 AI 系統(tǒng)？

在高效的邊緣 AI 系統(tǒng)中，DNN 無(wú)法自行運(yùn)行。高效的 AI 系統(tǒng)需要復(fù)雜的視覺(jué)流水線，通常包括單攝像頭或多攝像頭圖像處理、傳統(tǒng)計(jì)算機(jī)視覺(jué)，甚至可能包括多個(gè) DNN。一些應(yīng)用還可能需要視頻編碼器和解碼器。為了處理所有這些輸入，系統(tǒng)需要高性能計(jì)算。此外，系統(tǒng)可能需要增強(qiáng)的安全性和功能安全，因此系統(tǒng)復(fù)雜性和成本會(huì)有所增加。

高效的邊緣 AI 系統(tǒng)應(yīng)針對(duì)以下方面進(jìn)行優(yōu)化：

• 性能：嵌入式處理器必須能夠提供系統(tǒng)所需的速度、延遲和精度，同時(shí)即使在惡劣的環(huán)境中，也能可靠地運(yùn)行。
• 設(shè)計(jì)限制：嵌入式處理器必須能夠在具有功率和散熱限制的設(shè)計(jì)中運(yùn)行，包括無(wú)風(fēng)扇設(shè)計(jì)、被動(dòng)冷卻設(shè)計(jì)，或者需要依靠電池供電運(yùn)行更長(zhǎng)時(shí)間的設(shè)計(jì)。另外，為符合物理限制條件，處理器還必須滿足尺寸和重量規(guī)格要求。
• 成本：實(shí)現(xiàn)高性能且具有成本效益的處理，從而盡可能地降低物料清單 (BOM) 成本。

要構(gòu)建高效的邊緣 AI 系統(tǒng)，設(shè)計(jì)人員應(yīng)考慮哪種架構(gòu)和內(nèi)核最適合完成系統(tǒng)所需的任務(wù)。