由 AI 提供支持的應用，正在日益普遍地被部署到邊緣和終端，高性能 AI 推斷正在推動(dòng)更智慧的城市和高度自動(dòng)化的智能工廠(chǎng)步入現實(shí)。隨著(zhù)智能零售引入了極為精致的自動(dòng)化購物體驗，零售體驗也變得更加精巧細膩。這些應用需要具備極高可靠性并提供高性能，同時(shí)也需要提供高效緊湊的外形尺寸。

 

邊緣處理難題

 

在邊緣部署系統時(shí)，功耗、占板面積和成本都是制約因素。在邊緣處理的種種限制條件下，處理需求的不斷提高，意味著(zhù)提供所需的性能水平將面臨更大的挑戰。雖然 CPU 在邊緣計算上也有發(fā)展，但近年來(lái)的增長(cháng)速度有所放緩。在為新一代AI 支持的邊緣應用交付所需性能時(shí)，未加速的 CPU 表現得相當勉強，特別是考慮到嚴格的時(shí)延要求。

 

當在邊緣上實(shí)現前沿 AI 應用時(shí)，領(lǐng)域專(zhuān)用架構 (DSA) 是關(guān)鍵。此外，DSA 還提供確定性和低時(shí)延。

 

合適的 DSA 專(zhuān)門(mén)設計用于高效處理所需數據，既有 AI 推斷，也有非 AI 部分的應用，也就是整體應用的加速?？紤]到 AI 推斷需要非 AI 的預處理和后處理，這些都需要更高的性能，這一點(diǎn)很重要。從根本上說(shuō)，要在邊緣上（和其他地方）實(shí)現由 AI 提供支持的高效應用，需要整體應用的加速。

 

如同任何固定功能的芯片解決方案一樣，為 AI 邊緣應用開(kāi)發(fā)的應用專(zhuān)用標準產(chǎn)品 (ASSP) 仍有自己的局限性。主要挑戰在于 AI 創(chuàng )新的速度異乎尋常。與非 AI 技術(shù)相比，AI模型的過(guò)時(shí)速度會(huì )快得多。使用固定功能的芯片器件實(shí)現 AI，會(huì )因更新型、更高效AI 模型的出現而迅速過(guò)時(shí)。固定功能芯片器件的流片需要花費數年時(shí)間，到那時(shí) AI 模型的前沿技術(shù)將已經(jīng)向前發(fā)展。此外，對于邊緣應用，安全和功能安全要求的重要性也在提高，可能經(jīng)常需要成本高昂的現場(chǎng)更新。

 

自適應計算的前景

 

自適應計算包含能夠針對具體應用進(jìn)行優(yōu)化的硬件，例如現場(chǎng)可編程門(mén)陣列 (FPGA)，它是一個(gè)功能強大的解決方案，專(zhuān)門(mén)用于基于A(yíng)I 的邊緣應用。

 

此外，新的自適應硬件也層出不窮，包括含有 FPGA 架構并與一個(gè)或多個(gè)嵌入式 CPU 子系統耦合的自適應片上系統 (SoC)。然而自適應計算遠不止“純硬件”。它整合了一套綜合而全面的設計軟件和運行時(shí)軟件。將它們結合起來(lái)，就形成了一種獨特的自適應平臺，可在其上構建非常靈活高效的系統。

 

用自適應計算實(shí)現 DSA，可避免使用 ASIC 等定制芯片器件所需的設計時(shí)間和前期成本。這樣就能為任何特定領(lǐng)域應用，包括基于 AI的邊緣應用，迅速部署經(jīng)過(guò)優(yōu)化的靈活的解決方案。自適應SoC 是此類(lèi)領(lǐng)域專(zhuān)用處理的理想選擇，因為它們既擁有綜合全面的嵌入式CPU 子系統的靈活性，又具備自適應硬件的優(yōu)異的數據處理能力。

 

推出自適應模塊化系統 — SOM

 

模塊化系統 (SOM) 提供完整的、可量產(chǎn)的計算平臺。與從芯片級從頭開(kāi)發(fā) （chip-down development）相比，這種方法能節省可觀(guān)的開(kāi)發(fā)時(shí)間與成本。SOM 能夠插入到較大的邊緣應用系統內，從而既可以提供定制實(shí)現方案的靈活性，又可以提供現成解決方案的易用性和更快的上市速度。這些優(yōu)勢讓  SOM  成為邊緣  AI  應用的理想平臺。然而，要實(shí)現現代化AI 應用所需的性能，加速必不可少。

 

某些應用需要定制硬件組件與自適應 SoC 接口連接，意味著(zhù)需要從芯片級從頭設計 （Chip-down design）。然而，越來(lái)越多基于 AI 的邊緣應用，需要相似的硬件組件和接口，甚至在終端應用迥異的時(shí)候也是如此。隨著(zhù)企業(yè)轉向標準化接口和通信協(xié)議，盡管處理需求顯著(zhù)不同，但同一套組件可適用于各種類(lèi)型的應用。

 

面向基于 AI 的邊緣應用的自適應 SOM， 結合了自適應 SoC與行業(yè)標準接口和組件，使得硬件經(jīng)驗有限甚至沒(méi)有硬件經(jīng)驗的開(kāi)發(fā)者也可以獲益于自適應計算技術(shù)。自適應SoC 既能實(shí)現 AI 處理，也能實(shí)現非 AI 處理，也就是說(shuō)其可以滿(mǎn)足整體應用的處理需求。

 

此外，自適應 SOM 上的自適應 SoC 支持高度的定制化。它的設計目的，是集成到更大型的系統內并使用預定義的外形尺寸。使用自適應 SOM，可以全面發(fā)揮自適應計算的優(yōu)勢，同時(shí)避免了從芯片級從頭開(kāi)始的芯片設計。自適應 SOM 只是解決方案的一個(gè)部分。軟件也是關(guān)鍵。

 

采用自適應 SOM 的企業(yè)，能廣泛受益于性能、靈活性和快速開(kāi)發(fā)時(shí)間的獨特組合。無(wú)需構建自己的電路板，他們就能夠享受自適應計算提供的各種優(yōu)勢 — 這個(gè)優(yōu)勢，最近才隨著(zhù)賽靈思Kria™自適應 SOM 產(chǎn)品組合的推出在邊緣得以實(shí)現。

Kria K26 SOM 構建在 Zynq® UltraScale+™ MPSoC 架構頂端，搭載四核 Arm® Cortex™-A53  處理器，超過(guò)25萬(wàn)個(gè)邏輯單元和一個(gè) H.264/265 視頻編解碼器。此外，該 SOM 還搭載4GB的DDR4存儲器、69  個(gè) 3.3V I/O 和 116 個(gè) 1.8V I/O，使之能夠適配幾乎任何處理器或接口。憑借1.4TOPS的AI算力，與基于 GPU 的 SOM 相比，Kria K26 SOM 助力開(kāi)發(fā)者開(kāi)發(fā)出時(shí)延和功耗更低，性能高 3 倍的視覺(jué) AI 應用。這對安保、交通與市政攝像頭、零售分析、機器視覺(jué)和視覺(jué)引導機器人等智能視覺(jué)應用，可謂是重大福音。通過(guò)標準化系統核心部分，開(kāi)發(fā)者擁有更多時(shí)間專(zhuān)心開(kāi)發(fā)自己的專(zhuān)屬特性，從而在市場(chǎng)競爭中實(shí)現技術(shù)差異化。

 

與軟件可以更新但受到固定加速器限制的其他邊緣 AI 產(chǎn)品不同，Kria SOM 在兩個(gè)方面提供靈活性，即軟件和硬件都能在今后更新。用戶(hù)能夠適配 I/O 接口、視覺(jué)處理和 AI 加速器，為以下的部分或全部應用提供支持：MIPI、LVDS 和SLVS-EC 接口；適用于日間或夜間的高質(zhì)量專(zhuān)用高動(dòng)態(tài)范圍成像算法；8 位深度學(xué)習處理單元；或未來(lái)的 4 位甚至是 2 位深度神經(jīng)網(wǎng)絡(luò )方法。多模傳感器融合與實(shí)時(shí) AI 處理的結合，如今已經(jīng)非常容易實(shí)現，可以從賽靈思 KV260 視覺(jué) AI 入門(mén)套件開(kāi)始設計，通過(guò) Kria K26 SOM 部署到生產(chǎn)中。

 

Kria KV260 視覺(jué) AI 入門(mén)套件

 

面向軟硬件開(kāi)發(fā)者提供的優(yōu)勢

 

自適應 SOM 同時(shí)讓硬件開(kāi)發(fā)者和軟件開(kāi)發(fā)者受益。對于硬件開(kāi)發(fā)者，自適應 SOM 提供了現成的、可量產(chǎn)的解決方案，從而節省了大量的開(kāi)發(fā)成本與開(kāi)發(fā)時(shí)間。此外，這些器件也允許硬件團隊在流程后期變更設計，而基于固定功能芯片技術(shù)的 SOM 則無(wú)法實(shí)現。

 

對于 AI 開(kāi)發(fā)者和軟件開(kāi)發(fā)者來(lái)說(shuō)，自適應計算比過(guò)去更容易應用。賽靈思為確保自適應計算的易用性，對工具流進(jìn)行了大量投資。通過(guò)將軟硬件平臺與可量產(chǎn)的視覺(jué)加速應用相結合，Kria SOM 產(chǎn)品組合的推出將這種易用性提升到全新水平。這些交鑰匙應用取消了所有 FPGA 硬件設計工作，只需要軟件開(kāi)發(fā)者集成他們的定制 AI 模型、應用代碼并有選擇地修改視覺(jué)流水線(xiàn)。在 Vitis™ 統一軟件開(kāi)發(fā)平臺和庫支持下，他們可以使用熟悉的設計環(huán)境，如 TensorFlow、Pytorch 或 Caffe 框架以及 C、C++、OpenCL™ 和 Python 編程語(yǔ)言。

 

通過(guò)這種面向軟件設計的新的加速應用范式，賽靈思還面向邊緣應用推出了首個(gè)嵌入式應用商店，為客戶(hù)提供來(lái)自賽靈思及其生態(tài)系統合作伙伴的豐富多樣的 Kria SOM 應用選擇。賽靈思解決方案屬于免費提供的開(kāi)源加速應用，包含智能攝像頭、人臉檢測、帶有智能視覺(jué)輔助的自然語(yǔ)言處理等多種應用。

 

靈活應變的未來(lái)

 

AI 模型將繼續以高速步伐向前演進(jìn)發(fā)展。這意味著(zhù)加速平臺必須能夠靈活應變，才能在現在和未來(lái)以最佳方式實(shí)現 AI 技術(shù)。實(shí)際上，SOM 提供了理想的邊緣處理平臺。與自適應 SoC 相結合，SOM 為由 AI 提供支持的應用，提供了綜合全面、可量產(chǎn)的平臺。采用這類(lèi)器件的企業(yè)能廣泛受益于性能、靈活性和快速開(kāi)發(fā)時(shí)間的獨特組合，并從自適應計算種收獲豐厚的回報。

（來(lái)源：賽靈思，作者：Evan Leal，電路板與套件產(chǎn)品營(yíng)銷(xiāo)總監 ）