為什么邊緣設備和計算中的AI應用是未來?

變革一直是發展不可或缺的一部分。隨著技術的飛速發展，公司也需要自己接受這些技術，以實現最大的收益。就像我們目睹了計算從大型機向云計算的轉變一樣，人工智能(AI)正在移向邊緣IoT設備和網絡。隨著數據的不斷增長，我們需要選擇將數據存儲和數據計算放置在設備上。高通，NVIDIA和英特爾等公司正在幫助我們實現這一現實。

盡管邊緣站點計算系統比中央數據中心的系統要小得多，但是它們已經成熟，并且由于當今x86商用服務器的處理能力的巨大增長，現在已經成功運行了許多工作負載。此外，如果應用程序對延遲敏感，則Edge是更好的選擇。更好的隱私性、安全性、低延遲和帶寬是邊緣平臺的一些特點。

什么是邊緣人工智能?

它指的是在硬件設備上本地處理的AI算法。它也被稱為設備上AI。這使您可以在不到幾毫秒的時間內使用設備處理數據，從而為您提供實時信息。使用Edge AI，人們可以從設備上的應用程序獲得她想要的個性化功能。

根據IDC的預測，到2023年，Edge AI軟件市場預計將從2018年的3.55億美元增長到1.12萬億美元。IDC研究總監Dave McCarthy說：“ AI是邊緣計算中最常見的工作負載。隨著物聯網實施的成熟，人們對在生成點應用人工智能進行實時事件檢測的興趣與日俱增。”

云端邊緣

當前，AI處理是在需要大量計算能力的基于云的數據中心中使用深度學習模型完成的。延遲是云環境或由云支持的物聯網設備面臨的最常見問題之一。此外，在將數據傳輸到云期間，始終存在數據被盜或泄漏的風險。使用edge可以對數據進行整理，然后再將其發送到遠程位置進行進一步分析。此外，邊緣人工智能將實現智能物聯網管理。

在基于邊緣的體系結構中，推理在設備上本地發生。這樣可以減少流回云的網絡流量，同時將IoT設備的響應時間縮短到最短，從而使管理決策可在本地使用，并靠近具有眾多優勢的設備。

Edge AI需求的驅動因素：

有幾個因素要求將AI處理推向邊緣：

實時的客戶參與度與用戶或設備位置無關，例如使用設備上的在線支付，監控鍛煉活動。 能夠在邊緣設備上運行大規模DNN模型。幾種框架和技術都支持模型壓縮，包括Google的TensorFlow Lite、Facebook的Caffe2Go，蘋果的CoreML、Nervana的神經網絡蒸餾器和SqueezeNet。 快速處理和分析物聯網傳感器數據。 降低Edge平臺的帶寬成本。

邊緣設備產品：

根據AI應用程序和設備類別，有幾種用于執行AI邊緣處理的硬件選項。選件包括中央處理器(CPU)、GPU、專用集成電路(ASIC)、現場可編程門陣列(FPGA)和片上系統(SoC)加速器。邊緣在大多數情況下指的是設備，不包括網絡集線器或微型數據中心，除非其中包括網絡錄像機(NVR)的安全攝像機。

排名前三的邊緣產品是：

Nvidia Jetson Nano： 英特爾神經計算棒2代 Google Edge TPU開發板

NVIDIA?Jetson Nano?開發人員工具箱是使用最廣泛且最受歡迎的工具，可提供計算性能，以前所未有的大小，功能和成本運行現代AI工作負載。開發人員，學習者和制造商現在可以為圖像分類、對象檢測、分段和語音處理等應用程序運行AI框架和模型。它還包括板支持包(BSP)、Linux OS、NVIDIACUDA?、cuDNN和TensorRT?軟件庫，用于深度學習，計算機視覺，GPU計算，多媒體處理等。該軟件甚至可以使用易于刷新的SD卡映像來使用，從而使其快速，容易上手。

其他值得注意的包括NVIDIA Jetson TX1，TX2，TX2i(可承受更高的振動，溫度和濕度范圍以及灰塵)，適用于RISC-V AI + IoT的Sipeed Maixduino套件、Raspberry Pi 4計算機模型B、Coral開發板等。

實際應用：

毫無疑問，邊緣人工智能將改變我們的未來。公司和公司已經開始合并它，以向客戶提供高效且無憂的體驗。其中一些實例是：

萬豪國際集團與三星和羅格朗(Legrand)合作，使用物聯網和邊緣AI創造了世界上第一個啟用物聯網的酒店客房。這些房間在多個位置具有高度個性化，可讓客戶根據應用程序中存儲的信息完全按需設置房間。 日本汽車制造商豐田公司正在利用為汽車制造而設計的現有AI邊緣機器人技術，以幫助行動不便的人。 自主交付系統，例如亞馬遜的交付無人機和多米諾機器人，利用計算機視覺來導航障礙物并有效地優化路線。兩家公司使用Edge AI來提供數據，地理位置，預測的時間范圍和個性化更新。 相反，工廠中具有AI功能的邊緣計算系統可以將多臺計算機的數據關聯起來，以檢測并最終預測導致停機的問題。 Expensify的虛擬助手Concierge可協助公司自動進行費用報告和差旅安排。它可以通知客戶實時價格變化，甚至可以代表他們提交收據。

邊緣人工智能的用途和潛力因行業和公司而異。雖然基于邊緣的推理已經被證明是云計算的一個更好的選擇，但是在這一領域還有很多工作要做。