谷歌推出首款終端AI芯片Edge TPU，發力IoT市場

　　7月26日消息，谷歌于美國當地時間周三發布了用于邊緣計算的新版AI芯片——微型AI加速器Edge TPU，可實現物聯網設備上的機器學習模型運算。

　　兩年前，谷歌推出可以輕松完成AI任務的張量處理單元TPU(Tensor Processing Units)。隨著連接設備的爆炸性增長，以及對隱私、機密性、低延遲和帶寬限制的需求，谷歌正將AI模型從云端轉移到終端。Edge TPU作為Cloud TPU處理器的簡化版本，將谷歌云的AI功能移植到物聯網上，使傳感器等設備能更快更便捷地處理數據。

　　一、把AI帶到邊緣：Edge TPU

　　Edge TPU是谷歌專門設計的ASIC芯片，用于在邊緣設備上運行TensorFlow Lite ML模型進行推理。它在較小的物理和功耗范圍內提供高性能，并在邊緣部署高精度AI，能夠使用戶以高效率的方式在高分辨率視頻上以每秒30幀的速度同時執行多幀最先進的AI模型。Cloud IoT產品管理部門負責人Antony Passemard表示，Edge TPU的大小比1美分還要小許多。

　　目前，在為顯示面板生產玻璃的過程中，該檢測設備每秒可處理200多張玻璃圖像。

　　▲Edge TPU和Cloud TPU對比

　　作為Cloud TPU互補的產品，Edge TPU向用戶提供端到端和云端到端的硬件+軟件AI基礎架構，以便于部署基于AI的解決方案。不同于Cloud TPU，它只用于機器學習推理，不用于相關模型訓練，因此可以以超低功率的方式進行計算，適合物聯網設備采用。Edge TPU使用的軟件和服務是Cloud IoT Edge和物聯網操作系統Android Things。它可以使用TensorFlow Lite和NN API兩種機器學習框架，以及Edge TPU、GPU和CPU三種硬件加速器。憑借其高性能、小尺寸和低功耗的特點，Edge TPU能在邊緣設備上實現本地實時進行高質量的AI運算。

　　這款芯片不僅僅是一個硬件解決方案。它結合了定制硬件、開放軟件和最先進的AI算法，為邊緣提供高質量、易于部署的AI解決方案。

　　Edge TPU具有較高的每瓦性能和較小的占地面積，可實現廣泛的工業用例，例如預測性維護，異常檢測，機器視覺，機器人，語音識別等等。它可以被應用在制造、醫療保健、零售、智能空間、運輸等。

　　二、Edge TPU的配套軟件：Cloud IoT Edge

　　谷歌還推出了Cloud IoT Edge軟件平臺，可將訓練好的機器學習模型移植到邊緣計算基礎設施的設備上運行。該平臺有兩個關鍵組件。

　　其一是Edge IoT Core。這是Azure IoT Edge設備管理器和協議網關，可將邊緣設備安全地連接到云、啟用軟件和固件更新，以及使用Cloud IoT Core管理數據交換。

　　其二是Edge ML。它是TensorFlow Lite ML工具的精簡版，在本地運行預先訓練好的TensorFlow Lite ML模型，可以顯著提高邊緣設備的處理能力和多功能性。這使得下一波機器學習應用程序和用例成為可能。

　　此外，該平臺還利用了谷歌專用的硬件加速器ASIC芯片Edge TPU TM。

　　▲Cloud IoT Edge的工作原理

　　Cloud IoT Edge將谷歌云強大的數據處理和機器學習擴展到數十億邊緣設備，如機器人手臂、風力渦輪機和石油鉆井平臺等，因此他們可以實時處理來自傳感器的數據并在本地預測結果。Cloud IoT Edge可在Android Things或基于Linux的操作系統上運行。

　　結語：打通Edge TPU的生態

　　為了實現Edge TPU的快速開發和測試，谷歌為開發者提供了開發套件Edge TPU development kit。該套件包括一個模塊化系統(SOM)，結合 Edge TPU、NXP CPU、Wi-Fi 和 Microchip 等安全組件。該套件將在今年10月對開發者開放，也可以注冊申請提前訪問(申請鏈接：http://t.cn/ReLmOSK)。

　　此外，谷歌還推出了兩款AIY設備，即AIY Edge TPU開發板和AIY Edge TPU加速器。AIY Edge TPU開發板內置Edge TPU、NXP CPU處理器、集成GPU、8GB eMMC閃存、Wi-Fi功能和加密芯片。其長約3-4個10美元硬幣，寬約2-3個10元硬幣。

　　AIY Edge TPU加速器是一個帶了type-C接口的USB設備，內置Edge TPU處理器，可連接到Linux和Android Things系統，并支持在TensorFlow Lite框架下運行。

　　這兩款AIY設備暫無提前申請渠道，將在今年秋天上市。