高通交付首批Cloud AI 100加速器和邊緣方案開發套件:從終端到云端 AI 的聯合
在 2019 年 4 月,高通公司發布了一款專用于云端 AI 加速的處理器 Qualcomm Cloud AI 100,采用 7nm 工藝,性能比當時業界最先進的 AI 推理解決方案高出 10 倍以上。
而在 2020 年 9 月 16 日,高通宣布 AI 推理加速器 Cloud AI 100 已經面向全球部分客戶出貨。
高通 Qualcomm Cloud AI 100 加速器擁有先進的信號處理能力和領先的能效,能夠支持諸多運行環境對于 AI 解決方案的需求,包括數據中心、云端邊緣、邊緣設備和 5G 基礎設施等。
而全新宣布的 Qualcomm Cloud AI 100 邊緣方案開發套件通過提供一整套面向 AI 處理的系統級解決方案,支持高達 24 路的 1080p 視頻流和 5G 連接,旨在加速邊緣應用的普及。
硬件方面,Qualcomm Cloud AI 100 支持高達 400TOPS 的 AI 算力,同時在 7nm 工藝的加持下,擁有出色的性能功耗比,旨在提供業界領先的 AI 推理效率。Qualcomm Cloud AI 100 還支持從 15W 到 75W 功率的多種設備形態,其中包括 PCI-E 卡。
至于 Qualcomm Cloud AI 100 軟件套件,其中包含一套完整的工具棧,并支持 Tensorflow、PyTorch 和 Caffe 等主流框架,以及 GLOW 和 ONNX 等 runtimes。
該軟件套件包括具備編譯器和模擬器的 Qualcomm Cloud AI 100 應用 SDK,以及具備 runtimes、API、內核驅動程序和工具的平臺 SDK,旨在支持 Qualcomm Cloud AI 100 平臺在多個運行環境中的開發、測試及部署。
Qualcomm Cloud AI 100 開發套件由三個模組化的 Qualcomm 組件構成:
- Qualcomm Cloud AI 100
- 標簽:龍將顧問論壇
- 編輯:馬可
- 相關文章