含光800
含光800
含光800是阿里巴巴推出的第一顆AI晶元。在業界標準的ResNet-50測試中,含光800推理性能達到78563 IPS。
含光為上古三大神劍之一,該劍含而不露,光而不耀,正如含光800帶來的無形卻強勁的算力。在杭州城市大腦的業務測試中,1顆含光800的算力相當於10顆GPU。
含光800將通過阿里雲對外輸出AI算力。基於含光800的AI雲服務當天正式上線,相比傳統GPU算力,性價比提升100%。
含光800性能的突破得益於軟硬體的協同創新:硬體層面採用自研晶元架構,通過推理加速等技術有效解決晶元性能瓶頸問題;軟體層面集成了達摩院先進演演算法,針對CNN及視覺類演演算法深度優化計算、存儲密度,可實現大網路模型在一顆NPU上完成計算。
光800已開始應用在阿里巴巴內部核心業務中。
根據雲棲大會的現場演示,在城市大腦中實時處理杭州主城區交通視頻,需要40顆傳統GPU,延時為300ms,使用含光800僅需 4顆,延時降至150ms。拍立淘商品庫每天新增10億商品圖片,使用傳統GPU算力識別需要1小時,使用含光800后可縮減至5分鐘。