谷歌KDD'23工作：如何提升推薦系統Ranking模型訓練穩定性
谷歌在KDD 2023發表了一篇工作，探索了推薦系統ranking模型的訓練穩定性問題，分析了造成訓練穩定性存在問題的潛在原因，以及現有的一些提升模型穩定性方法的不足，并提出了一種新
8月30日消息，阿里云宣布正式推出全棧智能計算解決方案“飛天智算平臺”，并啟動兩座超大規模智算中心，以公共云和專有云兩種模式，為各類科研、公共服務和企業機構提供強大的智能計算服務，可將計算資源利用率提高3倍以上，AI訓練效率提升11倍，推理效率提升6倍。
據悉，飛天智算平臺提供基于阿里云磐久基礎設施的融合算力和大數據AI一體化平臺整體解決方案，可以運行在X86、GPU、ARM等多種芯片類型的服務器上，實現“一云多芯”，并以最高10倍IO優化和5倍通信性能優化，實現90%的千卡并行計算效率。
阿里云智能全球銷售總裁蔡英華表示，智算不僅在于規模大，更是需要綠色、高效并且具備產業實踐。
綠色技術方面，飛天智算在技術減排、能源結構優化、區域布局優化、供應鏈減碳以及資源利用優化五個方面來降低單位算力的碳排放。在技術減排方面，通過液冷、電源技術以及智能運維等方式降低能耗，PUE最低可達1.09。
同時，開發人員可以在平臺上進行數據存儲、數據治理、數據分析、模型開發、模型訓練與推理的工作。并提供了預訓練模型，以及語音，圖像、自然語言處理、決策等領域的模型能力，以方便開發者更好的加速AI應用的開發。
目前，該平臺正在支撐建設兩座超大規模智算中心。其中，張北智算中心建設規模為12 EFLOPS（每秒1200億億次浮點運算）AI算力，將超過谷歌的9 EFLOPS和特斯拉的1.8 EFLOPS，成為全球最大的智算中心。烏蘭察布智算中心建設規模為3 EFLOPS（每秒300億億次浮點運算）AI算力，位于“東數西算”內蒙古樞紐節點。
據介紹，飛天智算平臺已在阿里內部廣泛應用，支撐阿里AI日均1萬億次調用，服務全球10億人。其中，拍立淘訓練速度提升了200倍，10億張圖片全量訓練時間從2.5個月縮短到8小時。達摩院大模型M6僅使用512張GPU，在10天內就完成了10萬億參數模型訓練，能耗僅為GPT-3在同等參數規模下的1%。
同時，飛天智算平臺已服務了小鵬汽車、深勢科技、上汽集團、中國氣象局、南方電網等機構和企業，支撐自動駕駛、新藥研發、氣象預測、工業能源等行業大幅提升AI訓練效率。
本文鏈接：http://www.yifxia.cn/showinfo-119-2443-0.html阿里云發布飛天智算平臺 可將AI訓練效率提升11倍
聲明：本網頁內容旨在傳播知識，若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。郵件：2376512515@qq.com
Copyright ? 2016-2023 天津谷騏科技有限公司 版權所有 sitemap.xml
違法及侵權請聯系：2376512515@qq.com 津ICP備18001702號
津公網安備 12010102000574號