英偉達：美團機器學習平臺使用NVIDIA T4 GPU
據英偉達官方消息，美團機器學習平臺使用 NVIDIA GPU，通過算子融合、計算圖等價替換等一系列優化 ，相較于 CPU 在相同成本約束下，NVIDIA T4 GPU 大幅加速美團 CTR(Click-Through-Rate)模型預測性能，神經網絡模型吞吐能力提升了 10 倍;同時在搜索精排場景中，端到端整體吞吐能力提升了一倍以上。
英偉達表示，美團的 CTR 模型過去一直在使用 CPU 推理的方式，但隨著用戶訪問量的提升和深度神經網絡的引入，CTR 模型結構趨于復雜，吞吐和計算量也越來越大，CPU 開始不能滿足模型對于算力的需求，而僅僅通過 CPU 服務器的堆疊帶來的性能提升性價比相較偏低。而 GPU 擁有數以千計的計算核心，可以在單機內提供密集的并行計算能力，特別適合深度學習場景，在行業內已經在 CV、NLP 等領域展示了強大的能力。通過 CUDA 及相關 API，NVIDIA 建立了完整的 GPU 生態系統。基于此，美團基礎研發平臺將 CTR 模型部署到 GPU 上，并通過一系列針對 CPU 與 GPU 的異構系統并行計算設計、數據存儲方式和傳輸方式上的特定優化。
NVIDIA Tesla T4 GPU 是一款推理加速器，搭載 NVIDIA Turing Tensor Core。官方稱，NVIDIA Tesla T4 GPU 具備人工智能推理的多精度計算性能，從 FP32 到 FP16 再到 INT8，又到 INT4 精度，T4 的性能比 CPU 高出 40 倍，實現性能的重大突破。【責任編輯/周末】
來源：IT時代網
IT時代網(關注微信公眾號ITtime2000，定時推送，互動有福利驚喜)所有原創文章版權所有，未經授權，轉載必究。
創客100創投基金成立于2015年，直通硅谷，專注于TMT領域早期項目投資。LP均來自政府、互聯網IT、傳媒知名企業和個人。創客100創投基金對IT、通信、互聯網、IP等有著自己獨特眼光和豐富的資源。決策快、投資快是創客100基金最顯著的特點。
TA的最新文章
熱門文章
精彩評論
小何華為現在牛的不只是設備商了，，華為的手機現在也是全球銷量不錯，國內也算是老大了，之前用小米，，現在都改華為了。。產品確實不錯。- 小何三星手機在中國還有市場嗎？看看現在滿大街的vivo和oppo ，，華為，，小米線下店，，就是知道三星的市場基本沒有了。。
- 小何滴滴打車現在也沒有之前那么火了，，補貼也少了。。
- 小何今日頭條要把騰訊的地方各頻道給霸占了。。