亞馬遜推出用于人工智能部署的AWS Inferentia芯片
亞馬遜宣布推出Inferentia，這是由AWS設(shè)計的芯片，專門用于部署帶有GPU的大型AI模型，該芯片將于明年推出。
Inferentia將與TensorFlow和PyTorch等主要框架協(xié)同工作，并與EC2實例類型和亞馬遜的機器學(xué)習(xí)服務(wù)SageMaker兼容。
“你將能夠在每個芯片上獲得數(shù)百個TOPS； 如果你愿意的話，你可以將它們捆綁在一起以獲得數(shù)千個TOPS，“AWS首席執(zhí)行官Andy Jassy今天在年度re：Invent會議上表示。
Inferentia還將與Elastic Inference合作，這是一種加速使用GPU芯片部署AI的方法，這也是今天宣布的。
彈性推理適用于1到32 teraflops的數(shù)據(jù)范圍。Inferentia檢測主要框架何時與EC2實例一起使用，然后查看神經(jīng)網(wǎng)絡(luò)的哪些部分將從加速中受益最多； 然后將這些部分移動到彈性推理以提高效率。
Jassy說，今天推出AI模型所需的兩個主要流程是培訓(xùn)和推理，推理占了近90％的成本。
“我們認(rèn)為運營成本可以通過Elastic Inference節(jié)省75％的成本，如果你將Inferentia放在其上，這是成本的另一個10倍的提升，所以這是一個重大的改變游戲規(guī)則，這兩個推出推斷我們的客戶，“他說。
Inferentia的發(fā)布是在周一首次亮相的一款芯片之后由AWS專門用于執(zhí)行通用工作流程。
Inferentia和Elastic Inference的首次亮相是今天發(fā)布的幾個AI相關(guān)公告之一。今天還宣布：推出AWS市場，供開發(fā)人員銷售他們的AI模型，以及DeepRacer League和AWS DeepRacer汽車的推出，該 汽車在模擬環(huán)境中使用強化學(xué)習(xí)訓(xùn)練的AI模型上運行。
今天預(yù)覽中還提供了許多不需要預(yù)先知道如何構(gòu)建或訓(xùn)練AI模型的服務(wù)，包括Textract用于從文檔中提取文本，Personalize用于客戶建議，以及Amazon Forecast，這是一種生成私有預(yù)測模型的服務(wù)。
分享
請輸入評論內(nèi)容...
請輸入評論/評論長度6~500個字
最新活動更多
推薦專題
-
10 大模型的盡頭是開源
- 1 特斯拉工人被故障機器人打成重傷，索賠3.6億
- 2 【行業(yè)深度研究】退居幕后四年后，張一鳴終于把算法公司變成AI公司？
- 3 人形機器人廠商，正在批量復(fù)刻宇樹G1
- 4 AI 時代，阿里云想當(dāng)“安卓” ，那誰是“蘋果”？
- 5 華為公布昇騰芯片三年計劃，自研HBM曝光
- 6 硬剛英偉達(dá)！華為發(fā)布全球最強算力超節(jié)點和集群
- 7 機器人9月大事件｜3家國產(chǎn)機器人沖刺IPO，行業(yè)交付與融資再創(chuàng)新高！
- 8 谷歌“香蕉”爆火啟示：國產(chǎn)垂類AI的危機還是轉(zhuǎn)機？
- 9 00后華裔女生靠兩部AI電影狂賺7.8億人民幣，AI正式進(jìn)軍好萊塢
- 10 美光：AI Capex瘋投不止，終于要拉起存儲超級周期了？
