Google Tensor-processor

Google Tensor-processor

Tensor Processing Unit 3.0

Google Tensor Processing Unit ( Google TPU ) är en  tensorprocessor som tillhör klassen neurala processorer , som är en applikationsspecifik integrerad krets utvecklad av Google och avsedd för användning med TensorFlows maskininlärningsbibliotek . Introducerades 2016 på Google I/O -konferensen , hävdades det att enheterna redan hade använts internt av Google i mer än ett år [1] [2] .

Jämfört med GPU:er är den designad för en större mängd beräkningar med reducerad precision (till exempel endast 8-bitars precision [3] ) med högre prestanda per watt och frånvaron av en modul för rastrering och texturenheter [ 1] [2 ] .

Det påstås att tensorprocessorer användes i en serie spel i AlphaGo-programmet mot Lee Sedol [ 2] och i följande liknande slagsmål [4] . Företaget använde också tensorprocessorer för att bearbeta Google Street View -foton för textextraktion, det rapporterades att hela volymen bearbetades på mindre än fem dagar. På Google Photos kan en enda tensorprocessor bearbeta över 100 miljoner foton per dag. Enheten används också för det självlärande systemet RankBrain , som bearbetar svar från Googles sökmotor .

Enheten är implementerad som en matrismultiplikator för 8-bitars tal, styrd av CPU CISC - instruktioner via PCIe 3.0 -bussen . Den är tillverkad med 28 nm-teknik, klockfrekvensen är 700 MHz och har en termisk designeffekt på 28-40 W. Utrustad med 28 MB inbyggt RAM och 4 MB 32-bitars ackumulatorer som ackumulerar resultat i arrayer av 8-bitars multiplikatorer organiserade i en 256×256 matris. Enhetsinstruktioner överför data till eller tar emot data från en nod, utför matrismultiplikationer eller faltningar [5] . 65536 multiplikationer på varje matris kan utföras per cykel; per sekund - upp till 92 biljoner [6] .

Anteckningar

  1. ↑ 1 2 Googles Tensor Processing Unit förklarade: så här ser framtidens datorer  ut . Arkiverad från originalet den 26 februari 2022. Hämtad 24 maj 2017.
  2. 1 2 3 Jouppi, Norm Google överladdar maskininlärningsuppgifter med TPU anpassat chip  . Google Cloud Platform-blogg . Google (18 maj 2016). Hämtad 22 januari 2017. Arkiverad från originalet 18 maj 2016.
  3. Armasu, Lucian Googles stora chipavslöja för maskininlärning: Tensorbehandlingsenhet med 10x bättre effektivitet (uppdaterad) . Toms hårdvara (19 maj 2016). Tillträdesdatum: 26 juni 2016.
  4. The Future of Go Summit, Match One: Ke Jie & AlphaGoYouTube , med start 06:03:10 (23 maj 2017)
  5. Norman P. Jouppi et al. In-Datacenter Prestandaanalys av en Tensor Processing  Unit . Hämtad 24 maj 2017. Arkiverad från originalet 3 juli 2017. (44th International Symposium on Computer Architecture (ISCA), 2017)
  6. Ian Cutress . Hot Chips: Google TPU Performance Analysis Live Blog (15:00 PT, 22:00 UTC)  (engelska) , AnandTech (22 augusti 2017). Arkiverad från originalet den 23 augusti 2017. Hämtad 23 augusti 2017.

Länkar