Alphabetov Google u utorak je objavio nove detalje o superračunalu koje koristi za uvježbavanje velikih jezičnih modela i umjetne inteligencije (AI).
Otkrivene specifikacije sugeriraju da je njegov sustav značajno brži i energetski učinkovitiji od usporedivog sustava Nvidia Corp.
>>>Goldman Sachs: generativni AI ugrožava 300 milijuna stalnih poslova
Google je u svrhu razvoja umjetne inteligencije dizajnirao svoj čip s imenom Tensor Processing Unit ili TPU koji koristi u više od 90% projekata povezanih s propitivanjem, pomicanjem ili probijanjem tehnoloških granica.
Tvrtka je u utorak objavila znanstveni rad u kojem opisuje kako posebno razvijene optičke sklopke povezuju više od 4.000 čipova u četvrtoj generaciji TPU-a.
>>>Google najavio primjenu generativnih kreacija | AI
Pospješivanje veza trenutačno je jedno od ključnih polja u razvoju superračunala jer su količine podataka koje obrađuju i na kojima počivaju veliki jezični modeli (LLM) poput Barda ili ChatGPT-a eksplodirale zbog čega je njihovo pohranjivanje na jednom čipu nemoguće.
Modeli stoga moraju biti rascjepkani preko tisuća međusobno povezanih čipova.
Primjerice, Google navodi da je njegov najveći javno potvrđen jezični model PaLM uvježban kroz pedeset dana na dva superračunala s po 4.000 TPU-a.
Jedna od prednosti TPU-a je i u ponovnom konfiguriranju veza između čipova u realnom vremenu, što pomaže u pronalaženju i izolaciji problema dok pospješuje performanse.
>>>Sam Altman: mogu zamisliti mnogo načina na koje će AGI ‘slomiti kapitalizam’
“Prebacivanje strujnog kruga olakšava preusmjeravanje oko pokvarenih sastavnica,” napisali su Googleov suradnik Norm Jouppi i Googleov istaknuti inženjer David Patterson na blogu. “Ova nam fleksibilnost čak omogućuje promjenu topologije međusobnog povezivanja superračunala kako bismo ubrzali performanse ML (strojno učenje) modela.”
Inženjeri u istraživanju pišu da je četvrta generacija TPU do 1.7 puta brža i 1.9 puta energetski učinkovitija od suparničkih sustava temeljenih na A100 čipu Nvidije.
Jouppi je za Reuters rekao da Alphabet nije zabrinut zbog konkurencije i da na putu ima “zdravu liniju budućih čipova.”
Dionica Nvidije u srijedu je pala za 2.8%.
Grabancijaš je ‘live’ na Google vijestima
