Nvidia H100 čip od oko 40.000 dolara trenutno je najpoželjniji komad hardvera na svijetu.
Velike tehnološke kompanije kao što su Microsoft i Google, koje razvijaju mnoštvo proizvoda sa vještačkom inteligencijom, pa sve do Saudijske Arabije i UAE, koje ulažu u izgradnju vlastitih AI aplikacija, svi žele da se dokopaju ovog dragocjenog resursa.
Problemi s isporukom
Problemi s isporukom i velika potražnja doveli su do toga da se o ovom čipu priča kao o "najvrelijem traču Silicijske doline", kako je napisao Andrej Karpati iz OpenAI-a.
Proizvođači servera čekaju duže od šest mjeseci da prime posljednje narudžbe. Investitori rizičnog kapitala nabavljaju ove čipove za startape koje finansiraju. Izvršni direktor Tesle Ilon Mask (Elon Musk) čak je komentarisao nestašicu Nvidia čipova, prenosi Telegraf.rs
.Tesla planira da izgradi novi superkompjuter Dojo za obuku svojih autonomnih vozila, plan koji je nastao usljed nedostatka Nvidia GPU-ova.
Nvidia H100 je dizajniran za maksimalnu brzinu i efikasnost u računarskim operacijama koje su karakteristične za obuku AI modela, što uključuje veliki broj paralelnih procesorskih jezgara koji omogućavaju brzo izvršavanje matematičkih operacija.
Generisanje teksta, slika ili drugih oblika podataka
Osim toga, H100 čipovi su posebno prilagođeni za rad s generativnim algoritmima koji koriste velike količine podataka. Generisanje teksta, slika ili drugih oblika podataka zahtijeva prilagodljivost koju ovi čipovi nude.
Memorijski zahtjevi su također ključna karakteristika obuke vještačke inteligencije. H100 čipovi dolaze s velikim količinama brze, integrisane memorije koja je prilagođena ovim specifičnim potrebama.
Skalabilnost i paralelizacija su važne za efikasnu obuku AI modela. Nvidia H100 čipovi su dizajnirani da efikasno rade u okruženjima gdje je potrebna brza komunikacija i koordinacija između čipova, kao i za energetsku efikasnost, koja je ključna za dugoročno korištenje u data centrima.
