OpenAI i Broadcom otkrili Jalapeño: prvi AI čip stiže za inference, brži je i štedljiviji, a razvijen je nevjerojatno brzo
Tech
Komentari 0
OpenAI i Broadcom otkrili Jalapeño: prvi AI čip stiže za inference, brži je i štedljiviji, a razvijen je nevjerojatno brzo
OpenAI je s partnerom Broadcomom predstavio svoj prvi AI procesor, Jalapeño. Riječ je o akceleratoru dizajniranom za "inference" zadatke velikih jezičnih modela (LLM), ključni proces pri radu AI aplikacija. Ovaj potez predstavlja strateški korak tvrtke u izgradnji cjelokupne tehnološke platforme, od softverskih modela do vlastitog hardvera, čime se smanjuje ovisnost o vanjskim dobavljačima.
Za razliku od grafičkih procesora (GPU) opće namjene kakve nudi Nvidia, Jalapeño je ASIC (Application-Specific Integrated Circuit), čip za točno definiran zadatak. Njegova je arhitektura osmišljena od nule za maksimalno iskorištavanje resursa pri pokretanju modela poput onih iza ChatGPT-ja i Codexe. Prema navodima iz OpenAI-ja, prva testiranja pokazuju da će Jalapeño ponuditi znatno bolje performanse po utrošenom vatu električne energije od postojećih rješenja. Izvršni direktor Broadcoma, Hock Tan, izjavio je da je novi čip performansama usporediv s Nvidijinim Blackwell GPU-ovima i Googleovim TPU jedinicama. Cilj je kombinirati snagu i propusnost s manjom latencijom, što ga čini idealnim za interaktivne AI proizvode. Arhitektura smanjuje nepotrebno kretanje podataka te uravnotežuje računalne, memorijske i mrežne resurse.
Posebno je impresivna brzina razvoja. Cijeli proces, od početnog dizajna do proizvodne spremnosti čipa, trajao je samo devet mjeseci, što je vjerojatno najbrži razvojni ciklus ikad postignut u segmentu naprednih poluvodiča. Iz tvrtke ističu da je takav tempo omogućen dubokom suradnjom softverskih i hardverskih timova, ali i korištenjem vlastitih AI modela za ubrzavanje dijelova procesa dizajna i optimizacije. Modeli koji svakodnevno služe milijunima korisnika tako su pomogli u stvaranju infrastrukture na kojoj će raditi buduće generacije AI.
Predstavljanje Jalapeña svrstava OpenAI uz tehnološke divove poput Googlea, Amazona, Microsofta i Mete, koji već razvijaju vlastiti silicij radi smanjenja troškova i optimizacije performansi. Potez je dio šireg trenda vertikalne integracije, gdje vodeće AI tvrtke nastoje preuzeti kontrolu nad cijelim ekosustavom. Partnerstvo s Broadcomom i Celesticoom, zaduženom za integraciju, temelj je za implementaciju podatkovnih centara "gigavatne skale", operativnih od 2026. Time se OpenAI profilira ne samo kao softverski laboratorij, već i kao ključan igrač u globalnoj hardverskoj areni.
Igre na sreću mogu izazvati ovisnost. 18+