AI čipu ražotājs Cerebras Systems ir ieviesis CS-4, jaunu raku mēroga AI sistēmu, kas mērķē uz Nvidia GPU serveru tirgu un lielo valodas modeļu secinājumu slodzēm. Saskaņā ar uzņēmuma teikto, CS-4 var ģenerēt tokenus ar ātrumu līdz 30 reizēm lielākam nekā parastos GPU serveros, kad visi sistēmas resursi ir piešķirti vienam lietotājam.
Ievērojami, ka šī cifra balstās uz Cerebras iekšējiem testiem un mēra teksta ģenerēšanas ātrumu, kad vienam lietotājam ir ekskluzīva piekļuve sistēmas skaitļošanas resursiem. Tas nereprezentē sistēmas kopējo caurlaidspēju, apkalpojot vairākus lietotājus vienlaicīgi.
Pasākumā Sanfrancisko Cerebras paziņoja, ka CS-4 ietver trīs WSE-3 Turbo viendaļu procesorus. Saskaņā ar uzņēmuma teikto, katrs procesors integrē aptuveni 4 triljonus tranzistoru, padarot to par vienu no lielākajiem publiski atklātajiem AI procesoriem līdz šim. Atšķirībā no Nvidia un AMD trīsdiskšanas arhitektūrām, Cerebras izmanto monolītu, pilna diska dizainu, kas saīsina datu pārsūtīšanas ceļus uz mikroshēmā.
CS-4 ir izstrādāts AI secināšanai, nevis modeļa apmācībai. Tā atmiņas arhitektūra izmanto statisko nejaušo piekļuves atmiņu jeb SRAM, nevis dinamiski nejaušo piekļuves atmiņu jeb DRAM, kas parasti tiek izmantota industrijā. SRAM nodrošina ievērojami ātrākas lasīšanas un rakstīšanas ātrumus nekā DRAM, bet tā sarežģītāka struktūra un augstākas izmaksas par kapacitātes vienību parasti apgrūtina tās integrēšanu procesoros ar ierobežotu mikroshēmas platību. WSE-3 Turbo ir aptuveni šķīvis lielumā, nodrošinot pietiekami fizisko telpu, lai tieši iekļautu SRAM procesorā.
Cerebras pozicionē ātru teksta ģenerēšanu kā galveno konkurences priekšrocību CS-4. Uzņēmums norādīja, ka tā viendaļu procesors var tieši uz mikroshēmas uzglabāt visus parametru vērtības, kas nepieciešamas AI modelim, novēršot nepieciešamību iegūt datus no ārējām atmiņas mikroshēmām un samazinot aizkavi, kas saistīta ar datu pārvietošanos.
Saskaņā ar Cerebras teikto, CS-4 paraugi pašlaik ir pieejami ierobežotam skaitam klientu, plašāka pieejamība ir plānota vēlāk šī gada trešajā ceturksnī.