Nvidia lanserar första Groq-chipet och siktar på 1 000 miljarder dollar

Groq 3 LPU, det dyraste förvärvet i Nvidias historia

Chipet heter Groq 3 LPU, Language Processing Unit, och är det första produkten som bygger på teknik från Groq, ett bolag Nvidia köpte för 20 miljarder dollar i december förra året, rapporterar CNBC. Det är den största affären i Nvidias historia.

Groq grundades av skaparna bakom Googles interna tensorprocessor och har positionerat sig som en utmanare till Nvidias egna grafikprocessorer. Groq 3 LPU är konstruerad för att komplettera Nvidias GPU:er, med en kärna optimerad för att minska latens och snabba upp svarstider i AI-system.

Nvidia presenterade också ett dedikerat rack, Groq 3 LPX, som rymmer 256 LPU:er och är tänkt att placeras bredvid bolagets kommande Vera Rubin-rack. Enligt Huang kan kombinationen öka tokens per watt-prestanda med 35 gånger jämfört med enbart Vera Rubin-systemet.

– Vi förenade två processorer med extrema skillnader, en för hög genomströmning och en för låg latens, säger Jensen Huang, vd för Nvidia, enligt CNBC.

Groq 3 LPU väntas börja levereras till kunder under tredje kvartalet i år.

Nvidia kliver in på Intels hemmaplan

Under samma keynote visade Huang upp en dator byggd kring centralprocessorer, ett segment där Intel länge har dominerat marknaden. Bloomberg beskriver det som ett tydligt kliv in på Intels territorium, och reaktionen på marknaden lät inte vänta på sig. Intel tappade sina uppgångar på Wall Street under måndagen.

Nvidia är sedan tidigare världens mest värdefulla börsbolag med ett marknadsvärde på omkring 4 500 miljarder dollar, enligt CNBC. Bolagets grafikprocessorer för AI har drivit elva kvartal i rad med intäktstillväxt överstigande 55 procent.

Vera Rubin, nästa generations GPU-system uppbyggt av 1,3 miljoner komponenter, levererar tio gånger mer prestanda per watt än föregångaren Grace Blackwell och planeras att skickas till kunder senare i år. Det är en central fråga när energiförbrukning pekas ut som en av de största utmaningarna för den fortsatta AI-utbyggnaden.

Huang uppgav att efterfrågan exploderar från både startups och stora bolag, drivet av att AI-system i allt högre grad bygger på agentbaserade applikationer som genererar enorma mängder tokens och kräver snabbare inferens. Nvidia-aktien steg omkring 2 procent under måndagen. Bolaget räknar med att omsätta ungefär 78 miljarder dollar under innevarande kvartal, en ökning med 77 procent jämfört med samma period föregående år.