De strijd om de chips die kunstmatige intelligentie aandrijven raakt in een nieuwe fase, en dat gaat ook wie in de Lage Landen met AI werkt aan. Bedrijven en clouddiensten leunen voor toepassingen zoals chatbots en tekstgeneratie op de rekencapaciteit van een handvol chipfabrikanten. AMD kondigde donderdag op zijn evenement Advancing AI een samenwerking aan met chipstart-up Cerebras, waarmee het bedrijf een gooi doet naar een groter deel van die markt — nu nog stevig gedomineerd door Nvidia.
- AMD werkt samen met chipstart-up Cerebras aan een nieuwe aanpak voor AI-inferentie.
- De aanpak, ‘disaggregated inference’, splitst het werk over verschillende types hardware.
- AMD claimt dat zijn nieuwe serversysteem Helios tot 30% meer inferentie-tokens per dollar levert dan Nvidia’s Vera Rubin NVL72.
Volgens CEO Lisa Su zou één enkele chip niet alles hoeven te doen. De kern van de aankondiging draait om inferentie: het proces waarbij een AI-model daadwerkelijk antwoorden genereert op vragen van gebruikers. Dat staat los van het ‘trainen’ van modellen, waar Nvidia traditioneel de sterkste positie heeft.
Twee verschillende taken vragen om twee soorten hardware
Klassiek gezien verwerkte dezelfde hardware zowel het inlezen van een vraag als het opstellen van een antwoord. AMD stelt dat dit fundamenteel verschillende taken zijn. Het nieuwe serversysteem Helios is gebouwd om enorme hoeveelheden verzoeken te verwerken, terwijl de gigantische, wafer-grote chip van Cerebras gespecialiseerd is in het bijna onmiddellijk genereren van antwoorden. De Helios-systemen komen later dit jaar in de datacenters van Cerebras terecht.
Die ‘disaggregated inference’ — het verdelen van werk over verschillende soorten chips — wint aan terrein in de sector. Analisten van UBS schreven in juni dat de beperkingen van huidige architecturen “een verschuiving richting disaggregated inference aandrijven”. Volgens UBS bewegen ook Nvidia, via de integratie van AI-hardwarestart-up Groq, en Amazon Web Services in die richting om efficiënter en goedkoper te werken.
De verschuiving weerspiegelt een bredere kanteling in de AI-sector: van het trainen van modellen naar het effectief inzetten ervan.
Waarom deze verschuiving ertoe doet
Naarmate AI-toepassingen van de experimentele fase naar dagelijks gebruik gaan, verschuift de zwaartekracht van training naar inferentie. Dat betekent dat de kosten en snelheid van het genereren van antwoorden steeds bepalender worden voor wie diensten aanbiedt — en dus ook voor wat gebruikers uiteindelijk betalen. Efficiëntere hardware kan die kosten drukken, al waarschuwt UBS dat het samen laten werken van verschillende chips nieuwe uitdagingen rond “orkestratie” met zich meebrengt.
De vraag naar chips van bedrijven als AMD, Nvidia en Broadcom is tijdens de AI-boom sterk gestegen. Tot de AI-labs en cloudreuzen die op de infrastructuur van AMD draaien, behoren OpenAI, Meta, Microsoft, Oracle en Anthropic. Met dat laatste bedrijf kondigde AMD woensdag een miljardenpartnerschap rond infrastructuur aan.
AMD richt de pijlen rechtstreeks op Nvidia
Helios geldt als AMD’s antwoord op de Vera Rubin NVL72-rack van Nvidia. Het bedrijf claimt dat zijn systeem tot 30% meer inferentie-tokens per dollar levert dan die van de concurrent. “Elke Helios kan meer prestaties leveren voor de grootste modellen, meer capaciteit voor langere context, en de bandbreedte om op te schalen over duizenden racks”, aldus Su.
De rivaliteit tussen beide chipmakers beperkt zich intussen niet langer tot grafische processoren (GPU’s), waarmee ze het bekendst zijn. Beide bedrijven bouwen ook hun aanbod uit in de aantrekkelijke markt voor serverprocessoren (CPU’s), waardoor de concurrentie zich naar steeds meer terreinen uitbreidt.
Denkt u dat AMD’s gok op verdeelde AI-hardware de dominantie van Nvidia kan doorbreken? Deel uw kijk op de toekomst van de AI-chipmarkt.
