Amerikaanse blokkade voorbij: AI-modellen Mythos en Fable weer beschikbaar
Door bemoeienis van de Amerikaanse overheid blokkeerde Anthropic op 12 juni de toegang tot zijn nieuwste AI-modellen, Mythos en Fable. Die blokkade is vanaf vandaag weer opgeheven, en Anthropic maakt ook meer duidelijk over wat er precies aan de hand was.
Mythos en Fable zijn in feite twee versies van hetzelfde AI-model. Mythos blijkt bijzonder goed geschikt om computersoftware te hacken. Zó goed, dat Anthropic het model niet publiekelijk beschikbaar stelde. Alleen een kleine groep uitverkoren techbedrijven mag het gebruiken, om gaten in hun eigen beveiliging op te sporen.
AI-bot Mythos is een 'superhacker': hoe gevaarlijk is dat?
Fable is een soort gekortwiekte versie van Mythos, waar extra beveiligingen aan zijn toegevoegd zodat je het model niet kan inzetten om software te hacken. Maar het lukte onderzoekers van concurrent Amazon om die beveiligingen te omzeilen. Dat wordt een 'jailbreak' genoemd. Amazon meldde de jailbreak aan de Amerikaanse regering, die daar direct op reageerde door een exportverbod in te stellen.
'Zwaar overdreven'
Anthropic werd naar eigen zeggen overvallen door die maatregel, die het bedrijf zwaar overdreven vond. De hacks die Fable met de jailbreak kom uitvoeren, zouden volgens het bedrijf met andere AI-modellen ook allang gedaan kunnen worden.
"Onze tests bevestigden dat allerlei minder capabele modellen dezelfde kwetsbaarheden konden identificeren als Fable 5 in de melding", schrijft Anthropic. Desondanks scherpte het de beveiligingen in Fable nog verder aan en liet die nieuwe beveiligingen testen door de Amerikaanse regering.
Anthropic belooft ook om nieuwe modellen voortaan eerst door de regering te laten onderzoeken, voor ze aan een breder publiek beschikbaar worden gesteld. Met die afspraken nam handelsminister Howard Lutnick genoegen, en werd het exportverbod geschrapt.
Verregaande controle
Toch bracht de saga ook buiten Anthropic veel teweeg. Met de stap van de overheid maakte de VS duidelijk dat het in staat is verregaande controle uit te oefenen op AI-bedrijven. Een veeg teken voor Europese landen, die steeds afhankelijker worden van dit soort Amerikaanse AI-bedrijven. "Het laat zien dat de Verenigde Staten dit kunnen afsluiten als ze dat willen. Een voorproefje wat we kunnen verwachten", zei AI-expert Stan van Baarsen eerder tegen RTL Z.
Ook de Europese Commissie reageerde direct op de afsluiting. "Deze ontwikkeling is weer een bewijs dat Europa de technologische soevereniteit moet versterken", aldus een woordvoerder in een verklaring tegenover persbureau Reuters.
