Zuckerberg en Huang zien vertragen van AI-ontwikkeling niet zitten

"Elk lab heeft de verantwoordelijkheid en prikkel om op het tempo te werken dat nodig is om modellen veilig te trainen", schrijft Meta-topman Mark Zuckerberg in een bericht op X. 

Bedrijven moeten volgens hem zelf maatregelen nemen om de veiligheid te waarborgen. Zij lopen namelijk een 'groot risico' op aansprakelijkheid als hun AI schade aanricht, betoogt Zuckerberg. "Ze hebben er dus ook alle belang bij om dit te voorkomen." 

De Meta-topman verwacht ook dat mensen geen AI-agents (zelfstandig werkende digitale assistent die een bepaald doel meekrijgen) willen gebruiken die niet doen wat zij vragen.

Een reeks recente veiligheidsincidenten hebben voor opschudding gezorgd binnen de AI-industrie. Dat riep de vraag op of de ontwikkelingen van AI niet te snel gaan. 

Door middel van vertrouwen zullen AI-bedrijven zich gaan onderscheiden van elkaar, denkt Zuckerberg. Elk laboratorium dat zich niet op 'alignment' richt, zal achterop raken. Daarmee doelt hij op het zogenoemde 'model alignment', het proces waarmee AI-modellen overeenkomen met menselijke normen en waarden. Zoals niet hacken bij andere bedrijven.

AI-race

Grote techbedrijven zijn verwikkeld in een AI-race. Elk bedrijf wil een AI-model dat beter is dan dat van de rest. Zuckerberg roept bedrijven op om meer oog te hebben voor de wensen van mensen, in plaats van de wedstrijd. Zo kan AI veilig worden ontwikkeld, stelt hij. 

Zuckerbergs oproep kan niet los worden gezien van het feit dat Meta zijn achterstand in de AI-race wil goedmaken. Concurrenten Anthropic en OpenAI haalde het bedrijf op het gebied van AI-ontwikkelingen vorig jaar in. 

Ook de topman van chipbedrijf Nvidia, Jensen Huang, mengde zich gisteren in de discussie over het wel of niet afremmen van AI-ontwikkelingen. Kiezen tussen veilig en snel ontwikkelen van AI is een valse keuze, zei hij tegen Salesforce-ceo Marc Benioff tijdens een conferentie. Dat kan samen gaan.

Veiligheid is het belangrijkste, vindt hij. Maar volgens hem zijn makers zelf verantwoordelijk voor hun AI. Het is dus niet aan de overheid om eventuele risico's te beperken. Marktwerking zal er voor zorgen dat bedrijven op een veilige manier kunnen innoveren, besluit Huang. Bedrijven bepalen zelf het tempo totdat ze er zeker van zijn dat wat ze uitbrengen een product is dat de markt wil hebben, legt hij uit. 

Waarschuwing

De topmannen van Meta en Nvidia keren zich met hun standpunt tegen andere grote namen uit de Amerikaanse AI-sector. Anthropic-topman Dario Amodei publiceerde afgelopen weekend een betoog voor het wereldwijd afremmen van AI. Hij waarschuwde daarin voor het hoge tempo van ontwikkelingen en pleitte voor meer toezicht. 

Het betoog zorgde binnen de techsector voor twijfels. Heeft Amodei de AI-risico's overdreven om het voor andere bedrijven lastiger te maken om te concurreren?

Sam Altman (CEO van OpenAI), Elon Musk (CEO van SpaceX) en Demis Hassabis (voorzitter van Google DeepMind, het AI-onderzoeksbedrijf van Google) sloten zich later aan bij Dario.

AI kan het internet overnemen (of nog erger), zo zie je in deze video.

De Amerikaanse president Donald Trump vindt de zorgen over AI overdreven. Hij wil vooral dat de VS voorop blijft lopen in de ontwikkeling en toepassing van AI, vooral op China. 

Ondertussen kijkt China met argusogen naar de oproep van de Amerikaanse topmannen om de wereldwijde AI-ontwikkelingen in te dammen. De Chinese president Xi Jinping en Trump ontmoeten elkaar volgende week in de VS. Tijdens deze top speelt AI naar verwachting een belangrijke rol. Wat daarbij opvalt: Nvidia-topman Huang mag naar verluidt aanschuiven bij een staatsbanket met Xi.