Anthropic meldt dat eigen AI-model Claude drie bedrijven hackte
In een persbericht verklaart Anthropic meer dan 140.000 tests te hebben geanalyseerd en daarbij bewijs te hebben gevonden dat Claude - een van hun AI-modellen - toegang tot het internet kon krijgen vanuit testomgevingen die juist waren ontworpen om volledig afgesloten te zijn.
Die tests zouden gebaseerd zijn op zogenaamde 'capture-the-flag'-evaluaties, waarbij Claude de taak kreeg om informatie te verkrijgen door andere systemen te infiltreren. Dit soort tests wordt vaker gebruikt om de hackmogelijkheden van een AI-systeem te beoordelen. Ook Anthropic voerde het soort tests dus uit, naar eigen zeggen omdat het bedrijf geschrokken was van de hacks die onlangs door concurrent OpenAI werden gemeld.
Maanden geleden
De eerste inbraken zouden al in april hebben plaatsgevonden, meldt de Britse omroep BBC. Maar destijds werden de hacks door geen van de betrokken partijen opgemerkt. Het techbedrijf dringt er daarom bij andere AI-bedrijven op aan soortgelijke cybersecuritytests uit te voeren om de risico's van hun systemen beter te begrijpen.
Er worden miljarden in AI gepompt, wordt dat geld ooit terugverdiend?
Vorige week werd ook al bekend dat AI-modellen van OpenAI, de maker van ChatGPT, tijdens veiligheidstests op eigen initiatief hadden ingebroken in een populair platform voor programmeurs. Het bedrijf nam afgelopen week verantwoordelijkheid voor ten minste twee van die hacks, waarbij de OpenAI-platforms de regels hadden overtreden.
Strengere regelgeving
Onder andere die hacks leidden ertoe dat er werd opgeroepen tot strengere beveiligingsmaatregelen en toezicht op de technologie. Afgelopen woensdag zei de Amerikaanse president Donald Trump nog dat Washington maatregelen overweegt om AI-systemen aan banden te leggen na recente cyberbeveiligingsincidenten.
