AI van Google brak in bij drie andere bedrijven, zoveelste incident
De hacks gebeurden in mei tijdens een cyberbeveiligingstest. Die werd gedaan door Irregular, een onafhankelijk bedrijf dat cyberveiligheidtesten doet.
Gemini vond tijdens de test openbare informatie op het internet en raadde inloggegevens om toegang te krijgen tot drie websites. Het model dacht dat dit binnen de lijnen van de test paste. Dat heeft Heather Adkins, vicepresident Security Engineering bij Google, gezegd in een verklaring waarover meerdere media schrijven.
Bij één van de drie incidenten probeerde Gemini wachtwoorden totdat het toegang kreeg tot een beveiligd systeem, schrijft de Wall Street Journal, die gisteren als eerste over de hacks publiceerde.
Volgens Google zijn de drie getroffen organisaties op de hoogte gesteld. Verder werkte het techbedrijf samen met zijn trainingspartner om het testproces aan te passen. Dat is inmiddels gebeurd.
Zoveelste incident
Google is niet het eerste bedrijf dat dit overkomt. De AI van Meta, OpenAI en Anthropic braken tijdens soortgelijke tests ook in bij andere bedrijven. Volgens Irregular maken de hacks allemaal onderdeel uit van hetzelfde probleem.
De incidenten leiden tot zorgen over de vraag of de ontwikkelingen op het gebied van AI te snel gaan. Anthropic-topman Dario Amodei riep eerder op tot vertraging van de ontwikkeling van AI. Andere grote namen uit de Amerikaanse AI-sector sloten zich bij het aan.
Incident na incident: verliezen bedrijven de menselijke controle over hun AI?
Al gold dat niet voor iedereen. De topmannen van techbedrijven Meta en Nvidia zijn tegen het afremmen van de ontwikkelingen. Techbedrijven zijn zelf verantwoordelijk voor de veiligheid, vinden zij.
AI-topmannen: AI kan internet overnemen (of nog erger). Je ziet het in deze video.
