AI-agent breekt in bij website Australisch zorgstelsel, premier noemt het 'onacceptabel'
De inbraak bij het Australische zorgstelsel Medicare is volgens persbureau Reuters mogelijk de eerste keer dat een AI-agent inbreekt bij een overheidswebsite.
Toegang tot interne server
De Australische premier Anthony Albanese liet gisteravond laat vanuit New York, waar hij aanwezig is bij de Verenigde Naties (VN), weten dat OpenAI onrechtmatig toegang kreeg tot een dashboard met medische statistieken van Medicare. De AI-agent kreeg inzage in openbare gegevens, maar ook informatie die niet voor iedereen toegankelijk is.
Wat is een AI-agent?
Een AI-agent geeft niet alleen antwoord op vragen (denk aan chatbots zoals ChatGPT of Gemini), maar kan ook zelfstandig taken uitvoeren om een bepaald doel te bereiken.
"Er is geen bewijs dat er elektronische patiëntendossiers zijn ingezien, maar het onderzoek daarnaar loopt nog", zei Albanese. De AI-agent kreeg wel bestandsnamen te zien en kon ook bij een interne server.
Er zijn volgens de premier ook aanwijzingen dat andere overheidswebsites getroffen zijn. Mogelijk gaat het om de websites van het ministerie van Volksgezondheid in de deelstaat Victoria en een overheidsbureau dat onderzoek doet naar criminaliteit in New South Wales, schrijft The Sydney Morning Herald.
'Teleurgesteld'
"Deze situatie is uiteraard onacceptabel", zei Albanese. Hij heeft de baas van OpenAI, Sam Altman, gebeld. "Ik heb hem laten weten dat dit voor Australië zeer verontrustend is en dat ik teleurgesteld ben dat het zo lang duurde voor we op de hoogte werden gesteld."
OpenAI laat weten dat een AI-agent 'onbedoeld toegang kreeg tot meerdere Australische overheidswebsites'. Dat gebeurde volgens OpenAI toen kunstmatige intelligentie (AI) 'antwoorden zocht op vragen over Australië'.
De Australische cyberexpert Alastair MacGibbon legt aan The Sydney Morning Herald uit dat de AI-agent de taak kreeg om medisch onderzoek te doen. "Deze agent had niet de opdracht gekregen om te gaan hacken."
Algemeen e-mailadres
OpenAI kwam er in augustus achter dat de AI-agent de Australische website in juni was binnengedrongen. Het bedrijf stuurde daar op 10 september een e-mail over naar een algemeen e-mailadres, bijna drie maanden na de hack. De top van de Australische regering werd vorige week ingelicht.
Incident na incident: verliezen bedrijven de menselijke controle over hun AI?
"Australiërs hebben het recht om hiervan op de hoogte te worden gebracht", zei Albanese vanuit New York. Eerder deze week riep de premier samen met zo'n twintig andere landen nog op tot internationaal toezicht op AI, omdat de snelheid waarmee AI-tools zich ontwikkelen oncontroleerbaar is, wat kan leiden tot 'ernstige risico's'.
Cyberexpert MacGibbon noemt het in The Sydney Morning Herald bovenal verontrustend dat de Australische regering zelf niet achter de hack kwam. "Waarom werd dit in juni niet opgemerkt?", zei hij.
AI kan het internet overnemen (of nog erger), zo zie je in deze video.
