Waakhond AP wil snel duidelijkheid van kabinet over regels AI
De autoriteit heeft een 'barometer', bestaande uit negen onderdelen, opgesteld om de mogelijke gevolgen van AI in de gaten te houden. Een halfjaar geleden stonden twee signalen op rood.
De registratie van algoritmes en AI-systemen was onvoldoende en er was geen goed zicht op incidenten. Dat is nog steeds zo, en nu zijn ook twee andere lichten op rood komen te staan. De 'kaders en bevoegdheden' voor toezicht zijn nog niet goed geregeld en er zijn geen duidelijke standaarden voor AI-systemen.
Niet genoeg bescherming
De waakhond zegt ook dat jongeren niet goed genoeg worden beschermd. Ze gebruiken AI niet alleen voor hun huiswerk, maar ook als een soort vriend om mee te chatten. Ze kunnen daaraan verslaafd raken en zijn niet goed in staat om de risico's in te schatten, waarschuwt de AP.
Als grootste gevaren benoemt de autoriteit 'de oncontroleerbare toename van deepfakes, AI-gestuurde fraude en psychische schade door chatbots'. Daarnaast waarschuwt de AP 'dat AI-beveiligingsmaatregelen steeds meer achterblijven bij de technologische ontwikkelingen'.
Kamerleden gefrustreerd na gesprek met TikTok, Meta en Google over gevaren social media
De autoriteit zegt ook dat het erop lijkt dat sommige organisaties onder hun verantwoordelijkheden uit proberen te komen. Zij moeten hun kunstmatige intelligentie registreren, maar doen dan of het gewone algoritmes zijn. De regels daarvoor zijn minder streng.
Stevige regels ontbreken
"AI-systemen met hoog risico worden onder meer gebruikt in de zorg en bij het opsporen van misdrijven. Vanaf volgend jaar krijgen die een hele lijst vereisten over technische documentatie, risicomanagement en vooroordelen. Misschien is het onbedoeld, misschien willen ze geen slapende honden wakker maken", stelt Joost van der Burgt, die voor de AP het toezicht op kunstmatige intelligentie leidt.
De voorzitter van de Autoriteit Persoonsgegevens, Aleid Wolfsen, wijst erop dat algoritmes er in het verleden toe hebben geleid dat burgers ten onrechte werden verdacht van gesjoemel met kinderopvangtoeslag. "Vijf jaar na het toeslagenschandaal zijn de lessen duidelijk, maar de opvolging blijft achter. Dat komt vooral doordat stevige regels voor algoritmes en AI en handhaving hiervan ontbreken", aldus Wolfsen.
