Google haalt AI-functie voor bewerken satellietbeelden na één dag offline
Google lanceerde donderdag een nieuwe functie voor alle gebruikers wereldwijd. Via Google Earth konden zij inzoomen op een locatie op de wereldbol, op 'Afbeelding maken' klikken en daarna invullen wat zij wilden zien.
Zo konden gebruikers bijvoorbeeld bekijken hoe een locatie er honderden jaren geleden uitzag of in beeld brengen hoe een nog te bouwen woning er op een bepaalde plek uit kan komen te zien. Althans, dat was de gedachte van Google. Maar al snel bleek dat gebruikers de functie ook voor minder onschuldige doeleinden konden inzetten.
"Technisch is de functie heel indrukwekkend. Maar er is niet genoeg rekening gehouden met het feit dat deze functie ook nepnieuws kan verspreiden", zegt Maarten Sukel, oprichter van The AI Factory. Het photoshoppen van satellietbeelden is niet nieuw. Maar deze tool maakt het nog makkelijker. "Hoe makkelijker dit is, hoe meer mensen er misbruik van zullen maken."
Internetexpert Henk van Ess was een van de eersten die de functie gebruikten. Hij plaatste met de tool vluchtelingen bij de Mexicaanse grens, een kerncentrale in Iran en een verkeersongeval op een straat in Amsterdam, schreef hij donderdag op Substack. Ook anderen probeerden de functie uit.
Geloofwaardigheid
De door gebruikers verzonnen objecten waren gekoppeld aan bestaande coördinaten en getekend op een originele afbeelding, waardoor de kleuren en het licht vaak overeenkomen met die op de echte afbeelding, schreef Van Ess op Substack. "Een vervalsing die op die manier is gemaakt, hoeft op zichzelf niet overtuigend te zijn. Ze ontleent haar geloofwaardigheid aan de kaart waarop ze is ontstaan."
Is dat plaatje AI? Label vanaf vandaag verplicht
Om foto’s op echtheid te controleren, wordt juist vaak gebruik gemaakt van satellietbeelden, zegt Sukel. Bijvoorbeeld om te bepalen waar en wanneer een foto gemaakt is, door te kijken naar de lichtinval en de stand van de zon. De AI-afbeeldingen van Google Earth konden dat goed namaken, waardoor de afbeeldingen nog moeilijker van echt te onderscheiden waren.
Desinformatie
Volgens Sukel kan misbruik van dit soort AI-functies tot desinformatie leiden. Ter voorbeeld: in de oorlog tussen Rusland en Oekraïne zijn beide partijen afhankelijk van satellietbeelden om de troepenbewegingen van de ander te volgen, aldus Sukel. Zo'n AI-functie maakt het mogelijk om met veel bewerkte plaatjes de informatiestromen te vervuilen.
Zo voorkom je dat wildvreemden AI-plaatjes met jouw gezicht maken
Google benadrukte dat de AI-afbeeldingen niet te zien waren in de reguliere Google Earth omgeving. "Je kunt daar dus nagaan of een afbeelding echt is of niet, maar tegen de tijd dat dit is vastgesteld, hebben miljoenen mensen de afbeelding misschien al gezien. Dan is het eigenlijk te laat."
Ook onderstreepte het techbedrijf dat er een watermerk op de AI-afbeeldingen stond. Maar die voorkomen niet altijd dat afbeeldingen verspreiden, zegt Sukel.
Beveiliging
Het techbedrijf werkt aan strengere beveiligingsmaatregelen. Zo kan Google het watermerk versterken, aldus Sukel. Een andere optie is dat Google de functie op aanvraag beschikbaar maakt voor een beperkte groep. "Dat is jammer voor Google, want op die manier kan het bedrijf minder snel opschalen."
Onze presentator is wél echt, maar deze beelden zijn AI.
