Waarschuwing tegen AI-foto's op natuurplatforms: 'Onderzoek kan vervuild raken'

Platforms als iNaturalist en de Macaulay Library worden dagelijks gebruikt door miljoenen natuurliefhebbers. De foto's en waarnemingen die daar worden geplaatst, vormen ook een belangrijke bron voor wetenschappers. 

Ze gebruiken de gegevens onder meer om te onderzoeken hoe diersoorten zich verplaatsen door klimaatverandering of waar zeldzame soorten opduiken. Maar juist die gegevens dreigen vervuild te raken door AI, schrijft The Guardian.

Gemanipuleerde afbeeldingen 

Door de opkomst van generatieve AI, zoals ChatGPT en Google Gemini, kunnen gebruikers foto's eenvoudig aanpassen. Een takje dat een vogel deels bedekt, kan met één opdracht worden weggehaald. Ook kunnen ontbrekende delen van een afbeelding automatisch worden ingevuld. 

Dat lijkt onschuldig, maar volgens onderzoekers kan zo'n bewerking ongemerkt kenmerken van een andere vogelsoort toevoegen.

In een onderzoek hebben wetenschappers honderden AI-gemanipuleerde afbeeldingen ontdekt in databases met natuurwaarnemingen. 

Op iNaturalist zijn inmiddels ongeveer 1.400 afbeeldingen gemarkeerd als AI-gerelateerd. Dat is een fractie van de ruim 610 miljoen foto's op het platform, maar onderzoekers vrezen dat veel bewerkte beelden onopgemerkt blijven. Volgens hen is de werkelijke omvang van het probleem waarschijnlijk groter, omdat veel bewerkte foto's niet als zodanig worden herkend.

"Mijn ervaring is dat een enorm aantal natuurfoto's op sociale media tegenwoordig door AI is gegenereerd of bewerkt", zegt ecoloog Alexander Lees van Manchester Metropolitan University, een van de auteurs van het artikel. "Als we die foto's vervolgens gebruiken om te bepalen waar soorten voorkomen, wordt dat een groot probleem."

Valse waarneming

Volgens Lees zijn volledig verzonnen foto's nog relatief eenvoudig te herkennen. "Niemand gelooft een melding van een toekan, een vogelsoort die in Midden- en Zuid-Amerika voorkomt, in Siberië." Lastiger wordt het wanneer een bestaande foto subtiel wordt aangepast.

Zo noemt hij een waarneming van een roodvleugelzwartvogel in centraal-Brazilië. Die vogel leeft normaal gesproken in Noord-Amerika en was daar nooit eerder gezien. Later bleek dat de fotograaf AI had gebruikt om de foto 'mooier' te maken. Daarbij voegde het programma onbedoeld kenmerken van de roodvleugelzwartvogel toe aan een foto van een heel andere, veelvoorkomende vogelsoort.

Waarnemingenplatforms zijn de afgelopen jaren uitgegroeid tot een onmisbare informatiebron voor onderzoekers. Dankzij miljoenen foto's van vrijwilligers kunnen wetenschappers onder meer volgen hoe soorten reageren op klimaatverandering, wanneer planten bloeien en hoe het verspreidingsgebied van dieren verandert.

Volgens Tony Iwane van iNaturalist zijn de meeste AI-bewerkingen waarschijnlijk niet kwaadwillig bedoeld, maar vormen ze wel een risico. Daarom roepen zij vogelaars en andere natuurliefhebbers op om AI niet te gebruiken voor het aanpassen van foto's die bedoeld zijn als natuurwaarneming. Zelfs kleine bewerkingen kunnen volgens hen de betrouwbaarheid van wetenschappelijk onderzoek aantasten. 

Scherpe controle

Toy Janssen, bestuurslid van Dutch Birding, dat samenwerkt met waarneming.nl, herkent de zorgen van de onderzoekers maar deels. Volgens hem is de controle op vogelwaarnemingen in Nederland streng. De sites hebben middelen om foutieve afbeeldingen te detecteren. Daardoor komen gemanipuleerde beelden volgens hem niet zomaar in de data terecht. Vooral bij zeldzame vogels worden waarnemingen en foto's daarvan uitgebreid gecontroleerd.

In Nederland gaat het dan vaak om zogenoemde dwaalgasten: vogels die zijn verdwaald en vanuit bijvoorbeeld Amerika op plekken terechtkomen waar ze normaal niet thuishoren. Zulke waarnemingen zijn soms extreem zeldzaam en worden daarom niet zomaar aangenomen. "Daar gaan meerdere beoordelingsrondes overheen. Dat gaat niet over één nacht ijs."

Dutch Birding heeft een fotocommissie die beelden beoordeelt. Zeldzame waarnemingen worden kritisch bekeken. AI-bewerkte foto's kunnen voor verwarring zorgen, maar volgens Janssen vallen verdachte beelden in Nederland snel door de mand. "We weten uit de praktijk vaak of iets wel of niet klopt.

Als voorbeeld noemt hij een recente melding van een grauwe gors in Friesland. Die waarneming klopte, maar de foto was duidelijk met AI scherper gemaakt. "Dat viel meteen op", zegt Janssen.

Sovon, dat de verspreiding en ontwikkeling van wilde vogels in Nederland in kaart brengt, maakt voor zijn onderzoek maar beperkt gebruik van foto's van platforms als Dutch Birding, zegt woordvoerder Marcel Wortel. De organisatie baseert zich vooral op gestructureerde tellingen die volgens vaste protocollen worden uitgevoerd. Daarbij worden vogels doorgaans op zicht en geluid waargenomen.

Moeite met geluid

Maar de zorgen over de invloed van AI op natuurdata vindt Wortel niet vreemd. Volgens hem zit de grootste uitdaging momenteel niet bij beelden, maar bij automatisch verzamelde geluidswaarnemingen. Steeds meer vogelaars gebruiken apps als BirdNET en BirdWeather, die vogelgeluiden met hulp van AI herkennen en de resultaten automatisch doorsturen naar databanken.

"Daar zit wat vervuiling in", zegt Wortel. "Algoritmes kunnen zich vergissen, waardoor soorten worden gemeld die in werkelijkheid niet aanwezig zijn. Zulke vals-positieve waarnemingen kunnen voor ruis zorgen in de data."

Het wordt steeds lastiger om online echte beelden van nepbeelden te onderscheiden. AI-systemen zijn inmiddels verantwoordelijk voor ruim 57 procent van al het internetverkeer. Daardoor zijn echte mensen online in de minderheid geraakt. Volgens AI-onderzoeker Rudy van Belkom schuilt daarin een groot risico: steeds vaker is onduidelijk of een bericht, reactie of account afkomstig is van een mens of van een AI-bot. Meer daarover in deze video: