Positief KPMG-rapport over AI bevat zelf fouten van AI: 'Misleidend'
Dat schrijft de Britse krant FT. Het gaat om het rapport 'Redefining excellence in the age of agentic AI' van KPMG. Daar staat bijvoorbeeld in dat dat de Zwitserse spoorwegmaatschappij SBB AI-agenten aanbiedt die 'gebruikers helpen bij het plannen, boeken en optimaliseren van reizen op basis van voorkeuren, realtime omstandigheden en CO2-impact, waardoor SBB verandert in een holistische mobiliteitsregisseur'.
Maar dat klopt niet, zegt een woordvoerder van SBB tegen FT. Daarnaast zou het Londense OV-bedrijf Transport of London volgens het rapport AI-agenten gebruiken 'om congestie te voorspellen en te beheren, reisinformatie te personaliseren en multimodaal vervoer te coördineren'. 'Misleidend', noemt een woordvoerder van dat bedrijf de tekst.
Ziekenhuis
En daar bleef het niet bij. Sommige ziekenhuizen in Manchester zouden AI gebruiken om ziekenhuisopnames te voorspellen, patiënten te triëren en doorverwijzingen te automatiseren. Dit komt volgens een woordvoerder niet overeen met het persbericht waarop deze informatie gebaseerd zou zijn.
Ook zijn er aannames gedaan over het AI-gebruik van de Zwitserse bank UBS. Een woordvoerder noemt de beweringen 'feitelijke onjuist'.
Hallucineren
Als bijvoorbeeld een AI-chatbot geen correct antwoord kan formuleren en toch met een (overtuigende) en feitelijk onjuiste reactie komt, dan wordt gezegd dat AI hallucineert.
Datingapps onder druk: AI moet de nieuwe cupido worden
KPMG, dat wereldwijd actief is, zegt dat het 'de nauwkeurigheid en integriteit van zijn publicaties zeer serieus neemt'. Er wordt onderzoek gedaan naar hoe het rapport tot stand is gekomen. Het rapport blijft in ieder geval offline tot de uitkomsten van het onderzoek bekend zijn.
"We verwachten van al onze medewerkers dat zij onze richtlijnen voor verantwoord AI-gebruik volgen, inclusief menselijke controle om content te valideren en onafhankelijke bronnen te verifiëren", voegt de woordvoerder toe.
De AI-hallucinaties kwamen aan het licht door door GPTZero, een organisatie die met eigen software AI-uitingen detecteert. De ceo zegt dat publicaties zoals die van KPMG de publieke informatievoorziening vergiftigen. Juist doordat informatie uit zulke rapporten weer in andere publicaties en nieuwsartikelen gebruikt kunnen worden. Iets wat volgens GPTZero al gebeurd is.
EY ook in de fout
Onlangs ging KPMG's concurrent EY ook al de fout in met zaken die door AI verzonnen werden. Bedrijven als KPMG en EY zijn grote accountantskantoren en controleren de boekhouding van de organisaties.
Tegelijkertijd doen ze ook onderzoek en geven ze adviezen aan bijvoorbeeld bedrijven en grote instanties. Zo werd gisteren bekend dat KPMG onderzoek gaat doen naar uitkeringsinstantie UWV naar aanleiding van berichten over een angstcultuur daar. Ook onderzocht KPMG bijvoorbeeld in opdracht van Ajax het handelen van voormalig technisch directeur Sven Mislintat.
Hoewel AI nog veel fouten maakt, zijn sommige Nederlanders toch bang dat ze vervangen worden:
