Zijn AI-chatbots betrouwbaar?

Een chatbot is getraind met miljoenen teksten. Zo leert hij welke woorden bij elkaar horen en hoe zinnen vaak lopen. Ook kunnen sommige chatbots zelf informatie opzoeken op het internet. Daardoor lijkt hij veel te weten. Maar in die teksten zitten soms fouten en vooroordelen. Dat heet data-bias, oftewel een data-vooroordeel.

Daarnaast klinken de zinnen van een chatbot wel logisch, maar snapt de bot zelf de betekenis niet. Zo snappen context niet altijd. Als je alleen het woord 'kater' geeft, weet een chatbot niet of het over een katje gaat of dat je gisteren te veel hebt gedronken. Modellen zijn bovendien gemaakt om behulpzaam te zijn. Ze zeggen niet snel dat ze iets niet weten. Ook zijn ze het vaak met je eens, ook als je ongelijk hebt. 

Door alle bovengenoemde redenen kunnen chatbots dus informatie en bronnen weergeven die niet echt zijn, dit noem je 'hallucinaties.' De bots zijn vaak geneigd om altijd een antwoord te geven en dus gaan ze allerlei informatie combineren, ook al hoort die informatie niet bij elkaar. Zo kan er een antwoord uit rollen dat helemaal niet waar is, hoe overtuigend het ook klinkt. Dit kan heel riskant zijn als je wel alles gelooft wat AI je vertelt of als je een chatbot bijvoorbeeld vraagt om therapeut te spelen of medisch advies te geven. 

Ook bestaan er verschillen tussen modellen in toon en opvattingen. Zo blijkt dat ChatGPT bij stemadvies vaker links-liberale keuzes noemt. Terwijl het model van Elon Musk, Grok, juist wordt bekritiseerd vanwege extreemrechtse of antisemitische uitspraken. 

Neem de uitspraken van je chatbot dus niet als vanzelfsprekend aan. Het werkt prima voor praktische zaken, maar vergeet niet je eigen onderzoek te doen en zelf kritisch na te blijven denken. 

Dat AI-chatbots niet volledig te vertrouwen zijn, komt dus deels door hoe ze leren. Ontdek hoe dat precies werkt in onze story.