Is het een probleem dat AI regelmatig hallucineert en groepen discrimineert?
Laten we eerst een andere vraag onderzoeken: is het een probleem dat mensen soms hallucineren en groepen discrimineren?
Eigenlijk niet: in de loop van eeuwen hebben we veel technieken ontwikkeld om in onze communicatie met elkaar uit te vissen of iemand de waarheid spreekt of liegt. Of iemand een verhaal verzint of zich aan de feiten houdt. We accepteren, met (grond)wetten op de achtergrond, niet dat groepen negatief gediscrimineerd worden en we zijn als samenleving steeds sterker geworden om vroege signalen op te pakken en ze in de kiem te smoren. Betekent dat dat er niemand meer liegt, verhalen verzint of discrimineert? En dat mensen niet pijnlijk benadeeld kunnen worden hierdoor: uiteraard niet, maar de impact is beperkt door wat we gezamenlijk hebben geleerd en toepassen; en nog steeds aan het leren zijn.
Waarom zou dat dan wel een probleem zijn bij AI? Net als bij medemensen zullen we moeten leren antwoorden van AI te beoordelen op geldigheid, waarheid, compleetheid etc. Bijvoorbeeld door verder door te vragen of een tweede bron van kennis te raadplegen. Net als bij medemensen zullen we moeten luisteren naar de verborgen discriminatie in de antwoorden op onze vragen: b.v. sluiten we hier niet toevallig vrouwen uit omdat de heersende overtuiging nog steeds is dat zij niet technisch zouden zijn?
En natuurlijk is het lastig om hier doorheen te kijken als je vragen beantwoord worden met een coherente verzameling argumenten (iets waar AI in uitblinkt). Een tip zou hier kunnen zijn om op je buikgevoel af te gaan: als iets te goed klinkt om waar te zijn dan is het tijd voor extra checks, net zoals je dat bij mensen zou doen. En als je vermoedt dat er iets ontbreekt of de aannames kloppen niet, is het tijd zelf een aantal kritische vragen op te stellen hierover, en die ook aan de AI-applicatie voor te leggen, om daar achter te komen. Je zult merken dat er dan, ook door AI, behoorlijk gestotterd kan worden en logische antwoorden toch niet altijd volledig correct zijn of uitgaan van onbewezen aannames.
Oftewel: behandel AI niet als de bron van alle wijsheid maar als een willekeurig medemens, die je nog niet kent en nog niet (volledig) vertrouwt; en gebruik je communicatietechnieken en gezonde verstand zoals je dat gewend bent in die situatie met een medemens.
Is it a problem that AI regularly hallucinates and discriminates against groups?
Let’s first examine another question: is it a problem that people sometimes hallucinate and discriminate against groups?
Not really: over the centuries, we’ve developed many techniques to figure out, in our communication with one another, whether someone is telling the truth or lying—whether someone is making up a story or sticking to the facts. Backed by (constitutional) laws, we do not accept that groups are discriminated against, and as a society we have become increasingly adept at picking up on early signs and nipping them in the bud. Does that mean no one lies, makes up stories, or discriminates anymore? And that people cannot be severely disadvantaged by this? Of course not, but the impact is limited by what we have collectively learned and put into practice—and are still learning.
Why, then, would that be a problem with AI? Just as with other people, we will have to learn to evaluate AI’s responses for validity, truth, completeness, etc.—for example, by asking follow-up questions or consulting a second source of knowledge. Just as with other people, we’ll have to listen for hidden discrimination in the answers to our questions: for example, aren’t we by any chance excluding women here because the prevailing belief is still that they aren’t technically minded?
And of course, it’s hard to see through this when your questions are answered with a coherent set of arguments (something AI excels at). One tip here might be to trust your gut: if something sounds too good to be true, it’s time for some extra checks—just as you would do with people. And if you suspect that something is missing or the assumptions aren’t correct, it’s time to ask a few critical questions about it yourself and pose them to the AI application to find out. You’ll notice that even AI can stumble quite a bit in these situations, and logical answers aren’t always entirely correct or are based on unproven assumptions.
In other words: don’t treat AI as the source of all wisdom, but rather as any other person you just met for the first time and don’t (fully) trust; and use your communication skills and common sense just as you would in that situation with a human being.
