In mijn vorige artikel schreef ik over de giftige paddenstoelen en hoe een fout van AI fataal kan worden. Conclusie: je moet bij het gebruik van AI zelf blijven nadenken. Immers: antwoorden van AI kunnen fouten bevatten en dus kan blind varen op die antwoorden voor problemen zorgen. In het geval van de paddenstoelen zelfs fatale.
Nu weet ik niet hoe het met de lezers van dit verhaal zit, maar ik ben geen deskundige op het gebied van paddenstoelen. Dat los ik op door de champignons bij de groenteboer te kopen en paddenstoelen in het bos rustig te laten staan. Is nog beter voor de natuur ook. Maar als ik wel gebruik zou maken van AI om na te gaan of een paddenstoel eetbaar is, hoe zou ik dan voorkomen dat ik het slachtoffer zou worden van een fatale fout van de AI? Ik zou me moeten verdiepen in paddenstoelen, welke giftig zijn en welke niet en hoe ze van elkaar te onderscheiden. Of ik zou andere betrouwbare bronnen moeten raadplegen. De kennis die ik nodig heb om het antwoord te beoordelen is in feite ook de kennis die ik mis om de vraag zelf te beantwoorden. Intelligentie alleen is niet voldoende, deskundigheid en het vermogen om ook overtuigende antwoorden kritisch te beoordelen zijn van groot belang. In dit geval zelfs van levensbelang.
Terwijl ik dit schrijf schiet me een reclamespot te binnen die enige tijd geleden regelmatig te zien was. Een jong meisje zit voor de spiegel terwijl ze de aanwijzingen volgt van en influencer op haar telefoon, die uitlegt hoe je een mooie pony kunt maken. Op het moment dat ze een hap uit haar haar heeft geknipt hoor je iets als: “Zo, nu is je pony klaar. Stuur je een mooie foto van jezelf, zodat ik kan zien hoe het geworden is?” Het meisje blijft vertwijfeld achter. Ik voel medelijden opkomen als ik er aan terug denk.
Iets soortgelijks kan je gebeuren als je een chatbot vraagt om instructies om iets te doen wat je nog niet eerder hebt gedaan. Instructies kunnen onduidelijk zijn, onvolledig of domweg fout. Je kan ook de nodige vaardigheden missen om ze uit te voeren. Kortom: redenen genoeg voor een resultaat dat niet is wat je beloofd was.
Vraag bij dit alles is: hoe groot zijn de gevolgen als het antwoord dat je krijgt niet goed is? In het geval van de mislukte pony kan een kapper waarschijnlijk het nodige redden. In het geval van de paddenstoelen is correctie van de gemaakte fout in het ergste geval niet meer mogelijk. Als je dus niet in staat bent om de juistheid van een antwoord van een chatbot te controleren zal je minimaal de vraag moeten stellen wat de consequenties, zowel voor jezelf als voor anderen, zijn van een fout en of die consequenties aanvaardbaar zijn. In het geval van de paddenstoelen zou ik willen stellen dat het niet zo is.
Omdat niemand op alle terreinen waar AI antwoord op kan geven deskundig is zal iemand die verantwoord gebruik wil maken zich dus steeds af moeten vragen wanneer hij onvoldoende in staat is om te beoordelen of een antwoord klopt. Het systeem zal daarbij moeten ondersteunen door bij vragen met mogelijk ernstige gevolgen de beperkingen van zijn beoordeling concreet te benoemen en aan te geven welke onafhankelijke controle nodig is. De makers van AI-systemen moeten hier hun verantwoordelijkheid nemen en dit in die systemen inbouwen. Dat biedt extra bescherming. Maar het is nog geen garantie dat elke gevaarlijke fout wordt ontdekt.
In het geval van de paddenstoelen is het verstandig om te beseffen dat wanneer je niet de kennis hebt om het antwoord van de chatbot te controleren op juistheid je maar beter het zekere voor het onzekere kunt nemen. Dus niet eten. Voor die beslissing is exact weten of de chatbot gelijk heeft niet nodig.
Geen opmerkingen:
Een reactie posten