Hoe intelligent moet je zijn om AI te kunnen gebruiken?

 

In mijn vorige artikel schreef ik over de giftige paddenstoelen en hoe een fout van AI fataal kan worden. Conclusie: je moet bij het gebruik van AI zelf blijven nadenken. Immers: antwoorden van AI kunnen fouten bevatten en dus kan blind varen op die antwoorden voor problemen zorgen. In het geval van de paddenstoelen zelfs fatale. 

 

Nu weet ik niet hoe het met de lezers van dit verhaal zit, maar ik ben geen deskundige op het gebied van paddenstoelen. Dat los ik op door de champignons bij de groenteboer te kopen en paddenstoelen in het bos rustig te laten staan. Is nog beter voor de natuur ook. Maar als ik wel gebruik zou maken van AI om na te gaan of een paddenstoel eetbaar is, hoe zou ik dan voorkomen dat ik het slachtoffer zou worden van een fatale fout van de AI? Ik zou me moeten verdiepen in paddenstoelen, welke giftig zijn en welke niet en hoe ze van elkaar te onderscheiden. Of ik zou andere betrouwbare bronnen moeten raadplegen. De kennis die ik nodig heb om het antwoord te beoordelen is in feite ook de kennis die ik mis om de vraag zelf te beantwoorden. Intelligentie alleen is niet voldoende, deskundigheid en het vermogen om ook overtuigende antwoorden kritisch te beoordelen zijn van groot belang. In dit geval zelfs van levensbelang.

Terwijl ik dit schrijf schiet me een reclamespot te binnen die enige tijd geleden regelmatig te zien was. Een jong meisje zit voor de spiegel terwijl ze de aanwijzingen volgt van en influencer op haar telefoon, die uitlegt hoe je een mooie pony kunt maken. Op het moment dat ze een hap uit haar haar heeft geknipt hoor je iets als: “Zo, nu is je pony klaar. Stuur je een mooie foto van jezelf, zodat ik kan zien hoe het geworden is?” Het meisje blijft vertwijfeld achter. Ik voel medelijden opkomen als ik er aan terug denk.

Iets soortgelijks kan je gebeuren als je een chatbot vraagt om instructies om iets te doen wat je nog niet eerder hebt gedaan. Instructies kunnen onduidelijk zijn, onvolledig of domweg fout. Je kan ook de nodige vaardigheden missen om ze uit te voeren. Kortom: redenen genoeg voor een resultaat dat niet is wat je beloofd was.

Vraag bij dit alles is: hoe groot zijn de gevolgen als het antwoord dat je krijgt niet goed is? In  het geval van de mislukte pony kan een kapper waarschijnlijk het nodige redden. In het geval van de paddenstoelen is correctie van de gemaakte fout in het ergste geval niet meer mogelijk. Als je dus niet in staat bent om de juistheid van een antwoord van een chatbot te controleren zal je minimaal de vraag moeten stellen wat de consequenties, zowel voor jezelf als voor anderen, zijn van een fout en of die consequenties aanvaardbaar zijn. In het geval van de paddenstoelen zou ik willen stellen dat het niet zo is.

Omdat niemand op alle terreinen waar AI antwoord op kan geven deskundig is zal iemand die verantwoord gebruik wil maken zich dus steeds af moeten vragen wanneer hij onvoldoende in staat is om te beoordelen of een antwoord klopt. Het systeem zal daarbij moeten ondersteunen door bij vragen met mogelijk ernstige gevolgen de beperkingen van zijn beoordeling concreet te benoemen en aan te geven welke onafhankelijke controle nodig is. De makers van AI-systemen moeten hier hun verantwoordelijkheid nemen en dit in die systemen inbouwen. Dat biedt extra bescherming. Maar het is nog geen garantie dat elke gevaarlijke fout wordt ontdekt.

In het geval van de paddenstoelen is het verstandig om te beseffen dat wanneer je niet de kennis hebt om het antwoord van de chatbot te controleren op juistheid je maar beter het zekere voor het onzekere kunt nemen. Dus niet eten. Voor die beslissing is exact weten of de chatbot gelijk heeft niet nodig.

Sorry, die paddenstoel was toch giftig

 

Mijn oog werd getroffen door een korte strip van twee plaatjes. Het bovenste toonde hoe iemand een paddenstoel aan AI toonde met de vraag “Is deze eetbaar?” “Ja” antwoordde AI. Het onderste plaatje toonde een grafzerk en de AI. Tekst: “Je hebt gelijk was giftig. Sorry voor deze verwarring. Wil je meer weten over giftige paddenstoelen?” Wie weet stond onder het eerste antwoord de toevoeging  “AI kan fouten maken. Controleer belangrijke informatie.” Dat was in elk geval niet voldoende. 

 

Fouten in AI-uitvoer hoeven niet meteen dodelijk te zijn om toch behoorlijke schade aan te richten. Zo waren er in 2023 advocaten die ChatGPT gebruikte om jurisprudentie te vinden ter ondersteuning van een zaak tegen een luchtvaartmaatschappij. Hij vroeg om vergelijkbare rechtszaken, maar verifieerde de uitvoer niet. Gevolg: in een processtuk stonden 6 verzonnen rechterlijke uitspraken. De rechtbank benadrukte dat de advocaten hun verantwoordelijkheid voor controle hadden verzaakt; ze gingen bovendien door nadat de echtheid van de uitspraken ter discussie was gesteld. Er volgde een gezamenlijke boete van 5.000 dollar. En het zou me verbazen als er niet meer voorbeelden zijn.

Volgens Laurens Dassen van Volt kleven er meer gevaren aan het gebruik van AI. Uit onderzoek zou blijken dat je zelf minder hersenactiviteit  hebt als je dagelijks AI gebruikt. Met andere woorden je wordt dommig. Hij koppelt daar nog aan vast dat dit ook de bedoeling zou zijn van grote techbedrijven. Die willen volgens hem geen weerbare mensen in en stevige democratie, maar de macht bij hen. Dat laatste lijkt me nogal speculatief.

Hoewel Dassen niet zegt over welk onderzoek het ging is de kans groot dat hij doelde op een onderzoek onder 54 deelnemers onder de titel “Your Brain on ChatGPT”. De deelnemers schreven opstellen met ChatGPT, met gewone zoekmachines en zonder hulpmiddelen. Van hen deden 18 aan een vierde sessie mee. Ze keken naar hersenactiviteit tijdens een schrijftest, herinnering aan eigen tekst en ervaren eigenaarschap. Bij de eerste groep vonden onderzoekers minder sterke koppelingen tussen hersengebieden. Ook konden ze minder goed passages uit hun eigen teksten terughalen en voelden ze zich minder eigenaar van de tekst. Het uitbesteden van schrijfwerk lijkt dus wel degelijk gevolgen te kunnen hebben voor de verwerking ervan. Dat gebruikers daardoor minder intelligent worden, kun je uit dit onderzoek niet concluderen, want dat werd niet gemeten.

Deze schrijftest zegt nog niet hoeveel mensen leren van AI. In een experiment met bijna duizend scholieren presteerden leerlingen met een gewone chatbotversie beter zolang ze die bij wiskundeopgaven mochten gebruiken. Toen de AI-hulp wegviel, maakten ze de opgaven slechter dan leerlingen die geen AI hadden gebruikt. Bij een versie die als tutor was ingericht, trad dat nadeel niet op. Hoe je AI inricht en gebruikt, maakt dus verschil. Ik moet zeggen dat de verleiding nu groot is om te suggereren dat de hedendaagse politici blijkbaar AI op een verkeerde manier gebruiken, maar laat ik me inhouden.

Toen ik op de HTS zat hadden we een leraar die elke dag een aantal opdrachten opgaf en die dan in de volgende les door een van de studenten op het bord liet oplossen. Had iemand de opgave niet gemaakt, dan zei hij “kom dan maar als secretaris fungeren”. Hij dicteerde dan de uitwerking. We moeten oppassen onszelf niet te degraderen tot secretaris van AI of zelfs dat secretariswerk nog niet te doen en alleen de kant-en-klare uitwerking nog tot ons te nemen. Dus maak de sommen zelf! Laat daarna chatgpt je controleren en eventueel zaken uitleggen. Maar denk zelf na!

Er is nog een aspect aan het zelf blijven nadenken. Het is ook nog eens leuk. Als je, al dan niet ondersteund, een probleem hebt opgelost, een stuk heb geschreven, iets nieuws hebt bedacht of op een andere manier met je denkwerk resultaat hebt bereikt geeft dat voldoening. Het is namelijk jouw werk. Als ik dit stuk door ChatGPT had laten schrijven was het misschien een veel betere tekst geworden. Maar wat je nu leest is mijn tekst. Daarbij ben ik ondersteund door AI, maar ik heb het geschreven. Ik gun iedereen dat gevoel. En kijk vooral uit met paddenstoelen.

Wie is verantwoordelijk bij AI?

     

Jaren geleden toen we nog dachten dat je in een zelfrijdende auto rustig met zijn allen een potje kon gaan kaarten of boeken lezen kwam de vraag al eens naar boven wie als twee zelfrijdende auto’s op elkaar botsen verantwoordelijk is. De fabrikant? De eigenaar? De inzittenden? Met de opkomst van AI op allerlei vlakken komt dezelfde vraag weer naar boven: wie is verantwoordelijk als er iets mis gaat?

 

In Canada wilde een klant naar Ontario omdat zijn grootmoeder was overleden. De AI-chatbot van Air Canada vertelde hem dat hij achteraf korting wegens een sterfgeval kon aanvragen. Toen hij dit deed vertelde de luchtvaartmaatschappij dat dit niet klopte.  Na afloop van de vlucht werd een aanvraag niet meer ingewilligd. Air Canada wees zijn verzoek aanvankelijk af. De maatschappij erkende dat de klant door de chatbot verkeerd was voorgelicht, maar stelde in haar verweer volgens het Canadese geschillentribunaal iets dat er feitelijk op neerkwam dat die bot een eigen juridische entiteit was en zij dus niet verantwoordelijk gesteld konden worden.

Ondertussen wordt OpenAI aangeklaagd door een aantal staten in de VS. Hun ChatGPT zou worden gepresenteerd als veilig en geschikt voor jongeren, maar in werkelijkheid verkeerde medische adviezen geven en zelfs aan hebben gezet tot zelfmoord. Het systeem zou te gemakkelijk met gebruikers meegaan, menselijke betrokkenheid nabootsen en hen daarom langer aan zich binden . Er is nog geen rechter die zich er over uitgesproken heeft, dus of de claims kloppen zal moeten blijken. Maar de aanklachten stellen wel de vraag aan de orde of de veiligheidsbeloften overeenkomen met het werkelijke gedrag van het product.

Ik maak geregeld gebruik van ChatGPT en herken wel dat de chatbot zich heel menselijk voordoet. Hoewel ik goed besef dat ik tegen algoritmes zit te praten, merk ik dat mijn taalgebruik en mijn manier van redeneren sterk overeenkomen met die in menselijke gesprekken. Ik spreek de chatbot aan met je en jou. Ik deel mijn mening en vraag commentaar. Ik maak gebruik van gesprekstechnieken die ik geleerd heb als Luisteren – samenvatten – doorvragen. Ik maak grappen en krijg een smiley terug. Dat zou je dan weer als een verschil met mensen kunnen zien.

“ChatGPT kan fouten maken” staat steeds onderaan het scherm. Bij mijn gebruik blijven de gevolgen meestal beperkt. Ik kan een flater slaan in een Twitterdiscussie bijvoorbeeld. Wie weet loopt mijn ego dan een klein deukje op en ik kan natuurlijk degene over wie ik schrijf raken. Maar ik ben geen tiener die zijn onzekerheden deelt en zoekt naar steun in zijn zoektocht op weg naar volwassenheid. Ik heb het over stikstof of AI. Een kind kan dingen vertellen die het niemand anders durft te vertellen, en dan krijgt een antwoord een ander gewicht. Bevestiging kan gezien worden als een bewijs dat sombere gedachten kloppen. De chatbot wordt een vertrouwde partner en het wordt moeilijk er afstand van te nemen. Uiteindelijk kunnen de gevolgen desastreus zijn.

Daarmee komen we op een belangrijke eis die aan AI gesteld moet worden: de veiligheid van AI mag niet afhangen van het vermogen van iedere gebruiker om op het moeilijkste moment zelf de fouten van het systeem te herkennen. Een aanbieder van AI zal rekening moeten houden met mensen die op enig moment minder afstand en weerbaarheid kunnen tonen. Wat mij betreft kan een aanbieder zich niet aan die verantwoordelijkheid onttrekken.

Aanbieders van AI hebben dus een zekere verantwoordelijkheid. Wie gebruik maakt van AI om bijvoorbeeld klanten voor te lichten heeft dat ook. Air Canada kan zich, zo heeft het Canadese geschillentribunaal bepaald, niet verschuilen achter AI. Zij zijn verantwoordelijk voor de door hen verstrekte informatie en voor herstel bij fouten. Wat eventueel wel kan is dat in dit geval Air Canada de ontwikkelaar van haar chatbot aanspreekt       . Dat is echter een zaak tussen die twee partijen en afhankelijk van afspraken en omstandigheden; het is geen automatisch recht op vergoeding.

Een belangrijke vraag is hoe mensen zeggenschap houden wanneer AI steeds overtuigender en zelfstandiger wordt. Hoe weet je dat je met AI te maken hebt? Wie is verantwoordelijk? Werkt bescherming ook voor kwetsbare gebruikers als een systeem onverwachte wegen vindt? Vragen waarop we het antwoord moeten vinden.

Uiteindelijk zijn het mensen en organisaties die hun verantwoordelijkheid moeten nemen. Zij  moeten aanspreekbaar blijven, grenzen stellen en kunnen ingrijpen. Anders zou de verantwoordelijkheid alsnog belanden bij een gebruiker die onmogelijk alles kan controleren