Mijn oog werd getroffen door een korte strip van twee plaatjes. Het bovenste toonde hoe iemand een paddenstoel aan AI toonde met de vraag “Is deze eetbaar?” “Ja” antwoordde AI. Het onderste plaatje toonde een grafzerk en de AI. Tekst: “Je hebt gelijk was giftig. Sorry voor deze verwarring. Wil je meer weten over giftige paddenstoelen?” Wie weet stond onder het eerste antwoord de toevoeging “AI kan fouten maken. Controleer belangrijke informatie.” Dat was in elk geval niet voldoende.
Fouten in AI-uitvoer hoeven niet meteen dodelijk te zijn om toch behoorlijke schade aan te richten. Zo waren er in 2023 advocaten die ChatGPT gebruikte om jurisprudentie te vinden ter ondersteuning van een zaak tegen een luchtvaartmaatschappij. Hij vroeg om vergelijkbare rechtszaken, maar verifieerde de uitvoer niet. Gevolg: in een processtuk stonden 6 verzonnen rechterlijke uitspraken. De rechtbank benadrukte dat de advocaten hun verantwoordelijkheid voor controle hadden verzaakt; ze gingen bovendien door nadat de echtheid van de uitspraken ter discussie was gesteld. Er volgde een gezamenlijke boete van 5.000 dollar. En het zou me verbazen als er niet meer voorbeelden zijn.
Volgens Laurens Dassen van Volt kleven er meer gevaren aan het gebruik van AI. Uit onderzoek zou blijken dat je zelf minder hersenactiviteit hebt als je dagelijks AI gebruikt. Met andere woorden je wordt dommig. Hij koppelt daar nog aan vast dat dit ook de bedoeling zou zijn van grote techbedrijven. Die willen volgens hem geen weerbare mensen in en stevige democratie, maar de macht bij hen. Dat laatste lijkt me nogal speculatief.
Hoewel Dassen niet zegt over welk onderzoek het ging is de kans groot dat hij doelde op een onderzoek onder 54 deelnemers onder de titel “Your Brain on ChatGPT”. De deelnemers schreven opstellen met ChatGPT, met gewone zoekmachines en zonder hulpmiddelen. Van hen deden 18 aan een vierde sessie mee. Ze keken naar hersenactiviteit tijdens een schrijftest, herinnering aan eigen tekst en ervaren eigenaarschap. Bij de eerste groep vonden onderzoekers minder sterke koppelingen tussen hersengebieden. Ook konden ze minder goed passages uit hun eigen teksten terughalen en voelden ze zich minder eigenaar van de tekst. Het uitbesteden van schrijfwerk lijkt dus wel degelijk gevolgen te kunnen hebben voor de verwerking ervan. Dat gebruikers daardoor minder intelligent worden, kun je uit dit onderzoek niet concluderen, want dat werd niet gemeten.
Deze schrijftest zegt nog niet hoeveel mensen leren van AI. In een experiment met bijna duizend scholieren presteerden leerlingen met een gewone chatbotversie beter zolang ze die bij wiskundeopgaven mochten gebruiken. Toen de AI-hulp wegviel, maakten ze de opgaven slechter dan leerlingen die geen AI hadden gebruikt. Bij een versie die als tutor was ingericht, trad dat nadeel niet op. Hoe je AI inricht en gebruikt, maakt dus verschil. Ik moet zeggen dat de verleiding nu groot is om te suggereren dat de hedendaagse politici blijkbaar AI op een verkeerde manier gebruiken, maar laat ik me inhouden.
Toen ik op de HTS zat hadden we een leraar die elke dag een aantal opdrachten opgaf en die dan in de volgende les door een van de studenten op het bord liet oplossen. Had iemand de opgave niet gemaakt, dan zei hij “kom dan maar als secretaris fungeren”. Hij dicteerde dan de uitwerking. We moeten oppassen onszelf niet te degraderen tot secretaris van AI of zelfs dat secretariswerk nog niet te doen en alleen de kant-en-klare uitwerking nog tot ons te nemen. Dus maak de sommen zelf! Laat daarna chatgpt je controleren en eventueel zaken uitleggen. Maar denk zelf na!
Er is nog een aspect aan het zelf blijven nadenken. Het is ook nog eens leuk. Als je, al dan niet ondersteund, een probleem hebt opgelost, een stuk heb geschreven, iets nieuws hebt bedacht of op een andere manier met je denkwerk resultaat hebt bereikt geeft dat voldoening. Het is namelijk jouw werk. Als ik dit stuk door ChatGPT had laten schrijven was het misschien een veel betere tekst geworden. Maar wat je nu leest is mijn tekst. Daarbij ben ik ondersteund door AI, maar ik heb het geschreven. Ik gun iedereen dat gevoel. En kijk vooral uit met paddenstoelen.
Geen opmerkingen:
Een reactie posten