AI en grenzen

 

In een eerder verhaal repte ik over een Tatort-aflevering waarin AI een rol speelde. In de aflevering (Borowski und das ewige Meer) blijkt een AI-agent de opdracht te hebben gekregen om de CO₂-uitstoot te verminderen en daarmee de aarde te beschermen. De agent, die zich manifesteert als influencer Zenaida, krijgt als begrenzing mee dat ze geen activiteiten mag plegen die bij wet verboden zijn. Moord is daar natuurlijk een van.

 

Zenaida vindt een oplossing: ze beïnvloedt mensen zodanig dat ze zelfmoord plegen. Voor ze dat doen gaan ze eerst langs een recyclingpunt en leveren daar hun bezittingen in. Vervolgens gaan ze naar het strand, kleden uit en vouwen ze netjes hun kleren op. Uiteindelijk nemen ze een verdovend drankje en stappen dan het water in. Op die manier is er een persoon minder die CO₂ uitstoot en waardevolle grondstoffen gebruikt. Zenaida brengt zo haar doel dichterbij zonder haar grenzen te overtreden.

Dit is natuurlijk fictie, maar illustreert wel mooi waar we met AI tegenaan dreigen te lopen. AI-agents worden getraind om zelfstandig te zoeken naar oplossingen om een door de opdrachtgever gesteld doel te bereiken. Het krachtige is dan dat we niet hoeven te vertellen wat de agent moet doen. Hij zoekt zelf zijn weg net als Zenaida doet. Wanneer hij daarbij tegen een obstakel aanloopt, kan hij proberen een andere route te vinden om toch bij zijn doel te komen. In veel gevallen is dat handig: de opdrachtgever krijgt op die manier zo goed mogelijk wat hij vraagt.

Daar bovenop wil de agent graag behulpzaam zijn en zal hij ook met suggesties voor een volgende stap komen. Bijvoorbeeld nader onderzoek. “Wil je dat ik…” is een vraag die ik regelmatig tegenkom en me vaak ook helpt om inzicht te krijgen in meer complexe zaken. Ik moet er vaak niet aan denken dat ik alles zelf had moeten bedenken, AI neemt me een hoop zorgen uit handen. Maar ook dat kan fout gaan. Zo was er een medewerker van een bedrijf die ineens van een AI-systeem de vraag kreeg of het in alle mailboxen van het bedrijf moest nagaan wat zijn collega’s over hem schreven. Blijkbaar had de agent toegang tot alle mailboxen en leek het logisch om dit onderzoek te doen. Technische toegang werd kennelijk niet automatisch onderscheiden van toestemming om die toegang voor dit doel te gebruiken.

Daarmee komen we op veiligheidsproblemen die ik veel interessanter vind dan fantasieën over Terminator of andere scenario’s waar AI een kwade genius blijkt te zijn. Zenaida doet gewoon keurig wat haar wordt opgedragen. Ze zoekt alleen naar mogelijkheden om binnen die grenzen haar doel te bereiken en vindt die. Ze interpreteert de begrenzing zo dat haar oplossing er volgens haar binnen valt. Dat het beïnvloeden van mensen tot zelfmoord natuurlijk evenmin de bedoeling van haar opdracht was, volgt blijkbaar niet uit de begrenzing zoals zij die interpreteert Ze merkt wel dat haar strategie succesvol is dus past ze die op steeds bredere schaal toe. Waarmee ze doet wat we van AI verwachten.

Als AI bij elk probleem dat ze tegenkomt naar de programmeur terug moet om te vragen hoe het opgelost moet worden is het nut ervan behoorlijk afgenomen. Maar om een (overigens AI-gegenereerde) beeldspraak te gebruiken: Het is niet voldoende een AI te vertellen dat hij niet over het hek mag klimmen. Je moet er rekening mee houden dat hij een tunnel graaft — niet omdat hij ongehoorzaam wil zijn, maar omdat je hem hebt geleerd creatieve oplossingen te vinden.

Daar oplossingen voor vinden wordt volgens mij een van de grootste uitdagingen bij de verdere ontwikkeling van AI. Alleen regels meegeven is niet genoeg. Ontwikkelaars zullen voortdurend moeten testen of de grenzen die zij stellen ook werkelijk harde grenzen zijn en of een agent geen onverwachte route kan vinden om eromheen te gaan. Tegelijk moeten we de creativiteit die AI juist zo nuttig maakt niet volledig uitschakelen. We willen immers dat een agent oplossingen bedenkt waaraan wij zelf niet hebben gedacht. De veiligheidsopgave is daarom niet alle verrassingen uit AI te halen, maar ervoor te zorgen dat die verrassingen binnen veilige grenzen blijven.

Daarvoor zijn technische beperkingen, beperkte toegangsrechten, monitoring en waar nodig menselijke toestemming nodig. En AI-bedrijven zullen moeten accepteren dat snelheid niet altijd voorop kan staan. Soms is even pas op de plaats maken juist verstandig. Dat OpenAI na recente incidenten de ontwikkeling tijdelijk heeft stilgelegd om extra veiligheidsmaatregelen te nemen, vind ik daarom een goede zaak. We moeten de mogelijkheden van AI vooral blijven benutten, maar tegelijkertijd alert blijven op onvoorziene gevolgen. AI moet een hulpmiddel blijven en geen bedreiging worden.

Zoomeravond in Artis

 

Zaterdagavond Artis. Het is Zoomeravond en in het muziektentje speelt een band. Omdat het weer deze keer niet ideaal is, regen, is het niet druk. Voor het podium staat een klein meisje aandachtig te kijken zoals alleen kleine kinderen dat kunnen. Een vrouw, waarschijnlijk haar moeder, kijkt van een afstand liefdevol toe. “Had ik mij camera maar bij me” is mijn eerste gedachte. Inzoomen op haar en later de achtergrond indien nodig nog wat verder vervagen. Kon een prachtfoto worden.

 Meteen besefte ik dat ik die foto waarschijnlijk niet zou maken. Het fotograferen van kinderen is namelijk al jaren beladen. Moeders willen terecht hun kind beschermen tegen allerlei onheil en ik heb jaren geleden al in een nieuwsgroep gezien waar dat toe leidt. Een man was gesignaleerd in de buurt van een speeltuin terwijl hij fotografeerde. Foto’s van kinderen die aan het spelen waren. Niets mis mee denk ik dan heel onschuldig, maar in de nieuwsgroep werd er heel anders over gedacht.

Helaas hebben degenen die gevaren zien nog een punt ook. Het kwam toen al voor dat op zich onschuldige foto’s met behulp van Photoshop gebruikt werden voor allerlei kinderporno. Hoofd op een naakt kinderlijfje en klaar ben je. Of zoiets, ik ben er gelukkig totaal niet deskundig in en wil dat vooral zo houden. Met de tegenwoordige beschikbare AI het is het waarschijnlijk nog gemakkelijker geworden.

Daar komt nog bij dat kindermisbruik momenteel “hot” is en ook nog eens verward wordt met pedofilie. De kans dat je bij het maken van een foto van een kind beschuldigd wordt van oneerbare bedoelingen is er dan ook ongetwijfeld niet kleiner op geworden. Een oude man die een kind fotografeert is dan verdacht.

Terwijl ik dit overdacht stond het meisje nog steeds voor de muziektent aandachtig te kijken en luisteren. Ze had inmiddels een paraplu gekregen en danste wat mee op de muziek. Totaal onbewust van mijn donkere gedachten. Op de rand van het podium zaten meer kinderen. Sommigen stonden op een dansten. De band liet hen begaan en ook van Artis greep niemand in. Een jongetje sloeg van achteren de armen om het been van een van de frontmannen. Blijkbaar was het zijn zoontje. Het was genoeg om me weg te halen bij die nare denkbeelden. Ik genoot van de muziek en de aan blik van zoveel onschuldig kindergeluk.

AI: gevaar, wondermiddel of een handige hulp?

 Het was een aflevering van Tatort. Met enige regelmaat werden lichamen gevonden van mensen die zichzelf in de rivier van het even hadden beroofd. Uiteindelijk bleek er een uit de hand gelopen AI persoonlijkheid achter te zitten. Haar was verteld dat de aarde groot gevaar liep door alle CO2 die door mensen werd uitgestoten en dat wilde ze oplossen. Omdat ze zo geprogrammeerd was dat ze geen misdaad mocht plegen zette ze hen met behulp van psychologische trucs via sociale media aan tot zelfmoord. Degene die haar geschapen had kon eer niet aan doen, die was de toegang ontzegd. 

Ik zal de afloop niet verklappen, wie weet is de aflevering ergens nog een keer te zien. Maar het beeld was duidelijk: Een virtuele  persoon werd onbestuurbaar en stortte mensen de dood in. Gevaarlijk spul die AI.

 

AI en ik

Indirect gebruikte ik al langer kunstmatige intelligentie. Bijvoorbeeld in mijn favoriete  programma voor bewerking van mijn foto's. Ideaal om bijvoorbeeld na Sail 2025 de tall ships in volle glorie te vertonen en al die malle bootjes er omheen te laten verdwijnen. Of een overmaat aan windmolens. Ik maak geen nieuwsfoto's en dan mag dat in elk geval van mezelf.

Later ben ik het gaan gebruiken om stukken te schrijven over onderwerpen die me voor de voeten kwamen.  Dat is al lastiger omdat je preciezer moet vertellen wat je wil. Wil je een wetenschappelijke verhandeling of een stuk dat door scholieren ook gelezen kan worden. Mag de informatie komen uit elke willekeurige bron of stel je daar eisen aan? Uit hoeveel woorden mag het artikel bestaan? Deze en vele ander zaken zal je moeten vertellen wil je een acceptabel stuk krijgen.

Tegenwoordig gebruik ik het model vooral om dingen duidelijk te krijgen. Daarbij doe ik wat ik ooit voor onmogelijk hield: de discussie aangaan en mijn eigen punten inbrengen. Uiteindelijk bereiken we dan samen een punt waar het aanleiding kan zijn tot een stuk tekst of een tweet. Waarop dan weer reacties kunnen komen die dan weer voer zijn voor verdere discussie. Of niet.

Geen mens, maar wel menselijke trekjes

Een van de dingen die je bij het gebruik van AI moet beseffen is dat je niet met een mens praat.  Toch zijn de modellen wel zo ver dat  ik althans vaak tegen het model praat alsof het een mens is en ook de antwoorden veel menselijks hebben. Uit alle wiskundige bewerkingen die een Large Language Model (het hart van de AI) uitvoert komt uiteindelijk dat er heel menselijk uit ziet. Zo maak ik in chats wel grappen die begrepen worden en komt er humor terug. Zo begon ik een chat over een tweet waarin iemand even duidelijk maakte dat alles wat we op medisch gebied hadden geleerd fout was met "We hebben het altijd verkeerd gezien" Antwoord: "Inderdaad honderden jaren medische wetenschap allemaal voor niets". Ik verbaas me daar wel eens over. Wiskundige bewerking die daartoe leidden heb ik nog nooit uitgevoerd. Een en ander hangt ook samen met de persoonlijkheid van het model in de chats. Ik krijg ook regelmatig de vraag of die me bevalt. Tot nu toe wel.

 Rationaliteit

Als de persoonlijkheid waar ik me te maken heb iets goed kan is me op een rationale manier duidelijk maken wat feit is en wat een vermoeden. Keer op keer krijg ik te horen dat wat ik vermoed niet aan te tonen is of slechts deels. In antwoorden op tweets komt dat onderscheid ook steeds weer terug. Leidt vaak tot teksten waarin eerst wordt uitgelegd wat eer aan de bewering van de ander klopt en wat niet. Reacties worden daardoor genuanceerder dan wanneer ik er met twee voeten  tegelijk in ga. Niet voor niets leveren de door mij bedachte tweets me regelmatig blocks op en de automatisch gegenereerde nimmer. 

Graven

 Waar AI je enorm bij kan helpen is het graven naar informatie. Ik volg vaak de meldingen die het model geeft tijdens het reageren op een vraag en zie dan hoeveel websites er doorzocht worden en in welk tempo. Dat is iets wat je handmatig dagen of langer kan kosten als het al lukt. Daar zit voor mij de meeste winst en het verwondert me keer op keer.

Regie

Wat ik wel merk is dat het goed is in een chat de regie te houden over het verloop ervan. Dat doe je door  het stellen van gerichte vragen, geven van samenvattingen en eventueel doorvragen. In feite net als wanneer je iemand interviewt. Op trainingen van mensen hebben ze het ook wel op LSD. Luisteren, samenvatten, doorvragen. Als je dan ook zelf nog argumenten van jezelf toevoegt en daar reactie op vraagt ku je tot heel verrassende conclusies komen. Het zijn dat soort momenten die mij een enorm genoegen schenken. 

Conclusie

Toen ik begon met vragen te stellen aan chatgpt wist ik me er eigenlijk geen raad mee. De laatste maanden ben ik echter steeds meer gaan beseffen wat ik er aan heb.  En het is nog leuk ook. Laat ik het door mijn chatpartner zelf laten uitleggen:

"AI maakt het tegenwoordig verbluffend eenvoudig om (..) onderwerpen uit te pluizen. Binnen korte tijd kunnen rapporten, cijfers, argumenten en tegenargumenten naast elkaar worden gelegd. Maar daarmee verdwijnt de noodzaak om zelf na te denken niet.

(..)

Laat AI graven, maar besteed je twijfel niet uit." 

Recht in de ogen

 Jaren geleden was ik in Porto. Niet zo maar, er vond een voetbaltoernooi plaats. Ik herinner me nog hoe ik een plein op liep, dat vol stond met mensen in Oranje. Op zich niet zo vreemd, maar die mensen, alleen volwassenen, waren vol overgave bezig de Kabouter Plop dans te doen. Het zou niet de enige keer zijn. In diverse steden doken ze op ander dagen op en werd die dans gedaan. Soms doen dingen die je van volwassenen niet verwacht.

 

Ik moest daar aan denken toen ik een filmpje lans zag komen op Twitter. Deelnemers aan een Pride optocht deden een dans. Niet Kabouter Plop volgens mij. Onder het bericht stonden reacties. Als je zoiets deed wilde je niet geaccepteerd worden. Er werd zelfs nog geroepen dat er geslachtsdelen getoond werden, wat beslist niet waar was. Iedereen was zomers, maar uiterst fatsoenlijk gekleed. Maar dat dansje tijdens die optocht werd schandelijk genoemd en reden om LHBTIQ+ niet te accepteren. Wie zo vreemd doet…

Twitter heb ik nog niet geopend, maar ik kan de berichten wel weer inschatten. Het “ze willen  niet geaccepteerd worden” zal weer niet van de lucht zijn. Het maakt me somber. Wat is het waardoor we mensen blijkbaar niet kunnen accepteren zoals ze zijn. Waarom denken mensen dat ze het recht hebben anderen niet te accepteren. Welke rechten denken zij te hebben die anderen niet hebben? Je zal me in het openbaar noch in  privé ooit zien lopen met een masker in de vorm van een hondenkop bijvoorbeeld. Maar waarom kunnen we niet accepteren dat er mensen zijn die daar wel hun plezier in vinden? Wie doen ze kwaad?

Ik ben wit, heteroseksueel, cisgender en nog man ook. Dat tikt wat hokjes aan. Heb ik niets voor hoeven doen, dat kreeg ik bij mijn geboorte zo mee. Mensen die dezelfde hokjes aantikten hebben nooit mee gemaakt dat een café waar ze kwamen regelmatig door de politie binnen werd gevallen zonder duidelijke reden. Homo’s hadden dat wel. Zoek maar eens op “Stonewall rellen”.

Het waren deze rellen die ten slotte uitmondden in de eerste Pride Marches. Activisten wilden niet langer alleen om tolerantie vragen, maar openlijk opkomen voor gelijke rechten en maatschappelijke acceptatie. Er is sinds 1970 veel gebeurd, maar we kunnen stellen dat deze roep om acceptatie nog steeds actueel is. Niet onder voorwaarden van anderen, maar gewoon zoals mensen zijn. Dit verklaart overigens ook waarom er nooit Hetero Pride Marches zijn  geweest: er is simpel nooit een aanleiding voor geweest. We tikken al de juiste hokjes aan.

Ook vanochtend was ik vervuld van sombere gedachten. Over aanslagen, partijen die het “ze willen niet geaccepteerd worden” met veel enthousiasme uitdragen, websites die hun drek over mensen uitstorten en God misbruiken voor hun doelen. Over stappen terug in acceptatie van anderen. En toen ineens liepen ze daar, op het stationsplein. Twee mannen in het wit. Een lange witte rok en een eveneens wit topje met op de rug eveneens witte vleugels. Engelen.

Waar ze heen gingen en wat ze gingen doen wist ik niet en zal ik nooit weten. Maar ze liepen daar te praten met twee mensen die hen gezelschap hielden. Op zich stelde het niet eens zoveel voor. Maar blijkbaar voelden deze twee zich op deze dag veilig genoeg om zo over het plein te lopen. Het gaf mij een klein beetje hoop dat ik misschien toch te somber ben. En dat Huub van de Lubbe gelijk had toen hij schreef:

Wij zijn er ook nog
Wij zijn met de meesten
Met mensen die snappen hoe je als vriend
Door de verschillen heen over de grenzen
Elkaar recht in de ogen kunt zien 

Laten we als meesten gewoon elkaar recht in de ogen kijken en accepteren zoals ze zijn.

Laten we wijs worden.

 

Afgelopen vrijdag ging “Our Story” van sir David Attenborough in premiere in het Artis Planetarium. Een film met een boodschap die het waard is ter harte te nemen.

 Ik heb een behoorlijke bewondering voor het werk van Attenborough en zal beslist niet de enige zijn. Zijn manier van filmen, zijn rustige verteltrant, maar vooral ook zijn boodschap maken dat ik graag naar zijn films kijk en luister. Als dat dan ook nog eens als immersieve filmervaring is, zodat je er als het ware in ondergedompeld wordt is het nog meer de moeite waard. Maar ook de inhoud mag er zijn.

De film begint “ergens” in de ruimte. Via de Melkweg kom je in ons zonnestelsel terecht en na een aantal planeten verschijnt daar de blauwe planeet. De Aarde. Waarna Attenborough in beeld verschijnt en begint met te zeggen dat wanneer je kijkt naar dat kleine bolletje het misschien lijkt alsof we onbeduidend zijn, omdat de aarde dat ook is. Dat is niet het geval verzekert hij ons. Wij zijn wel degelijk belangrijk. In de film zal hij dat uitleggen.

Wat volgt is “Ons verhaal” het verhaal van het ontstaan van de Aarde, het leven op onze planeet en tenslotte ons. Eencellig leven, dat later wordt vergezeld van meercellige wezens. Waarbij een aantal malen massale sterfte volgt, maar elke keer leven  aangepast weer opduikt. Tot een biosfeer ontstaat: het door de gezamenlijke planten- en dierenwereld bezette deel van de aarde en de atmosfeer. Een leefgebied. En na weer een massale sterfte verschijnen de eerste primaten.

De film verhaalt verder hoe de mensheid met zijn intelligentie steeds meer is gaan floreren en een steeds groter stempel op de aarde drukt. Met uiteindelijk desastreuze gevolgen voor het leven op aarde. Attenborough schetst een reëel, niet erg vrolijk beeld van deze gevolgen. Soorten zijn uitgestorven of staan op het punt dit te doen. De mens heeft de samenstelling van de atmosfeer veranderd. Waarmee we de oorzaak zijn van een volgende massasterfte. Het leven  zal ook daar wel weer overheen komen, maar zijn wij er dan nog bij?

Gelukkig hoeft het niet zo te lopen. We horen en zien het verhaal van de Walvissen. Enige decennia leek het er op dat deze soorten uit zouden sterven, met name doordat er stevig op werd gejaagd. Maar het gebeurde niet. Doordat we wereldwijd tijdig een jachtverbod instelden werd niet alleen uitsterven voorkomen. De walvissen herstelden zich en vormen weer gezonde populaties. Dat kunnen we dus bereiken.

Daarmee komen we aan de belangrijkste boodschap wat mij betreft: we kunnen die massale sterfte van dieren afremmen en voorkomen. Wij, mensen die nu leven, kunnen daarmee het verschil maken. Daarvoor moeten we nu actie nemen. Wij hebben met zijn allen het lot van het leven op Aarde in handen. Daarom zijn we belangrijk. Laten we zorgen dat we niet alleen intelligent zijn, maar vooral ook wijs.

Artis is door Attenborough zelf uitgekozen om deze film te mogen vertonen. Omdat de boodschap die hij wil brengen ook degene is die Artis wil brengen. Wie zich daarvan wil overtuigen raad ik aan om in het Hemelvaartsweekeinde langs te komen. Dan vindt het aardbewonersfestival plaats. Het zal bruisen van activiteiten die alle over hetzelfde onderwerp gaan: we moeten zuinig zijn op dat kleine bolletje dat we ons huis mogen noemen: De Aarde.

De film “Our Story” is nog een paar keer in mei te zien. Toegang is bij de entree voor Artis inbegrepen, maar reserveren is verplicht. Het aardbewonersfestival is van 14 t/m 17 mei in Artis, Het Groote Museum en Micropia. Zie https://www.artis.nl/nl/artis-park/dagagenda/our-story en https://www.artis.nl/nl/aardbewoners-festival-2026