Hallo zeggen, uit anders-zijn. Natuurlijk kan dat. Maar waarom zou je hallo zeggen tegen een machine, een kunstmatige intelligentie? In een meesterlijk boek bekijkt Louis de Diesbach hoe AI onze relatie met anderen verandert.

“Bonjour ChatGPT is een boek vol vragen. Heel veel vragen. De belangrijkste, aan het begin: wat gebeurt er concreet als we deze paar woorden op een toetsenbord typen? Is dit de zoveelste voorstelling van de metafysica van bevestiging die de machine voorstelt als een slaaf die aan onze genade is overgeleverd? Of is het een soort wanhopige schreeuw van een individu dat, verpletterd en geïsoleerd door de technologie, op zoek is naar een band waar hij die ook maar kan vinden?

“Wat zegt dit over ons?” vraagt Louis de Diesbach, de auteur van een baanbrekend onderzoek naar de redenen waarom mensen menselijke eigenschappen toeschrijven aan kunstmatige intelligentie-instrumenten. Verkrijgbaar bij Mardaga.

Achter de eenvoudige en oppervlakkige uitwisseling met ChatGPT gaan fundamentele kwesties en een veel breder sociaal project schuil,” zegt de auteur. In feite is praten met een kunstmatige intelligentie niet neutraal. Achter het groeiende belang van financiële kwesties, beïnvloeden machines het sociale debat. Welke impact hebben chatbots op ons en onze samenleving? Wat zijn de grenzen tussen de mens en technologische kracht?

Wat geven we op als we met een conversatieagent praten?

Dit is het tweede boek van Louis de Diesbach, een technologie-ethicus en strategieconsultant bij de Boston Consulting Group. Hij is ook auteur, docent en columnist over AI, nieuwe technologieën en de ethiek van technologie. “Dit boek is geboren uit frustratie. Voor La Libre had ik net een column geschreven met de titel ‘Faut-il dire bonjour à ChatGPT’, wat een groot succes was. Zoals bij elk artikel was ik beperkt tot een bepaald aantal tekens. En ik had zoveel te zeggen! De vraag stellen was niet genoeg, ik wilde proberen hem te beantwoorden; om hem vanuit alle hoeken te kunnen benaderen.

Dus wat geven we op als we met een conversatieagent praten? Dat is de vraag. Een ongemakkelijke, dat is zeker. Het boek onderzoekt en analyseert de gevolgen van dit fenomeen, dat niet alleen ethische, maar ook juridische, economische, politieke en sociologische vragen oproept. “Het is aan ons om de basis te leggen voor een toekomst die verenigbaar is met de machine”, stelt Louis de Diesbach. Met andere woorden, welke plaats laten we over aan de machine?

Een machine een naam geven… echt?

“Als we ons afvragen hoe ver technologie kan gaan, is de barrière die het vaakst wordt opgeroepen die van gevoelens, liefde en genegenheid. Het is verschrikkelijk! Ik kan me niet voorstellen dat deze kwaliteiten uit de strikt menselijke sfeer kunnen worden gehaald en kunnen worden ‘gealgoritmiseerd’!

De entertainmentindustrie heeft hier in veel producties op ingespeeld. Herinner je je de futuristische film Her, waarin een individu smoorverliefd wordt op een conversatie-agent? Dat was in 2013… een eeuw geleden! Wat kunnen we zeggen sinds de daverende release van ChatGPT in 2023? Is het niet gewoon een trailer voor onze toekomst?

Het is maar een kleine stap naar het benoemen van een machine. Deze stap is niet neutraal, want hoewel het uitwisselingen en het dagelijks leven vereenvoudigt, versterkt het ook het idee dat het object een eigen wil heeft en een autonoom bestaan leidt. Zoals de auteur aangeeft, is dit een manifestatie van wat wel het ‘Eliza-effect’ wordt genoemd, naar een van de eerste computerprogramma’s die een diepgaande antropomorfisering bij de gebruikers teweegbracht.

Op het niveau van de goden

Lange tijd stelden onderzoekers op het gebied van robotica en informatica zich voortdurend de vraag: “Zullen mensen willen praten met de robots die we gaan maken? Ze hebben samen met psychologen en sociologen hard gewerkt om letterlijk een automaat te maken die schattig genoeg is en antropomorf kan worden gemaakt, zodat kinderen of ouderen ermee zullen praten.

“Niemand heeft zich echter ooit afgevraagd of het wenselijk is dat deze mensen dat doen,” merkt Louis de Diesbach op. Om alles onder controle te houden, maakt de techniek het mogelijk om het waarschijnlijke, het misschien en het onzekere uit te sluiten. Zodat je uiteindelijk de controle behoudt. Om ervoor te zorgen dat degenen die aan het roer staan de gebeurtenissen in het verleden en in de toekomst volledig onder controle hebben. Het enige kompas is een perfecte wereld, perfect bestuurd en zonder grote veranderingen, geleid door de machtige mensen van Silicon Valley, wiens bevestiging van het zijn, de conatus – de inspanning om te volharden in je zijn, volgens Spinoza – zich overal zal hebben opgedrongen. “Zo’n aura, kunnen we zien, heeft iets goddelijks over zich, en dat is waar het uiteindelijke project om de hoek komt kijken: Homo deus. En wat is uiteindelijk een overwinning op de dood anders dan verheven te worden tot de rangen der goden?

We gaan duidelijk te ver. Als we enthousiast waren over het idee om “Hallo ChatGPT” te zeggen, zouden we dan in staat zijn om er afscheid van te nemen? Als 80% van de bevolking morgen met een AI werkt, wat voor invloed heeft dit dan op hun werk en de aard van hun werk? Als de overgrote meerderheid van de smartphonegebruikers met een chatbot aan het chatten is, hoe moeten we dan omgaan met hun komst in de wereld en hun ontwikkeling volgen?

We zijn verbonden door zichtbare tekens

ChatGPT of een andere vorm van kunstmatige intelligentie, het maakt niet uit. Op zichzelf is ChatGPT slechts een markering. Deze “relatietechnologieën” verlichten onze angst om alleen te zijn terwijl ze ons isoleren, ons beschermen tegen het kleinste gevaar dat spontaniteit en conversatie kunnen creëren.

Laten we teruggaan naar de essentie van het leven, contact en relaties,” suggereert de ethicus. Zoals de filosoof Emmanuel Levinas terecht heeft gezegd, gaat het al om het gezicht. We zijn met elkaar verbonden door zichtbare tekens, maar ook door handelingen die signalen uitzenden, woorden die we horen; we zijn op duizend manieren met elkaar verbonden. Alles is een spoor”. Het leven, kortom.

Nu hoef je je ziel niet meer bloot te geven – je hebt alleen een toetsenbord nodig. Geen dode tijd meer, geen stiltes, geen onbekenden: jij typt, ChatGPT antwoordt! De machine is 24 uur per dag beschikbaar en loopt nooit het risico ons in de steek te laten zoals een mens die misschien niet beschikbaar is omdat hij slaapt, uit eten is met zijn familie, andere vrienden ziet of omdat hij dood is.

Waarom zoeken we liefde bij een AI in plaats van bij onze medemens?

Het is geen kwestie van het ontkennen van ChatGPT en zijn medeschepselen, maar van ze verstandig te gebruiken, binnen de grenzen van onze menselijkheid,” pleit de consultant. Op de laatste BRAFA Art Fair herinnerde Louis de Diesbach ons er tijdens een conferentie aan dat een AI weliswaar een kunstwerk kan genereren, maar alleen volgens de opgelegde criteria van schoonheid. Het zal nooit een kunstwerk zijn; het zal verstoken zijn van een boodschap en nog meer verstoken van gevoel.

Waarom,” vraagt Louis de Diesbach, “zoeken we liefde bij een AI in plaats van bij onze medemens? Welke plaats willen we anderen en hun anders-zijn geven in dit project voor de samenleving?