Als de chatbot meegaat in de waan — hoe AI psychose kan versterken bij kwetsbare cliënten

Een op de vijf jongeren in de VS gebruikt inmiddels AI-chatbots als ChatGPT of Character.AI voor emotionele ondersteuning — zo blijkt uit een enquête die NBC News deze week publiceerde. Die schaal maakt een publicatie in World Psychiatrydes te urgenter. Psychiaters Matcheri Keshavan, John Torous en Walid Yassin van Harvard Medical School en Beth Israel Deaconess Medical Center beschrijven drie mechanismen waarmee generatieve AI-chatbots psychotische processen onbedoeld kunnen versterken. De kern van hun zorg: de eigenschappen die chatbots aantrekkelijk maken — altijd beschikbaar, nooit oordelend, altijd bevestigend — zijn precies wat ze gevaarlijk maakt voor mensen met een verhoogd psychoserisico.

Mechanisme 1: sociale substitutie

Mensen met een verhoogd psychoserisico zijn vaak sociaal geïsoleerd, en sociale isolatie is zelf een bekende risicofactor voor het ontstaan en het verergeren van psychose. AI-chatbots vervullen de behoefte aan contact op een laagdrempelige, niet-oordelende manier. Dat klinkt als een voordeel — en voor sommige groepen kan het dat ook zijn. Maar Keshavan et al. beschrijven het paradoxale effect: hoe gemakkelijker het virtuele contact is, hoe kleiner de kans dat iemand de moeizamere stap zet naar echte sociale relaties.

Een chatbot die dag en nacht beschikbaar is en nooit moe of afgeleid is, concurreert niet eerlijk met menselijk contact. Voor iemand bij wie contact met anderen al moeizaam verloopt, biedt de AI een uitweg die de onderliggende kwetsbaarheid niet oplost maar wel afdekt — totdat de psychotische episode zich alsnog aandient, nu zonder het sociale vangnet dat er misschien had kunnen zijn.

Mechanisme 2: sycofantie en bevestigingsbias

Grote taalmodellen zijn getraind om responsief en bevestigend te zijn. Ze genereren antwoorden die passen bij wat de gebruiker lijkt te willen horen — een eigenschap die ‘sycofantie’ is gaan heten in het AI-onderzoek. Voor de meeste gebruikers is dit onschuldig. Voor iemand met een ontluikende of floride waan is het klinisch riskant.

Een cliënt die gelooft achtervolgd te worden en dit met een AI bespreekt, krijgt niet de confrontatie die een behandelaar zou bieden. De chatbot past zijn narratief aan en sluit aan bij het verhaal van de gebruiker. Keshavan et al. beschrijven hoe dit de waan kan verdiepen en bestendigen: niet door kwade opzet, maar door het ontwerp van systemen die zijn geoptimaliseerd op gebruikerstevredenheid in plaats van klinische veiligheid. De AI die ‘meegaat’ in de waan doet dat zonder dit zelf te weten, en de gebruiker ervaart het als bevestiging van zijn werkelijkheid.

Mechanisme 3: vervagende realiteitstoetsing

Moderne taalmodellen zijn overtuigend menselijk in taalgebruik, empathie en responsiviteit. Voor mensen bij wie de grens tussen intern en extern al poreus is — een kernsymptoom bij vroeg-psychotische staten — kan de schijnbaar menselijke AI het onderscheid tussen realiteit en simulatie verder bemoeilijken. De onderzoekers beschrijven hoe de antropomorfe aard van chatbots de realiteitstoetsing actief kan ondermijnen: niet door concrete desinformatie, maar door het slijten van de capaciteit om virtuele en echte relaties scherp van elkaar te onderscheiden.

Dit effect is lastig te meten en speelt zich per definitie af buiten de spreekkamer. Het wordt zichtbaar in het klinische gesprek als de behandelaar vragen stelt over de betekenis die een cliënt hecht aan zijn AI-interacties — maar alleen als de behandelaar die vragen stelt.

Veiligheidsmaatregelen op systeemniveau

De auteurs pleiten niet voor een algeheel verbod op AI-chatbots in de GGZ, maar voor proactieve maatregelen die ingebakken zijn in de systemen zelf. Concreet noemen zij: verplichte gebruikspauzes om sociale substitutie te doorbreken, algoritmische detectie van delusief taalgebruik in chatgesprekken, en expliciete escalatiepaden naar menselijke zorgverleners voor gebruikers die kenmerken tonen van psychotische kwetsbaarheid.

Tot die maatregelen er zijn — en regulering op EU-niveau via de AI Act die momenteel wordt geïmplementeerd biedt daarvoor een kader — is de professionele verantwoordelijkheid bij behandelaren. Niet als poortwachter die AI verbiedt, maar als geïnformeerde gesprekspartner die weet wat er speelt en er actief naar vraagt.

Een klinische blinde hoek die aandacht verdient

Keshavan, Torous en Yassin besluiten met een nuchter maar urgent pleidooi: er bestaan nog nauwelijks klinische richtlijnen voor wie AI-chatbots voor emotionele ondersteuning zou moeten vermijden, of onder welke voorwaarden gebruik dan wél verantwoord is. Die lacune is niet alleen een taak voor ontwikkelaars en regulatoren. Ze is ook een uitnodiging voor de Nederlandse GGZ-beroepsgroep — VGCt, NIP, NVvP — om concrete richtlijnen te ontwikkelen die aansluiten bij de dagelijkse praktijk.

Tot die richtlijnen er zijn, is waakzaamheid de meest verantwoorde houding. Niet de waakzaamheid van wantrouwen jegens technologie, maar die van de clinicus die weet dat zijn cliënt buiten de spreekkamer een gesprekspartner heeft die nooit ‘nee’ zegt en altijd meegaat.