Human-in-the-loop: zomerse bedenkingen
16 augustus 2026
Ik nam me voor om deze zomer vier boeken te lezen, en strandde op drie. Wat heb ik dan gelezen? Empire of AI van Karen Hao bood een mooi overzicht van de interne werking van OpenAI en, breder, van de industrie en het kapitaal achter AI. The Reverse Centaur’s Guide to AI van Cory Doctorow zette me aan het denken over hoe mensen omgaan met de uitdagingen die gepaard gaan met (gedwongen) implementatie van AI. Tot slot zoomde Love Machines van James Muldoon in op het individuele niveau en op de relaties die mensen met AI opbouwen.
Hoewel AI de gemene deler is, had elk boek uiteraard een andere focus. Ik wil ze hier niet stuk voor stuk bespreken, maar wel één idee delen dat me over de drie boeken heen het meest is bijgebleven.
Kanttekeningen bij de mens in de loop
Meer bepaald ben ik steeds sceptischer geworden over het concept human-in-the-loop bij AI-therapie. In theorie klinkt het mooi: ‘mensen laten toezien op AI zodat ze kunnen ingrijpen wanneer er iets misgaat’. Dat is wellicht een noodzaak en zal dat in de nabije toekomst ook blijven. Maar als je nadenkt over hoe die human-in-the-loop eruitziet wanneer AI-therapeuten worden aangeboden door grote bedrijven in plaats van door individuele hulpverleners, kan ik Cory Doctorow alleen maar bijtreden waar hij stelt dat het werk van een ‘AI-therapeut in de loop’ echt zielverpletterend zal zijn. Concreter: stel je een scenario voor waarin AI het therapeutische werk overneemt, zelfs (in meer of mindere mate) de therapeutische relatie opbouwt, en de menselijke clinicus enkel betrokken wordt wanneer de zaken escaleren. Dat betekent onevenredig veel omgaan met crises en mislukkingen, en misschien zelfs de verantwoordelijkheid dragen voor een therapeutische relatie waar je nauwelijks deel van hebt uitgemaakt. In dat geval is het een erg reductionistische visie op therapie, waarin AI de therapeut niet ondersteunt, maar de therapeut AI ondersteunt.
Of dat een probleem is voor patiënten, is een andere vraag: zoals Muldoon aangeeft, heeft de clinicus mogelijk nauwelijks een therapeutische relatie met de patiënt, terwijl de patiënt wél een heel reële relatie met de AI kan ervaren. Toch is een terugkerend patroon doorheen de drie boeken dat mensen robotachtig werk verrichten opdat AI menselijker kan worden. Achter ogenschijnlijk autonome AI-systemen schuilt vaak een aanzienlijke hoeveelheid minder zichtbaar menselijk werk, waaronder data-annotatie, evaluatie en contentmoderatie, dikwijls onder slechte arbeidsomstandigheden en soms met blootstelling aan bijzonder verontrustend materiaal. Karen Hao citeert voormalig OpenAI-hoofdwetenschapper Ilya Sutskever, die razend effectieve, spotgoedkope AI-therapie belooft, wat, eerlijk gezegd, op zich niet noodzakelijk slecht zou zijn, als het in de toekomst echt haalbaar blijkt en het nu geen effectieve schade aan de geestelijke gezondheid zou veroorzaken. Wanneer bedrijven in dit domein wél aandacht besteden aan veiligheid, lijken ze vaak het catastrofale, existentiële doemdenken (AI die de wereld overneemt) te overbenadrukken en de reële, actuele risico’s en schade voor mens en milieu te onderschatten.
Hoe gaan we verder?
Mijn zomerlectuur liet me dan ook enigszins verscheurd achter: hoe gaan we verder? Alle auteurs reiken wel degelijk zinvolle volgende stappen aan, want er is duidelijke consensus dat de technologie op zich waarde en potentieel heeft. Wat wél zorgwekkend is, zijn de enorme financiële motieven achter de manier waarop ze momenteel worden opgeschaald en gepusht. Er zijn heel wat voorbeelden van mensen en organisaties die het beste maken van wat vandaag al mogelijk is, met respect voor (de diversiteit van) mensen, intellectuele eigendom en ons milieu. Daarom denk ik ook niet dat we ervan moeten afzien om het potentieel van AI voor geestelijke gezondheid verder te verkennen. Misschien is ‘een mens in de loop houden’ als ethisch criterium niet voldoende. We zouden ons ook moeten afvragen wat voor loop we voor die mens creëren.
Als dat klinkt als een vage oproep tot actie, dan is dat waarschijnlijk omdat het er ook een is. Toch biedt het misschien wat stof tot nadenken, of dient het als motivatie om een van deze boeken (of waarom niet, alle drie) op te pikken en er je eigen mening over te vormen.