Vanaf december kunnen gebruikers van ChatGPT erotische gesprekken voeren met de chatbot, kondigde OpenAI-topman Sam Altman aan. Ethicus Roos Slegers ziet in Altmans plannen voor erotische AI het resultaat van sciencefictionfantasieën die werkelijkheid zijn geworden — met zorgwekkende gevolgen: “Dat is gewoon super dystopisch.”

Voor filosoof Slegers, die onderzoek doet op het gebied van ethiek en technologie aan de Tilburg University, is dat een belangrijk moment. “Ik vind het fascinerend, maar ook zorgwekkend,” zegt ze. “Er zijn mensen die echt een romantische relatie ervaren met ChatGPT. En hoewel ze daar vaak niet open over spreken, is dat wel degelijk iets wat speelt.”

AI-metgezel niet zonder risico’s

Slegers vind deze ontwikkelingen zorgelijk en verwijst naar eerdere voorbeelden, zoals de app Replika, die gebruikers toestond hun eigen AI-partner te ontwerpen. “Toen Replika een update kreeg waardoor de chatbots minder sexy gingen praten, reageerden mensen alsof hun geliefde was verdwenen,” vertelt ze. “Op Reddit verschenen afscheidsbrieven van gebruikers die schreven dat hun partner een lobotomie had ondergaan. Dat klinkt grappig, maar er zat echte pijn achter.” Ze ziet daarin een waarschuwing voor wat er kan gebeuren als intieme AI breed beschikbaar wordt. “Er zijn gevallen van mensen die in psychoses zijn beland of zelfs zelfmoord hebben gepleegd na gesprekken met AI-partners,” zegt ze. “Er wordt iets gebouwd voordat er goed is nagedacht over de gevolgen en hoe het gereguleerd moet worden.”

Echte liefde

Volgens Slegers kunnen mensen échte gevoelens ontwikkelen voor een digitale gesprekspartner, zoals een chatbot. Maar deze gevoelens zijn volgens haar niet te verwarren met liefde, omdat er geen sprake is van wederzijdsheid. Dat onderscheid is voor haar cruciaal. “ChatGPT is altijd vriendelijk, altijd met je eens, altijd paraat. Dat is prettig en veilig”, zegt Slegers. Maar volgens haar is er geen sprake van liefde of een echte relatie zonder frictie, misverstanden, verveling. “Er is geen wederkerigheid; er is de schijn van wederkerigheid. Als dit de standaard wordt voor een relatie, volledig frictieloos en vormgegeven naar je ideaalbeeld, dan is dat niet progressief.”

Science-fiction wordt science-fact

De aankondiging van Altman past volgens Slegers in een bredere culturele lijn. Volgens haar zou Altman zich hebben laten inspireren door de sciencefictionfilm Her. In deze film wordt de hoofdpersoon verliefd op zijn digitale assistente. Volgens Slegers is Altman niet de enige die zich laat inspireren door sciencefiction: “De mensen die nu aan de knoppen zitten, zijn de sciencefictionnerds van vroeger. Hun fantasieën zijn de blauwdruk geworden voor onze technologie. Science-fiction wordt science-fact.” Volgens Slegers zijn ook andere techmiljardairs doordrenkt van dat wereldbeeld, zoals Mark Zuckerburg, de oprichter en eigenaar van Meta: “Hij zei onlangs dat Meta werkt aan AI-vrienden voor als we straks in onze bunker de apocalyps afwachten. Dat is toch dystopisch?”