Veilig Thuis is gestart met een AI-bot chat om de drempel tot contact zoeken te verlagen en meer mogelijkheden te bieden buiten kantooruren. Jurist en expert gezondheidsrecht en -technologie Hannah van Kolfschooten ziet kansen, maar ook risico’s. “De juiste combinatie van AI en mensenwerk zou voor mooie stappen kunnen zorgen.” 

“Het is belangrijk dat we als Nederlandse maatschappij erover nadenken welke rol we willen dat AI krijgt in ons land in de toekomst” zegt Van Kolfschooten. “Voor veel mensen klinkt het als een slecht idee om mensen werk door AI over te laten nemen. Dat is zeer begrijpelijk. AI heeft geen empathie en voelt geen emoties.

Ook gaat het om een kwetsbare groep mensen en gevoelige informatie. Bij gebruik van AI is er een kans op bijvoorbeeld een datalek.” Toch denkt van Kolfschooten dat zolang er een optie blijft tot menselijk contact en zolang mensen in de gaten blijven houden wat er gebeurt in de chats met de bot, dat deze nieuwe AI-bot een hele goede toevoeging kan zijn. “Mensen die bellen zijn niet op zoek naar directe hulp zoals bij het bellen van 112 of de zelfmoordhulplijn. AI als eerste aanspreekpunt kan dan ook minder kwaad.” 

Hybride model

Tegelijkertijd lijkt AI als enige optie voor Van Kolfschooten (nog) niet haalbaar. “AI kan tegenwoordig goed empathie nadoen, maar kan het natuurlijk niet voelen. Het kan ook goed reageren op bijvoorbeeld emoties, maar alles waar AI op reageert is ingebouwd.” Van Kolfschooten zou graag zien dat de inzet van de chatbot zorgvuldig wordt vormgegeven. “Belangrijk is dat er altijd menselijke waarborgen blijven. Zo zou je bijvoorbeeld kunnen denken aan dat bepaalde signaalwoorden of risicocategorieën onmiddellijk een mens in het proces schakelen. Ook zou je chatlogs dagelijks moeten controleren en zouden mensen binnen een korte termijn wel opvolging moeten krijgen van een professional.

Daarnaast moet er vanuit juridisch oogpunt strikte aandacht zijn voor privacy en gegevensbescherming. AI kan gesprekken empathisch nabootsen en veel drempels verlagen, maar het kan geen menselijke ervaring en professionele oordeelsvorming volledig vervangen. Daarom zou een hybride model het beste zijn. De bot als laagdrempelig eerste punt, met zichtbare en duidelijke opties om snel een echte hulpverlener te bereiken.” 

Van Kolfschooten benoemt dat er al jaren in de zorg sprake is van een flink tekort aan personeel. Inspectie Gezondheidszorg en Jeugd publiceerde in oktober 2024 een rapport waaruit bleek dat bij Veilig Thuis mensen vaak te lang wachten. Ook is er onvoldoende deskundigheid en beschikbaarheid van de lokale hulpverlening. Een AI-bot die menselijk werk kan overnemen kan (een deel van) dit tekort dichten. Zo hebben mensen sneller toegang tot een vorm van hulp. Ook was er voorheen alleen een chat beschikbaar tijdens kantooruren. Dit is lastig, omdat veel mensen ook ‘s avonds of ‘s nachts de site van Veilig Thuis bezoeken voor hulp, maar dan met niemand konden chatten.  

Digitale kloof

Ook zegt van Kolfschooten dat uit onderzoek bleek dat veel jongeren het lastig vinden om met een mens te praten over hun problemen. “Vaak is de stap om ergens fysiek te zijn of iemand in de ogen aan te moeten kijken een hele grote stap. Ook het feit dat je weet dat er een echt mens aan de andere kant van de telefoon zit kan soms zelfs al zorgen voor een flinke drempel om hulp te zoeken.”   

Aan de andere kant staan mensen voor wie alles wat digitaal gaat soms best lastig kan zijn, zoals ouderen. Zij kunnen het gevoel krijgen eigenlijk niemand te kunnen spreken en zullen uiteindelijk misschien geen contact zoeken met Veilig Thuis terwijl dit wel van groot belang is. Ook kan AI grote problemen ervaren met communiceren met mensen die niet goed Nederlands spreken of schrijven of bijvoorbeeld mensen die een bepaald dialect hebben of straattaal gebruiken. AI is ontwikkeld voor de gemiddelde persoon en hierdoor kan de chat niet voor iedereen goed bruikbaar zijn. 

Keuze maatschappij

Uiteindelijk draait de discussie volgens Van Kolfschooten niet alleen om techniek, maar vooral om de keuzes die we als samenleving maken. “We moeten ons afvragen welke rol technologie in onze maatschappij mag spelen in bijvoorbeeld zo’n kwetsbaar domein als huiselijk geweld en kindermishandeling. AI kan nooit de menselijke maat volledig vervangen, maar het kan wel helpen om de druk op het systeem te verlichten en de eerste stap naar hulp gemakkelijker te maken. Zolang er voldoende waarborgen zijn, blijft menselijk contact altijd mogelijk en wordt zorgvuldig omgegaan met privacy, kan een chatbot een waardevolle aanvulling zijn. Het is nu aan beleidsmakers, professionals en de maatschappij om samen te bepalen waar de grens ligt.”