Privacycolumn - Dan word ik wel je vriend

Van leerkrachten tot belangenorganisaties en privacy- en securityspecialisten. Al jaren wijzen zij erop dat we zuinig moeten omgaan met de privacy van onze kinderen. We moeten ze goed weerbaar maken, vertellen over de gevaren en laten weten waar je beter maar niet aan kunt beginnen. En, we hebben vooral zelf ook werk te verzetten – niet zomaar foto’s van kinderen online plaatsen en respectvol omgaan met hun recht op privacy (stop met neuzen in die dagboeken en chats). Maar er is een barrière die we maar lastig kunnen nemen. Aanbieders van online diensten en apps verzinnen allerhande mogelijkheden om toch die jongeren weer te kunnen vinden. En dat zelfs zeer letterlijk.

“Mam, weet je dat Snap nu ook AI heeft en dat je dat niet eens uit kan zetten?” Zo begint een voor mij wat ontnuchterendgesprek. Ik had er al van gehoord en ik had ook wat Reels en Tiktoks voorbij zien komen waarin deze feature gebruikt wordt. Sinds kort heeft iedereen die van Snapchat gebruikmaakt er een nieuwe vriend bij: een AI robot waarmee je kunt praten en die supersnel antwoord geeft bovendien. Mijn zoon ging natuurlijk het gesprek aan, nieuwsgierigheid voorop. Maar, hij blijft een kind van zijn moeder en vroeg natuurlijk direct aan deze nieuwe vriend of die ook wist waar hij woont. De robot gaf aan dat hij het weliswaar niet exact wist, maar kwam tot de schrik van mijn zoon met een zeer nauwkeurige benadering.

De volgende vraag laat zich raden. ‘Hoe weet je dat?!!!’, vroeg hij geschrokken. Mijn zoon verbergt zijn locatie namelijk voor iedereen, behalve voor een aantal hechte vrienden. Als er een ding is dat jongeren heel goed begrijpen dan is het dat het echt gevaarlijk is als iedereen zomaar weet waar je te vinden bent. Klaarblijkelijk ziet de AI robot zich als een hechte vriend, zelfs als je daar niet voor gekozen hebt. En, zoals gezegd, kun je die niet-gekozen AI vriend ook niet ontvrienden of verwijderen.

Gelukkig is er al enige ophef ontstaan over deze nieuwe vriend op Snapchat, want deze robot begon ook al een heel aantal keer een seksueel getint gesprek aan te knopen met de jongeren die ertegen waren gaan kletsen. Hetgeen uiteraard tot enige bombarie heeft geleid. De techgigant heeft inmiddels aangegeven dat ze wat strenger naar de regels gaan kijken en wat beperkingen gaan opleggen aan deze AI robot. Toch jammer dat ze daar pas achteraf aan denken. Ik zou ze graag adviseren om die robot eerst even uit te zetten, dan de regels te bedenken en daarna pas weer aan te bieden. Met daarin de optie dat je actief moet kiezen om vriend te worden en dat je deze kunstmatige vriend ook weer direct kunt verwijderen. Want zoals het nu vormgegeven is, krijg ik wat kippenvel en bekruipt me een zin uit een oude horrorfilm: ‘Hi my name is Chucky, wanna play?*’.

Rachel Marbus
@RACHELMARBUS op Twitter

*Child’s Play 1988

Deze column verscheen in iB3-2023.