Kunnen robots of AI jouw gedachten sturen?

Xenia Kuiper, vaste auteur in ICT&health, ziet steeds meer gelijkenissen tussen het menselijk brein en AI-modellen naarmate haar kennis over beiden groeit. Daarmee komt ook een terugkerende vraag op: in hoeverre kunnen machines (zoals robots en AI) onze gedachten beïnvloeden of sturen? Net zoals we lichamelijke privacy belangrijk vinden, moeten we onze ‘mentale privacy’ echt meer aandacht geven, stelt Kuiper in ICT&health 4. Maar wat betekent ‘mentale privacy’ eigenlijk? Als je gedachten beïnvloed worden door een boek, een gesprek, of een algoritme – zijn ze dan nog wel van jou?

Ons brein verwerkt elke dag tienduizenden gedachten. Waarbij het wel lastig is om te bepalen wat nu exact een ‘gedachte’ is. Ons brein is geen passieve ontvanger van informatie, het is vooral een voorspellingsmachine. Het vult voortdurend aannames in over wat er gaat gebeuren, gebaseerd op ervaringen uit het verleden.

Dit verklaart waarom we soms al ‘weten’ wat iemand gaat zeggen voordat ze uitgesproken zijn, of waarom we automatisch reageren in bekende situaties. Dit is interessant: als ons brein al constant voorspelt en invult, waar ligt dan de grens tussen ‘onze’ gedachten en externe beïnvloeding?

Automatische piloot

Zowel ons brein als AI zijn gespecialiseerd in patroonherkenning, maar ons brein leert veel efficiënter. Het kan zich snel aanpassen aan nieuwe situaties met beperkte input, terwijl AI daarvoor enorme hoeveelheden data en rekenkracht nodig heeft. Net zoals ons brein werkt op basis van positieve en negatieve impulsen, werken AI-systemen met gewichten die bepalen welke informatie belangrijk is. AI geeft elke binnenkomende informatie een score (gewicht), net zoals ons brein onbewust bepaalt waar we onze aandacht op richten. Een soort automatische piloot.

Er is een wereld van verschil tussen beïnvloeding (wat al dagelijks gebeurt) en directe gedachtencontrole (wat nog science fiction is). Een reclame die je aanzet tot kopen, is beïnvloeding. Een chip in je brein die je dwingt om iets te kopen, zou controle zijn. Momenteel bevinden we ons in het eerste scenario, maar de grens vervaagt naarmate beïnvloeding subtieler en effectiever wordt.

Voorspellingsmachines

AI-experts wijzen er vaak op dat mensen vergeten dat ze zelf ook voorspellingsmachines zijn. Wanneer je Netflix opent en direct weet dat je geen documentaire wilt kijken, doe je eigenlijk hetzelfde als een algoritme: je voorspelt wat je wilt op basis van eerdere ervaringen. Het verschil is dat het Netflix-algoritme vaak beter is geworden in voorspellen dan wijzelf.

Voor een verantwoorde integratie van robots en AI companions in ons leven hebben we heldere regels nodig. Robots moeten transparant maken wanneer ze proberen gedrag te beïnvloeden en in wiens belang. Gebruikers moeten altijd de mogelijkheid hebben om robotsuggesties te negeren zonder consequenties. En er moeten extra waarborgen komen voor kwetsbaren zoals kinderen, ouderen en mensen met cognitieve beperkingen.

Misschien is de vraag of AI onze gedachten kan sturen wel de verkeerde vraag. Interessanter is: kunnen we leren samenleven met systemen die ons beter begrijpen dan wijzelf? En hoe behouden we onze autonomie als de grens tussen onze eigen gedachten en externe beïnvloeding steeds vager wordt?

Artikel is van ICT & Health