Voor het eerst hebben onderzoekers GPT1, de voorloper van de AI-chatbot ChatGPT, kunnen gebruiken om MRI-beelden om te zetten in tekst om te begrijpen wat iemand denkt.
Dankzij deze laatste doorbraak konden onderzoekers van de Universiteit van Texas in Austin de geest van een persoon “lezen” als een continue tekststroom op basis van wat ze hoorden, zich voorstelden of waarnamen.
Het roept grote zorgen op over privacy, vrijheid van denken en zelfs de vrijheid om ongestoord te dromen. Onze wetten zijn niet ontworpen om het wijdverbreide commerciële gebruik van technologie voor het lezen van gedachten aan te pakken – het recht op vrije meningsuiting strekt zich niet uit tot het beschermen van onze gedachten.
Deelnemers aan de Texas-studie werd gevraagd om 16 uur lang naar audioboeken te luisteren terwijl ze in een MRI-scanner zaten. Tegelijkertijd ‘leerde’ een computer hoe ze hun hersenactiviteit van de MRI konden relateren aan wat ze hoorden. Eenmaal getraind, kan de decoder tekst genereren uit iemands gedachten terwijl ze naar een nieuw verhaal luisteren of hun eigen verhaal verzinnen.
Volgens de onderzoekers was het proces arbeidsintensief en kon de computer alleen de essentie vastleggen van wat iemand dacht. Desalniettemin vertegenwoordigen de resultaten nog steeds een belangrijke doorbraak op het gebied van brain-machine-interfaces, die tot nu toe steunden op invasieve medische implantaten. Eerdere niet-invasieve apparaten konden slechts een handvol woorden of afbeeldingen decoderen.
Hier is een voorbeeld van wat een van de proefpersonen hoorde (uit een luisterboek):
Ik stond op van het luchtbed en drukte mijn gezicht tegen het glas van het slaapkamerraam, in de verwachting ogen naar me te zien staren, maar in plaats daarvan vond ik alleen duisternis.
En dit is wat de computer “las” van de hersenactiviteit van de proefpersoon:
Ik liep gewoon door naar het raam en deed het glas open. Ik ging op mijn tenen staan en tuurde naar buiten. Ik zag niets, en toen ik weer opkeek, zag ik niets.
Studiedeelnemers moesten samenwerken om de decoder te trainen en te gebruiken om de privacy van hun gedachten te behouden. De onderzoekers waarschuwen echter dat “toekomstige ontwikkelingen ervoor kunnen zorgen dat decoders deze vereisten omzeilen”. Met andere woorden, technologie voor het lezen van gedachten zou op een dag tegen hun wil op mensen kunnen worden toegepast.
Toekomstig onderzoek zou ook het trainings- en decoderingsproces kunnen versnellen. Hoewel het in de huidige versie 16 uur kostte om de machine te leren lezen wat iemand dacht, zal dit in toekomstige updates aanzienlijk afnemen. En zoals we hebben gezien bij andere AI-toepassingen, zal de decoder na verloop van tijd waarschijnlijk ook nauwkeuriger worden.
Er is nog een andere reden waarom dit een cruciale verschuiving is. Onderzoekers werken al tientallen jaren aan brain-machine-interfaces in de race om gedachtenleestechnologieën te ontwikkelen die iemands gedachten kunnen waarnemen en omzetten in tekst of afbeeldingen. Meestal heeft dit onderzoek zich echter gericht op medische implantaten, met de nadruk op het helpen van gehandicapten om hun gedachten te uiten.
Neuralink, het door Elon Musk opgerichte neurotechnologiebedrijf, ontwikkelt een medisch implantaat waarmee je “overal een computer of mobiel apparaat kunt bedienen”. Maar de noodzaak om een hersenoperatie te ondergaan om een apparaat geïmplanteerd te krijgen, zal waarschijnlijk een belemmering blijven voor het gebruik van deze technologie.
De verbeterde nauwkeurigheid van deze nieuwe niet-invasieve technologie zou er echter een game changer van kunnen maken. Voor het eerst lijkt technologie voor het lezen van gedachten haalbaar door twee technologieën te combineren die direct beschikbaar zijn – zij het tegen hoge kosten. MRI-machines kosten momenteel tussen $ 150.000 en $ 1 miljoen (£ 120.000 en £ 800.000).
Juridische en ethische gevolgen
De wetgeving inzake gegevensbescherming beschouwt gedachten momenteel niet als een vorm van gegevens. We hebben nieuwe wetten nodig die de opkomst van denkcriminaliteit, datalekken en misschien ooit zelfs gedachte-implantatie of -manipulatie zullen voorkomen. De overgang van gedachtenlezen naar planten kan nog lang duren, maar beide vereisen preventieve regulering en toezicht.
Onderzoekers van Oxford University pleiten voor een wettelijk recht op mentale integriteit, dat ze als volgt omschrijven:
Een recht tegen significante, niet-consensuele ingrepen in de eigen psyche.
Anderen beginnen een nieuw mensenrecht op vrijheid van denken te verdedigen. Dit zou verder gaan dan de traditionele definities van vrijheid van meningsuiting en ons vermogen tot denken, verwondering en dromen beschermen.
Een wereld zonder regulering zou heel snel dystopisch kunnen worden. Stel je voor dat een baas, leraar of overheidsfunctionaris je privégedachten zou kunnen binnendringen – of erger nog, ze zou kunnen veranderen en manipuleren.
We zien al oogscantechnologieën die in klaslokalen worden gebruikt om de oogbewegingen van leerlingen tijdens lessen te volgen om te bepalen of ze opletten. Wat gebeurt er als technologieën voor het lezen van gedachten vervolgens op de markt komen?
Wat gebeurt er ook op de werkvloer als werknemers buiten het werk niet meer aan eten of iets anders mogen denken? De omvang van de gewelddadige controle van arbeiders zou alles wat eerder werd gedacht kunnen overtreffen.
George Orwell schreef overtuigend over de gevaren van ‘gedachtencriminaliteit’, waarbij de staat het tot een misdaad maakt om louter opstandige gedachten te hebben over een autoritair regime. De plot van Nineteen Eighty-Four was echter gebaseerd op staatsambtenaren die lichaamstaal, tijdschriften of andere externe aanwijzingen lazen over wat iemand dacht.
Inderdaad, met de nieuwe technologie voor het lezen van gedachten zou Orwells roman erg kort zijn – misschien zelfs een enkele zin:
Winston Smith dacht “Weg met Big Brother” – waarop hij werd gearresteerd en geëxecuteerd.
Dit artikel is opnieuw gepubliceerd door The Conversation onder een Creative Commons-licentie. Lees het originele artikel.
Joshua Krook ontvangt financiering van de UKRI Trustworthy Autonomous Systems Hub.