Er is een gigantische markt voor tech die niet suckt

De berichtenapp Signal wil een privacyvriendelijk alternatief zijn voor de bigtechplatforms. Meredith Whittaker, de voorzitster van de stichting erachter, neemt die strijd persoonlijk. ‘Mensen met macht die toegang hebben tot intieme gedachten, dat is érg veel controle.

'Kregen jullie ook net dat alarm op jullie telefoon? Ik schrok me rot.’ Meredith Whittaker komt de trap afgedaald in de lobby - meer een kleine zithoek - van het uiterst charmante boetiekhotel Rosalia’s Menagerie in Amsterdam. Het is net na de middag op de eerste maandag van de maand, en dan test Nederland zijn systeem dat moet waarschuwen voor onheil. Haar woordvoerder sust dat ze niets hoeft te doen. ‘Oké. Geruststellend, I guess?'

Ook al zitten we binnen, de Amerikaanse bazin van Signal - de best beveiligde en meest privacyvriendelijke berichtenapp - kreunt onder de snijdende wind en houdt gedurende het hele interview haar dikke jas aan. Maar niets dat haar tegenhoudt om een uur lang haar kritische licht te laten schijnen op big tech en het businessmodel van wat Whittaker ‘surveillancekapitalisme’ noemt, het boeken van waanzinnige winsten op de kap van de intiemste persoonlijke data van gebruikers.

Whittaker, zo gesteld op privacy dat zelfs haar leeftijd geheim is, kruipt maar wat graag als luis diep in de luxueuze pels van Silicon Valley. Signal wordt gerund door een stichting waarvan zij de voorzitster is en doet het anders dan de grote platforms. De app werd uitgevonden door cryptograaf Moxie Marlinspike en mee gefinancierd door Brian Acton, een co-stichter van WhatsApp. Whittaker, ex-Google, kwam in 2022 aan boord en is het gezicht en de evangelist van Signal.

Het handelsmerk is de garantie op absolute privacy, wat Signal aantrekkelijk maakt voor een bonte groep: activisten, journalisten en onderdrukten, maar ook de machtigsten der aarde. Dat laatste bleek in maart, toen een Amerikaanse journalist per abuis werd toegevoegd aan een chatgroep waarin kopstukken van de regering Trump oorlogsplannen uitwisselden op Signal.

Van Google rebel tot Signal voorzitster
Meredith Whittaker groeide op in Californië en studeerde literatuur en retorica in Berkeley. Na haar studies ging ze aan de slag bij Google, waar ze onder meer Google Open Research Group oprichtte, dat de samenwerking tussen de academische en de opensourcewereld moest bevorderen. In 2018 was ze bij Google een van de organisatoren van een groot protest tegen de samenwerking van het bedrijf met het Pentagon.

Na haar vertrek bij Google richtte ze aan New York University mee het AI Now Research Institute op, dat zich toelegt op de studie van de sociale impact van artificiële intelligentie. Ze is er nog steeds hoofdadviseur. Sinds 2022 is ze de voorzitster van de Signal Foundation, de stichting boven de populaire berichtenapp Signal. Die telt zo’n 100 miljoen gebruikers en staat bekend als de best beveiligde chatapp ter wereld. Over haar leeftijd en privéleven deelt Whittaker niets.

Cijfers van België zijn er niet, maar Signal telt wereldwijd zo’n 100 miljoen gebruikers. Peanuts vergeleken met de apps van Meta zoals WhatsApp. Maar enkel bij Signal zit je goed voor echt veilig chatverkeer, stelt Whittaker. ‘Stel: je hebt 100 procent puur goud, en je hebt goudkleurig metaal dat er ook zo uitziet, maar eigenlijk 70 procent lood is. Wat kies je? Ja, WhatsApp heeft een beetje encryptie - het gebruikt trouwens ons standaardprotocol - om een kleine portie data te beschermen. Maar Signal doet dat voor 100 procent, of zo dicht mogelijk daarrond. Wij versleutelen metadata - informatie zoals wanneer en met wie je berichten uit-wisselt - waaruit zoveel valt af te leiden. Die toegang willen wij niet. Als je die wel hebt, kan je ooit onder druk gezet worden.’

Meta heeft wel een enorm voordeel: het netwerkeffect. Iedereen gebruikt WhatsApp, omdat iedereen WhatsApp gebruikt. Hoe ga je het gevecht aan als mensen gebruiksgemak belangrijker vinden dan privacy?
Meredith Whittaker: ‘Dat speelt inderdaad een gigantische rol. In de geschiedenis van communicatie heeft het netwerkeffect altijd tot monopolies geleid. Maar mensen kiezen niet voor een app omdat ze die willen gebruiken, wel omdat ze met elkaar willen praten. Daarom hebben wij altijd een zo eenvoudig en menselijk mogelijk design gekozen. Het maakt niet uit hoe puur je privacyprincipes zijn, je wil dat mensen - van je jonge broertje tot je huisbaas - je app gebruiken.’

‘We staan klaar om iedereen te ondersteunen in hun fundamentele recht op privacy. We zien bijvoorbeeld dat mensen naar ons overstappen in tijden van politieke instabiliteit, of wanneer big tech het weer eens verknalt. Of wanneer een instantie als de Europese Unie ons aanbeveelt.'

Bewijst Signal dat een ander businessmodel mogelijk is? De grote bedrijven verzamelen je data, verkopen die en verdienen sloten geld. Signal is een non-profit die het moet hebben van giften. Is dat wel duurzaam?
Whittaker: ‘Wij bewijzen dat er een massaal verlangen is naar - en een gigantische markt voor - tech die niet suckt. Die mensen effectief willen, die cool en innovatief is. De monocultuur van de surveillance techindustrie, waarbij meer altijd beter zou zijn, laat veel te wensen over. Die is niet heel innovatief. We hebben veel veiligere technologie nodig, veel meer controle op kritieke infrastructuur, enzovoort. We hebben diensten nodig die beter werken voor de mensen die ze gebruiken.’

Nochtans is er in Europa veel jaloezie, omdat ons continent geen enkel groot communicatieplatform kan voortbrengen.
Whittaker: ‘Het zou heel goed zijn als Europa die angst overboord gooit. Het is beter om te focussen op de zaken die de hyperscalers niet goed doen, maar wel moeten gebeuren. Zaken die kritiek zijn voor onze sociale en economische en politieke infrastructuur en die echte innovatie vereisen. In plaats van te hopen dat de monopolies die al decennia zijn ingesleten neergehaald kunnen worden.’

Kan u zelf een modern leven leiden zonder de apps van de groten?
Whittaker: Oh God, no. Ik zou niet weten wie dat wel kan. Het is geen kwestie van keuze. Zij vormen de infrastructuur. Ik probeer niet het puurste leven te leiden, ik probeer gewoon om eerlijk te zijn over wat ik zie en waar ik het in een betere richting kan duwen. Ik ben me heel bewust van de monopolies en pas de instellingen zo veel mogelijk aan in mijn voordeel. Maar als je probeert om van big tech weg te blijven, kan je niet functioneren en leven en rela-ties hebben in de wereld vandaag.’ ‘We kunnen dat ook niet framen als een individuele keuze. Het is zoals de klimaatdiscussie. Dat idee van de ‘persoonlijke ecologische voetafdruk’ is een uitvinding van de fossiele industrie en een manier om de verantwoordelijkheid bij elke individuele consument te leggen. Dat leidt af van het simpele feit dat er amper keuze is. Iedereen voelt zich heel schuldig, maar het probleem ligt elders.’

Signal is een van de grote tegenstanders van het ‘chat control’-plan van de Europese Unie: het controversiële wetsvoorstel dat platforms verplicht om toegang te verlenen tot chats in de strijd tegen kindermisbruik. Bent u blij met het recente compromis dat die verplichting schrapte?
Whittaker: ‘Dat fucking eindeloze proces, het houdt niet op. Het is heel goed dat de verplichting verdwenen is, het is nu optioneel. Dat is een enorm probleem minder. Maar er is wel nog bewegingsruimte voor een herinvoering. Signal is geclassificeerd als high risk’. Daarmee zijn we het niet eens, omdat wat wij doen heel eenvoudig en heel nodig is. Het is magical thinking om te denken dat zoiets bestaat als een achterpoortje dat enkel de overheid kan gebruiken. Daarover is enorme technologische consensus: met een achterpoortje zijn het hele netwerk en alle informatie erop kwetsbaar. Gelukkig beseft men dat nu voldoende. Dat is een goed teken.’ ‘Ik ben echt verbaasd over het feit dat dit idee blijft terugkeren met dat soort arrogante aannames. Als ze hiermee waren doorgegaan, was het een ramp geweest. Wanneer de mensen met macht toegang hebben tot de meest intieme en persoonlijke gedachten, dan is dat een gigantische mate van controle.'

Om even advocaat van de duivel te spelen... Whittaker: Please do. De duivel kan een advocaat gebruiken.’ De wet moet kindermisbruik bestrijden. Wat als we dat meer kunnen inperken, in ruil voor een beetje minder privacy?
Whittaker: ‘Mijn god, wat een valse tegenstelling. De volgende keer dat je iemand van de overheid zoiets hoort verdedigen, vraag dan eens hoeveel middelen naar de bescherming van vrouwen of van kinderen in kwetsbare posities gaan? Hoeveel middelen zijn er bij de politie om misbruik op te volgen? Die cijfers wil ik weleens zien, en ik weet dat het heel mager zal zijn. Als het echt om de kinderen gaat:  follow the money. Follow the policy. Geven we echt om kinderen, of gebruiken we hen als politiek voorwendsel zodat de inlichtingendiensten iets van hun wishlist kunnen krijgen? Volgens mij verliest de duivel dat argument.

We moeten het hebben over AI. Van WhatsApp over Messenger tot Snapchat: alle grote berichtenapps hebben tegenwoordig een bot ingebouwd om mee te chatten. Waarom Signal niet?
Whittaker: ‘Omdat iedereen die haat. Ze zijn ook totaal niet nuttig. Wij hebben geluk: Signal heeft geen waanzinnige hoeveelheden kapitaal gepompt in een gok op AI die ons verplicht om ze te gebruiken waar mensen het niet leuk vinden. Veel van wat je ziet, zijn wanhopige pogingen om een markt te vinden voor AI. Ze hoort niet in onze private communicatie. Normale mensen - 99 procent van de wereld, dus - hebben toch niet veel aan een AI-samenvatting van de berichten van je moeder? Het is geen antwoord op een vraag van consumenten, enkel op een nood van de bedrijven zelf, die hun investeringen moeten verantwoorden.

Het was alweer een jaar van waanzinnige gekte rond AI. Hoe kijkt u daarnaar?
Whittaker: ‘Het is een monocultuur: één heel beperkte aanpak uit de vele die er bestaan. Die aanpak is: hoe meer computer-kracht en data er zijn, hoe beter de neurale netwerken (AI-modellen geïnspireerd op het menselijk brein, red.) zullen worden. Dat is het pad dat een tiental jaar geleden werd ingeslagen, toen bleek dat de technologie nuttig kon zijn voor sommige bedrijven. Fundamenteel is AI in dit tijdperk geboren uit de platformmonopolies. Er is geen innovatie die we daar los van kunnen zien.

Hoe kan het dan anders?
Whittaker: ‘Er zijn veel andere mogelijke manieren om AI te gebruiken, die geen massieve supermodellen op basis van gigantische investeringen zijn en die heel interessant kunnen zijn in veel domeinen. Maar daarvoor moet de term AI eigenlijk opnieuw geclaimd worden. Het is geen technische term, het is een verlangen, een aspiratie. Sinds de term AI voor het eerst werd gebruikt in 1957 is de technologie op heel veel verschillende manieren toe-gepast, zoals via neurale netwerken en deep learning (neurale netwerken die zelfstandig complexe patronen kunnen leren, red.) Maar het wordt nu gereduceerd tot de large language models (het model waarop bijvoorbeeld ChatGPT gebouwd is, red.) gebaseerd op neurale netwerken. Er zijn veel interessante dingen die we kunnen doen, maar daarvoor moeten we uit dat 'bigger is better'-paradigma. Dat komt alleen maar de gevestigde monopolies ten goede. Enkel zij hebben alle ingrediënten om dit soort AI te creëren en te verspreiden.

Gelooft u in iets als superintelligentie?
Whittaker: ‘Dat is verlangen op verlangen. Wat is het zelfs, man? Dus nee, ik geloof er niet in. Is die ‘goddelijke AI’ een mythische realisatie van een superieur bewustzijn dat alle menselijke capaciteiten zal overtreffen en waarvoor we gewoon moeten buigen? Nee, maar het is wel een heel gevaarlijk narratief. We kunnen wat filosofische debatjes houden. Dat is oké en misschien interessant. Maar het risico dat ik zie, is dat we bijna religieuze en bovennatuurlijke krachten toekennen aan een technologie die gecontroleerd wordt door een handvol bedrijven, waarvan de doelen mogelijk niet overeenstemmen met wat voor iedereen goed is. En impliciet wordt ons gezegd ons niet alleen te onderwerpen aan deze technologie, maar ook om ervan uit te gaan dat die correct is en superieur aan onze eigen oordelen. Dat is een catastrofale mindset.

U bent vooral kritisch over ‘agentic AI’, programma’s die als een soort butler autonoom beslissingen voor ons nemen, zoals een restaurant boeken. Die zijn een gevaar voor de privacy. Apple voedt WhatsApp-spraakberichten aan Siri, werd pas vastgesteld.
Whittaker: ‘Om te kunnen doen wat er wordt beloofd, zijn gigantische hoeveelheden data nodig. Als een agent voor jou gaat optreden, dan heeft hij toegang nodig tot informatie over jou: je kredietkaart, je agenda, je browsergeschiedenis, noem maar op. Zodat hij kan optreden als een soort nepversie van jou, restaurants kan contacteren en reserveren. In dat paradigma heeft een agent ook toegang nodig tot je berichten van bijvoorbeeld Signal. De technologie is niet gebouwd met het oog op veiligheid, maar op autonomie en gebruiksgemak. De architectuur lijkt sterk op die van malware. Ze creëert erg verontrustende mogelijkheden voor aanvallen, die indruisen tegen de best practices cyberveiligheid die al jaren bestaan.’

Bestaat het risico niet dat steeds slimmere AI uiteindelijk alle encryptie zal verslaan?
Whittaker: ‘We zijn uiteraard bezorgd over een toekomst waarin kwantum-computers encryptie kunnen ondermijnen. Wij waren de eerste berichtenapp die daarrond technologie implementeerde. We beschermden Signal tegen 'harvest now, read later'. Dat zijn aanvallen die nu al data verzamelen en ze in de toekomst decrypteren, wanneer de kwantumtechnologie ervoor bestaat. Er is ook AI die goed is in het opsporen van kwetsbaarheden in encryptietechnologie. We nemen die dreiging heel ernstig.’

Iets anders: u studeerde literatuur en retorica, niet vanzelfsprekend voor een carrière in tech.
Whittaker: ‘Ja, I love that shit. Ik vind het een extreem waardevolle opleiding. Als je goed kan lezen, kan je alles leren. Dat is een essentiële vaardigheid. Maar ik snap de obsessie niet goed met hoe je universitaire opleiding de rest van je leven zou bepalen. Ik studeerde af, plaatste mijn cv op een site en werd gerekruteerd door Google. Ik had geld nodig - als dat niet het geval was geweest, was ik waarschijnlijk dichteres geworden. Bij Google had ik het geluk dat er heel capabele mensen rondliepen die heel goed waren in computerwetenschappen. Van hen kon ik leren.’

Niet alles is verloren voor wie in dit digitale tijdperk niet kiest voor STEM-opleidingen, met de focus op wiskunde, wetenschappen en techniek?
Whittaker: ‘Schrijf de humane wetenschappen niet af. We hebben ze nodig. Mensen zijn zo hongerig naar iets echts.’

Dit artikel werd gereproduceerd met toestemming van de uitgever, alle rechten voorbehouden. Elke reproductie dient het voorwerp uit te maken van een specifieke toestemming van de beheersvennootschap License2Publish: info@license2publish.be.