Door Zoë Tuithof. Dit is een bewerkte versie van het artikel 'De stad praat terug', dat eerder in het boek Smart & Leefbaar verscheen. Dit boek is een oproep tot het stellen van kaders voor technologie die onze steden ingrijpend verandert. Wilt u het hele boek lezen? Hier kunt u het gratis te bestellen.
’Using voice to make technology disappear’ is de missie van start-up Snips. De organisatie visualiseert een toekomst waarin haar app elk apparaat voorziet van een algoritmisch en stemgestuurde assistent. De mens zou de verschillende apparaten niet meer hoeven te bedienen en bevrijd worden van de onpersoonlijke, interrumperende technologie. Dat klinkt als een utopie, maar de vraag is hoe ons stadsleven verandert als onze apparaten alles voor ons regelen, bellen en bestellen.
Snips is een app die door middel van artificiële intelligentie alle informatie vanuit e-mails, berichten, kalender en locaties van een persoon opslaat. De technologie krijgt toegang tot deze data, zodat Snips een ‘persoonlijke informatiegrafiek’ kan samenstellen. Oprichter Rand Hindi stelt dat de stemgestuurde assistent door de hoeveelheid data een diepgaand inzicht in zijn gebruiker verwerft en alles wat hij zegt onthoudt. Op die manier moeten de samenwerkende apparaten moeilijke vragen kunnen begrijpen en uitvoeren. De data van de gebruiker worden offline opgeslagen, waardoor de privacy gewaarborgd is.
Algoritmisch doolhof
Cultuursocioloog Siri Beerends ziet in Snips een potentiële dystopie: ‘Wie bepaalt hoe hun artificiële intelligentie geprogrammeerd wordt? Het is nu al een probleem dat algoritmen een black box zijn. We hebben geen idee op welke manier we als mens gestuurd worden. En dan wordt ook nog eens ons bewustzijn daarvan verwijderd.’
Beerends houdt zich bij medialab SETUP bezig met een jaarprogramma dat de maatschappelijke impact van algoritmen onderzoekt en maakt de koppeling naar het ethisch en maatschappelijk debat. De beperkte mate waarin burgers inzage hebben in de manier waarop algoritmen beslissingen voor hen maken, kan problematisch zijn, stelt de cultuursocioloog. Beerends beschrijft de beslissingsmodellen van de overheid, waarin steeds meer artificiële intelligentie wordt geïmplementeerd: ‘Daardoor ontstaat een onoverzichtelijk doolhof aan systemen. Als een algoritmische beslissing niet klopt, kunnen ze de oorzaak niet meer achterhalen. Je verliest dan als burger de controle.’
Hoge verwachtingen van technologie
Beerends ziet niet direct verlaten straten voor zich. Toch is ze kritisch: ‘Hoogleraar Sherry Turkle onderzocht voor MIT de impact van technologie op onze communicatie. Het blijkt dat we steeds meer van technologie verwachten en steeds minder van de mensen om ons heen. Dat is een zorgwekkende ontwikkeling. Juist de communicatie met de mens is waardevol. Hierdoor kunnen we persoonlijke groei doormaken. Het kan ongemakkelijk zijn en is onvoorspelbaar. Door te praten tegen apparaten zoals Snips dat initieert, valt dat alles weg.’
Shana Laurie de Hernandez, Hoofd Consumentenmarkten van Europa bij PwC, is het hier niet mee eens. Naar aanleiding van de Global Consumer Insights Survey 2018 stelt zij dat de mens juist meer van de ander verwacht: ‘Vooral wat de retail betreft. Mensen verwachten meer belevingen. Als het gemakkelijker is om iets vanaf de computer te doen, dan moet er een amusementswaarde aan de offline beleving hangen.’ De Hernandez verwacht dat retailmedewerkers nóg beter getraind moeten worden om aan deze vraag te kunnen voldoen. ‘We moeten als mensen next level zijn en terug naar de basis van consumentenbeleving: echt interesse in de klant tonen. Hoe luisteren we naar wat de klant zoekt?’ Zij ziet winkels niet uit het straatbeeld verdwijnen, op voorwaarde dat zij de belevingen bieden die de mens buiten de technologie zoekt. ‘Snips zou de mens kunnen voorzien in basisbehoeften, zoals het tweewekelijks bestellen van hetzelfde merk toiletpapier. Er is een balans tussen zelf keuzes maken en een machine voor jou laten beslissen.’
Europa doet het rustig aan
PricewaterhouseCoopers onderzocht de manier waarop 22.480 consumenten wereldwijd stemgestuurde apparaten met artificiële intelligentie (AI) gebruiken en waarvoor: 10 procent heeft een AI-gedreven assistent en een op de drie zegt er in de toekomst een aan te willen schaffen. Snips past perfect in dit plaatje, al was het geen onderdeel van de survey. ‘Er is een grote bereidheid, 32 procent, om deze producten aan te schaffen. Zeker in Azië, waar ontwikkelingslanden generaties overslaan wat betreft technologie. West-Europa loopt hierin achter, omdat het de technologische ontwikkeling stap voor stap oppakt’, aldus Shana Laurie de Hernandez. Dit betekent dat overheden meer tijd krijgen om hun regelgeving voor toepassingen met kunstmatige intelligente aan te passen aan de maatschappij. Opvallend is dat Nederland achterloopt op het gebied van online winkelen: ‘Omdat in Nederland vrijwel alles in de buurt is, kun je eenvoudig het huis uit en naar de winkel gaan. Het is onderdeel van de gemaksfactor.’
Nooit meer toevallige vondsten
De efficiëntie die Snips nastreeft gaat niet samen met de menselijke onvoorspelbaarheid. The Efficiency Paradox, het boek dat Edward Tenner in april 2018 publiceerde, beschrijft dit probleem volgens Siri Beerends naadloos: ‘Als alles gestructureerd wordt door kunstmatige intelligentie, zullen er nooit meer toevallige vondsten worden gedaan of nieuwe gedachtegangen worden ontwikkeld. Grote techbedrijven hebben een miljardenomzet en willen dat graag zo houden. Hoe meer taken wij uitbesteden aan voice-assistenten, hoe meer zij te weten komen over onze gewoonten en behoeften. Door een digitale assistent natuurlijk te laten klinken, worden we minder behoedzaam en geven we makkelijker onze data uit handen. Het punt is dat wij al die assistenten helemaal niet nodig hebben, het is eerder zo dat techbedrijven ons nodig hebben om data te verzamelen en hun eigen verdienmodel te waarborgen.’
De Hernandez ziet dit anders: ‘We accepteren dat Snips niet menselijk is en dat we tegen een apparaat praten. Hoe we met mensen interacteren zou hierdoor kunnen veranderen. Toch zullen mensen op zoek blijven gaan naar menselijk contact. We zijn menselijke wezens en zoeken menselijke ervaringen. Er is een plek voor artificiële intelligentie, maar het zal niet alles van ons overnemen.’
