De motorkap blijft dicht

Ik ben blij met mijn nieuwe iPhone SE, maar misschien zou ik dat niet moeten zijn. Columniste Loes Reijmer haalde in de Volkskrant (geen link, want betaalmuur en zo) een recent artikel van the Atlantic aan met de omineuze titel “Have Smartphones Destroyed a generation?” Kort antwoord: daar begint het akelig veel op te lijken.
Al ben ik een kinderloze Generation X-er (1969), het kost mij desondanks weinig inlevingsvermogen me voor te stellen dat voor tieners van nu een leven zonder de smartphone net zo ondenkbaar is als een zonder elektriciteit of stromend water. Maar het mag allemaal wel een beetje minder. Stromend water en riolering houden onze grote steden vrij van cholera terwijl Apple en Samsung juist complete nieuwe epidemieën in de hand werken. Al dat getuur naar je schermpje leidt tot slapeloosheid, nekklachten, depressies en verminderde interesse in de eerste seksuele contacten. Conservatieve krachten vinden dat laatste natuurlijk niet zo’n bezwaar.

Dat we de smartphone hebben laten doordringen tot in de poriën van ons bestaan is goed nieuws voor Big Data. De telefoon zuigt data op als een spons. Data waarvan je niet eens wist hoe die interessant kan zijn voor een externe partij. In de eerste plaats is dat waar we ons op welk moment begeven. Vertegenwoordigers die zich tijdens werktijd graag ophouden bij zekere gelegenheden aan de provinciale streekweg (met discrete parkeergelegenheid) kunnen maar beter hopen op de discretie van Google Maps. Doordat ik steevast elke zaterdagochtend rond zeven uur de eierwekker op negen minuten zet weet Apple alvast dat ik geen uitslaper ben, wat kennelijk betekent dat ik door de week geen slaap tekort kom. Het kan nog veel enger. Twee jaar geleden kwam al aan het licht dat een Silicon Valley startup (waar anders?) werkte aan een algoritme dat kredietwaardigheid afleidde door werkelijk alles van je telefoon te correleren: tot aan het oplaadgedrag aan toe, en of je achternamen opschreef in je adresboek.

Oplaadgedrag? Kennelijk ligt de kans dat je je lening netjes aflost een paar procentpunten hoger als je je batterijpercentage niet onder de 25% laat zakken en altijd een lader meeneemt. Het is natuurlijk een correlatie en geen oorzakelijk verband, maar dat laatste vindt Big Data filosofisch toch maar lastig Neem twintig van zulke meetpunten en de robot beslist met een foutmarge die voor de bank acceptabel is. Valse positieven (ten onrechte gehonoreerd) en valse negatieven (ten onrechte afgewezen) heb je immers altijd, ook als je de beslissing aan een mens overlaat. Die baseert haar afweging tenslotte niet alleen op de regeltjes maar ook op intuïtie en misschien vooringenomenheid.

Algoritmes discrimineren niet, maar ze zijn zo (on)partijdig als de maker het wil. Die kan kennelijk heel goed anoniem blijven: de sjoemelsoftware van Volkswagen heeft jarenlang onder de motorkap van duizenden dieselmotoren zijn vervuilende werk kunnen doen. Waar het ons publiek belang betreft moeten we onder de motorkap kunnen kijken. Dit was ook de belangrijkste reden waarom stemcomputers al tien jaar geweerd zijn bij de Nederlandse verkiezingen. De software werd door één bedrijf geleverd en de motorkap zat potdicht. Net als bij mijn iPhone.