thoughts about software and sensible security.

De automatische gaydar? Letterlijk levensgevaarlijk

D

Verschillende media (Daily Mail, RTL, NOS) berichtten afgelopen week over een aan Stanford University ontwikkeld programma dat aan de hand van een portretfoto kan bepalen of de afgebeelde man of vrouw homo is. Is het ook betrouwbaar? Kennelijk doet de Artificial Intelligence er een betere gooi naar dan de gemiddelde mens, maar er zijn nog erg veel valse positieven. De ontwikkelaars beloven een nauwkeurigheid van 91 procent voor mensen die er meer ‘uitgesproken gay’ uitzien. Wat bedoelen ze daarmee? Freddy Mercury uit 1978 in zijn balletpakje die Good old fashioned lover boy zingt?

We hebben geen idee wat AI nog allemaal mogelijk gaat maken en hoezeer we het nu al onze privacy aan laten tasten. Stel dat de auto van de nabije toekomst – die nog niet zelfstandig kan rijden – uitgerust wordt met AI die aan je gezichtsuitdrukking kan vaststellen of je alcohol of drugs hebt genomen of te weinig geslapen hebt om veilig te kunnen rijden. Willen we dat? Alcohol drinken is legaal, maar dronken achter het stuur zitten niet. Je rijvaardigheid is een publiek belang en dat is de reden waarom een kleine inbreuk op je privacy gerechtvaardigd zou kunnen zijn, uiteraard met voldoende waarborgen en zolang de AI maar accuraat genoeg is om geen fitte oudere bestuurders met wat meer rimpels onder de ogen te blokkeren.

Hier ligt dat anders. Het artikel wees er vooral op dat de techniek in zijn huidige vorm nog niet volmaakt is, maar daar gaat het toch helemaal niet om? Dit soort software zou helemaal niet mogen bestaan. Jouw seksuele voorkeur is je eigen zaak. Ik heb geen recht daar achter te komen tenzij jij ervoor kiest het met mij te delen. Iedereen weet dat het er in de meeste landen heel anders aan toe gaat.

Het was vast een interessant en leuk project waar de onderzoekers het nodige van hebben opgestoken. Ze hadden alleen het geleerde moeten bewaren en het product weg moeten gooien. In de meeste landen lijkt homo zijn in niets op het veilige wereldje van de Californische elite universiteit. Als blanke Nederlandse hetero man behoor ik wereldwijd tot een van de meest bevoorrechte minderheden en vergeet je in je zelfvoldaanheid snel dat veel landen op zijn best homo’s met grote tegenzin gedogen en in het slechtste geval martelen en vermoorden. Zelfs in ons land is het anti-homo geweld stukken erger geworden in vergelijking met twintig jaar geleden.

In de meest homofobe landen moeten mannen – vrouwen ook, maar vooral mannen – de grootste moeite doen om hun ware aard te onderdrukken ten koste van hun geestelijk welzijn, of simpelweg dagelijks hun leven riskeren. Je kunt je nog zo goed vermommen, maar niet de subtiele gezichtskenmerken die het resultaat zijn van je genen. Hier weet de AI nog niet goed raad mee, maar dat is slechts een kwestie van tijd zodra een regering er geld en talent in steekt. In Rusland is er bepaald geen gebrek aan programmeertalent en homo-haat. Inmiddels zal een totalitaire staat heus niet wachten tot zijn robot gaydar 99,99 accuraat is. Wat dacht je? Ze zullen het zo snel mogelijk willen gebruiken om mogelijke sollicitanten eruit te vissen. En dat is nog maar het begin.

Het feit dat een technologie nog niet perfect is wil niet zeggen dat ze niet commercieel gebruikt kan worden. Spraakherkenning is best nog wel belabberd: op het dieptepunt van een zware verkouden kon Apple’s Siri mij niet meer begrijpen. Er liggen fantastische kansen voor AI, zoals bijvoorbeeld het scannen van röntgen foto’s op dodelijke ziektes. Homoseksualiteit is geen ziekte. Het heeft eeuwen geduurd in het Westen om de maatschappij daarvan te doordringen en laten we alsjeblieft geen gereedschap maken om het tegengestelde idee te helpen verspreiden.

thoughts about software and sensible security.

Recent Posts

Jasper on twitter

Catching thought criminals in Orwell's analogue dictatorship was time-consuming and ineffective. A.I. will fix all… https://t.co/XpzIDondJe
h J R
I expect Mars to be successfully colonized long before we have flawless PDF to Word conversion.
h J R
Don’t tout #kotlin conciseness as a unique selling point. Concise does not equate understandable and if concise is… https://t.co/Hj7FrbZuI8
h J R
Hilfiger gives ‘smart dress’ a whole new meaning with new tracking chip. https://t.co/OeB4NEbVQI
h J R
ATDD is really different. Think of it as All Tests Drive Development. New blog post. https://t.co/J7uyHmCXFf
h J R