Sociale beoordelingen: wees voorzichtig met wat je post

Een leven zonder sociale netwerken is al moeilijk voor te stellen. We gebruiken ze om te chatten, communiceren, onze creaties te delen, het laatste nieuws te bespreken en nog veel meer. Het is echter belangrijk om rekening te houden met het feit dat mensen uw social media kunnen gebruiken om bijvoorbeeld te beoordelen of u in staat bent om een banklening terug te betalen. Of om te besluiten of u geschikt ben voor een bepaalde baan.

Het meten van het potentieel van mensen op basis van acties uit hun verleden, hun sociale cirkel en meer wordt ook wel een sociale beoordeling genoemd. De sociale beoordeling van een persoon is op veel vlakken te vergelijken met de kredietbeoordeling die banken gebruiken bij het uitgeven van leningen, maar kan een nog veel breder scala aan informatie omvatten.

Veel landen zien het gebruik van sociale beoordelingen al op verschillende terreinen. Verzekeraars in New York bijvoorbeeld mogen officieel hun premies bepalen op basis van hun analyses van gegevens van sociale netwerken.

China is op zijn beurt bezig met het ontwikkelen van een sociaal kredietsysteem dat door sommigen als 1984-achtig wordt omschreven. Niet iedereen vindt zulke systemen echter angstaanjagend; sommige mensen denken dat ze inderdaad handig kunnen zijn en zeggen dat ze kunnen helpen het leven veiliger te maken. Zijn mensen en de technologie klaar voor wat er komen gaat?

Sociale beoordelingen: wat mensen denken

Om de houding van mensen ten opzichte van sociale beoordelingen te peilen, ondervroegen we meer dan 10.000 mensen van over de hele wereld. Hier volgen onze bevindingen.

Iets minder dan de helft (46%) had er al eens van gehoord. Het fenomeen is beter bekend in Azië. In China bijvoorbeeld, waar deze beoordelingen landelijk worden uitgerold, kent 71% de sociale beoordelingen, vergeleken met slechts 13% in Oostenrijk en Duitsland. Bovendien gaf opnieuw bijna de helft (45%) van de ondervraagden toe dat ze niet helemaal begrepen hoe deze beoordelingen werden berekend. Slechts één op de vijf (21%) had er ooit in het echt mee te maken gehad (hoewel het mogelijk is dat sommige mensen zich simpelweg niet bewust zijn van het feit dat sociale beoordelingen een rol spelen in het verkrijgen van een lening of hypotheek).

Toch waren de meeste mensen het eens met het onderliggende idee van sociale beoordelingen: 70% stelde dat het eerlijk was om toegang tot publieke middelen (openbaar vervoer, onderwijs, huisvesting, etc.) te baseren op het gedrag van mensen.

Veel mensen vonden het geen probleem om gecontroleerd te worden als er een goede reden voor is. Om bijvoorbeeld de veiligheid te verbeteren zou bijna de helft het goed vinden dat de overheid sociale netwerken in de gaten houdt, en twee op de vijf ondervraagden zouden hun gegevens met een bedrijf delen in ruil voor kortingen of andere voordelen. Slechts 20% van de ondervraagden drukten hun bezorgdheid uit over privé- en publieke organisaties die interesse tonen in hun persoonlijke informatie.

Sociale beoordelingen: de technologie

Veel van de mensen die we ondervroegen steunden het idee van sociale beoordelingen, waarbij ze er waarschijnlijk vanuit gingen dat ze over het algemeen een eerlijke en onpartijdige beoordeling zouden krijgen. Helaas is dat met de huidige technologie niet erg waarschijnlijk.

Het is allereerst moeilijk om fouten bij te houden. De huidige systemen zijn gebaseerd op neurale netwerken, waarvan de besturingsprincipes zelfs voor de ontwikkelaars zelf niet helemaal duidelijk zijn, laat staan voor degenen die ze bedienen of de gewone burger. Bij het verlagen van iemands beoordeling, geeft het neurale netwerk de informatieve basis voor zo’n beslissing niet vrij. Als de computer zegt dat u niet in aanmerking komt voor een lening, dan krijgt u er ook geen. Zelfs niet als u een fatsoenlijk mens bent met een goed inkomen.

In de taal van medische tests en computerbeveiliging staat het bovenstaande voorbeeld bekend als “een valspositieve uitslag”, zoals wanneer een beveiligingssysteem een schoon bestand als geïnfecteerd aanmerkt, of als een medische test ten onrechte een ziekte vindt in het monster van een patiënt.

Bij ons favoriete onderwerp, antivirussystemen, varieert het aantal valse positieven enorm tussen verschillende producten. Sommige producten zitten er veel vaker naast dan gemiddeld, en andere veel minder (onze beveiligingssystemen hebben minimale valse positieven). Het punt is dat het onmogelijk is om fouten helemaal uit te sluiten. Maar in het geval van beoordelingen die van invloed zijn op mensenrechten en zelfs mensenlevens, kan de prijs van zo’n fout erg hoog zijn.

Behalve de fouten die worden veroorzaakt door onnauwkeurige algoritmes of imperfecte gegevens, kunnen systemen ook met opzet gehackt worden. Wat betreft nationale sociale beoordelingen hebben onze experts drie soorten potentiële aanvallen geïdentificeerd.

1. Aanvallen op apparaten die gegevens verzamelen

Om op juiste wijze de beoordeling van iemand te bepalen, heeft een systeem veel informatie over diegene nodig. Die gegevens worden niet alleen via sociale netwerken verkregen, maar ook via verscheidene appliance-based camera’s en sensoren, het zogenaamde Internet of Things. Deze apparaten zijn vaak kwetsbaar en worden herhaaldelijk aangevallen. Alleen al in de eerste helft van 2019 detecteerden we 105 miljoen pogingen om ze te hacken.

2. Aanvallen op software-implementatie

Om een sociale beoordeling toe te wijzen is het niet genoeg voor het systeem om informatie over u te verzamelen, want die gegevens moeten ook nog eens verwerkt en geïnterpreteerd worden. Het mechanisme dat dit werk doet kan ook kwetsbaar zijn, zowel voor pogingen om ze met malware te infecteren als niet-standaard-aanvallen.

Een aanvaller kan bijvoorbeeld een gekleurde bril dragen. Een mens zou die persoon eenvoudig herkennen, maar een slimme camera kan diegene dan voor iemand anders aanzien — dus alles wat er dan voor de camera is gedaan kan aan iemand anders worden toegeschreven.

3. Aanvallen op systeemlogica

Tenslotte kan een aanvaller acties identificeren die, als die vaak herhaald worden, de beoordeling wijzigen tot deze onherkenbaar is, en dat kan positief of negatief zijn. Door bijvoorbeeld gaten in de systeemlogica te benutten kan een aanvaller zijn eigen beoordeling een boost geven of die van een potentieel slachtoffer juist laten kelderen.

De wereld voorbereiden op sociale beoordelingen

Kort samengevat kan het zijn dat sociale beoordelingen niet zo eerlijk en onpartijdig zijn als we zouden willen of verwachten. Desalniettemin worden zulke systemen op sommige gebieden al gebruikt en binnenkort waarschijnlijk ook op grotere schaal geïntroduceerd. Hoewel er geen manier is om uzelf volledig tegen hun gebreken te beschermen, is het wel de moeite om de risico’s te beperken.

• Denk twee keer na (of zelfs drie) voordat u dubbelzinnige foto’s van uzelf of andere potentieel compromitterende informatie op sociale netwerken plaatst. Sommige zaken houdt u beter privé. Zorg er in ieder geval voor dat ze niet openbaar beschikbaar zijn.
• Bescherm uw accounts zodat cybercriminelen ze niet kunnen hacken en tegen u kunnen gebruiken. Creëer sterke, unieke wachtwoorden, schakel tweestapsverificatie in en voer geen inloggegevens in op verdachte websites.
• Bescherm uw privacy. Bescherm uzelf tegen het online verzamelen van gegevens zodat de bank u geen lening weigert omdat ze bijvoorbeeld weten dat u momenteel op zoek bent naar een baan. In deze post leggen we uit hoe u dat doet.