[:sv]The Social credit score – Orwell och Black Mirror i ett[:en]The Social credit score – Orwell and Black Mirror[:]

7 oktober, 2018 Av av StormskärsAnna

[:sv] 

För ett tag sedan såg jag Netflix Black Mirror. Alla avsnitt har fått mig att känna mig olustig till mods, men det var speciellt ett avsnitt som var extra obehagligt, Nosedive. Det krävdes fyra försök innan jag klarade av att se klart avsnittet. I korthet handlar avsnittet om en dystopisk framtid där hela en persons framgång och lycka beror på vilken social poäng du har lyckats uppnå. En modern version av George Orwells 1984.

”Kina genomför för närvarande pilottester av ett system kallat ”Social credit system” där människor betygsätts baserat på fem kategorier.”

Det som skrämmer mig mer dock, är att scenariot inte är science fiction längre. Kina genomför för närvarande pilottester av ett system kallat ”Social credit system” där människor betygsätts baserat på fem kategorier. The första tre Credit history, Fulfilment capacity and Personal characteristics är i sig inte märkvärdiga. Du kan inte få ett lån på banken med betalningsanmärkningar och din bilförsäkring är dyrare i områden med många bilbränder (Personal characteristics).

”Är ett bilinköp dåligt på grund av den miljöpåverkan bilen har eller vittnar det om en ambitiös person som måste kunna pendla till arbetet?”

Den riktigt otäcka biten kommer med kategori fyra och fem. Behavior and preferences and Interpersonal relationships. Det är nu Storebror övervakar dina köp och drar slutsatser. Vad kommer ge dig ett högt betyg? Att köpa mat, men inte för mycket mat (fetmavarning). Ett gymkort måste ju vara bra, men inte om det betyder att du försakar din gamla mamma. Är ett bilinköp dåligt på grund av den miljöpåverkan bilen har eller vittnar det om en ambitiös person som måste kunna pendla till arbetet? Vem, eller snarare, vilken algoritm, kan överhuvudtaget dra den typen av slutsatser?

Den sista kategorin, Interpersonal relationships, studerar hur du interagerar med dina internetvänner. I Kina kommer allt du säger som gör att Kinas styre hamnar i bättre dager öka ditt betyg, men förutom det, vad kommer vara accepterat att säga? Kommer många vänner i sociala medier att öka ditt betyg eller kan du ha för många ”vänner” vilket skulle kunna antyda att du har köpt dem. Hur kommer en person som väljer bort sociala medier att betygsättas?

År 2020 är systemet obligatoriskt för 1,3 miljarder kineser. Under pilotfasen har focus varit att uppmuntra deltagarna att få höga poäng. Morot hellre än piska. Ett högt betyg kan ge VIP-behandling på flygplatsen, lättare att få jobb osv men risken är att framtiden istället väljer piskan. Har du ett lågt betyg får du ingen lägenhet eller lån, din internethastighet sänks och du får inte längre lov att bo på de finaste hotellen.

Hur kan vi hindra den här utvecklingen? Är det ens möjligt eller är Kinas initiativ bara en pilot för resten av världens länder? Är vi redan där bara att vi inte inser det?

Jag vil gärna tro att vi fortfarande har något att säga till om och att vi alla har samma möjligheter oavsett hur många Facebookvänner eller Instaföljare vi har, men kanske har vi inte det. Kanske är den kommer bloggen i sig ett bevis på att mitt framtida betyg kommer påverkas. Bra eller dåligt? Det  har jag ingen aning om.

 

 

Källor:

https://nordic.businessinsider.com/china-social-credit-system-punishments-and-rewards-explained-2018-4?r=US&IR=T

https://www.wired.co.uk/article/chinese-government-social-credit-score-privacy-invasion

 

 [:en]

A while ago I watched the Netflix series Black Mirror. All episodes make me feel ill at ease, but particularly one episode, Nosedive, was truly unpleasant to watch. It took me four attempts to get through it. Shortly the episode shows a dystopic future where a person’s life and success entirely is decided by your social score. A modern version of George Orwell’s 1984.

“China is currently piloting a system, “Social credit system” where people are scored based on five categories.”

What scares me even more though, is that this scenario is not sci fi anymore. China is currently piloting a system, “Social credit system” where people are scored based on five categories. The first three, Credit history, Fulfilment capacity and Personal characteristics, we can see everywhere today already. You can’t get a loan at the bank if you have a history of not paying your bills. In the same way, your car insurance is more expensive in an area with high crime rates (Personal characteristics).

“Is a car a bad purchase because of the environmental impact or is it a sign of an ambitious person that must commute to work?”

The scary part comes with the fourth and fifth category. Behavior and preferences and Interpersonal relationships. Here’s where Big brother monitors your purchases and make conclusions. What will give you a high score? Buying food, but not too much food (obesity)? Buying a gym card, but does that mean you go to the gym instead of taking care of your old mother? Is a car a bad purchase because of the environmental impact or is it a sign of an ambitious person that must commute to work? Who, or should I say what algorithm, could possibly make these conclusions and get them right?

The interpersonal category analyzes the interaction between your internet friends. In China, anything you say in favor of the Chinese government, will of course increase your credit, but other than that, what will be ok to say and not? Will many social media friends increase your score? Or is there a limit, where the “friends” can be too many, hence not real. A person choosing a private life, not wanting to interact in social media, how will his/her score be affected by the system?

By 2020, this system is mandatory for 1,3 billion of Chinese citizens. During the pilot phase, the participants are encouraged to get a high score. That will give them benefits in form of VIP lanes at the airport, easier employment etc, but in the future, the risk is that the encouragement is replaced by a punishment. You can’t get an apartment, you can’t get a loan, your internet speed is slower, banned from the best hotels.

How can we stop this development from happening? Is it even possible to stop or is China’s initiative simply a pilot for all the other countries? Or are we there already, just not seeing it?

I would like to believe that we still are in charge of our lives and that we have the same possibilities regardless of how many Facebook friends or Insta followers we have, but maybe we don’t. Maybe the very fact that I am writing this, will have an effect on my future score. Positive or negative, I don’t have a clue.

Sources:

https://nordic.businessinsider.com/china-social-credit-system-punishments-and-rewards-explained-2018-4?r=US&IR=T

https://www.wired.co.uk/article/chinese-government-social-credit-score-privacy-invasion[:]