Social Scoring, något som förändrar vårt samhälle i grunden

Hur tror du världen kommer förändras till följd av social scoring?

Kinas sociala kreditpoängsystem, som utvärderar individuellt beteende och aktiviteter för att bestämma sociala kreditpoäng, har blivit en av de mest kontroversiella innovationerna i Kina under det senaste decenniet. Systemet, som kan användas för att belöna eller straffa individer baserat på deras beteende, kan även påverka deras möjligheter till anställning, utbildning och resor.

Trots det sprids konceptet till ett flertal länder, och även företag. Ryssland är ett exempel på ett land som planerar att införa ett liknande poängsystem. Deras system kommer att övervaka individers beteende på nätet, inklusive deras sociala medier-aktivitet och interaktion med andra användare, för att bestämma deras “digitala poäng”.

Förutom Ryssland har även Saudiarabien och Förenade Arabemiraten börjat använda liknande system för att övervaka och bedöma sina medborgares beteende. Saudiarabiens system, som kallas “Qiwa”, bedömer företag och företagare baserat på deras prestationer och efterlevnad av landets lagar och regler. Förenade Arabemiratens system, som heter “Emirates ID”, bedömer medborgare utifrån deras beteende och aktiviteter, likt Kinas system.

Även teknikgiganter som Facebook och Google har sina egna poängsystem för att bedöma användares beteenden. Facebook har ett “trustworthiness score” som används för att bedöma användares tillförlitlighet, medan Google har ett “Quality Score” som används för att bedöma annonseringskvalitet. Det finns risker med att använda AI för att bedöma individer, oavsett om det är ett statligt system eller ett system som drivs av teknikföretag. Dessa system kan missbrukas för att kontrollera befolkningen och inskränka personlig frihet, vilket innebär att det är viktigt att ha etiska riktlinjer och säkerhetsåtgärder på plats för att skydda individens rättigheter.

Ett stort problem med social scoring-system är att de kan leda till negativa samhällseffekter och riskera att diskriminera. Eftersom dessa system bedömer individer baserat på deras beteenden och aktiviteter, finns det en risk för att vissa grupper kan bli felaktigt bedömda eller diskriminerade. Till exempel kan personer som har ett politiskt åsikt som inte är populärt i samhället få lägre poäng och utsättas för repressalier. Dessutom kan det finnas andra faktorer som påverkar beteendet som en person inte kan kontrollera, såsom socioekonomisk bakgrund, hälsa eller utbildningsnivå, vilket kan leda till orättvisa bedömningar och konsekvenser.

En annan risk med social scoring-system är att de kan skapa en kultur av misstro och misstänksamhet. När individer vet att deras beteenden bedöms och poängsätts, kan de bli rädda för att agera fritt och uttrycka sina åsikter av rädsla för negativa konsekvenser. Detta kan påverka deras möjligheter till anställning, utbildning och resor, vilket kan leda till en begränsning av deras personliga frihet och begränsa deras möjligheter till personlig utveckling.

Därför är det viktigt att ha etiska riktlinjer och säkerhetsåtgärder på plats för att skydda individens rättigheter när man använder social scoring-system. Det är också viktigt att övervaka användningen av dessa system för att se till att de inte missbrukas för att inskränka individens frihet och rättigheter.

Referenser:

• https://www.aspi.org.au/report/engineering-global-consent-chinese-communist-partys-data-driven-power-expansion
• https://www.washingtonpost.com/technology/2018/08/21/facebook-is-rating-trustworthiness-its-users-scale-zero-one/
• China’s Social Credit System: A Mark of Progress or a Threat to Privacy?" by Josephine Wolff, published in The New Yorker in 2019. 
• Russia's Digital Credit System: A New Era of Surveillance?" by Emma Loosley, published in the Journal of Eurasian Affairs in 2019. 
• Saudi Arabia's New 'Economic Revolution' is Built on Sand" by Rami Khouri, published in The Guardian in 2020. 
• UAE's Emirates ID system: the privacy concerns" by Samantha Lock, published in Arabian Business in 2018. 
• https://www.themoscowtimes.com/2020/11/25/moscow-plans-expanded-social-credit-style-tracking-system-open-media-a72144