Torniamo sul tema delle “sinergie” distopiche tra controllo sociale in Cina e Big Data, di cui ho scritto qui. Sul numero di novembre di Wired c’è un estratto dal libro di Rachel Botsman “Who Can You Trust? How Technology Brought Us Together and Why It Might Drive Us Apart“, pubblicato a inizio ottobre, in cui si dà conto del tentativo cinese di costruire un sistema di rating sociale, per ogni cittadino.
A giugno 2014, il Consiglio di Stato cinese pubblicava un documento-bozza di pianificazione della costruzione di un sistema di “credito sociale”. Di che si tratta? Della creazione di un punteggio di “fiducia” che definisce ogni individuo come cittadino. Il valore sintetico del punteggio attribuito a comportamenti in società: sul lavoro, con gli amici, in famiglia, sui social network, confrontato ai livelli “desiderabili” per il pianificatore-ingegnere sociale.
Il rating sociale sarebbe pubblico, e determinerebbe la minore o maggiore facilità di accedere ad un mutuo, un lavoro, al ristorante, al welfare (che in Cina non è comunque su standard scandinavi), a un visto turistico, cioè all’autorizzazione ad uscire dal paese. Obiettivo cinese è quello di costruire una cultura della “sincerità”, nei suoi vari aspetti: commerciale, sociale, giudiziaria, e riguarderà persone fisiche e giuridiche. Dovrebbe divenire obbligatorio entro il 2020.
Il governo cinese ha dato licenza per realizzare il sistema di rating a otto compagnie private, tra cui una controllata di Tencent ed una di Alibaba. L’operazione si basa su un algoritmo “segreto”, ma di cui sono rivelate le cinque componenti di base, che sono: la storia di credito; la capacità di adempimento delle proprie obbligazioni; dati personali quali numero telefonico ed indirizzo; di grande rilievo è poi la quarta componente, “comportamento e preferenze”. Ad esempio abitudini di acquisto e di consumo. In questa categoria ricadrebbe, ad esempio, il tempo trascorso su piattaforme di giochi online. Chi passa gran parte della giornata sugli schermi avrà verosimilmente un punteggio basso in termini di “merito sociale” a ricevere fiducia. In questo modo si realizza un vero e proprio “nudge“, una spinta gentile (si fa per dire) ad allontanare i cittadini da comportamenti che le autorità giudicano non favorevolmente.
La quinta componente del sistema di rating sono le “relazioni interpersonali”, tra cui amicizie, soprattutto online. Qui entrano in gioco i “like” dei social e la pressione a conformarsi, devastante nelle sue ridondanze e propagazioni. Ad esempio, dire bene del governo e delle sue iniziative porta a dei like, che aumentano lo score di rating. Non solo: anche a livello familiare verrebbe esercitato un enorme controllo per “indurre” le persone a non dire o fare cose “sconvenienti” perché ciò rischierebbe di danneggiare anche il rating di chi convive col “reprobo”.
E che si fa, col punteggio di rating? Diverse cose, ma in essenza si accede ad una serie di “premi”, come prestiti personali e mutui a condizioni agevolate, possibilità di prendere casa in zone di pregio, ma anche aspetti più sottili ed inquietanti, come scrive Rachel Botsman nel suo libro:
«Le persone con basso rating avranno connessioni Internet più lente; accesso limitato ai ristoranti e la perdita del diritto a viaggiare»
Alcuni analisti occidentali hanno descritto il sistema come la “gamification” del controllo sociale, e la definizione appare tanto corretta quanto spaventosa. La persona “deviante” viene messa ai margini della società e potrebbe essere annientata, perdendo l’accesso alla fruizione di servizi. Se pensate che tutto ciò sia frutto delle farneticazioni di una studiosa occidentale, vi sarà utile sapere che a febbraio di quest’anno la Corte Suprema Popolare cinese ha comunicato che negli ultimi quattro anni a ben 6,15 milioni di cittadini è stato posto divieto di prendere aerei per “misfatti” sociali. Altri 1,65 milioni di persone sono in lista nera e non possono prendere treni.
Questa profilazione appare come il punto d’incontro tra Orwell ed i cani di Pavlov, cioè un sistema di premi e punizioni per comportamenti esteriori di adesione al sistema. Anche in questo caso, come detto riguardo al surrogato di un sistema di mercato realizzato a mezzo di Big Data, pensate se le varie polizie segrete della storia, come la Stasi della DDR, avessero avuto a disposizione un simile sistema di altissima pressione a conformarsi, altamente efficace ed efficiente, potendo conseguire i propri obiettivi per una frazione di costo rispetto ai metodi che abbiamo imparato a conoscere leggendo libri e guardando film.
La versione “benigna” di questo sistema di rating personale è quella di dare un merito di credito ad una popolazione, quella cinese, che è ancora assai poco bancarizzata e priva quindi di una storia creditizia. Ma è evidente che parliamo della più trasparente delle foglie di fico. Non solo: se la Cina conseguirà un elevato “rendimento” da questa pratica di controllo sociale a mezzo delle nuove tecnologie, è altamente probabile che assisteremo a comportamenti imitativi in Occidente, con l’arruolamento delle società private con la motivazione di “difendersi” dall’aggressione del sistema socio-economico cinese.
Scenari incredibili ma non inverosimili.