Michele PinassiTL;DR L’istruttoria avviata dal Garante della Privacy in merito a una iniziativa sperimentale di rating reputazionale nei confronti degli studenti ha fatto luce su una tendenza che, ormai attiva da diverso tempo, rischia di trasformare in modo preoccupante la nostra società.
“Le azioni, le omissioni e i comportamenti significativi compiuti da persone fisiche e giuridiche incidono [positivamente/negativamente] sulla rispettiva reputazione se determinano vantaggi fisici, sociali, culturali od economici ad uno o più soggetti”
Codice della Reputazione Universale
È notizia di questi giorni che il Garante della Privacy ha avviato una istruttoria sull’iniziativa promossa dalla Associazione Crop News Onlus in merito alla sperimentazione del rating “reputazionale” nei confronti degli studenti, “elaborato sulla base di algoritmi dalla Piattaforma Mevaluate. Al progetto avrebbe aderito un istituto di istruzione superiore”.
La notizia ha suscitato più di un (giustificato) clamore mediatico, molto più di altre analoghe vicende che avrebbero dovuto, già da tempo, sollevare pubblicamente la questione sul “rating reputazionale“.
La mia scoperta del mondo dell’economia reputazionale inizia qualche mese fa, con un comunicato stampa diffuso qualche mese fa sulle testate giornalistiche locali per annunciare che la Tenuta di Suvignano, luogo meraviglioso incastonato nelle Crete Senesi e sottratto alla mafia, affidato in gestione a Ente terre regionali toscane, avrebbe deciso di adottare un sistema di rating reputazionale automatizzato per promuovere l’ “economia comportamentale” tra i suoi stakeholders.
Per l’adozione, è prevista l’adesione della Società Agricola di Suvignano a “Italia Virtute” (“Valuable identity and reputation technologically unique trusted engine”), che prevede –secondo quando si legge nelle fonti stampa disponibili pubblicamente– l’uso di un algoritmo di intelligenza artificiale “trasparente, inclusivo e imparziale, elaborato da Mevaluate Holding, in linea con la bozza di regolamento europeo sull’Ai che prevede una sorta di corsia preferenziale per le AI allevate in Europa, quindi con big data prodotti all’interno della nostra società“.
Incuriosito, faccio una veloce indagine in Rete dalla quale scopro che sono diverse le realtà italiane che hanno aderito a questo modello di rating reputazionale, come ad esempio ANC –Associazione Nazionale Commercialisti– che, attraverso il loro sito web ufficiale, pubblicano alcuni dettagli sul sistema di valutazione “unico nel suo genere, poiché è il solo rating che valuta la reputazione usando documenti e certificati. E lo fa attraverso un algoritmo proprietario che analizza più di 600 indicatori per le persone fisiche e più di 400 per aziende ed enti“.
Ma come funziona questo “rating reputazionale“, composto da 5 elementi? Ce lo spiega proprio il sito web di Apart Italia, che riassume le 5 categorie su cui si basa il calcolo del rating:
- PENALE – La prima lettera valuta l’incidenza delle condanne penali (detenzione e/o pena pecuniaria);
- FISCALE – La seconda lettera viene determinata dalle pendenze irrisolte con il fisco;
- CIVILE – La terza lettera valuta l’incidenza del valore delle condanne civili;
- STUDI e FORMAZIONE – Il primo numero (presente solo nei rating degli individui) riassume l’eccellenza del proprio “curriculum studiorum”;
- LAVORO e IMPEGNO CIVILE – Il secondo numero riassume il proprio curriculum professionale o imprenditoriale e le attività di volontariato, onorificenze, ecc…;
L’algoritmo, attraverso il sistema proprietario di pesi e misure sviluppato dalla Mevaluate Holding Ltd., all’interno del programma di finanziamento europeo Horizon 2020, calcola il voto per ognuna di queste 5 categorie.
Il comunicato precisa anche che “Le forze di polizia potranno accedere ai profili reputazionali pubblicati da Crop news non in forza di poteri autoritativi ma con l’esplicito consenso dei partecipanti alla users community” e non è probabilmente un caso che la stessa Polizia Postale Italiana risulterebbe aver stipulato con la Mevaluate Holding Ltd (“MEV”), nel maggio 2015, un accordo di “proprietà, utilizzazione e pubblicazione dei risultati”.
Dall’elenco pubblicato sul sito della Apart Italia si apprende che sono molti gli Enti e Istituzioni pubbliche che hanno aderito al progetto, tra cui ultima la Regione Calabria che, ad esempio, attraverso “Calabria Virtute” vuole promuovere “l’«economia comportamentale» e i correlati meccanismi di «premialità reputazionale» riservata a chi mette in pratica comportamenti virtuosi che determinano l’accrescimento della «fiducia». Ad esempio, l’utilizzo positivo di nuove tecnologie tramite app può aumentare il punteggio del rating reputazionale attribuito e pubblicato da CROP NEWS ONLUS nel campo «lavoro e impegno civile» se l’operatore economico (azienda, ente, professionista), lavoratore dipendente, consumatore, utente, utilizza questi strumenti per azioni positive di collaborazione con la controparte contrattuale nei rapporti obbligatori o con l’Amministrazione Regionale e/o con altre Amministrazioni Pubbliche“.
Fermo restando che esistono diverse iniziative di rating reputazionale, come ad esempio l’italiana Reputation Rating, non posso negare la mia preoccupazione nel vedere una fortissima spinta verso l’uso di strumenti automatizzati per il calcolo di “indici reputazionali” che incideranno anche sulle scelte della PA e quindi, potenzialmente, sulla vita di noi cittadini.
Tra le domande madre, infatti, mi chiedo quali saranno i documenti dati in pasto all’algoritmo e, essendo il sistema di calcolo proprietario e segreto, è impossibile non chiedersi come poter stabilire quali sono i comportamenti più o meno virtuosi, più o meno “accettabili”.
Alcune risposte a questi dubbi arrivano proprio dal “Codice della Reputazione Universale” (CRU), che contiene tutta una serie di dettagliati elementi per la valutazione della reputazione ed è approvato dal WEC -Worldwide Ethics Commitee-, il cui ruolo è quello di “assicurare che le valutazioni della reputazione siano ethically sound, questo è il termine tecnico mutuato dalla logica matematica che indica come il valore della reputazione di un soggetto (lo score) è concorde con i principi etici e i diritti che si è scelto di rispettare. Nell’eseguire questo compito il WEC accerta anche che lo score abbia una validità globale.“
È notizia non troppo lontana che Michelle Bachelet, Alto commissario delle Nazioni Unite per i Diritti Umani, chiese esplicitamente alle Nazioni di proibire l’uso di applicazioni di AI che non rispettano le leggi internazionali sui diritti umani e lo stesso approccio portato avanti dall’Unione Europea sembra confermare la volontà di favorire l’uso delle soluzioni di AI senza però ledere i diritti dei cittadini.
Proprio sulla questione del rating reputazionale, è interessante leggere il parere del Garante della Protezione dei Dati personali in merito, del 24 novembre 2016. Testualmente, il Garante esprime forti preoccupazioni perché, anche se “essendo legittima, in linea di principio, l’erogazione di servizi che possano contribuire a rendere maggiormente efficienti, trasparenti e sicuri i rapporti socio-economici“, “il sistema in esame presuppone la raccolta di dati personali suscettibili di incidere significativamente, per tipologia e quantità, sulla rappresentazione economica e sociale di una ampia platea di soggetti (clienti; dipendenti; candidati; imprenditori; liberi professionisti; fornitori; cittadini; ecc.). Il “rating” da questo elaborato, infatti, potrebbe ripercuotersi pesantemente sulla vita (anche privata) degli individui censiti, influenzandone scelte e prospettive e condizionando la loro stessa ammissione a (o esclusione da) specifiche prestazioni, servizi o benefici;”, anche perché, recita sempre il parere del Garante, “la “reputazione” che si vorrebbe qui misurare, in quanto strettamente correlata alla considerazione delle persone e alla loro stessa “proiezione” sociale, risulta intimamente connessa con la loro dignità, elemento cardine della disciplina di protezione dei dati personali“.
Insomma, sembra proprio che, pian piano, l’economia reputazionale sta entrando, in modo non sempre chiaro, nella nostra società (come dimostra, ad esempio, anche la recente iniziativa del Comune di Bologna in merito alla “patente digitale” per i “cittadini virtuosi”) e il rischio di trovarsi una “patente di buon cittadino“, con tanto di punteggio, è quantomai presente.
Un po’ come nell’episodio “Caduta libera” della serie Black Mirror, dove la protagonista Lacie Pound vota e si fa votare tutti coloro con cui entra in contatto attraverso lo smartphone, con conseguenze non sempre piacevoli.
Con l’invasività della sorveglianza attiva e passiva indotta dalle tecnologie, il rischio è una pesantissima erosione delle nostre libertà, in primis come individui. Valutati, premiati ed esclusi secondo criteri e metodologie non sempre chiare, dettate da un common sense che rischia, oggi più che mai, di alimentare divisioni e isolamento, oltre che esclusione.
Per concludere, mi auguro che i pronunciamenti e le indagini del Garante della Privacy sappiano porre dei limiti chiari e netti a simili iniziative, per evitare pericolose derive verso una società meno libera.
P.S. Per chi avesse dubbi in merito ai rischi e ai pericoli di queste iniziative, consiglio di dare un’occhiata al social credit scoring cinese e a come sta modificando profondamente la società.
Hai trovato utile questo articolo?
