No MASS DESTRUCTION ma MATH DESTRUCTION, sì, corretto, avete letto bene e per fortuna il correttore automatico non l’ha modificato… correttori automatici, pensati e programmati da noi umani per facilitarci la vita, per risparmiare tempo, per non sbagliare.
L’autrice però in questo caso non ha sbagliato; il gioco di parole in italiano non riesce altrettanto bene come in lingua inglese; potrebbe rendere l’idea ARMI di DISTRUZIONI di MATE dove “MATE” però ricorda più le verifiche scritte e le interrogazioni della prof di matematica delle medie o delle superiori e non è di quella matematica che tratta il libro.
L’autrice Cathy O’Neil invece scrive della matematica complessa dei BIG DATA che ha studiato con passione nel suo PhD ad Harvard, insegnato poi per alcuni anni al Barnard College e che ha messo in pratica lavorando nel settore privato degli hedge fund fino a quando ne è stata capace, fino a quando ha preso coscienza del fatto che la sua bravura nella gestione dei numeri messa al servizio esclusivo di obiettivi finanziari poteva essere fonte di diseguaglianze e arrivare a minacciare la democrazia.
Proprio così, lo sostiene con determinazione in ogni sua riga; tutto parte dai modelli, quelli che sono alla base degli algoritmi di calcolo. L’autrice li descrive nella parte iniziale del libro con un esempio banale: lo sport del baseball, un mondo fatto di giocatori che giocando ottengono determinati risultati osservabili e analizzabili in modo oggettivo perché all’interno di un sistema di regole definite, trasparenti e conosciute a tutti.
La trasparenza delle regole è indispensabile quando ci si immagina un modello e il relativo algoritmo capace di misurare e interpretare le prestazioni di un settore, di un’azienda, di un sistema, di un gruppo o di una singola persona.
Occorre fare molta attenzione quando arriviamo a trarre conclusioni attraverso l’impiego di algoritmi in merito alle prestazioni di un insegnante, all’identificazione di futuri criminali, alla selezione del candidato per una nuova posizione aperta perché le regole del gioco sono estremamente complesse, non sono dichiarate in modo trasparente e diventa così facile e probabile facciano la loro comparsa le proxies, approssimazioni; si tratta di quelle scelte soggettive fatte per velocizzare, risparmiare tempo, essere più efficienti in una valutazione, una selezione, una previsione, etc. etc., scelte personali che hanno lo scopo di decidere cosa sia rilevante e sufficiente e cosa del tutto irrilevante da considerare.
Un esempio: se un’agenzia è alla ricerca di un responsabile dei sui canali social è prevedibile che in molti manderanno il loro CV con la descrizione dei lavori fatti (campagne marketing, etc etc); per vedere questi lavori e capirne la loro qualità serve tempo, molto tempo e così il responsabile delle assunzioni sceglie per velocizzare il lavoro di scrematura di dare importanza e precedenza a chi tra i candidati ha più follower su Twitter, Facebook, Instagram, Linkedin o un mix dei quattro social network, perché ritiene possa essere un buon indicatore della bravura della persona sui social media.
Quando però si sparge la voce che avere una moltitudine di follower o like o contatti è la chiave per avere il lavoro in quell’azienda, i candidati cominceranno a fare ogni cosa per migliorare quel dato cosi importante per l’assunzione arrivando anche a pagare servizi che popoleranno i loro profili di migliaia di follower generati da robot.
Alla fine dei giochi, l’approssimazione scelta per rendere efficiente il lavoro perde la sua efficacia e i “furbi” risultano avere dei punteggi “falsamente” positivi.
I modelli sono espressione e riflesso di obiettivi e ideologie e per questo dobbiamo chiederci chi è il “designer” o l’azienda che lo ha progettato e soprattutto cosa vuole raggiungere; dobbiamo ricordare sempre che i modelli sono delle opinioni a cui noi siamo soliti riconoscere un valore di imparzialità a prescindere solo perché supportati da numeri “oggettivi” ma in realtà è più corretto considerare i modelli come dei “portatori sani” di soggettività.
Esistono modelli opachi e non trasparenti, soggettivi, perché evitano volontariamente di dichiarare le loro proxies, non mostrando i risultati utili ad attuare correzioni o azioni di miglioramento; le scelte alla base e i dati vengono tenuti segreti il più delle volte con la motivazione che si tratta di algoritmi di alto valore strategico e svelarli potrebbe facilitare la concorrenza e compromettere la sopravvivenza dell’azienda: è il caso dei giganti del web che muovono miliardi di dati e generano miliardi di dollari attraverso l’uso di algoritmi proprietari.
I loro algoritmi predittivi insieme a quelli delle tantissime aziende e istituzioni che danno sempre maggiore importanza a questa tipologia di modelli, sono entrati nella vita quotidiana e la stanno organizzando, pianificando, cambiando.
Diventa sempre più importante ricordarci che questi modelli nascono da scelte personali che cominciano dal decidere quali siano i dati da considerare e quali da non considerare; sono scelte che sono strettamente correlate e vanno ad influenzare tematiche come morale, valori umani, bene comune, uguaglianza sociale a cui dobbiamo dare però la precedenza anche a scapito di un sacrificio di efficienza e profitto perchè i modelli matematici devono essere sì gli strumenti di oggi e del prossimo futuro ma non devono mai finire per trasformarsi nei nostri maestri.
Alessio Cuccu
RSS - Articoli
E tu cosa ne pensi?