Potere e controllo

Non è solo la cosiddetta “questione algoritmica”,  quella da tenere sotto controllo nel progresso della nostra condizione di società sempre più digitale. Dopo i fatti degli ultimi giorni, e l’arrivo della questione “Trump/Twitter”,  salta agli occhi in modo evidente  anche la questione libertà;  sotto forma di censura, esercizio del controllo e del potere, in modo smodato e inarrestabile dentro alle logiche delle OTT.  Nel contempo, come se non bastasse, ecco arrivare un’altra questione pressante,  a completare la scacchiera delle problematiche sul piatto;  l’ingresso sempre più evidente dell’Intelligenza artificiale nell’amministrazione delle nostre vite.  In particolare l’evoluzione attuale dell’impiego della IA,  che si chiama machine learning  e che si attua mediante l’uso di reti neurali e del deep learning. Ogni prossimo ragionamento sul futuro “digitale” del nostro pianeta, dovrà essere realizzato, a nostro avviso,  tenendo nello stesso conto queste tre diverse problematiche che determinano e determineranno sempre di più i comportamenti,  i nostri comportamenti, dentro l’agone sociale. Sono regole, insegnamenti, abitudini, ricerche scientifiche, orientamenti che partono tutte dagli stessi vettori che sono le OTT, meglio note come techno-corporation o ancora meglio definite:  meta nazioni digitali. Le logiche algoritmiche condizionano e dettano “le leggi”, i comportamenti di tutti noi; il potere e il controllo viene esercitato in modo “certamente arbitrario”, ma di continuo, e senza distinzioni, almeno apparentemente – il caso Trump sta lì a dimostrarlo – e colpisce tutti,  scavalcando leggi e norme degli stati sovrani; l’IA interviene, e interverrà sempre più, nella gestione delle cose del mondo: dai semafori, al traffico ferroviario, dagli aerei agli aeroporti, dalle terapie intensive ai sistemi di screening, controllo e prevenzione delle malattie. Perché i dati sono diventati big,  e adesso con l’avvento del 5G,  si trasformeranno in conglomerati ancora più ingombranti e ingestibili; un qualcos’altro, un’insieme di elementi fisici e complessità,  impossibile da gestire per le menti umane.

 

La nostro riflessione di oggi prova a mettere insieme queste tre diverse componenti, confrontando il nostro pensiero con quello di altre – molto autorevoli – fonti.  Per introdurre l’argomento OTT,  attingiamo ad un’intervista realizzata dall’Huffington Post a Luciano Violante. L’ex presidente della Camera,  ed ex ministro,  ora presidente della Fondazione Leonardo, rispondendo a domande sulla vicenda Trump/Twitter  segnala una serie di problematiche importanti –  a suo modo di vedere – scaturite da quella vicenda.  Temi scottanti e oramai al centro del dibattito pubblico mondiale. Estraiamo come al solito alcuni dei passaggi dell’articolo  che ci sono apparsi  particolarmente significativi:

 

 

 

“Queste aziende hanno la sovranità digitale in uno spazio nuovo colonizzato solo da loro.

 

Le “compagnie del digitale”, potremmo definirle così, hanno un potere politico di fatto che nessuno ha mai avuto: hanno una funzione regolatrice della vita dei privati e degli Stati, rendono servizi indispensabili e per questo condizionano la qualità dell’attività privata e pubblica. Se decidessero di staccare la spina tutte insieme il mondo smetterebbe di funzionare”.

 

“Con il Digital Service Act  la Commissione di Ursula von der Leyen sta trattando il problema sotto il profilo della democrazia, dei diritti e delle libertà. Si va verso una riconversione totale dello spazio digitale ponendoci un problema di democrazia. La direzione è quella giusta perché bisogna disciplinare questi soggetti senza impedirgli di fare il proprio lavoro, perché ci serve. Per questo penso che serva un Authority a livello europeo che stabilisca delle linee guida leggere, costruite e discusse costantemente con le “compagnie del digitale”. Decidiamo insieme a Facebook, Twitter, Google, Apple, Amazon, quali sono i sei, sette punti che segnano un buon digitale

 

Infine è necessario affiancare alle regole formali una pedagogia del digitale: il cittadino deve essere in grado di usare nel miglior modo possibile il digitale e di conoscere i rischi che corre”

 

 

 

Nelle parole dell’insigne uomo politico, si evince chiaramente l’esistenza di un  “questione algoritmica” in capo alle techno corporation.  Ma la scelta di  – secondo una posizione molto comune  – formulare le nostre prossime scelte di vita assieme alle OTT, o peggio, affidandole direttamente  alle techno corporation,  dando per scontato che sia questa l’unica realtà possibile e – come dice anche lo stesso Violante – si debba per forza pensare ad un mondo filtrato attraverso il modello proposto dalle meta nazioni digitali;  non ci sembra la scelta migliore. Internet è certamente un’altra cosa rispetto alle compagnie che lo hanno colonizzato e poi monopolizzato,  e il web pure.  Può anche sembrare  vero che le OTT  siano al nostro servizio, ma, riflettendo meglio, forse, ci si potrebbe rendere conto che senza un pubblico,  o meglio con un pubblico maggiormente informato, formato e cosciente,  questi monopoli avrebbero molte difficoltà ad esistere. L’economia della “sorveglianza”, o meglio il capitalismo della sorveglianza,  si troverebbe in forte difficoltà  se improvvisamente sparissero i  “sorvegliati”. Torniamo a pensare all’uso della dorsale di collegamento universale – la rete –  così come l’avevano pensata coloro che l’hanno progettata. Torniamo a pensare al web come ad uno spazio di servizio da realizzare attraverso la rete. Uno spazio  dove si fanno affari secondo regole di concorrenza legittima,  e offerte diversificate.  E dove non ci sono monopoli, sempre più stringenti e blindati, che applicano solo la regola del più forte. Quei posti  non sono internet sono la giungla del mondo. Posti dove  non saremo mai liberi ma solo carne da macello.

 

Ispiriamoci invece al nuovo contratto con l’Umanità per l’uso consapevole della rete,  redatto nel 2018, da uno degli inventori del web, Tim Berners Lee. Sono nove semplici regole, tre per i Governi, tre per le Aziende e le ultime tre per le Persone,  che ridefiniscono in modo coerente e consapevole i nostri usi e consumi dentro agli spazi di connessione digitale:

 

 

Per i Governi:

 

Assicurati che tutti possano connettersi a Internet

Mantieni disponibile la rete Internet, tutta e sempre

Rispetta e proteggi il fondamentale diritto delle persone alla privacy e al controllo sui propri dati

 

Per le Aziende:

 

Rendi internet conveniente e accessibile a tutti

Rispetta e proteggi la privacy e i dati personali di ognuno per creare fiducia online

Sviluppa tecnologie che supportino il meglio dell’umanità e contrastino il peggio

 

Per Noi tutti

 

Cerchiamo di essere tutti creatori e collaborativi sul web

Costruiamo comunità forti che rispettino la civiltà e la dignità umana

Lottiamo per il web in modo che rimanga aperto e sia una risorsa pubblica globale per le persone di tutto il mondo, ora e in futuro

 

 

 

Non si tratta di una mera questione di principio, e i fatti degli ultimi giorni lo hanno dimostrato in modo circostanziato e preciso. La necessità di intervenire per ripristinare la giusta logica, la giusta direzione, la corretta direzione nel nostro approccio al mondo – oramai – quasi del tutto digitale,  è divenuta imprescindibile e improcrastinabile.

 

 

 

“Nello spazio digitale, l’esercizio del potere repressivo in capo a meta-nazioni che fanno il bello e il cattivo tempo, costituisce l’esercizio di un potere assoluto, senza appelli, lì dentro. Bisogna aspettare i tempi della giustizia ordinaria, nel frattempo si sparisce dalla circolazione. La possibilità per un’applicazione di accedere a un server per mettervi i dati dei propri utenti, oppure di comparire su uno store per poter essere scaricata, rappresentano le condizioni di esistenza in vita di un soggetto nello spazio digitale”.

 

 

 

Sono parole di Nicola Zamperini, estratte dal suo ultimo articolo pubblicato nel blog Disobbedienze e  intitolato “Techno-camaleonti”. La questione non è chi decide cosa, o ancora peggio, quale commissione o autority nominare perché decida al posto  nostro. Il tema centrale è, come sempre, la consapevolezza. Il sapere essere digitali, non l’essere costretti ad agire secondo regole tecnologiche, imposte dai costruttori degli ambienti o delle macchine digitali. Consapevolezza – sempre più necessaria e irrinunciabile per vivere dignitosamente il nostro presente – cui va aggiunto, a questo punto, il terzo e cruciale nodo da sciogliere al più presto: la incontrovertibile questione della collaborazione uomo/macchina. Nel mondo dei dati diffusi  in quantità inimmaginabile, da noi, dai nostri oggetti, dai comportamenti inconsapevoli; saranno le macchine a gestire in modo automatico buona parte dei sistemi di sopravvivenza dell’umanità. Dobbiamo essere coscienti di questi processi e rimanere “consapevolmente” informati sul funzionamento delle macchine, e sull’evoluzione di questi processi automatizzati. Rimanere attivi e partecipi, meglio ancora “artefici” dei fatti, anche se, e quando,  correttamente affiancati e talvolta anche,  sostituiti dalle macchine,  nelle operazioni che non saremo più in grado di condurre in prima persona. Il problema è spiegato  in modo eccellente dalla scienziata Hannah Fry nel suo saggio “Hello world”, guardate cosa scrive a proposito delle auto a guida autonoma:

 

 

 

Ironicamente, ogni passo avanti delle tecnologie di guida autonoma aggrava il problema. Un pilota automatico di base che fa scattare un allarme ogni quindici minuti obbligherà il guidatore a prestare attenzione regolarmente e a non perdere mai la mano. I sistemi automatici da evitare sono quelli sofisticati in cui tutto funziona alla perfezione e che sono quasi sempre affidabili.

Ecco cosa ha dichiarato a tale proposito il responsabile del Toyota Research Institute, Gill Pratt:

Il caso peggiore in assoluto è quello di un’automobile che richiede un intervento da parte del conducente ogni 300000 chilometri… Al guidatore medio, che cambia macchina più o meno ogni 160000 chilometri, non capiterà mai di vedere il pilota automatico che cede il controllo del veicolo. Ogni tanto, però, diciamo una volta ogni due macchine, potrebbe capitarmi di sentire all’improvviso un “bip, bip, bip, tocca a te!”. E non avendo avuto da anni un’esperienza simile… non saprei cosa fare

Strategie di marketing a parte, non posso fare a meno di chiedermi se non è la nostra riflessione sulle macchine a guida autonoma a dover essere rivista completamente.

Ormai sappiamo che l’uomo è bravissimo a cogliere le sfumature, analizzare il contesto, sfruttare l’esperienza e identificare i pattern. Invece siamo incapaci di prestare attenzione, essere precisi, coerenti e pienamente consapevoli della realtà circostante. In parole povere, le nostre capacità sono esattamente l’opposto di quelle di un algoritmo.

Ma allora perché non seguiamo la strada indicata dal software per il riconoscimento dei tumori e sfruttiamo le doti della macchina per integrare quelle umane e migliorare così le doti di entrambi? Finché non raggiungeremo la piena autonomia, perché non invertire l’equazione e puntare a un sistema di guida autonoma che aiuti il conducente anziché il contrario? Una rete di protezione – una sorta di ABS, un controllo della trazione – che controlli pazientemente la strada per vedere i pericoli che sono sfuggiti al guidatore. Un guardiano, più che un autista.

 

Una cosa, però, è certa: la guida autonoma finirà per insegnarci più di una lezione applicabile anche ben al di fuori del mondo dei motori, e non solo su quanto sia complicato cedere il controllo a un algoritmo ma anche su quello che ci si può attendere realisticamente da un algoritmo.

Se i sistemi di guida autonoma avranno successo dovremo rivedere il nostro modo di pensare. Dovremo rinunciare alla pretesa che un’automobile funzioni sempre alla perfezione e accettare che i guasti meccanici diventino eventi rari ma che gli algoritmi, prima o poi, finiranno per sbagliare.

 

 

 

C’è un mondo bellissimo fuori dai recinti delle techno corporation, è un posto aperto e libero. Un luogo per tutti. In cui poter lavorare, scambiare informazioni, cooperare, collaborare, e crescere insieme. Si chiama internet. Non si chiama google e nemmeno facebook. E non è di proprietà di amazon o di ali baba e nemmeno di microsoft o apple.

Grazie dell’attenzione e alla prossima ;)