La Biblioteca di Babele della IA

Ci sono versioni diverse di importanti foto: sono notissime quelle “politiche” del ‘900 in Unione Sovietica, che vedevano sparire uno ad uno personaggi diventati “sgraditi”, perché l’aderenza alla “verità del momento” lo richiedeva. Non va affatto bene così, ed il nocciolo del problema comincia a venir fuori.

Certo, i 24 informatissimi lettori potrebbero dire che in quel caso di “propaganda” si tratta, non di “informazione”; il recupero da altre fonti delle immagini originali consente di ristabilire, almeno in questo caso, la verità.

È con l’Intelligenza Artificiale che la questione si complica fino a diventare un incubo: l’uso indiscriminato di IA nella produzione di immagini permette oggi di “inventare” una realtà completamente diversa da quella “vera”.

Permetterà domani di produrre informazioni “inventate” di qualsiasi tipo ed in grande quantità, informazioni che saranno difficilmente distinguibili da quelle “vere”.

È quello che le piccole intelligenze artificiali di oggi fanno, spesso malamente come nella nostra foto, domani potranno farlo le grandi IA, con estrema esattezza per trasformare il vero in falso, creare o distruggere storia e conoscenza, “inquinando” un domani permanentemente l’Infosfera come stiamo facendo oggi con l’ecologia del nostro pianeta.

Ecco che nella foto “migliorata” di un gruppo di persone potrebbero ad esempio apparire solo quelle iscritte, o non iscritte, ad un certo partito, perché l’IA della macchina fotografica, opportunamente istruita, accederà in tempo reale ai dati del tesseramento nel cloud ed “inventerà” la realtà, senza che un “originale” sia mai stato “scattato”.

In questo modo le altre persone non saranno “rimosse” dalla foto, come facevano i fotografi di Stalin, e neppure dalla cronaca e dalla storia, come faceva Winston Smith in 1984, ma semplicemente non saranno mai esistite. Non avranno mai fatto parte della realtà.

E, se questo non basta, ricordiamo che le tecniche di intelligenza artificiale non sono limitate alle foto, e nemmeno ai video, come i deep fake così popolari qualche mese fa.

Per una IA il mondo è una sequenza di bit, e su questa impara ad operare, a seconda di come viene costruita od addestrata. Perciò una IA, debitamente istruita, potrebbe far sparire donna Prassede dai Promessi Sposi, aggiustando la trama e tutto il romanzo automaticamente.

Oppure potrebbe creare una versione dei Promessi Sposi dove Lucia fugge con l’Innominato, ed in cui la peste a Milano viene rimpiazzata con il Covid-19 a Wuhan o con la Morte Rossa nel castello del principe Prospero. Come distinguere poi le due versioni dall’originale, in questa nuova Biblioteca di Babele dell’IA?

Ma già adesso un’intelligenza artificiale può generare informazione testuale “credibile”, e migliorerà certamente nel prossimo futuro; debitamente istruita produrrà foto, testi, filmati, romanzi, dati “scientifici”, che saranno “realistici”, ancorché non rappresentino affatto la realtà. E potrà fare questo a comando, per attuare scopi su cui non voglio fare ipotesi perché mi spaventano troppo.

Che cosa succederà all’Infosfera tra qualche decennio?

L’Infosfera, l’insieme di tutte le conoscenze umane, sarà permanentemente inquinata da “quasi-verità”, da verità “false ma credibili”, da pura fantasia resa indistinguibile dalla realtà, da informazioni generate come atti non di una cyberguerra ma di una Guerra Informativa.

Che ne sarà della conoscenza, il più prezioso patrimonio dell’umanità, quando verrà inquinata aldilà di ogni possibilità di recupero?

Prima che un cambiamento “catastrofico” dell’infosfera ci travolga e ci cancelli, travolga e cancelli la parte migliore di noi, forse dovremmo cominciare a riflettere ed a prendere provvedimenti. Subito, anche se forse è già tardi, come forse lo è per il cambiamento climatico.

Ve lo (pre)dice Cassandra.

Scrivere a Cassandra@calamarim

Le profezie di Cassandra: @XingCassandra

Videorubrica “Quattro chiacchiere con Cassandra”

Lo Slog (Static Blog) di Cassandra

L’archivio di Cassandra: scuola, formazione e pensiero

Marco Calamari
Marco Calamarihttp://www.cassandracrossing.org
Cassandra ha iniziato a pubblicare videocommenti; anteprime di articoli in preparazione, commenti a quelli gia' pubblicati od al "fatto del giorno", persino storielle del mondo piccolo di Cassandra. Qualita' video molto bassa, niente green screen od animazioni, location dove capita, e cosi' via; speriamo che il loro contenuto giustifichi i minuti spesi per ascoltarli. Marco Calamari: ingegnere, classe 1955, talvolta noto come "Cassandra", a 18 anni dovette decidere se comprarsi una macchina usata od un pc. Scelse il pc e da allora non si e' ancora completamente ripreso. Lavora come archeologo di software legacy in una grande multinazionale, ma e' appassionato di privacy e crittografia in Rete, dove collabora a progetti di software libero come Freenet, Mixmaster, Mixminion, Tor & GlobaLaks. E' il fondatore del Progetto Winston Smith e tra i fondatori dell'associazione Hermes Centro Studi Trasparenza e Diritti Umani Digitali. Dal 2002 organizza il convegno "e-privacy" dedicato alla privacy in Rete e fuori, ed e' editorialista di "Punto Informatico" e "ZeusNews, dove pubblica la rubrica settimanale "Cassandra Crossing". Scrivere a Cassandra - @calamarim Le profezie di Cassandra: @XingCassandra Videorubrica "Quattro chiacchiere con Cassandra" Lo Slog (Static Blog) di Cassandra L'archivio di Cassandra: scuola, formazione e pensiero

Latest articles

Related articles

Leave a reply

Please enter your comment!
Please enter your name here

Questo sito usa Akismet per ridurre lo spam. Scopri come i tuoi dati vengono elaborati.