Dovremmo preoccuparci di come la tecnologia sta cambiando la condizione umana?

Aakash Joshi scrive: I timori per gli algoritmi progettati per la dipendenza, i progressi nell'intelligenza artificiale sono basati su recenti rivelazioni sull'avidità aziendale e sulla sorveglianza del governo.

Forse non ci sono davvero soluzioni alle sfide dell'era di Internet.

A prima vista, c'è poco che collega Joseph Marie Jacquard, un tessitore e mercante francese del XVI secolo, un documentario su Anthony Bourdain, il defunto chef, scrittore e personaggio televisivo, e le rivelazioni dell'informatore Frances Haugen sul grado in cui Facebook è consapevole e causa profondi danni sociali e politici. Ma è stato il successo di Jacquard che ha portato alla resurrezione di Bourdain. Insieme a ciò che ora sappiamo su Facebook e sull'invasione dei diritti individuali da parte del governo, questo atto di negromanzia trascendente dovrebbe spaventarci tutti.

Le rivelazioni di Haugen sottolineano tre punti fondamentali. In primo luogo, coloro che gestiscono i social media non sono malintenzionati di per sé. Ma la loro ambivalenza morale nei confronti delle conseguenze dei loro prodotti e l'agnosticismo insito nella progettazione degli algoritmi hanno fatto sì che potessero esserlo. Prendiamo, ad esempio, l'effetto di Instagram sulla salute mentale delle ragazze adolescenti, o il ruolo che WhatsApp e Facebook hanno svolto nel promuovere la violenza etnica in luoghi diversi come il Myanmar, parti dell'Africa e dell'India. Haugen ha fornito documenti che dimostrano che la società che gestisce tutte e tre le app era ben consapevole di queste conseguenze, eppure ha fatto ben poco per fermarle.

In secondo luogo, non esiste un buon modo, nessuna soluzione basata sul mercato che offra una via d'uscita plausibile. Le app sono così profondamente intrecciate con il modo in cui viviamo e lavoriamo (basta guardare l'effetto paralizzante che una chiusura di sette ore di tutte le app di Facebook ha avuto il 5 ottobre) che è probabile che un concorrente occupi lo spazio lasciato libero da qualsiasi azienda.

Infine, è ingenuo credere in qualsiasi forma sostanziale di autoregolamentazione. In poche parole, l'intera architettura dei social media si basa sulla massimizzazione del tempo sullo schermo e sui dati così raccolti. Ciò che fa l'algoritmo è trovare ciò che manterrà le persone agganciate di più e più a lungo: il contenuto effettivo non ha importanza. Aspettarsi che i giganti dei social media regolino proprio ciò su cui si basano i loro profitti è come chiedere agli spacciatori di dare la priorità alle cliniche di riabilitazione.

Se l'autoregolamentazione è fuori, la regolamentazione del governo è la risposta? Sfortunatamente, le azioni anche di governi democraticamente eletti spesso ispirano poca fiducia. Prendiamo solo due esempi recenti: lo scandalo ficcanaso di Pegasus e le scoperte di Arsenal Consulting. Da entrambi, sembra chiaro che per molti governi, incluso il nostro, l'uso della tecnologia per violare i diritti individuali non è incidentale per un obiettivo più ampio – come nel caso delle società di social media – ma una parte intrinseca del loro funzionamento.

Dimentica il fatto che il governo dell'India sembra essere l'unico governo nazionale che non è stato scosso dallo scandalo Pegasus. Ciò che è più significativo è che i governi possono ora distribuire spyware a zero clic in grado di aggirare facilmente i meccanismi di sicurezza. E che tali capacità sono state dispiegate contro giornalisti, amici e oppositori politici, personale della difesa, uomini d'affari, cittadini con un diritto inalienabile alla privacy e alla dignità. Come ha scritto Subhasis Banerjee ('Guardrails of privacy', IE, 27 luglio): ... e se un'iniezione di malware e un tentativo di sorveglianza sofisticati come Pegasus aggirassero del tutto l'architettura di protezione dei dati e la supervisione normativa?... Pegasus è stato apparentemente progettato anche per autodistruggersi sui tentativi di individuazione, però, secondo il rapporto di Amnesty, non è riuscito del tutto e ha lasciato tracce. Sebbene in teoria si siano sempre comprese le possibilità, che tali strumenti simili a James Bond esistano effettivamente e siano utilizzati dai governi è sicuramente una rivelazione.

Sfortunatamente, lo scandalo Pegasus è solo la punta dell'iceberg.

Nel luglio 2021, un documentario del New York Times, Roadrunner: A film su Anthony Bourdain, ha aperto con un plauso di critica quasi universale. Ma la rivelazione del regista Morgan Neville che il film ha frammenti di dialoghi nella voce di Bourdain, creati usando l'intelligenza artificiale dopo la sua morte, ha messo a disagio molti. In sostanza, ci ha mostrato quanto siamo vicini a resuscitare i morti: tra la tecnologia di clonazione vocale, la robotica avanzata che è sul punto di creare androidi simili agli umani e l'enorme quantità delle nostre personalità che è stata riversata in siti e app, è sarà presto possibile creare un simulacro di cari defunti. Ma i timori su come i progressi tecnologici possano cambiare radicalmente la condizione umana non riguardano solo questioni esoteriche di vita o di morte.

Immagina uno spyware sofisticato come Pegasus che può sfuggire al rilevamento, combinato con la capacità di creare autentiche caratteristiche vocali e facciali. I pericoli segnalati dalle rivelazioni di Arsenal Consulting – che le prove sono state probabilmente inserite nei computer di accademici, avvocati e attivisti nel caso Bhima Koregaon – diventano ancora più spaventosi. Cosa succede se un video manipolato viene utilizzato per incarcerare gli attivisti? O per stabilire il canto di slogan sediziosi e antinazionali?

Dato che i governi hanno almeno tanto interesse a mantenere il potere quanto le aziende a realizzare profitti, difficilmente ci si può aspettare che siano arbitri imparziali dei limiti della tecnologia.

Forse non ci sono davvero soluzioni alle sfide dell'era di Internet. La mela è stata mangiata e il peccato è così sistemico che non c'è niente da fare. O, forse, la risposta alla potenza del software risiede nelle prime battaglie contro di esso.

Nel 1804, Joseph Marie Jacquard inventò il telaio Jacquard, che semplificava e, in una certa misura, automatizzava la tessitura di tessuti complessi. È stato probabilmente il primo software mai creato, il progenitore di Facebook, Pegasus e l'intelligenza artificiale per la ricreazione vocale. Mentre chi era al potere all'epoca – profittatori e politici – ha accolto con favore il telaio, altri lo hanno visto come un male, come una sottrazione di posti di lavoro e agenzia. Questi obiettori lanciavano i loro zoccoli di legno (sabot, in francese) contro la macchina infernale. Dai sabot nacquero i primi sabotatori e atti di sabotaggio. Ma questi erano anche atti di affermazione contro un mondo che cambiava - almeno per loro - in peggio.

Oggi è impossibile lanciare una scarpa all'effimero network globale. Ma forse, a causa della sua capacità di minare la democrazia, il libero arbitrio, la salute mentale, la privacy e l'individualità, abbiamo più che mai bisogno di sabotatori.

Questa colonna è apparsa per la prima volta nell'edizione cartacea il 13 ottobre 2021 con il titolo 'Perché abbiamo bisogno di sabotatori'. aakash.joshi@expressindia.com