Quanta fiducia riporre nell’innovazione tecnologica? Recentemente ho suggerito a una persona che aveva subito un intervento di laringectomia di sperimentare sistemi di clonazione vocale basati sull’intelligenza artificiale generativa, per tornare a esprimersi con il timbro di voce di un tempo ricavandolo da registrazioni passate. La proposta è stata accolta con gioia da lei e dai familiari che, ricordando la sua bellissima voce, non riuscivano ad accettare il timbro metallico della protesi fonatoria che utilizzava.
L’innovazione, intesa come tecnologia ma anche come trasformazione dell’organizzazione del lavoro che da essa deriva, va però sempre ponderata. Non dobbiamo solamente chiederci cosa faccia, ma soprattutto per chi lo faccia e a spese di chi. In un Paese dove non c’è il salario minimo e il precariato dilaga, la tecnologia serve spesso a comprimere i costi della manodopera, sottoponendo i lavoratori a controlli e competizioni che di fatto sfociano nel caporalato e in forme di moderna schiavitù.
Ogni volta che prenotiamo una consegna a domicilio o facciamo un volo low-cost, proviamo a interrogarci sulla moralità del modello di e-business sottostante: spesso sfrutta meccanismi di premialità che mascherano retribuzioni a cottimo. Non dobbiamo evitare di pensarci rifugiandoci nella nostra zona di interesse. Il sistema economico e sociale è sempre più interconnesso e le catene di cause ed effetti sono sempre più complesse.
Solo l’interrogativo etico può fare sintesi. Nella teoria dell’automazione è in uso il concetto di centauro, inteso come sistema che combina l’uomo e la macchina, l’intuizione umana e l’analitica dei Big Data, potenziando entrambi.
L’attivista e scrittore Cory Doctorow ha invece coniato il concetto di centauro inverso, la cui testa è una macchina ma il corpo è umano. L’esempio è l’autista di un furgone per le consegne a cui la macchina toglie dei punti se distoglie lo sguardo da dove dovrebbe guardare o se non raggiunge la quota di recapiti prefissata. Il centauro inverso non è molto lontano dagli scenari distopici descritti dal filosofo svedese Nick Bostrom, pioniere del pensiero etico applicato alla tecnologia e del rischio esistenziale derivante dalla nostra capacità di simulare la realtà. Doctorow esprime tale rischio con il paradosso del paperclip maximizer: un’intelligenza artificiale che, concentrandosi su un obiettivo apparentemente innocuo come produrre il maggior numero possibile di graffette, finisce per usare tutte le risorse disponibili, compresi gli esseri umani, con effetti disastrosi.
L’etica è dunque l’unica forma di riflessione che spinge ad allargare la nostra zona di interesse e a progettare dispositivi che facciano altrettanto.
