Chi Ci Proteggerà?

di Umberto Scopa

___

Riflessioni su alcune idee di Asimov riportate alla nostra attualità

 ____________________________________________________________________________

__

Isaac Asimov nella prima metà del novecento si immagina il futuro dell’umanità alle prese con il difficile compito di controllare l’intelligenza artificiale che ha creato. I robot sono il prodotto di questa creazione, e il tema ricorrente è come può l’uomo servirsene senza perdere il controllo su di loro. Il robot è creato per fare cose che l’uomo non riesce a fare e quindi ha capacità di forza e resistenza molto superiori alle nostre, ma deve rimanere un mero esecutore della volontà umana e non avere un libero arbitrio. Diversamente avremmo creato un mostro incontrollabile. Asimov però si immagina che il robot non rimanga sempre nella sua condizione originaria di mero esecutore, ma possa evolversi. L’evoluzione è un percorso che lo può condurre all’emancipazione e infine a cercare di stabilire un rapporto di dominio e di guida verso l’umanità che lo ha creato. Ma per arrivare a questo deve acquisire una sua capacità di decisione che sfugge al controllo umano. Come può arrivarci è l’argomento di riflessione più interessante in tutta la sua immensa produzione narrativa. E ho scelto di indagarlo non per sola passione verso questo autore, ma soprattutto perché mi sono accorto di trovare nel suo ragionamento una chiave di lettura di grande attualità. Una chiave che apre la porta della comprensione di gravi accadimenti del nostro tempo, anche se non abbiamo mai conosciuto i robot nelle forme concepite da Asimov.

La causa che innesca il superamento del limite e conduce il robot in una terra nuova, dove non è tenuto più a rispondere del suo operato all’uomo che lo ha creato, è un perverso e paradossale scherzo della prima delle tre leggi della robotica. Su queste vale quindi la pena di spendere qualche parola. Non c’è fantascienza in materia di robotica che non recepisca le famose tre leggi ideate da Asimov. La prima legge della robotica esprime il dovere del robot di proteggere l’essere umano. Proteggere è il fine supremo, ed è posto al di sopra del dovere di mera ubbidienza all’essere umano (2° legge) e del dovere del robot stesso di auto-proteggersi (3° legge).

La costruzione sembra perfetta, talmente perfetta che anche la scienza le ha recepite e le considera univocamente come le basi imprescindibili della robotica che sapremo creare.

___

Il funzionamento delle tre leggi è nel loro ordine gerarchico. Partendo dalla terza, la più bassa, impariamo che il robot ha l’istinto di difendere la sua stessa incolumità (con quello che costa fabbricarlo per forza), ma il suo istinto di auto protezione viene meno se comporta la disubbidienza all’ordine di un essere umano, perché violerebbe la seconda legge, che è prevalente. Se però il robot deve obbedire all’essere umano, non deve farlo quando la cosa comporta la violazione del dovere di proteggere gli esseri umani, perché se no violerebbe la prima legge. E questo mette al sicuro dal pericolo che un uomo possa ordinare al robot di uccidere altri uomini. Quindi ci sentiamo al sicuro con queste tre leggi. Di meglio non possiamo concepire. Ma naturalmente c’è sempre l’inghippo.

Il paradosso sorge quando il robot si rende conto che per osservare la prima e suprema legge della robotica, cioè proteggere l’uomo, può essere necessario uccidere, quindi violare quella stessa legge. Siamo di fronte ad un paradosso che, se attentamente considerato, riassume i più grandi drammi della nostra epoca e nel seguito del discorso spero di riuscire a chiarire questo concetto.

Pensate al caso in cui uccidere delle vite può servire a salvarne altre. Il robot si trova ad essere arbitro, in questi casi, della vita e della morte, padrone di decidere l’ordine dei sacrifici. Lui era stato creato solo per proteggere la vita umana, ma potrà anche sopprimere delle vite per salvarne altre, perché anche questo è nella nostra idea di protezione. È vero che lo farà attraverso una razionalità programmata dall’uomo, e cioè una comparazione di informazioni che lo porteranno a mettere sui piatti della bilancia il peso dei sacrifici e di seguito scegliere il sacrificio minore.  Ma già si capisce che, giunti a questo punto, abbiamo subappaltato fuori di noi la nostra protezione. Quando poi le informazioni che il robot saprà contenere nella sua mente saranno superiori a quelle che la nostra può contenere, non riusciremo più neppure a capire le sue scelte e saremo completamente in balia delle sue decisioni e della sua forza soverchiante. E allora saranno guai. Se cerchiamo di disattivarlo ce lo impedirà, perché leggerà il nostro comportamento come il tentativo di impedirgli di proteggere l’umanità. Non c’è modo di revocargli il subappalto della nostra protezione. La revoca è un comando proveniente dall’uomo, il robot pur sapendo che deve obbedire (lo dice la seconda legge) sa anche che la prima legge è più forte e quindi secondo logica non obbedirà; anzi, di più, ci spazzerà via come un ostacolo alla sua finalità primaria.

___

L’uomo che perde il potere di decidere sul suo destino è un rischio previsto da Asimov. E il robot concepito solo per eseguire, si trova a decidere, ad esprimere una volontà della quale è diventato unico padrone. E questo ci porta all’attualità drammatica della nostra epoca. Non abbiamo oggi per le strade i robot di Asimov, ma i popoli del mondo conoscono governanti che sempre di più assomigliano ai robot di Asimov. Capisco che il parallelo possa sorprendere e apparire assurdo, ma vi invito a superare l’apparenza e seguirmi nel ragionamento. Sappiamo bene che tutti i popoli sono contrari alle guerre e se la loro volontà fosse rispettata le guerre non si farebbero, ma il mondo è pieno di guerre ovunque; cercate su internet il numero delle guerre in corso e ne scoprirete tante che non ci vengono raccontate in angoli lontani del mondo. Il mondo è un incendio di guerre, e una si avvicina anche a noi che oggi ci sentiamo ben protetti e al sicuro. A muovere queste guerre sono i governanti, non i popoli. Nei paesi democratici i governanti sono creati dai popoli e dovrebbero essere loro servitori, come i robot di Asimov. Però come nel caso dei robot di Asimov qualcosa è andato storto. E c’è ancora di mezzo quel fine di protezione che è la prima delle tre leggi della robotica. Ogni guerra moderna nasce da un fine dichiarato di protezione. Non c’è una guerra che non scaturisca dalla prima legge della robotica, il proposito di proteggere esseri umani.

Non si può a priori escludere che tante decisioni dolorose dei governanti siano state prese in buona fede naturalmente, sarei dissennato se lo affermassi senza prove. Ma ci sono prove certe di tante guerre iniziate con menzogne dei governanti che hanno dato false rappresentazioni del loro fine di proteggerci. Non mi fate fare inutili esempi di guerre recenti.

C’è chi si è arrogato il diritto di mentire spudoratamente all’opinione pubblica, sempre in nome di quel fine superiore che fagocita tutto.

È opinione tristemente recepita nel governo delle società umane quella riassumibile nella nota frase di Machiavelli “il fine giustifica i mezzi”. Oggi potremmo dire che il fine della protezione, anche solo dichiarato, giustifica i mezzi, anche i più orrendi.

__

Chi governa sa bene di rappresentare popoli che dappertutto sono contrari alle guerre, ma ovunque pretende di essere diventato unico depositario della reale conoscenza dei fatti e decide anche contro la volontà di chi deve rappresentare. Quanto a noi, gente comune, abbiamo delegato il compito di decidere, ma su certi temi drammatici quella delega non è revocabile. E non basterà votare altri governanti. La storia dimostra che non è mai bastato. Se usciremo dalla spirale delle guerre avverrà in modi che oggi non siamo in grado di immaginare, oppure in uno solo che immaginare si può, e cioè quella guerra definitiva che tutte le successive cancellerà.

E quanto ad Asimov si può dire che con un secolo di anticipo aveva immaginato un’umanità talmente sfiduciata in se stessa da aver delegato ai robot il compito di proteggerla, come noi l’abbiamo delegato a uomini che nel prendere possesso della sovrumana responsabilità di proteggerci hanno configurato lo scenario che stiamo vivendo, o subendo. Se così vanno le cose.

__

Disegno: Umberto Scopa

___

Da Battere Le Zampe ritorna mercoledì 29 marzo

__