Kissinger non sa dire, non essendo dentro la tecnologia, tanto più
per essere questa tecnologia in sviluppo costante. Ma ne fa una questione
epocale: siamo nell’Età della Ragione, dopo l’Età della Religione, aperta dalla
stampa nel Quattocento, e passiamo a un mondo basato su “macchine azionate da
dati e algoritmi e non governate da norme etiche o filosofiche”. Pone dei quesiti.
E arriva a conclusioni – il saggio non è lungo, otto cartelle, ma denso..
I quesiti sono di tre tipi. “La IA può raggiungere risultati non voluti”.
È tema di fantascienza, ma “il pericolo che interpreti male le istruzioni per la
sua inerente mancanza di contesto” è “probabile”. Inoltre, “arrivando a effetti
non voluti, la IA può cambiare i processi di riflessione umani e i valori umani”.
Né è senza rischi il fatto che “la IA vuole avere ragione”: “È questa
insistenza pervicace ad avere ragione caratteristica della IA?” E in campo
educativo, “vogliamo che i bambini imparino i valori attraverso algoritmi scollegati,
o dobbiamo restringerne l’uso, e in che misura?”
Secondariamente, “se la IA apprende esponenzialmente più veloce che
l’uomo, dobbiamo aspettarci che acceleri, anche esponenzialmente, il processo
per prove ed errori con cui le decisioni umane generalmente si fanno, di fare
errori più rapidamente e di maggiore grandezza di quelli che fanno gli umani”. In
terzo luogo, concesso che la IA può raggiungere certe conclusioni più rapidamente
dell’uomo, è però incapace di spiegarle. La cosa è disturbante perché “in certi
campi – riconoscimento dei modelli, analisi dei big-data, gioco – le capacità della IA possono già avere sorpassato
quelle umane”. Kissinger si è posto il problema della IA ascoltando una conferenza
in cui si spiegava come un computer avesse vinto contro “Go”, “gioco più complesso
degli scacchi, in cui ogni giocatore schiera 180 o 181 pezzi su un campo vuoto,
che deve poi conquistare pezzo a pezzo”.
La conclusione è che la IA può aiutare poco i processi politici, per
la sua “instabilità”, o insensibilità ai contesti, alla complessità. Sì per la
enorme capacità di memorizzazione e compitazione, ma poco o niente per le
decisioni: ha “cominciato a produrre” una “trasformazione della condizione umana”,
ma i governi si limiteranno più probabilmente “ad accertarne le applicazioni in
termini di sicurezza e intelligence”.
Le conclusioni sono un avvertimento ai tecnologi, di porsi I problemi
che stanno creando. In sintesi: “L’Età della Ragione è cominciata con
riflessioni essenzialmente filosofiche connesse a una nuova tecnologia”, la
stampa mentre “il nostro periodo muove nella direzione opposta. Ha generato una
tecnologia potenzialmente dominante in cerca di una filosofia che la guidi”.
Henry Kissinger, How the
Enlightenment Ends”,“The Atlantic”, giugno, free online
Nessun commento:
Posta un commento