12 possibili scenari AI per il futuro dell'umanità secondo Max Tegmark
Cosa succederà quando si svilupperà un'AGI? Gli esseri umani e l'IA convivranno pacificamente o l'IA prenderà il sopravvento? Max Tegmark, nel suo seminale "life 3.0" ci propone 12 scenari del giorno dopo.
In questo articolo c'è la mia video recensione + trascrizione:
Manolo Macchetta
Nel suo libro, Life 3.0: Being Human in the Age of Artificial Intelligence, Max Tegmark descrive in dettaglio 12 possibili scenari per il futuro dell'umanità, a seconda di come l'IA verrà creata e si evolverà.
12 possibili scenari per il futuro dell'umanità
Ecco un rapido riassunto di queste opzioni:
Utopia libertaria
Umani, cyborg, upload e superintelligenze coesistono pacificamente grazie ai diritti di proprietà.
Dittatore benevolo
Tutti sanno che l'IA dirige la società e fa rispettare regole rigide, ma la maggior parte delle persone la considera una cosa positiva.
Utopia egualitaria
Umani, cyborg e upload coesistono pacificamente grazie all'abolizione della proprietà e al reddito garantito.
Gatekeeper
Un'intelligenza artificiale superintelligente viene creata con l'obiettivo di interferire il meno possibile per impedire la creazione di un'altra superintelligenza. Di conseguenza, abbondano i robot aiutanti con un'intelligenza leggermente subumana ed esistono i cyborg uomo-macchina, ma il progresso tecnologico è sempre ostacolato.
Dio protettore
Un'IA essenzialmente onnisciente e onnipotente massimizza la felicità umana intervenendo solo in modi che preservano la nostra sensazione di controllo del nostro destino e si nasconde abbastanza bene da far sì che molti umani dubitino persino della sua esistenza.
Dio schiavo
Un'IA superintelligente viene confinata dagli esseri umani, che la usano per produrre tecnologie e ricchezze inimmaginabili che possono essere usate per il bene o per il male a seconda dei controllori umani.
L'IA conquistatrice
prende il controllo, decide che gli esseri umani sono una minaccia/un fastidio/uno spreco di risorse e si sbarazza di noi con un metodo che nemmeno comprendiamo.
Discendenti
Le IA sostituiscono gli esseri umani, ma ci fanno uscire di scena con grazia, facendoci considerare loro come nostri degni discendenti, proprio come i genitori si sentono felici e orgogliosi di avere un figlio più intelligente di loro, che impara da loro e poi realizza ciò che loro possono solo sognare, anche se non possono vivere per vedere tutto questo.
Zookeeper
Un'IA onnipotente tiene con sé alcuni umani, che si sentono trattati come animali da zoo e lamentano il loro destino.
1984
Il progresso tecnologico verso la superintelligenza è permanentemente limitato non da un'IA, ma da uno stato di sorveglianza orwelliano guidato da esseri umani, in cui alcuni tipi di ricerca sull'IA sono vietati.
Reversione.
Il progresso tecnologico verso la superintelligenza è impedito dal ritorno a una società pre-tecnologica nello stile degli Amish.
Autodistruzione.
La superintelligenza non verrà mai creata perché l'umanità si estinguerà con altri mezzi (ad esempio con il nucleare e/o con le biotecnologie, alimentate dalla crisi climatica).
Note.
Max Tegmark è stato uno dei fondatori e keyspeaker di una delle più importanti conferenze sulle AI. Le 23 linee guida che sono state concordate ad Asilomar quindi sono state di sicuro influenzate dal pensiero di Tegmark.
Manolo Macchetta
Member discussion