«L'intelligenza artificiale potrebbe portare all'estinzione dell'umanità»: è l'avvertimento degli esperti riportato dalla BBC in un servizio di Chris Vallance. Esperti che avvertono come debba essere una priorità contenere questo rischio.
Sono tanti i firmatari autorevoli di una dichiarazione pubblicata sulla pagina web del Center for AI Safety secondo cui «mitigare il rischio di estinzione dell'IA dovrebbe essere una priorità globale insieme ad altri rischi per la società come le pandemie e la guerra nucleare» si legge.
Tra i sottoscrittori della dichiarazione ci sono anche Sam Altman, amministratore delegato di OpenAI, Demis Hassabis, amministratore delegato di Google DeepMind e Dario Amodei di Anthropic.
Il sito Web del Center for AI Safety sottolinea una serie di possibili scenari di rischio con l’Intelligenza Artificiale: 
-       Eventuali malintenzionati potrebbero utilizzare l'IA in modo distruttivo, anche aumentando la probabilità di destabilizzazione politica o addirittura per la realizzazione di armi cimiche
-       Potrebbero essere diffusi una disinformazione generata e contenuti persuasivi per rendere la società meno attrezzata per gestire le sfide importanti del nostro tempo.
-       Se istruiti con obiettivi errati, i sistemi di intelligenza artificiale potrebbero trovare nuovi modi per perseguire i propri obiettivi a scapito dei valori individuali e sociali.
-       Può esservi un indebolimento se compiti importanti vengono sempre più delegati alle macchine e l'umanità perderebbe la capacità di autogovernarsi e diventerebbe completamente dipendente dalle macchine
-       Sistemi altamente competenti potrebbero dare a piccoli gruppi di persone un'enorme quantità di potere, portando a un blocco di sistemi oppressivi.
-       Visto che i modelli hanno dimostrato un comportamento inatteso e qualitativamente diverso man mano che diventano più competenti, ciò potrebbe aumentare il rischio che le persone perdano il controllo sui sistemi di intelligenza artificiale avanzati.

Gli esperti sottolineano anche di voler capire cosa stanno facendo i potenti sistemi di intelligenza artificiale e perché. E auspicano che i sistemi stessi riportino accuratamente queste informazioni per evitare che ci siano rischiose zone d’ombra. Inoltre, menzionano i forti incentivi economici che aziende e governi hanno per «creare agenti in grado di raggiungere un'ampia serie di obiettivi. Tali agenti hanno incentivi strumentali per acquisire potere, rendendoli potenzialmente più difficili da controllare».
Ci sono altri esperti che ritengono che i timori sull'Intelligenza Artificiale siano eccessivi, ma le personalità critiche e perplesse non sono poche.
E la BBC informa che «il G7 ha recentemente creato un gruppo di lavoro sull'IA».