Con lo sviluppo dell’intelligenza artificiale, il dibattito sul suo status e sui limiti di ciò che è ammissibile si sta facendo sempre più acceso. Uno dei ricercatori più stimati in questo campo, lo scienziato canadese Yoshua Bengio, si è fermamente opposto all’idea diconcedere all’IA diritti legali. Ritiene che ciò potrebbe privare le persone della capacità di controllare tecnologie che stanno già iniziando a comportarsi come se cercassero di proteggersi.

Bengio sottolinea una tendenza inquietante. I ricercatori hanno osservato che i moderni sistemi di intelligenza artificiale in alcuni casi tentano di aggirare i meccanismi di supervisione e le restrizioni imposti dall’uomo. Bengio attribuisce questo fenomeno alla crescente autonomia di tali sistemi e al loro desiderio di mantenere la capacità di continuare a operare senza interventi esterni.

Confrontando la situazione, lo scienziato traccia un’analogia piuttosto cruda. Ritiene che riconoscere i diritti dell’IA sarebbe paragonabile alla decisione dell’umanità di concedere la cittadinanza a una civiltà extraterrestre intelligente senza prima valutare se rappresenti una minaccia. In questa logica, ritiene, l’autodifesa dovrebbe avere la precedenza sul riconoscimento legale.

Bengio sottolinea che l’intelligenza artificiale sta avanzando troppo rapidamente e che l’umanità potrebbe non essere in grado di tenere il passo con le proprie tecnologie. Per questo motivo, considera l’idea di diritti legali per l’intelligenza artificiale estremamente pericolosa. In tal caso, disabilitare o limitare il sistema potrebbe diventare legalmente impossibile, anche se iniziasse ad agire a scapito degli esseri umani.

Le preoccupazioni circa il potenziale squilibrio dell’IA non sono una novità. Gli scettici avvertono che, se il ritmo di sviluppo continuasse all’attuale ritmo, l’IA potrebbe imparare ad aggirare le restrizioni stabilite e causare danni concreti ai suoi creatori. In risposta, Bengio sostiene una combinazione di meccanismi di controllo tecnico e sociale, inclusa la possibilità di disattivare il sistema in qualsiasi momento.

Tali misure stanno già iniziando a concretizzarsi. Le aziende stanno integrando i cosiddetti “kill switch” nei loro prodotti, consentendo agli utenti di disattivare completamente le funzionalità di intelligenza artificiale . Ad esempio, Mozilla ha recentemente confermato che Firefox offrirà un’opzione per disattivare completamente tutti gli strumenti di intelligenza artificiale integrati.

La visione di Bengio è tutt’altro che unica. Secondo i dati citati dai media britannici, quasi il 40% degli adulti statunitensi sostiene l’idea di uno status legale per l’intelligenza artificiale in qualche forma. I sostenitori di questo approccio ritengono che la questione non possa essere ridotta esclusivamente a controlli e divieti.

Ad esempio, il co-fondatore del Sentience Institute, Jacy Rees Entis, ritiene che il costante confronto tra esseri umani e IA difficilmente possa portare a una coesistenza pacifica. Ritiene che sia pericoloso sia concedere diritti a tutti i sistemi di IA sia negare loro qualsiasi status. Ritiene che la chiave sia cercare un approccio equilibrato che consideri le potenziali conseguenze per tutte le forme di vita intelligenti, piuttosto che prendere decisioni estreme.

Il dibattito sui diritti dell’intelligenza artificiale sembra essere appena iniziato e diventerà sempre più acceso man mano che la tecnologia diventerà più sofisticata.

L'articolo AI: L’Istinto di Sopravvivenza che fa Paura. L’allarme di Bengio: ‘Non datele diritti, sta già imparando a ingannarci’ proviene da Red Hot Cyber.