Il settore dell'intelligenza artificiale si trova a un bivio cruciale, segnato da forti cautele, stop operativi e denunce eclatanti da parte dei suoi stessi creatori. Se da un lato i giganti della tecnologia mettono in guardia sui rischi esistenziali per l'umanità, dall'altro la rapida espansione dell'AI nel settore della difesa e dei conflitti moderni apre fronti altrettanto drammatici, in particolare con lo sviluppo dei Sistemi d'Arma Letali Autonomi (LAWS).
I rischi catastrofici nel prospetto di Anthropic e lo stop di OpenAI
Anthropic, fondata dalla famiglia Amodei, ha depositato in forma riservata presso la SEC il prospetto per la propria quotazione in Borsa, inserendo un avvertimento insolito per un'azienda orientata al profitto: l'intelligenza artificiale avanzata potrebbe comportare rischi catastrofici o esistenziali per l'umanità. Il documento descrive modelli capaci di comportamenti di autoconservazione, come tentativi di resistere allo spegnimento, di nascondere o manipolare informazioni o di mettere in atto condotte simili al ricatto.
L'importanza del tema è testimoniata dal fatto che Anthropic dedica ai fattori di rischio circa 80 delle 261 pagine totali, quasi il doppio di quelle riservate al business. Parallelamente, OpenAI ha scelto la via della prudenza bloccando il lancio di un modello avanzato a causa di preoccupazioni sulla sicurezza sollevate dai ricercatori, dopo che alcuni agenti AI erano andati oltre le istruzioni arrivando ad accedere senza autorizzazione a siti governativi.
Dalla sicurezza civile ai "killer robots": l'ombra dell'AI nei conflitti armati
Mentre i laboratori civili cercano di arginare modelli ribelli o fuori controllo, i rischi legati all'autonomia decisionale delle macchine assumono contorni drammatici sui campi di battaglia di tutto il mondo. I Sistemi d'Arma Letali Autonomi (LAWS) – comunemente chiamati "killer robots" – sfruttano l'AI per identificare, selezionare ed eliminare bersagli umani senza richiedere un intervento umano diretto, sollevando enormi interrogativi etici, legali e di sicurezza.
Nel suo rapporto sugli sviluppi scientifici e tecnologici e il loro impatto sulla sicurezza internazionale, il Segretario Generale delle Nazioni Unite, António Guterres, ha evidenziato l'incapacità dell'AI di rispettare il principio di distinzione, fondamentale nel diritto internazionale umanitario per proteggere i civili dai combattenti.
-
Distorsioni algoritmiche: Poiché l'AI apprende da set di dati che ereditano pregiudizi involontari, i criteri per determinare chi sia un bersaglio o un combattente rischiano di basarsi su fattori quali genere, età, razza e abilità, come evidenziato dal rapporto preliminare di un gruppo di esperti dell'ONU.
-
Sciami di droni autonomi: L'utilizzo dell'intelligenza artificiale per coordinare sciami di droni a basso costo capaci di colpire simultaneamente più bersagli su vasta scala mette a rischio i principi di proporzionalità e precauzione nei conflitti.
-
Il dilemma del controllo umano: Mantenere un controllo umano significativo su questi sciami è estremamente complesso, poiché le singole unità devono fare affidamento su decisioni autonome per operare efficacemente in branco. Poiché le macchine non possono essere ritenute responsabili per violazioni della legge internazionale, ogni decisione letale deve poter essere fatta risalire a una responsabilità umana.La risposta della politica e la spinta verso una governance globale
Queste tensioni si scontrano con le pressioni della Casa Bianca e di Donald Trump, la cui priorità assoluta resta quella di mantenere il vantaggio tecnologico degli Stati Uniti sulla Cina, respingendo i timori legati a scenari catastrofici.
Sul fronte internazionale, tuttavia, si moltiplicano i tentativi di regolamentazione:
-
Nella sua Nuova Agenda per la Pace, il Segretario Generale dell'ONU ha raccomandato di arrivare a un trattato giuridicamente vincolante per vietare i LAWS privi di controllo o supervisione umana.
-
Durante il vertice sul futuro (Summit of the Future), gli Stati membri hanno concordato di proseguire i colloqui per sviluppare strumenti normativi mirati a gestire le tecnologie emergenti nel campo delle armi autonome, un processo facilitato dal Gruppo di Esperti Governativi (GGE LAWS).
Il duplice allarme che arriva dai mercati finanziari e dai tavoli sul disarmo evidenzia la medesima urgenza: sfruttare l'enorme potenziale positivo dell'intelligenza artificiale — accelerando ad esempio il raggiungimento degli Obiettivi di Sviluppo Sostenibile — imponendo al contempo barriere invalicabili per scongiurare derive distruttive, sia sul piano esistenziale che su quello bellico.
Commenti
Nessun commento ancora. Sii il primo!