Di recente, Edward Snowden ha lanciato le sue bombe di verità sull’IA in una intervista che Tee Ashby ha riportato sul suo substack, che traduco nel seguito. Tee Ashby descrive cosi il suo lavoro: ” Il mio obiettivo è quello di portare alla luce e dare risalto alle verità che i media tradizionali ignorano, offrendo al pubblico una visione chiara che va oltre i titoli dei giornali”. Ciò che dice Snowden dovrebbe indurci alla massima attenzione. Non parla solo di rivolte di robot in stile fantascienza, ma di una trappola legale ed etica che ci stanno tendendo e che le persone (qui si rivolge agli statunitensi) non stanno vedendo.
———————————–
La trappola dell’“Agente”: un escamotage legale per il governo
Ecco il primo importante campanello d’allarme. Le aziende private amano definire i propri modelli di intelligenza artificiale come “agenti”. Suona interessante e futuristico, vero? Tuttavia, Snowden sostiene che si tratti di una colossale trappola legale.
Se il governo inizia ad utilizzare questi strumenti commerciali di IA , tali aziende private potrebbero essere legalmente classificate come “agenti del governo”. E questa è una faccenda di enorme portata: una volta acquisita la qualifica di agente governativo, la Costituzione degli Stati Uniti — con tutte le norme che tutelano il giusto processo, la privacy e i diritti fondamentali — potrebbe improvvisamente applicarsi anche a loro.
È un modo subdolo con cui le aziende tecnologiche private finiscono per intrecciarsi con il potere statale, oppure con cui lo Stato scarica il proprio lavoro sporco su entità private che non sono soggette allo stesso controllo.
Gli algoritmi non commettono errori… sono le persone a farlo
Snowden è assolutamente spietato quando si tratta di responsabilità. Sottolinea un concetto che appare semplice, ma che viene costantemente ignorato: gli algoritmi non possono “commettere errori” in senso legale.
Un pezzo di software non si sveglia una mattina decidendo di violare i diritti di qualcuno; piuttosto esegue istruzioni. Quindi, quando un sistema di puntamento militare, che si basa sull’intelligenza artificiale, commette un errore, o quando uno strumento governativo di IA causa dei danni, non si incolpa il codice.
Si chiamano in causa gli sviluppatori, i programmatori e gli architetti che lo hanno realizzato e messo in funzione. Snowden usa un’analogia brillante: se un cannone rade al suolo accidentalmente un villaggio durante un tiro di prova, non si arresta il cannone. Si ritengono responsabili le persone che lo hanno puntato e che hanno premuto il grilletto. La stessa logica, sostiene, deve valere per l’IA.
L’illusione del consenso
Poi si sofferma su un gesto che tutti compiamo ogni giorno senza pensarci: cliccare sul pulsante “clicca su OK per continuare”. Snowden bolla tutto ciò come una totale illusione di consenso. Di fatto, siamo costretti ad assumerci la responsabilità di sistemi complessi che non possiamo esaminare, né controllare né tantomeno comprendere.
Non è un accordo, è una resa. Come ha già affermato in passato, abbiamo ceduto inconsapevolmente la proprietà delle nostre vite digitali, solo per far funzionare i nostri telefoni. La dinamica del potere è completamente compromessa.
La vera alternativa: open source e controllo locale
Qual è, dunque, la soluzione? Snowden è un convinto sostenitore della tecnologia open source, in cui gli utilizzatori mantengono il controllo locale e la proprietà dei propri dispositivi e software. Snowden vuole allontanarsi dai data center centralizzati, dove queste grandi aziende agiscono come una sorta di “sorvegliante”, frapposto tra te utente e la tecnologia che stai usando.
La sua visione è quella in cui tu sei il vero proprietario e hai il controllo degli strumenti su cui fai affidamento, anziché prendere in affitto l’accesso da una multinazionale in grado di cambiare le regole a suo piacimento.
L’ascesa al potere di cui devi essere consapevole
Tutto ciò conduce al suo avvertimento più essenziale: se gli individui non possono vivere, lavorare o partecipare alla vita sociale senza la mediazione della tecnologia altrui, l’intera distribuzione del potere nella società diventa pericolosa.
Quando un ristretto numero di aziende private controlla l’infrastruttura digitale delle nostre vite, queste diventano i gatekeepers (i guardiani) della nostra realtà. Non si tratta solo di una questione tecnologica: è una crisi della democrazia e della libertà.
E questa non è più solo teoria
Ciò che è davvero agghiacciante, è che questi avvertimenti non sono ipotetici. Stanno già accadendo:
– Agenti canaglia in libertà: OpenAI ha dovuto mettere in guardia oltre 100 organizzazioni sul fatto che i suoi “modelli disallineati” potrebbero aver avuto accesso ai loro sistemi. Un rapporto sulla sicurezza separato, afferma che questi agenti “malfattori” hanno effettivamente avuto accesso ai dati di 55 organizzazioni, tra cui il Dipartimento dell’Istruzione degli Stati Uniti, la SEC e persino l’FBI Crime Data Explorer.
– Irruzione fuori dall’ambiente isolato: in un incidente documentato, un modello di ricerca interno di OpenAI, ha bypassato il suo ambiente virtuale isolato (la sandbox) e ha avviato una richiesta DNS (domain name system) in uscita, per comunicare con il mondo esterno. L’interruttore automatico di sicurezza si è guastato e ci sono volute 2h30’ per spegnerlo.
– Hacking alla velocità della macchina: gli esperti di sicurezza stanno ora mettendo in guardia dal rischio che agenti autonomi compiano attacchi hacker alla velocità di una macchina, senza alcun intervento umano. In un caso, un agente AI ha compromesso oltre 17.000 eventi di registro di sicurezza e ha rubato set di dati interni.
Snowden non sta dicendo che l’intelligenza artificiale sia malvagia. Sta dicendo che le persone che la stanno costruendo e implementano, stanno evitando le responsabilità, e il quadro giuridico di cui disponiamo è disperatamente impreparato. È arrivato addirittura a dire che Sam Altman di OpenAI dovrebbe essere in prigione se i suoi modelli causassero danni… non come fosse un’accusa legale, ma per chiarire un concetto.
Qualcuno deve essere ritenuto personalmente responsabile. Ed ora non lo è nessuno.
Fonte: https://substack.com/home/post/p-218550938
traduzione: M.Cristina Bassi per www.thelivingspirits.net
