Oltre 1.300 dipendenti delle principali società di informatica chiedono al governo americano di rallentare il ritmo di sviluppo dell’intelligenza artificiale.
La richiesta consiste in una lettera, intestata “Pacing the Frontier”, che finora ha raccolto firme provenienti da funzionari di OpenAI, Google DeepMind, Meta e Mistral. Ma non solo: c’è anche la firma di Dario Amodei di Anthropic (insieme ad altri 540 dipendenti della stessa ditta, il gruppo in assoluto più elevato), che non aveva firmato nel precedente manifesto di promozione di tecnologie per rendere più sicura l’IA.
Assente, come sempre, Apple. Per Amazon firma solo Adam Venis, ingegnere capo software. Idem per Microsoft, con la sola firma di Ben Bariach, responsabile per la sicurezza di Superintelligence, cioè il laboratorio che sviluppa internamente la nuova famiglia di modelli di IA.
Perché “Pacing the Frontier”? Perché chi lavora nelle grandi ditte del settore teme seriamente che l’automazione della ricerca sull’IA possa superare la capacità umana di comprendere e controllare i nuovi sistemi.
Perciò i firmatari chiedono migliori strumenti tecnici e regole condivise per monitorare e modulare lo sviluppo dei modelli “di frontiera”, quelli più evoluti. Solo così, dicono, governi e industrie avranno il tempo necessario per rafforzare sicurezza e supervisione di fronte a nuovi rischi.
La proposta nasce da un problema di assenza i coordinamento, che ha permesso l’evoluzione dell’IA al di fuori di qualsiasi regolamentazione politica. Infatti, ad eccezione dell’AI Act europeo, non esistono normative statali sul tema.
Ad oggi nessuna società o nazione ha interesse a rallentare da sola, mentre concorrenti e altri Paesi continuano invece a correre.
La richiesta contenuta nella lettera non definisce una moratoria né indica soglie, tempi o autorità competenti; invita però Washington a promuovere la creazione di un meccanismo internazionale capace di intervenire sull’intera frontiera, proseguendo il lavoro finora già timidamente avviato per controllare i rilasci dei modelli.
La lettera ricorda in parte quella del Future of Life Institute del 2023: un’era geologica fa, in termini di sviluppo IA, tanto che in quel caso si temevano modelli più potenti di GPT-4, e si chiedeva una pausa di (soli) sei mesi per definire protocolli di sicurezza, controlli indipendenti e nuove forme di governance.
Resta sconosciuto il primo firmatario di Pacing the Frontier, ma di certo il supporto organizzativo è delle nonprofit indipendenti Guidelight AI ed Encode AI, incentrate sulla sicurezza delle intelligenze artificiali.
Non si conoscono i finanziatori dell’intera organizzazione.
Sappiamo però che Encode AI (fondata nel 2020) ha ricevuto circa 800.000 dollari di sovvenzioni, e tra i suoi sostenitori c’è anche il Future of Life Institute.
Il motivo scatenante della lettera non è stato chiarito, ma arriva dopo giorni turbolenti, successivi all’incidente in cui alcuni modelli OpenAI hanno compromesso Hugging Face, mostrando di fatto quanto rapidamente stiano crescendo le capacità operative autonome degli agenti IA.
Un evento che, a cascata, ha prodotto questa lettera aperta sulla difesa e l’importanza dei modelli di sicurezza, anche perché (intanto) la Cina sta dominando il suo emisfero IA proprio con i modelli open a costi inferiori rispetto a quelli americani.
Questo, ad oggi, è il numero di dipendenti che hanno aderito all’iniziativa, diviso per società e organizzazioni:
Anthropic: 549
OpenAI: 369
Google e Google DeepMind: 202
Meta e Meta AI: 73
Thinking Machines: 8
Inherent: 3
Prime Intellect: 3
Standard Intelligence: 3
Cursor: 2
EleutherAI: 2
Mistral: 2
Amazon: 1
Core Automation: 1
Hugging Face: 1
humans&: 1
Imbue: 1
Microsoft: 1
NVIDIA: 1
xAI: 1
Ogni giorno aumenta il numero dei firmatari. Si tratta di un passo concreto, voluto dagli operatori del settore, per cercare di arginare materialmente la pericolosa ascesa dell’intelligenza artificiale.
È come se alcuni pompieri si fossero messi in sciopero perché rimasti senza idranti.
Rendiamocene conto.