Stefano Zamagni: «L’Intelligenza artificiale prenderà iniziative proprie: la sua governance è una call per il Terzo settore»

Non siamo ciò che possediamo, questo è chiaro. Ma è pur vero che gli oggetti che ci stanno accanto nella quotidianità plasmano il nostro essere. Quali sono allora “le cose” che segneranno l’anno che verrà? Quali gli oggetti da riscoprire? Quali quelli da guardare sotto una nuova luce? Nei giorni a cavallo tra il vecchio e il nuovo anno, ripartiamo da qui: le cose. Senza troppi discorsi, senza troppa teoria. Gli oggetti. A ricordarci che la realtà precede le nostre parole e che l’esercizio da fare è sempre quello, paziente, di adeguare le parole alla realtà che cambia tumultuosamente e sempre ci sfugge. In fondo oggi non siamo più solo nell’epoca della post-verità, siamo in quella della post-realtà. Non è un caso che da poco sia uscito un libro titolato La realtà è sopravvalutata (lo ha scritto Alfredo Gatto). Il contesto in cui siamo immersi lo descrive bene Mattia Ferraresi nel suo I demoni della mente: in questa epoca «segnata dal dominio incontrastato del soggetto», la grande certezza è che «la realtà non esiste». È qui che prosperano i complottismi, le dietrologie e prende forma un’epoca «in cui non si ha fiducia in niente ma si crede a tutto». Se vogliamo arginare lo scivolamento verso una concezione della realtà come luogo inconoscibile e tutto sommato ostile per chi lo abita, occorre forse ripartire da qui: «dare all’oggetto una possibilità». Quello che è nato come un gioco per i giorni di festa, così, è diventato un gioco serissimo. Buona lettura e buon anno! (SDC)

L’oggetto che Stefano Zamagni sceglie per il 2026 non si tocca ma ci tocca da vicinissimo. È un’intelligenza artificiale. La grande sfida che dovremo affrontare nel 2026 è quella del governo dell’intelligenza artificiale agentica, forma avanzata dell’IA che è in grado di processi decisionali e azioni autonome.

«Governare l’autonomia di questi algoritmi è possibile, tuttavia serve un intervento del Terzo settore che imponga al Governo un intervento normativo, che altrimenti non arriverà». Una vera e propria call to action da parte dell’economista (ha insegnato all’Università di Bologna e alla Bocconi), ex presidente dell’Agenzia per le Onlus ed ex presidente della Pontificia accademia delle scienze sociali. «Oggi, le norme intervengono sul buon uso dell’intelligenza artificiale post-factum, mentre dobbiamo intervenire prima, sulla trasparenza degli algoritmi e il loro funzionamento, ma deve essere la società civile a sollecitare queste norme», afferma Zamagni.

In inglese, agency presuppone una reale autonomia di azione. L’Agentic AI quundi non si limita all’analisi dei dati o all’esecuzione di comandi, ma pur collaborando con l’agente umano e con altri agenti artificiali interagisce con l’ambiente operativo, possedendo quindi il “contesto” in cui agisce, pianificando gli obiettivi da raggiungere per l’ottenimento di un risultato. È dotata di iniziativa propria e orchestra azioni in modo proattivo. Tra gli esempi più avanzati di applicazioni di un sistema che ragiona c’è il recente Gemini Robotics-ER 1.5 di Google Deepmind, un vision-language-model (VLM) specializzato nel cosiddetto embodied reasoning. Un bel salto in avanti rispetto all’IA che si limita a rispondere ai comandi. I temi di governance, sicurezza e responsabilità riguardando ogni settore dove tali algoritmi vengono utilizzati, dalla sanità alla scuola all’impresa: «Come stabilire la responsabilità di eventuali decisioni dalle conseguenze negative, se non siamo stati noi a imprimere un certo comando?» si chiede Zamagni.

Il problema della trasparenza di alcuni algoritmi di intelligenza artificiale, di cui non sappiamo ricostruire il percorso che ha portato a un determinato output, è ancora irrisolto. Tali algoritmi sono proprietari e chiusi. «È necessario regolamentare per via legislativa questi algoritmi, nei modi e nei principi con cui prendono decisioni» dice Zamagni. E fa un paragone: «Quando cinquant’anni fa abbiamo iniziato ad acquistare cibo pronto ci si basava sulla fiducia. Oggi, è obbligo per i produttori di cibo in scatola o confezionato indicare tutto in etichetta. Analogamente, è necessario fare obbligo di fornire tutte le indicazioni a chi produce i dispositivi di IA. Altrimenti come gestire il rischio di errore e di manipolazione a cui siamo esposti usandoli? Abbiamo diritto di sapere come funzionano e operano questi strumenti. Dobbiamo introdurre un habeas mentem, l’equivalente dell’habeas corpus introdotto nel diritto anglosassone otto secoli fa contro il potere arbitrario del sovrano a garanzia dell’inviolabilità personale».

Per la serie di interviste “Cosa portiamo nel 2026” leggi anche:

Matteo Lancini, lo smartphone

Valentina Tomirotti, l’interruttore

Enrico Galiano, la lettera scritta a mano

Sarah Malnerich (Mammadimerda), il telefono fisso

In foto, Stefano Zamagni alle Giornate di Bertinoro per l’economia civile 2025 (dalla loro pagina Facebook)