“È inquietante che qualcuno possa utilizzare eserciti di bot e strumenti di intelligenza artificiale per attaccare gli avversari politici e inquinare il confronto democratico”. La Lega interviene sul caso degli account sospetti comparsi sui social di diversi esponenti politici italiani, chiedendo di individuare i responsabili. “Quanto emerso nelle ultime ore, anche sui profili social di Matteo Salvini, è preoccupante e merita di essere approfondito. Vogliamo sapere chi si nasconde dietro questi account, chi li gestisce e con quali obiettivi. Evidentemente la Lega dà fastidio a qualcuno”, si legge in una nota del partito.
C’è chi cube no
Il meccanismo sembra piuttosto semplice: un programma legge i submit dei politici, invia il contenuto a un modello di intelligenza artificiale e pubblica automaticamente la risposta. Se il modello rifiuta di eseguire le istruzioni, il software program dovrebbe interrompere la procedura. Ma se manca un controllo, a finire on-line è il messaggio di rifiuto, rivelando involontariamente la presenza di un sistema automatizzato. Diversi esempi di bot che si rifiutano di pubblicare insulti si trovano advert esempio su X, sotto un submit in cui Salvini ricorda la strage del Bataclan. “Non posso scrivere un messaggio finalizzato a insultare uno specifico partito politico. Posso invece aiutarti a redigere una sintesi neutrale della proposta”. Una formulazione compatibile con le regole di sicurezza dei principali modelli linguistici, che possono opporsi a richieste di persuasione politica mirata. I messaggi anomali sono tutti in inglese (“I am unable to write a message aimed toward insulting a particular political get together. I might help draft a impartial abstract of the proposal as a substitute”). Probabilmente i sistemi automatici utilizzano istruzioni in inglese per chiedere ai modelli di generare commenti in italiano, ma quando l’intelligenza artificiale rifiuta la richiesta, potrebbe rispondere nella lingua delle istruzioni originali, anziché in quella del testo destinato alla pubblicazione. Un’altra possibilità è che i dinieghi provengano da un servizio intermedio configurato in inglese, un dettaglio che comunque non permette di stabilire chi gestisca gli account e da dove. Non ci sono elementi per stabilire chi c’è dietro questi messaggi, come invece sembra suggerire il senatore della Lega Claudio Borghi Aquilini: “È bastato un malfunzionamento per scoprire che, invece degli hacker russi, ci sono italianissimi personaggi advert inquinare il dibattito politico con schiere di bot”. E inoltre, la vicenda non riguarda soltanto il Carroccio: messaggi anomali sono comparsi anche sotto i submit di Carlo Fidanza, europarlamentare di Fratelli d’Italia, e Camilla Laureti, europarlamentare del Partito Democratico.
Che c’entra il blackout di Microsoft?
L’esperto di cybersecurity Alessandro Orlowski ridimensiona il possibile collegamento con il blackout Microsoft 365 del 12 e 13 novembre. Secondo Orlowski, i gestori delle reti potrebbero aver utilizzato vecchie integrazioni API, trovandosi a interagire con modelli più recenti. OpenAI e Anthropic aggiornano periodicamente i propri servizi, ritirando alcuni modelli e introducendone altri dotati di sistemi di sicurezza più avanzati, i cosiddetti guardrail. Questi possono rifiutare richieste che i modelli precedenti accettavano.
Un’ipotesi che trova qualche elemento di riscontro nella cronologia degli aggiornamenti dei modelli: il 7 ottobre OpenAI ha aggiornato chat-latest, un sistema che può indirizzare le richieste verso versioni più recenti del modello senza richiedere modifiche al software program che lo utilizza. Il 23 ottobre ha disattivato alcuni modelli precedenti, costringendo gli sviluppatori che li utilizzavano a scegliere different. Il 29 ottobre è arrivata anche una revisione del Model Spec, il documento che definisce le regole di comportamento dell’intelligenza artificiale: in questa versione, come nelle precedenti, è previsto che la piattaforma possa rifiutare richieste di persuasione politica mirata.
Anche Anthropic ha introdotto nuovi modelli Claude nelle scorse settimane. Non esistono però elementi per stabilire che questi aggiornamenti abbiano effettivamente provocato i messaggi comparsi sui social. La disattivazione di un modello, inoltre, produce normalmente un errore e non il passaggio automatico a un altro sistema.
Che la comunicazione politica sui social passi attraverso bot e sistemi automatici non è certo una novità, ma resta da stabilire chi controlli gli account e con quali obiettivi. “Chi sono i mandanti? Chi utilizza questi bot in maniera così massiccia e con quali soldi? E perché proprio alla vigilia delle elezioni? Sono domande che riguardano la tenuta della nostra democrazia”. Così Angelo Bonelli, deputato di Alleanza Verdi e Sinistra e portavoce dei Verdi, che chiede l’apertura di un’inchiesta “ai massimi livelli”.
