AI e cybersecurity: un rischio ibrido che impone una nuova governance d’impresa

L’intelligenza artificiale non è una tecnologia neutra né un fenomeno confinato all’innovazione. Nelle imprese è, al tempo stesso, leva di efficienza, fattore di trasformazione organizzativa e moltiplicatore del rischio. Quando incontra la cybersecurity, questa ambivalenza diventa ancora più evidente: l’AI può rafforzare le difese, ma può anche rendere gli attacchi più rapidi, accessibili e difficili da intercettare.

Il punto centrale, quindi, non è soltanto se adottare sistemi di intelligenza artificiale, ma come governare l’interazione tra AI e sicurezza informatica. Il rischio che ne deriva non è puramente tecnologico. È un rischio ibrido, perché combina vulnerabilità dei sistemi, scelte organizzative, dipendenza da fornitori, qualità dei dati, allocazione contrattuale delle responsabilità e capacità degli organi sociali di esercitare un controllo effettivo.

La doppia funzione dell’AI nella sicurezza informatica

L’AI incide sulla cybersecurity almeno in due direzioni.

Da un lato, consente di migliorare la capacità di prevenzione, rilevazione e risposta agli incidenti: può supportare l’analisi di grandi quantità di dati, individuare anomalie, accelerare attività di monitoraggio e rafforzare le difese. Dall’altro lato, la stessa tecnologia può essere utilizzata per automatizzare attività offensive, individuare vulnerabilità, generare contenuti ingannevoli, potenziare tecniche di phishing e ridurre le competenze necessarie per condurre attacchi complessi.

Questa doppia funzione modifica l’equilibrio tradizionale tra attaccanti e difensori. Il problema non è solo la maggiore sofisticazione tecnica delle minacce, ma la velocità con cui esse evolvono. L’AI accelera sia la capacità di attacco sia quella di difesa; tuttavia, le organizzazioni e il diritto si muovono spesso secondo tempi più lenti. È in questo scarto temporale che si colloca una parte rilevante del rischio.

Cybersecurity come condizione di affidabilità dell’AI

La cybersecurity, a sua volta, diventa una condizione essenziale per l’uso affidabile dell’intelligenza artificiale. Un sistema AI non può essere considerato sicuro solo perché produce output utili o perché è formalmente conforme a determinate regole. Deve essere protetto lungo l’intero ciclo di vita: selezione del fornitore, qualità e integrità dei dati, addestramento, messa in esercizio, controllo degli accessi, monitoraggio, gestione delle anomalie, aggiornamento e, se necessario, sospensione dell’utilizzo.

L’interazione tra AI e cybersecurity mostra quindi che requisiti come accuratezza, robustezza e sicurezza non possono essere intesi in senso solo tecnico o documentale; essi richiedono verifiche sostanziali, continue e iterative. Un modello può degradare nel tempo, essere esposto a manipolazioni, fondarsi su dati non adeguati o produrre risultati apparentemente plausibili ma errati. Per questo, il controllo deve seguire una logica dinamica, vicina al ciclo di Deming Plan-Do-Check-Act: pianificare, attuare, verificare e correggere.

Dalla compliance alla governance

Il baricentro si sposta così dalla sola compliance alla governance. La compliance by design resta essenziale, ma non esaurisce il problema. Una volta definite regole, procedure e misure, occorre stabilire chi decide, chi controlla, chi esegue e chi risponde. Nel rischio AI/cyber, la distribuzione interna delle responsabilità diventa decisiva, perché la minaccia nasce proprio dall’intreccio tra tecnologia, organizzazione e processo decisionale.

In materia di cybersicurezza, la responsabilità degli amministratori non si dissolve per effetto di eventuali deleghe. Le funzioni operative possono essere attribuite a soggetti specifici, ma l’accountability resta in capo all’organo di vertice. L’introduzione dell’AI rafforza questa esigenza: se un sistema automatizzato incide sui processi aziendali, sulle decisioni o sulla sicurezza dell’infrastruttura, il suo governo non può essere confinato al reparto IT. Diventa materia di amministrazione, organizzazione e controllo dell’impresa.

Il ruolo umano come presidio effettivo

In questo quadro, il ruolo umano assume una funzione centrale. Nella cybersecurity tradizionale, il fattore umano è spesso considerato un punto di vulnerabilità: errore, distrazione, uso improprio degli strumenti, esposizione a tecniche di social engineering. Nell’AI governance, invece, l’intervento umano è presentato come presidio di mitigazione. Questa apparente tensione va risolta sul piano organizzativo: l’essere umano può essere presidio solo se è competente, informato e realmente in grado di incidere.

Il controllo umano non può ridursi a una ratifica dell’output automatizzato. Richiede autonomia decisionale, capacità critica, possibilità concreta di dissentire, correggere o sospendere l’utilizzo del sistema. Richiede anche protezione organizzativa per chi segnala anomalie o si oppone a un uso non sicuro dell’AI. In assenza di queste condizioni, la presenza umana resta formale e non riduce il rischio.

Output AI e imputazione della decisione

Gli output dell’AI devono quindi rimanere strumenti di supporto alla decisione, non sostituti della decisione. Possono essere considerati mezzi istruttori avanzati: ampliano la base informativa disponibile, aumentano la capacità di analisi e supportano il procedimento decisionale, ma non trasferiscono all’algoritmo la responsabilità della scelta. La decisione resta imputabile all’organizzazione e, nei casi rilevanti, agli organi che ne guidano l’attività.

Questo è particolarmente rilevante nel rapporto tra AI e cybersecurity. Se un sistema segnala una minaccia, classifica un’anomalia, suggerisce una risposta o automatizza una misura di difesa, l’organizzazione deve sapere come quel risultato viene utilizzato, chi lo valuta, quando può essere contestato e quali conseguenze produce. Allo stesso modo, se un sistema AI viene compromesso, manipolato o utilizzato in modo improprio, deve essere possibile ricostruire le scelte compiute, le responsabilità interne e i controlli attivati.

Regole procedimentali, tracciabilità, filiera tecnologica

Ne deriva la necessità di regole procedimentali adeguate all’uso dell’AI nei processi cyber e, più in generale, nei processi aziendali. Tali regole devono tenere conto anche di standard tecnici, soft law e buone prassi; servono mappature aggiornate degli strumenti AI utilizzati, tracciabilità delle finalità d’uso, individuazione dei soggetti responsabili, monitoraggio degli output, gestione degli incidenti e capacità di ricostruzione ex post.

Anche la dimensione contrattuale assume rilievo. L’impresa non utilizza mai soltanto “un sistema AI”, ma una filiera di tecnologie, infrastrutture, dataset, provider cloud, componenti software e servizi integrati. Se questa catena è opaca o vulnerabile, il rischio cyber si trasferisce sull’impresa utilizzatrice e incide direttamente sui suoi assetti di governance. Per questo, la selezione dei fornitori, le clausole di sicurezza, i diritti di audit, gli obblighi informativi, la gestione degli incidenti e le condizioni di sospensione o uscita diventano strumenti essenziali di governo del rischio AI/cyber.

Considerazioni finali

In definitiva, AI e cybersecurity sono fortemente intrecciati: l’AI trasforma la minaccia cyber, mentre la cybersecurity diventa condizione di affidabilità dell’AI. Da questa interazione nasce un rischio nuovo, che non può essere governato solo con misure tecniche né con adempimenti formali.

La risposta deve essere organizzativa, contrattuale e decisionale. Governare il rischio AI/cyber significa costruire assetti capaci di integrare competenze diverse, definire responsabilità, controllare la filiera tecnologica, assicurare verifiche continue e mantenere un presidio umano effettivo.