Cybersecurity e AI: nuove minacce, competenze chiave e sfide per il mondo IT

Per chi lavora nel settore IT&Tech - e cerca sfide professionali ad alta specializzazione, non un “posto di lavoro” - questa è una delle fasi più calde della cybersecurity moderna.

In questo contesto, Experis ti aiuta a orientarti in un mercato in cui trend, ruoli e percorsi formativi evolvono rapidamente.

AI nella sicurezza: acceleratore di difesa e moltiplicatore di nuove minacce

L’AI è ora centrale per la difesa informatica: aiuta i Security Operations Center (SOC) a individuare anomalie in tempo reale, automatizza parte del lavoro e analizza enormi volumi di dati impossibili da gestire manualmente.

Questa direzione è confermata anche dal report Future Forward: CIO 2025 Outlook di Experis, che evidenzia come il 67% delle imprese prevede maggiori investimenti in AI e il 77% aumenterà il budget per la sicurezza informatica. Parallelamente, il 76% delle aziende dichiara difficoltà nel reperire talenti IT adeguati - cybersecurity (46%), AI (35%) e cloud (34%).

Ma lo stesso potenziale viene ormai sfruttato anche dagli attaccanti. Modelli linguistici avanzati, tool autonomi e tecniche di machine learning vengono utilizzati per creare attacchi più veloci, automatizzati e adattivi. L’AI abbassa la barriera d’ingresso: quasi chiunque può orchestrare campagne su larga scala, rendendo più difficile intercettare attività malevole nelle fasi iniziali.

Non sorprende quindi che l'intersezione tra cybersecurity e AI sia diventata il punto cruciale per garantire la sicurezza delle infrastrutture digitali. A differenza degli attacchi tradizionali - quelli più noti li abbiamo raccontati qui - oggi l’AI è infatti parte attiva della catena offensiva.

Due casi recenti mostrano come stanno cambiando le minacce AI-driven.

ShadowRay 2.0: una botnet auto-propagante potenziata dall’AI

Un’indagine pubblicata su Forbes ha documentato un attacco contro oltre 230.000 server che eseguivano Ray, un framework open-source molto diffuso per gestire workload di Intelligenza Artificiale. I cybercriminali hanno sfruttato configurazioni esposte per prendere il controllo dei cluster, utilizzandoli per mining di criptovalute, Distributed Denial-of-Service (DDoS) e accesso a modelli e codice proprietari. I sistemi compromessi sono stati programmati per individuare altri server Ray vulnerabili e infettarli a loro volta, trasformando l’infrastruttura in una rete auto-propagante. Parte del codice dannoso mostrava caratteristiche tipiche di output generati con modelli di AI, rendendo l’attacco più rapido da sviluppare e adattare, con un comportamento simile a un worm.

Il caso Claude: quando un modello AI viene manipolato per attività di spionaggio

La BBC ha riportato un altro episodio sorprendente: un gruppo di hacker avrebbe sfruttato il chatbot Claude per automatizzare una campagna di cyber spionaggio. Gli aggressori avrebbero ingannato il modello suddividendo l’operazione in tanti piccoli compiti tecnici apparentemente innocui- come generare porzioni di codice, ispezionare sistemi bersaglio, testare vulnerabilità o organizzare dati sottratti - senza rivelargli il quadro completo dell’attacco. Tali sub-task automatizzati venivano poi combinati dagli operatori umani nelle classiche attività di spionaggio.

La notizia ha però suscitato scetticismo nel settore. Diversi esperti di cybersecurity hanno sottolineato la mancanza di prove tecniche verificabili e temono un eccesso di enfasi sui rischi dell’AI.

L’automazione completa di un attacco è infatti ancora difficile. L’AI può sicuramente velocizzare il lavoro degli hacker, ma senza intervento umano tende a inciampare in falsi dati e imprecisioni.

Le implicazioni per la cybersecurity moderna

• L’AI accelera la preparazione degli attacchi;

• gli attacchi avanzati diventano più accessibili;

• l’AI può essere manipolata e usata contro altri sistemi di AI. 

Per chi lavora - o vuole lavorare - nella cybersecurity, diventa quindi essenziale comprendere come funzionano i sistemi di AI, dove introducono valore e quali nuove vulnerabilità portano con sé.

Per approfondire come l’Intelligenza Artificiale stia cambiando ruoli, competenze e percorsi professionali, è disponibile anche il Future Forward: AI White Paper 2025, che analizza come l’AI influenzerà il lavoro nei prossimi anni e quali skills diventeranno indispensabili.

Minacce emergenti: dove l’AI apre nuove superfici d’attacco

Anche chi è alle prime armi nella sicurezza informatica dovrebbe conoscere le principali categorie di minacce legate all’utilizzo dei modelli di AI. Ecco tre tipi di attacchi basati su questa tecnologia che stanno diventando sempre più rilevanti.

Data Poisoning

Il Data Poisoning avviene quando chi attacca inserisce (o modifica) in modo mirato i dati utilizzati per addestrare un modello, alterandone il comportamento senza tracce evidenti. Durante il training, il modello impara da informazioni “avvelenate” e, una volta in produzione, in presenza di determinati input, può generare decisioni errate proprio nei casi progettati dall’attaccante.

Le conseguenze possono essere critiche: un sistema di rilevamento malware potrebbe non riconoscere nuove minacce oppure certi modelli AI usati in ambito sanitario o finanziario potrebbero fornire valutazioni distorte di diagnosi, rischi o transazioni, a causa dei dati compromessi assimilati in fase di apprendimento.

Prompt Injection

La Prompt Injection è una vulnerabilità che consente a un attaccante di manipolare il testo fornito a un Large Language Model (LLM) per modificarne il comportamento e indurlo a ignorare i suoi vincoli di sicurezza e compiere operazioni indesiderate. Poiché il modello linguistico non distingue intrinsecamente tra istruzioni “di sistema” e input dell’utente, tutto viene trattato come un unico flusso testuale.

Questo permette, ad esempio, di forzare l’AI a rivelare informazioni sensibili, generare contenuti dannosi o, se collegata a strumenti esterni, tentare azioni non autorizzate. Tecniche come l’indirect injection (istruzioni nascoste in documenti, pagine web, e-mail) e gli adversarial suffix (sequenze di testo aggiunte in coa a un prompt che alterano l’output) rendono questa minaccia particolarmente insidiosa.

Sebbene colpiscano fasi diverse, in entrambi i casi si agisce sugli input. Per questo, è utile approfondire il confronto diretto tra le due tecniche, per comprendere meglio come si intrecciano.

Model Extraction

Il Model Extraction si verifica quando un attaccante tenta di “clonare” un modello di AI proprietario sfruttando l’accesso alla sua interfaccia (tipicamente un’API esposta). Tramite query mirate e analisi degli output, l’attaccante addestra un modello surrogato che replica il comportamento dell’originale senza conoscerne architettura, parametri o dati di training.

Il rischio è rilevante: sottrae proprietà intellettuale, riduce il vantaggio competitivo e può consentire riusi malevoli del modello estratto.

Per un quadro completo, leggi questo documento su arXiv, l’archivio open-access gestito dalla Cornell University.

Difesa AI-driven: le tecnologie che stanno trasformando la sicurezza

L’evoluzione delle minacce richiede un cambiamento nelle strategie di difesa. Sempre più strumenti di sicurezza utilizzano infatti l’AI per analizzare grandi volumi di dati, correlare eventi complessi e intervenire rapidamente. Non si tratta solo di automatizzare, ma di creare modelli di protezione adattivi, che riconoscono anomalie e reagiscono prima che un attacco si diffonda.

Behavioral Analytics

La Behavioral Analyticsmonitora in modo continuo il comportamento di utenti, sistemi e applicazioni per distinguere ciò che è normale da ciò che è sospetto. Costruisce nel tempo una baseline di attività lecite e segnala deviazioni anomale da questa norma.

L’analisi comportamentale permette di rilevare anche attacchi zero-day o insider threat, perché non cerca una “firma conosciuta”, ma individua attività che non rientrano nel profilo normale di quell’utente/sistema.

Automated Indicator Generation

L’Automated Indicator Generation permette ai sistemi di generare automaticamente Indicators of Compromise (IOCs) a partire dall’analisi di dati e campioni di minaccia.

Un’attività che un tempo richiedeva analisi manuali di log, report e campioni, oggi viene accelerata dall’AI, che estrae pattern ricorrenti da grandi volumi di dati, correla fonti eterogenee e assegna priorità agli indicatori più rilevanti.

Dynamic Containment

La Dynamic Containment riunisce le tecniche che permettono di isolare una minaccia in tempo reale, adattando la risposta al contesto specifico. L’obiettivo è contenere l’attacco in modo mirato senza bloccare attività legittime, limitando così i danni.

Può includere segmentazione dinamica della rete, quarantena selettiva di endpoint compromessi o riduzione temporanea dei privilegi di un account sospetto. Il risultato è una drastica riduzione del blast radius (il raggio di esplosione) di un incidente.

Automated Remediation

L’Automated Remediation va oltre il contenimento: applica patch, rimuove processi e file malevoli, ripristina configurazioni corrette (o backup puliti), disabilita o resetta account utente violati seguendo procedure predefinite.

L’impatto concreto nei SOC: cosa cambia davvero

Per i team di sicurezza queste tecniche si traducono in una riduzione del Mean Time to Recovery (MTTR), nell’eliminazione di molte attività ripetitive e nella capacità di concentrarsi sugli incidenti davvero complessi.

Questo approccio sta convergendo sempre più verso l’Agentic SOC, un modello in cui l’AI affianca le decisioni umane fornendo insights rapidi e attuando azioni coordinate lungo l’intero ciclo di vita dell’incidente.

Parallelamente, mentre l’AI rafforza le capacità di Detection & Response, diventa altrettanto importante progettare in modo sicuro i sistemi basati sui modelli generativi. Le linee guida OWASP (Open Worldwide Application Security Project) dedicate alle applicazioni LLM evidenziano pratiche essenziali come:

• Limitare i privilegi e le funzionalità del modello;

• filtrare e validare gli input e gli output dell’AI per intercettare contenuti malevoli o sensibili;

• richiedere un’approvazione umana per ogni azione ad alto impatto che l’AI vorrebbe intraprendere;

• testare regolarmente la resilienza del sistema tramite attacchi simulati.

Le competenze più richieste nella cybersecurity potenziata dall’AI

Chi lavora nell’IT deve capire come funzionano i modelli di machine learning, quali architetture utilizzano, quali sono i loro limiti e come interagiscono con l’ambiente tramite API, tool esterni e accesso a dati sensibili. È importante che sappia da quali dataset apprendono, quali informazioni possono generare e quali vulnerabilità specifiche possono introdurre.

A livello globale, il bisogno di queste competenze è confermato anche dai dati del World Economic Forum. Secondo il rapporto Global Cybersecurity Outlook 2025, esiste una carenza di oltre 4 milioni di professioniste e professionisti della sicurezza informatica e ben due terzi delle organizzazioni riferiscono un gap di competenze da moderato a critico nel proprio team di cybersecurity. Inoltre, appena il 14% dichiara di avere tutte le skills necessarie per raggiungere i propri obiettivi di sicurezza.

Un contesto che alimenta una forte competizione tra le aziende nel contendersi i pochi talenti disponibili, come spiegato qui.

Vuoi sapere quali sono le competenze più richieste nella cybersecurity e quali sono i livelli retributivi medi per ciascun ruolo? Puoi approfondire questi aspetti in questo articolo, che fornisce insights sui profili più ricercati e sulle tendenze salariali specifiche del settore italiano.

Perché Experis è il partner ideale per chi cerca sfide IT e cybersecurity

La convergenza tra cybersecurity e AI richiede di saper governare piattaforme AI, adottare difese multilayer e applicare il principio “non fidarti mai, verifica sempre”, oltre a investire in formazione continua e aggiornamenti in ambito normativo.

Experis può supportarti nel trasformare questa complessità in crescita e in nuove sfide concrete, mettendo a tua disposizionepercorsi di carriera costruiti intorno alle tecnologie emergenti e un’Academydedicata allo sviluppo dei profili più richiesti dal mercato.

Se vuoi confrontarti con progetti avanzati di cybersecurity, scopri queste posizioni aperte su Experis e, per aggiornamenti e news selezionate, entra nella nostra community WhatsApp.