"The Role of AI in Ethical and Unethical Hacking: Implications for Business", il white paper pubblicato da Magix R&D Lab, denuncia l’urgenza di affrontare le minacce emergenti legate all’utilizzo improprio dell’intelligenza artificiale nei contesti informatici aziendali.

La minaccia generata dall’Intelligenza Artificiale nel settore informatico è sempre più sofisticata e accessibile, anche utenti con limitate competenze tecniche possono orchestrare attacchi efficaci grazie a strumenti generativi come GhostGPT e WormGPT. Non mancano, però,  tecnologie difensive AI‑based con risultati promettenti.

Sintetizziamo in infografica le impressioni relative ai rischi e alle misure adottate dalle imprese:

Implicazioni critiche dell’IA

Una volta evidenziata la natura dualistica dell’IA, utilizzabile sia per individuare vulnerabilità che per automatizzare attacchi sofisticati, in ambienti controllati sono stati sviluppati sistemi come PenTest++ che supportano il red teaming attraverso IA generativa. Questo ha portato ad una diffusione crescente di strumenti AI “rogue” come GhostGPT, che facilitano phishing personalizzato, malware mutabile e intrusioni automatizzate senza controlli etici. È stato rilevato che gli attacchi phishing alimentati da generative AI sono aumentati del 125% rispetto a tecniche tradizionali, con il 40% delle email malevole generate da AI.

Settori particolarmente vulnerabili

Nell’ambito finanziario circa il 45% delle organizzazioni ha subito incidenti legati all’uso di intelligenze artificiali nel corso dello scorso anno, soprattutto a causa di deepfake, malware e phishing. Il settore bancario è risultato particolarmente esposto e ha creato una diffusa sfiducia tanto che, secondo l’80% dei dirigenti non è possibile fronteggiare con i criminibasati su IA.

Nel commercio online, tra aprile e settembre 2024, sono stati contati oltre 560.000 attacchi quotidiani AI-driven, tra acquisti fraudolenti e altri tipi di intrusioni.

Strategie consigliate per le imprese

Il white paper suggerisce che vengano adottate soluzioni di difesa basate su IA predittiva, capaci di analizzare grandi volumi di dati, identificare anomalie comportamentali e ridurre i falsi allarmi. La conduzione di test di red‑teaming periodici è stata raccomandata per valutare la resilienza dei sistemi, utilizzando anche strumenti come PenTest++ che automatizzano fasi di penetration testing mantenendo la supervisione umana.

Ciò che non deve assolutamente mancare, secondo il paper pubblicato da Magix R&D Lab, è la formazione continua del personale, soprattutto in merito a phishing AI‑powered, deepfake e attacchi evoluti perchè oltre il 90% degli incidenti include un elemento umano inadeguatamente preparato. Secondo le linee guida del National Institute of Standards and Tecnology si dovrebbero aggiornare costantemente le politiche di sicurezza per monitorare le vulnerabilità specifiche dell’intero ciclo di vita dell’IA. Il suggerimento è quello di applicare l'analisi comportamentale guidata da IA, per identificare credenziali stuffing, accessi sospetti o pattern tipici di phishing iper‑personalizzato o deepfake impersonation e di collaborare con esperti esterni o team specialistici, capaci di affiancare le aziende nel valutare e implementare contromisure appropriate in presenza di evoluzioni rapide del panorama AI‑driven.

Gli autori del white paper

Magix R&D Lab, divisione del gruppo Magix, è all’avanguardia nella ricerca e innovazione nella cybersicurezza. Il team è guidato da:

• Tim Butler, Chief Operations Officer di Magix, con oltre 15 anni di esperienza nella leadership IT e un approccio collaborativo incentrato sull’innovazione;

• Floyd Tshoma, Cybersecurity Consultant, esperto nell’identificare e risolvere vulnerabilità IT;

• Hlayisani Shondlani, Cybersecurity Consultant, specializzata in ethical hacking, riconoscimento di pattern e mitigazione proattiva delle minacce.

In conclusione

L'Intelligenza Artificiale è considerata al tempo stesso una minaccia e un alleato, ma se l’automazione e la scalabilità generate dalla generative AI hanno ampliato la portata degli attacchi, strumenti difensivi AI‑powered risultano in grado di rafforzare la sicurezza interna ed esterna. La raccomandazione è di articolare la strategia difensiva su più livelli: prevenzione mediante monitoraggio intelligente, simulazioni offensive controllate, preparazione del personale, politiche aggiornate e sinergia fra automazione e giudizio umano.

Solo attraverso questo approccio integrato si potranno mitigare i rischi emergenti e costruire una difesa aziendale resiliente nell’era dell’hacking AI‑driven.