Threat awareness
AI + Social Engineering: l'alleanza più pericolosa della cybersecurity
Deepfake, voice cloning e avatar interattivi: le nuove armi dell'inganno che le aziende devono conoscere oggi
Deepfake, voice cloning e avatar interattivi: le nuove armi dell'inganno che le aziende devono conoscere oggi
Fino a qualche anno fa, un'email di phishing si riconosceva dagli errori grammaticali, dai loghi sgranati, dall'italiano impreciso. Quei tempi sono finiti. I modelli linguistici avanzati consentono oggi di generare in pochi secondi messaggi perfettamente scritti, personalizzati con informazioni reali sulla vittima, adattati al contesto aziendale specifico.
La combinazione di social engineering e intelligenza artificiale ha prodotto un salto qualitativo nella pericolosità degli attacchi: più credibili, più mirati, più scalabili. Un attaccante può ora colpire migliaia di persone con messaggi ultra-personalizzati a un costo vicino allo zero.
Le reti neurali generative sono in grado di produrre video in cui il volto di un CEO viene sostituito con quello di un impostore in modo indistinguibile dall'originale. Più accessibile ancora è il voice cloning: bastano pochi secondi di audio per addestrare un modello che riproduce fedelmente il timbro e l'intonazione di una persona reale.
Nel 2020, un'azienda britannica ha subito una frode da 243.000 dollari dopo che il CFO aveva ricevuto una telefonata con la voce sintetizzata del CEO, che richiedeva un bonifico urgente. Non era un caso isolato: è diventato un vettore d'attacco sistematico.
La frontiera più avanzata è rappresentata dagli avatar interattivi: sistemi che combinano clonazione vocale e manipolazione video in tempo reale, capaci di sostenere conversazioni credibili durante una videoconferenza. Un partecipante a una chiamata di lavoro potrebbe trovarsi di fronte a qualcuno che sembra e parla esattamente come il proprio direttore finanziario, ma non lo è.*1
Questa tecnica, già denominata 'avishing' (Avatar Phishing), rappresenta il prossimo scenario d'attacco su larga scala per le organizzazioni.
I messaggi malevoli generati con supporto AI sono fino al 40% più efficaci nel superare i filtri di sicurezza tradizionali e nell'ingannare l'utente finale.
La buona notizia è che la stessa tecnologia può essere impiegata in senso difensivo. Algoritmi di machine learning analizzano pattern anomali nel traffico email, strumenti di natural language processing identificano testi potenzialmente fraudolenti, soluzioni di deep learning cercano artefatti nei video deepfake. La corsa agli armamenti è simmetrica.
Per le organizzazioni, la risposta non è solo tecnologica: è formare i dipendenti a riconoscere anche i segnali più sottili, a verificare sempre su canali alternativi prima di autorizzare operazioni sensibili, e a non fidarsi mai di una richiesta basata su urgenza improvvisa, anche se la voce sembra familiare.