ASCOLTA IL PODCAST
PARTE III: Deepfake, frodi potenziate dall’AI e la sorveglianza di massa mascherata da progresso
Mentre l’industria tecnologica celebra agenti autonomi e abbonamenti ricorrenti, esiste un’altra narrativa che viene sistematicamente ignorata nei comunicati stampa e nelle conferenze: l’adozione massiccia e proficua dell’AI da parte della criminalità organizzata, dei truffatori e degli apparati di controllo sociale.
L’industrializzazione della frode
I deepfake sono diventati standard per le frodi, con attacchi cresciuti del 704% nel 2023. Ogni 5 minuti viene segnalato un attacco deepfake. Non parliamo più di casi isolati o esperimenti tecnologici: la frode potenziata dall’AI è diventata un’industria globale con economia di scala, supply chain organizzate e ROI impressionanti.
L’IC3 dell’FBI avverte che i criminali usano GenAI per social engineering e phishing, creando testi e immagini realistiche per profili falsi e documenti contraffatti. Feedzai riporta che oltre il 50% delle frodi involve AI, con strumenti sempre più sofisticati che permettono attacchi su scala industriale.
Le stesse tecnologie che dovrebbero rivoluzionare il lavoro vengono rapidamente adottate da attori maligni: deepfake vocali e video, automazione di phishing, frodi finanziarie basate su GenAI mostrano una crescita documentata e allarmante. Aziende hanno perso milioni dopo chiamate o video falsificati di dirigenti che autorizzavano trasferimenti di fondi.
La democratizzazione del crimine tecnologico
Il problema non è solo la sofisticazione degli attacchi, ma la loro accessibilità. Tool di voice-cloning, kit di phishing basati su GenAI, software per creare deepfake video convincenti: tutto è disponibile, spesso gratuitamente o a costi irrisori, su forum e marketplace del dark web.
Il DHS evidenzia l’uso dell’AI in frodi documentali sempre più difficili da rilevare. CETaS nota come i criminali scalino attività online con AI, automatizzando processi che prima richiedevano manodopera specializzata. Thomson Reuters discute come, mentre l’AI aiuta le forze dell’ordine, i criminali la usano per nascondere pattern in schemi di frode complessi.
Europol, INTERPOL e studi del settore sottolineano un gap crescente: gli attacchi diventano sempre più sofisticati mentre gli strumenti di difesa rimangono spesso frammentari, sotto-finanziati e mal coordinati tra giurisdizioni.
L’erosione della fiducia sociale
L’effetto di questa criminalizzazione dell’AI va oltre le perdite finanziarie dirette. Stiamo assistendo a un’erosione sistemica della fiducia: verso le istituzioni, le piattaforme digitali, le informazioni che riceviamo, persino le comunicazioni di persone che conosciamo.
Quando non puoi più fidarti che una chiamata video del tuo capo o di un familiare sia autentica, quando documenti ufficiali possono essere falsificati con precisione tale da ingannare esperti, quando profili social convincenti risultano essere costruzioni AI, l’intero tessuto della comunicazione digitale viene compromesso.
E questa erosione della fiducia è esattamente il carburante che un’economia di abbonamenti e servizi integrati non può permettersi di perdere. Come puoi vendere subscription a servizi digitali quando gli utenti non si fidano più di nulla online?
Il controllo travestito da sicurezza
C’è poi l’altro lato della medaglia: l’uso dell’AI non solo per frodare ma per controllare. L’AI per la sorveglianza, la polizia predittiva, la manipolazione dell’informazione è già realtà consolidata in molti paesi.
Sistemi di riconoscimento facciale potenziati dall’AI che tracciano cittadini in tempo reale. Algoritmi predittivi che profilano comportamenti “sospetti” sulla base di dati opachi. Sistemi di social scoring che valutano affidabilità e conformismo. Tutto questo viene spacciato come innovazione per la sicurezza pubblica, ma il confine con la distopia autoritaria è sottilissimo quando non già superato.
Governi e corporazioni stanno costruendo infrastrutture di controllo senza precedenti nella storia umana, mascherando la sorveglianza di massa come necessità di sicurezza o ottimizzazione dei servizi. L’AI diventa lo strumento perfetto per questo scopo: automatica, scalabile, apparentemente oggettiva.
Il gap normativo fatale
Questo non è solo un problema tecnico, è una questione istituzionale di proporzioni storiche. Regolamentazione, strumenti antifrode e alfabetizzazione digitale faticano drammaticamente a tenere il passo con l’evoluzione tecnologica.
Le norme esistenti sono inadeguate, frammentate tra giurisdizioni, facilmente aggirabili. I sistemi di detection sono sempre reattivi, mai proattivi. L’educazione pubblica contro deepfake e frodi AI-enabled è praticamente inesistente nella maggior parte dei paesi.
Il risultato è uno scenario in cui i criminali operano con vantaggio tecnologico, risorse adeguate e impunità sostanziale, mentre cittadini e istituzioni brancolano nel tentativo di comprendere minacce in continua evoluzione.
Le vere innovazioni ignorate
Il paradosso finale è particolarmente amaro: mentre centinaia di miliardi vengono investiti in chatbot e agenti AI che falliscono nel 95% dei casi, le innovazioni che potrebbero davvero risolvere problemi reali ricevono una frazione delle risorse.
Tecnologie per contrastare il cambiamento climatico, sistemi per ridurre le disuguaglianze sanitarie, strumenti per combattere la povertà, ricerca per malattie rare: tutto questo viene sistematicamente sotto-finanziato rispetto all’ennesimo modello linguistico o al nuovo servizio in abbonamento.
Le vere innovazioni – quelle che potrebbero migliorare concretamente la vita delle persone – vengono ignorate perché non promettono ritorni rapidi agli investitori o perché richiedono collaborazione pubblico-privato che va oltre la logica del profitto immediato.
Un futuro più oscuro
Quando l’AI generativa viene utilizzata più per frodi che per produttività, più per sorveglianza che per servizi, più per manipolazione che per informazione, dobbiamo ammettere una verità scomoda: forse non stiamo vivendo una rivoluzione tecnologica, ma una regressione mascherata da progresso.
Il lato oscuro dell’innovazione non è un effetto collaterale da gestire, ma una caratteristica strutturale di un sistema che prioritizza la monetizzazione sopra tutto. E finché questa logica prevale, ogni nuova tecnologia seguirà lo stesso percorso: promesse rivoluzionarie, adozione da parte dei criminali, erosione della fiducia, strumenti di controllo, e infine stagnazione quando diventa chiaro che i problemi reali rimangono irrisolti.
————————
GUARDA LA PRESENTAZIONE
Scopri di più da Franti Magazine
Abbonati per ricevere gli ultimi articoli inviati alla tua e-mail.
