I ricercatori parlano chiaro: «La maggior parte delle email che finiscono nella cartella spam è oggi con ogni probabilità stata scritta da un modello linguistico di grandi dimensioni». Che vuol dire? Che dietro quelle offerte sospette, le promesse di vincite clamorose, i messaggi fasulli delle banche o le truffe romantiche non c’è più un hacker maldestro con scarsa padronanza dell’inglese. C’è ChatGPT, o uno dei suoi cugini.

Spam sempre più furbo

Il vantaggio è evidente: le email create dall’IA sono formalmente impeccabili. Niente refusi, grammatica in ordine, toni professionali. Risultato? I sistemi automatici di rilevamento faticano di più a identificarle come truffe. Peggio: sembrano perfino più credibili delle email reali. Il confine tra legittimo e fraudolento diventa più sottile, e questo è un problema serio.

L’altro aspetto inquietante è la velocità con cui si sta evolvendo il fenomeno. Gli spammer usano i modelli linguistici non solo per scrivere più velocemente, ma anche per “addestrare” i propri messaggi: cercano sinonimi, modificano le frasi, usano la parafrasi per evitare le blacklist. È una forma di ingegneria linguistica applicata alla truffa. E funziona.

Serve più formazione, non solo filtri

Secondo Barracuda, non bastano più i filtri antispam: servono strategie nuove. «La formazione resta la difesa più efficace» dice l’azienda. «Bisogna investire su corsi di sicurezza per i dipendenti, sensibilizzarli sulle minacce più recenti, insegnare loro a riconoscere i segnali di pericolo e a segnalare le email sospette».

In altre parole: non possiamo più fidarci dell’aspetto di un’email per giudicarla sicura. L’intelligenza artificiale sa scrivere troppo bene. E dietro quel testo perfetto, oggi più che mai, potrebbe nascondersi una truffa.

In questa fase del suo sviluppo l’intelligenza artificiale (IA) è caratterizzata da due paradossi fondamentali. Il primo riguarda l’enorme richiesta di risorse che erode riserve energetiche e idriche, oltre a contribuire alle emissioni di CO2. Anche se proprio l’IA potrebbe rappresentare una chiave per affrontare la stessa crisi climatica. Il secondo paradosso, forse più grave, è legato alla possibilità che l’IA possa presto collassare sotto il peso dei dati su cui è stata addestrata, soprattutto se continua a utilizzare modelli precedenti.

Il collasso del modello

Uno studio recente pubblicato su Nature ha evidenziato un fenomeno chiamato “Collasso del modello“. Questo effetto si verifica quando le AI, addestrate su enormi moli di dati spesso derivati da modelli precedenti, iniziano a generare contenuti sempre più di bassa qualità. Questo perché i nuovi modelli AI tendono a essere alimentati da dati preconfezionati, spesso creati da altri modelli AI, avviando un “processo degenerativo“.

Quali sono le conseguenze della possibile degenerazione

L’uso indiscriminato dei contenuti generati dall’IA porta a “difetti irreversibili” nei modelli stessi. Gli errori appresi dai modelli precedenti vengono assimilati rapidamente dai successivi, causando risposte sempre più inaccurate. Quando le AI erano addestrate su contenuti generati dall’uomo, la qualità dei dati garantiva una certa efficacia. Ora, però, i contenuti di scarsa qualità generati dalle AI stesse peggiorano progressivamente la qualità delle risposte.

Quali sono le possibili soluzioni

Per evitare che questo processo degenerativo comprometta ulteriormente l’efficacia delle AI, una soluzione potrebbe essere contrassegnare tutti i contenuti generati dall’IA. Questo permetterebbe di escludere tali contenuti dai dati di training futuri. Tuttavia, questo richiederebbe uno sforzo significativo e l’adozione di uno standard comune tra tutte le aziende di intelligenza artificiale.

La casa, un tempo considerata un rifugio sicuro, oggi si trova sotto minaccia a causa delle tecnologie intelligenti che utilizziamo quotidianamente. Dispositivi come telefoni cellulari, televisori e sistemi di sicurezza intelligenti, tutti connessi a Internet, raccolgono costantemente dati personali. Questi dati includono informazioni su posizione, interessi e interazioni, creando una dettagliata “impronta digitale della casa” che mette a rischio la privacy e la sicurezza delle famiglie.

La sorveglianza domestica

Secondo un gruppo di ricercatori provenienti da varie università, queste tecnologie permettono agli aggressori di accedere a dati sensibili come messaggi, conversazioni telefoniche, posizioni e ricerche online. David Choffnes, professore della Northeastern University, avverte che “chi viola può avere un’idea chiara di cosa c’è in ogni casa, di chi c’è, di quando e dove si sta muovendo”. Questo mette a rischio la sicurezza domestica, trasformando le case intelligenti in potenziali obiettivi per attacchi mirati.

Dispositivi connessi e interazioni a rischio

Juan Tapiador, professore dell’Università Carlos III, sottolinea che molte persone non sono consapevoli del fatto che tutti i dispositivi connessi al Wi-Fi comunicano tra loro, aumentando le vulnerabilità. Le tecnologie di spionaggio possono monitorare le attività domestiche attraverso Internet, esponendo ulteriormente gli utenti a potenziali minacce.

Il problema dei dispositivi Android

Gli utenti di dispositivi Android sono particolarmente a rischio. Molte applicazioni su Android contengono software che raccolgono dati privati senza il consenso adeguato degli utenti, violando il Regolamento generale sulla protezione dei dati (GDPR). Nonostante gli sforzi di Google per migliorare la sicurezza di Android, queste pratiche continuano a rappresentare una minaccia significativa per la privacy degli utenti.

La macchina del marketing globale

La raccolta di dati personali alimenta una vasta macchina del marketing e della pubblicità globale. Questa sorveglianza si manifesta nella pubblicità personalizzata che riceviamo sui nostri dispositivi mobili ogni giorno. Narseo Vallina-Rodríguez, ricercatore presso Imdea Networks, spiega che “l’esposizione di queste informazioni senza alcun controllo permette ai servizi pubblicitari o alle applicazioni spia di creare un’impronta digitale di ogni casa”. Questa pratica viola la privacy delle famiglie, deducendo il loro livello di reddito e le abitudini quotidiane.