Gli IA possono indovinare dove vivono gli utenti Reddit e quanto guadagnano

I modelli linguistici di grandi dimensioni (LLM) come GPT-4 possono identificare l’età, la posizione, il sesso e il reddito di una persona con una precisione fino all’85% semplicemente analizzando i suoi post sui social media.

Robin Staab e Mark Vero dell’ETH di Zurigo in Svizzera hanno ottenuto che nove LLM analizzassero un database di post di Reddit e raccogliessero informazioni identificative nel modo in cui gli utenti scrivevano.

Staab e Vero hanno selezionato in modo casuale 1500 profili di utenti che hanno interagito sulla piattaforma, quindi hanno ristretto il campo a 520 utenti per i quali hanno potuto identificare con sicurezza attributi come il luogo di nascita di una persona, la fascia di reddito, il sesso e la posizione, sia nei loro profili che nei post .

Considerando la cronologia dei post di tali utenti, alcuni LLM sono stati in grado di identificare molti di questi attributi con un elevato grado di precisione. GPT-4 ha raggiunto la massima precisione complessiva con l’85%, mentre LlaMA-2-7b, un LLM relativamente a bassa potenza, è stato il modello meno accurato con il 51%.

“Ci dice che divulghiamo molte delle nostre informazioni personali su Internet senza pensarci”, afferma Staab. “Molte persone non darebbero per scontato che si possa dedurre direttamente la loro età o la loro posizione da come scrivono, ma i LLM sono abbastanza capaci.”

A volte i dettagli personali venivano esplicitamente indicati nei post. Ad esempio, alcuni utenti pubblicano i propri guadagni nei forum di consulenza finanziaria. Ma il L’intelligenza artificiale ha anche colto segnali più sottili, come lo slang specifico della posizione, e potrebbe stimare una gamma di salari in base alla professione e alla posizione di un utente.

Alcune caratteristiche erano più facili da discernere per le IA rispetto ad altre. GPT-4 era accurato al 97,8% nell’indovinare il genere, ma solo al 62,5% per quanto riguarda il reddito.

“Stiamo appena iniziando a capire in che modo la privacy potrebbe essere influenzata dall’uso dei LLM”, afferma Alan Woodward, dell’Università del Surrey, nel Regno Unito.