L'AI può indovinare come suona un messaggio. Non può sapere cosa provi davvero.

Contribuisco a costruire Subtext, un’app che aiuta le persone a leggere i messaggi e capire come rispondere. Quindi avevo un motivo di parte per scavare nella ricerca sul rilevamento del tono con l’AI: i benchmark, i paper dell’ACL, le critiche della psicologia, e la legge europea che ormai vieta parte di questo campo.

La versione breve sta in due frasi. L’AI di oggi è brava a prevedere come un messaggio potrebbe suonare a chi lo legge. Non ha un modo affidabile per sapere cosa prova chi lo scrive. Tutto quello che segue è il dettaglio sulla distanza tra queste due frasi.

Il rilevamento del tono sono cinque lavori diversi

La frase suona come una singola funzione. Sotto il cofano copre problemi separati che diventano più difficili man mano che si scende nell’elenco.

Il sentiment è quello facile: questo testo è positivo, negativo o neutro. Ogni grande cloud provider lo vende. L’API di Google¹ restituisce un punteggio da meno uno a più uno insieme a una magnitudine per l’intensità emotiva, Amazon Comprehend² classifica il testo come positivo, negativo, neutro o misto, e il servizio Azure di Microsoft³ aggiunge l’opinion mining a livello di aspetto, così una frase come “l’app è ottima ma il supporto è stato pessimo” viene divisa correttamente invece di essere mediata in poltiglia.

Il rilevamento delle emozioni è il passo successivo: rabbia, gioia, paura, tristezza, e i loro tanti cugini. Più difficile, come mostreranno i numeri.

Il tono interpersonale è quello che conta quando scrivi al tuo padrone di casa. Suona caldo, diretto, sulla difensiva, accusatorio. I ricercatori già modellavano frustrazione, formalità e cortesia nelle email di lavoro nel 2018⁴, e funzionava ragionevolmente bene perché trattavano queste come dimensioni separate invece che come un’unica etichetta emotiva.

Poi arrivano sarcasmo e sottotesto, che dipendono dal contesto più che dalle parole. In fondo sta lo stato emotivo privato di chi scrive, che è la cosa che il marketing implica di più e la ricerca sostiene di meno.

Quindi quando una pagina prodotto dice che rileva il tono, la mia prima domanda è quale di questi cinque intende.

I numeri sull’accuratezza che non finiscono mai sulla landing page

Il dataset di riferimento per le emozioni a grana fine nel testo è GoEmotions⁵ di Google: 58.000 commenti Reddit, etichettati a mano con 27 emozioni più il neutro, presentato all’ACL nel 2020. Il suo modello di base BERT ha ottenuto un F1 macro di 0,46 sull’intero set di etichette. Un lavoro successivo⁶ con modelli più forti e trucchi sui dati l’ha portato a circa 0,49-0,51. Anni di progressi, e i migliori modelli specializzati mancano ancora una quota ampia delle etichette a grana fine.

Chiedi a un chatbot generico di fare la stessa classificazione a 28 vie e il suo punteggio sul benchmark scende ben sotto quello dei modelli piccoli e fine-tunati, in parte perché i modelli a risposta libera inventano etichette fuori dalla tassonomia e non si calibrano sulle soglie del test. Cosa che suona come una condanna finché non scopri che in uno studio del 2025⁷ i giudici umani spesso si sono schierati con le etichette di GPT-4 invece che con quelle ufficiali del dataset. A volte il modello non è d’accordo con il benchmark perché è il benchmark la parte più debole.

La classificazione grezza positivo/negativo ottiene punteggi molto più alti su tutta la linea. Il crollo avviene esattamente dove vivono le distinzioni interessanti: fastidio contro rabbia, delusione contro disapprovazione.

Anche gli esseri umani non sono d’accordo sul tono

La parte che per me ha ridefinito l’intero argomento è cosa succede quando controlli gli esseri umani. Il paper di GoEmotions riporta l’accordo tra i suoi stessi etichettatori umani, e per la maggior parte delle emozioni il coefficiente kappa di Cohen sta tra circa 0,1 e 0,5. La gratitudine è facile, a 0,75. Il lutto arriva a 0,09, vicino a un’etichettatura casuale. Quando esseri umani addestrati che leggono la stessa frase non riescono a mettersi d’accordo se esprime delusione o disapprovazione, un modello che ottiene 0,46 contro quelle etichette sta premendo contro il soffitto del compito stesso.

Va anche più a fondo. Di chi è il sentimento che stiamo misurando, poi? Un dataset chiamato EmoBank⁸ ha annotato le stesse frasi due volte, una dalla prospettiva di chi scrive e una da quella di chi legge, perché si è scoperto che sono variabili diverse. Gli stessi ricercatori hanno trovato nel 2017 che annotare dalla prospettiva di chi scrive produceva una qualità complessiva migliore. E il grande compito sulle emozioni di SemEval 2025⁹, che ha coperto più di 30 lingue di sette famiglie linguistiche, punta deliberatamente all’emozione percepita: quella che un lettore generico attribuirebbe al testo, esplicitamente non quella che chi scrive ha provato dentro di sé.

Il test più tagliente è arrivato nel 2025. Uno studio dell’ACL¹⁰ ha chiesto agli autori di etichettare le proprie emozioni, poi ha fatto indovinare a estranei umani e a LLM. Entrambi sono rimasti sotto le dichiarazioni degli autori stessi, e gli LLM hanno battuto gli estranei umani in quasi tutti i casi. Ogni metà di questo risultato conta. L’AI oggi legge meglio di una persona a caso partendo solo dal testo, e allo stesso tempo non riesce ancora a ricostruire in modo affidabile cosa hai provato.

Una conseguenza pratica: un confronto del 2023 su Heliyon¹¹ ha fatto girare otto API commerciali per il rilevamento delle emozioni sugli stessi dataset e le ha trovate in disaccordo tra loro, con classifiche che cambiavano da un dataset all’altro. Qualsiasi fornitore che cita “il 95 percento di accuratezza nel rilevamento delle emozioni” senza nominare le etichette, i dati e la lingua sta citando un numero che non può reggere il peso di quell’affermazione.

I modelli superano i test sulle emozioni e comunque non vedono la persona

Due risultati di ricerca sembrano contraddittori finché non separi cosa misurano.

In uno studio del 2025 su Communications Psychology¹², sei modelli, tra cui ChatGPT-4, Gemini 1.5 Flash, Claude 3.5 Haiku e DeepSeek V3, hanno sostenuto cinque test standard di intelligenza emotiva, del tipo usato per valutare gli esseri umani. I modelli hanno ottenuto in media l’81 percento di risposte corrette contro il 56 percento della media umana negli studi di validazione dei test. Su Nature Human Behaviour¹³, GPT-4 ha eguagliato o superato gli esseri umani sui classici compiti di teoria della mente, come individuare false credenze e richieste indirette, anche se è inciampato nel riconoscere i passi falsi sociali. E su JAMA Internal Medicine¹⁴, valutatori con licenza medica che leggevano risposte a domande vere di pazienti hanno preferito quelle del chatbot a quelle dei medici il 78,6 percento delle volte, giudicandole 9,8 volte più probabili di essere empatiche. Un avvertimento da tenere a mente: le risposte del chatbot erano lunghe in media 211 parole contro le 52 dei medici, e la preferenza si riduceva quando i medici scrivevano risposte più lunghe.

Nel frattempo EmoBench¹⁵, un benchmark costruito apposta per richiedere ragionamento emotivo invece che semplice riconoscimento di pattern, trova ancora un divario netto tra modelli e persona umana media.

Entrambi i risultati possono essere veri perché conoscere le emozioni e conoscere l’emozione di qualcuno sono due abilità diverse. Un modello ha letto più cose su gelosia, lutto e scuse imbarazzanti in ufficio di quante ne leggerà mai un essere umano. Quello che gli manca è il contesto sulla persona specifica che ha scritto quel messaggio.

Quattro persone possono scrivere le stesse parole: “Congratulazioni. Sono felice per te.” Una lo pensa davvero. Un’altra ti porta rancore. Una terza è affranta e sta facendo finta di niente. La quarta è sarcastica. Ogni versione è identica sullo schermo, quindi nessun modello di testo può distinguerle, e non potrebbe farlo nemmeno un estraneo umano. Quell’informazione vive fuori dalle parole.

Il contesto fa la maggior parte del lavoro

Prendi la risposta “Va bene.”

Da sola potrebbe essere accordo, delusione, irritazione, indifferenza, o una porta che si chiude senza rumore. Mettila dopo “Hai spostato la scadenza per la terza volta” e la lettura si restringe in fretta. Nella parola non è cambiato niente. È cambiato il contesto.

La ricerca sul sarcasmo arriva sempre alla stessa conclusione: anche gli esseri umani spesso hanno bisogno della conversazione attorno per cogliere l’intento sarcastico¹⁶¹⁷, ed è per questo che le valutazioni più recenti testano i modelli su interi dialoghi invece che su frasi isolate. La regola pratica per qualsiasi strumento sul tono segue da qui. Dagli in pasto il thread, la relazione, la posta in gioco. Giudicare un singolo messaggio isolato è chiedere al modello di fallire con garbo.

Il tono è culturale, e la maggior parte dei modelli è cresciuta sull’inglese americano

Un benchmark del 2025 chiamato BESSTIE¹⁸ ha testato i modelli su sentiment e sarcasmo tra inglese australiano, britannico e indiano. Le prestazioni erano sistematicamente peggiori sull’inglese indiano, con il sarcasmo come caso più difficile, e i modelli facevano fatica a generalizzare da una variante all’altra.

Quel risultato combacia con l’esperienza quotidiana. “Kindly do the needful” suona in un modo nell’inglese professionale indiano e in un altro modo per un modello calibrato sulle norme d’ufficio americane. Dopo 13 anni a Berlino posso aggiungere la versione tedesca: la schiettezza che qui conta come rispetto per il tuo tempo può venire segnalata come fredda da un software cresciuto sulla cortesia americana. Etichette come maleducato, caldo o troppo diretto sono giudizi culturali travestiti da fatti oggettivi. Uno strumento sul tono che ignora chi scrive a chi, e in quale cultura, leggerà male entrambe le parti con piena sicurezza.

La lettura del volto è dove l’AI sulle emozioni ha perso il filo

Tutto quello che precede riguarda il testo. Il ramo dell’industria che scansiona i volti ha un curriculum molto più accidentato, e influenza il modo in cui i regolatori trattano ormai l’intera categoria.

Nel 2019 la psicologa Lisa Feldman Barrett e colleghi hanno passato in rassegna oltre mille studi¹⁹ e hanno concluso che non si può dedurre in modo affidabile come si sente qualcuno dai suoi movimenti facciali. Le persone accigliano mentre si concentrano, sorridono mentre sono ansiose, e piangono ai matrimoni. Lo stesso anno, uno studio ha fatto passare le foto di 400 giocatori NBA attraverso due sistemi commerciali e ha trovato che entrambi leggevano più emozioni negative sui volti dei giocatori neri²⁰ rispetto a quelli bianchi con espressioni simili.

L’industria se n’è accorta. Microsoft ha ritirato l’inferenza emotiva dalla sua Face API²¹ nel 2022. HireVue ha abbandonato l’analisi facciale dalle sue valutazioni per le assunzioni nel 2021, dopo che il gruppo per i diritti digitali EPIC aveva presentato un reclamo alla FTC²². Gli strumenti sul testo sono una tecnologia diversa, ma ereditano questo scetticismo, e se lo meritano ogni volta che dichiarano di leggere stati interiori invece che parole.

L’UE ha tracciato una linea, e il testo sta fuori

Dal 2 febbraio 2025, l’Articolo 5(1)(f)²³ dell’AI Act europeo vieta l’AI che deduce le emozioni delle persone sul posto di lavoro e a scuola, con eccezioni ristrette per usi medici e di sicurezza come il rilevamento della stanchezza alla guida. Violare le pratiche vietate comporta multe fino al 7 percento del fatturato globale annuo.

L’ambito conta per chiunque costruisca o usi questi strumenti. Le linee guida della Commissione Europea legano il divieto ai dati biometrici²⁴: volti, voci, dinamiche di battitura, postura del corpo. Un sistema che deduce le emozioni dal testo scritto è esplicitamente fuori dal divieto²⁵. Analizzare come potrebbe atterrare un’email è legale. Puntare una webcam sui dipendenti per dare un voto al loro umore è vietato. Quella linea segue abbastanza fedelmente la scienza, e per Subtext si traduce in un vincolo di design che avremmo scelto comunque: solo testo, niente biometria, niente sorveglianza sul posto di lavoro.

A cosa servono davvero gli strumenti di oggi

Il rilevatore di tono²⁶ di Grammarly è l’esempio consumer più chiaro, e il suo modo di presentarsi è, silenziosamente, il più onesto sul mercato. Analizza scelta delle parole, formulazione, punteggiatura e uso delle maiuscole²⁶ per dirti come il tuo messaggio probabilmente suonerà a chi legge, su più di 40 toni. Probabilmente suonerà. Quella formulazione fa un lavoro scientifico vero.

Le API cloud di Google, Amazon, Microsoft e IBM²⁷ sono costruite per il volume: ticket di supporto, recensioni, risposte ai sondaggi. IBM ha ritirato il suo Tone Analyzer autonomo nel 2023 e ha piegato le emozioni dentro il suo prodotto linguistico più ampio. Sono gli strumenti giusti per “cosa provano i clienti verso il nostro flusso di checkout” e quelli sbagliati per “il mio testo suona passivo-aggressivo”.

Gli LLM generici sono l’opzione più capace per i messaggi personali perché possono usare il contesto, gestire più toni insieme e spiegare la propria lettura. Sono anche i meno calibrati, quindi tratta qualsiasi percentuale di sicurezza come un’impressione, non come un dato. Sul fronte vocale, Hume AI²⁸ ha raccolto un Series B da 50 milioni di dollari nel 2024 per misurare la modulazione vocale, soprattutto perché le interfacce vocali possano rispondere con il ritmo e il tono giusti. Un uso più circoscritto, e più difendibile della pretesa di rilevare sentimenti nascosti.

Come questo dà forma a Subtext

Analizza i messaggi a cui le persone tengono di più: il testo del capo, del tuo appuntamento, di tua madre. La ricerca stabilisce come dovrebbe funzionare.

L’output deve riguardare la percezione. “Questo può suonare sbrigativo” è un’affermazione che le prove sostengono. “Lei è arrabbiata con te” è un’affermazione che non sostengono, e lo studio dell’ACL sulle dichiarazioni in prima persona ne è la prova. Lasciamo anche che un messaggio porti più toni insieme, perché quelli veri lo fanno. Caldo e sulla difensiva è una combinazione normale, ed è esattamente per questo che i benchmark più recenti trattano l’emozione come multi-etichetta.

Le prove battono i verdetti. Uno strumento utile indica le parole che creano un’impressione, il modo in cui “come avevo già spiegato” fa silenziosamente il lavoro pesante in un’email tesa, così puoi decidere se quell’impressione è quella che vuoi dare. Anche l’incertezza resta visibile. Quando un messaggio è ambiguo, l’ambiguità è spesso il risultato più accurato, e arrotondarla in un’etichetta sicura sarebbe precisione finta. Il contesto viene prima di tutto: preferiamo leggere il thread e chiedere chi è il destinatario piuttosto che dare un voto a una frase sospesa nel vuoto, perché le stesse nove parole significano cose diverse per un manager e per una situazione ancora indefinita.

La versione onesta di questa categoria è più piccola di quanto promettano i pitch deck e più utile di quanto ammettano gli scettici. Leggere nella mente resta fuori portata. Leggere le parole è disponibile oggi, e comunque gran parte del danno nella comunicazione scritta comincia proprio lì. Mi è sembrato un motivo abbastanza buono per costruirlo.

---

Lavori su uno di questi strumenti e pensi che abbia letto male il tuo benchmark? Dimmelo su LinkedIn.

Samet Durgun è co-fondatore di Subtext, un’app che coglie il tono emotivo dei tuoi messaggi e li riscrive con parole tue. Vive a Berlino.

---

Fonti

Ogni link qui sopra porta alla fonte primaria dove ne esiste una, numerati nell’ordine in cui compaiono. Due voci sono citate senza link perché non sono riuscito a confermare un URL stabile, e le ultime due sono approfondimenti ulteriori, non affermazioni fatte nel testo.

1. Google Cloud. Natural Language API basics: sentiment score and magnitude.
2. AWS. Amazon Comprehend: sentiment analysis.
3. Microsoft. Azure Language: sentiment analysis and opinion mining.
4. Chhaya et al. (2018). Frustrated, Polite, or Formal: Quantifying Feelings and Tone in Email. PEOPLES Workshop, NAACL 2018.
5. Demszky et al. (2020). GoEmotions: A Dataset of Fine-Grained Emotions. ACL 2020.
6. Wang et al. (2024). Large Language Models on Fine-grained Emotion Detection Dataset with Data Augmentation and Transfer Learning. arXiv.
7. Rethinking Emotion Annotations in the Era of Large Language Models (2025).
8. Buechel e Hahn (2017). EmoBank, un corpus annotato sia dalla prospettiva di chi scrive sia da quella di chi legge, e “Readers vs. Writers vs. Texts,” Linguistic Annotation Workshop 2017.
9. Muhammad et al. (2025). SemEval-2025 Task 11: Bridging the Gap in Text-Based Emotion Detection. SemEval 2025.
10. Li et al. (2025). Can Third Parties Read Our Emotions? ACL 2025.
11. Abu-Salih et al. (2023). Emotion detection of social data: APIs comparative study. Heliyon.
12. Schlegel, Sommer e Mortillaro (2025). Large language models are proficient in solving and creating emotional intelligence tests. Communications Psychology.
13. Strachan et al. (2024). Testing theory of mind in large language models and humans. Nature Human Behaviour.
14. Ayers et al. (2023). Comparing Physician and Artificial Intelligence Chatbot Responses to Patient Questions Posted to a Public Social Media Forum. JAMA Internal Medicine.
15. Sabour et al. (2024). EmoBench: Evaluating the Emotional Intelligence of Large Language Models. ACL 2024.
16. Feng et al. (2024). Affect Recognition in Conversations Using Large Language Models. SIGDIAL 2024.
17. Hazarika et al. (2018). CASCADE: Contextual Sarcasm Detection in Online Discussion Forums. COLING 2018.
18. Srirag et al. (2025). BESSTIE: A Benchmark for Sentiment and Sarcasm Classification for Varieties of English. Findings of ACL 2025.
19. Barrett et al. (2019). Emotional Expressions Reconsidered: Challenges to Inferring Emotion From Human Facial Movements. Psychological Science in the Public Interest.
20. Rhue (2019). Racial Influence on Automated Perceptions of Emotions. SSRN working paper.
21. Microsoft (2022). Framework for building AI systems responsibly, annuncio del ritiro dell’inferenza emotiva dalla Face API.
22. EPIC. In re HireVue, reclamo alla FTC (2019).
23. EU AI Act, Articolo 5: pratiche di AI vietate, applicabile dal 2 febbraio 2025.
24. Lewis Silkin (2025). Understanding the EU AI Act’s prohibited practices, sulle linee guida della Commissione di febbraio 2025.
25. Future of Privacy Forum (2026). Red Lines under the EU AI Act: the prohibition of emotion recognition in the workplace and education.
26. Grammarly. Pagina prodotto del rilevatore di tono e come funziona il rilevatore di tono.
27. IBM. Watson Natural Language Understanding.
28. Hume AI.
29. Northeastern University (2021). You can’t determine emotion from someone’s facial movements, and neither can AI.
30. The Guardian (2024). Are you 80% angry and 2% sad? Why “emotional AI” is fraught with problems.