KI kan gjette hvordan meldingen din oppfattes. Den vet ikke hva du faktisk føler.

Jeg er med og bygger Subtext, en app som hjelper folk å lese meldinger og finne ut hva de skal svare. Så jeg hadde en egoistisk grunn til å grave meg gjennom forskningen på KI og tonegjenkjenning: benchmarkene, ACL-artiklene, psykologikritikken, og EU-loven som nå forbyr deler av dette feltet. Veifør min stake deretter. Hver påstand nedenfor lenker til kilden, slik at du kan sjekke lesingen min selv i stedet for bare å stole på den.

Dagens KI er god til å forutsi hvordan en melding kan virke på en leser. Den har ingen pålitelig måte å vite hva avsenderen faktisk føler på. Alt under er detaljer om gapet mellom de to setningene.

Tonegjenkjenning er fem forskjellige jobber

Uttrykket høres ut som én enkelt funksjon. Under overflaten dekker det separate problemer som blir vanskeligere jo lenger ned på listen du kommer.

Sentiment er den enkle jobben. Den spør om teksten er positiv, negativ eller nøytral. Alle de store skyleverandørene selger dette. Googles API¹ returnerer en poengsum fra minus én til pluss én sammen med en styrkegrad for følelsesintensitet, Amazon Comprehend² sorterer tekst som positiv, negativ, nøytral eller blandet, og Microsofts Azure-tjeneste³ legger til aspektbasert meningsanalyse, slik at en setning som «appen er fantastisk, men kundeservicen var elendig» blir delt riktig i stedet for gjennomsnittet til grøt.

Følelsesgjenkjenning, som er neste steg, dekker sinne, glede, frykt, tristhet, og alle slektningene deres. Vanskeligere, som tallene snart vil vise.

Mellommenneskelig tone er det du bryr deg om når du sms-er med utleieren din. Høres dette varmt ut, direkte, defensivt, anklagende. Forskere modellerte frustrasjon, formalitet og høflighet i arbeidsepost allerede i 2018⁴, og det fungerte rimelig godt fordi de behandlet dette som separate dimensjoner i stedet for én enkelt følelsestagg.

Så kommer sarkasme og underliggende mening, som avhenger mer av kontekst enn av ord. Nederst sitter avsenderens private følelsesmessige tilstand, som er det markedsføring oftest antyder og forskningen minst støtter.

Så når en produktside sier at den oppdager tone, og de fleste tonesjekkere sjekker aldri tonen din, er mitt første spørsmål hvilken av disse fem den mener. Subtext hører hjemme i den tredje bøtta, mellommenneskelig tone, som spør om en melding virker varm, direkte, defensiv eller anklagende på den som mottar den. Det er verken en sentiment-poengsum eller en påstand om noens private følelser.

Nøyaktighetstallene som aldri havner på landingssiden

Referansedatasettet for finkornet følelse i tekst er Googles GoEmotions⁵: 58 000 Reddit-kommentarer som Demszkys team håndmerket med 27 følelser pluss nøytral og presenterte på ACL i 2020. BERT-basislinjen scoret en makro-F1 på 0,46 over hele merkelappsettet. Senere arbeid⁶ med sterkere modeller og datatriks presset det opp til omtrent 0,49 til 0,51. År med fremgang, og de beste spesialiserte modellene bommer fortsatt på en stor andel av de finkornede merkelappene.

Ber du en generell chatbot om å gjøre den samme sorteringen i 28 kategorier, faller benchmark-skåren godt under de finjusterte småmodellene, delvis fordi frittformede modeller finner opp merkelapper utenfor taksonomien og ikke kalibrerer seg til testens terskler. Det høres fordømmende ut helt til du finner ut at i én studie fra 2025⁷ stilte menneskelige vurderere seg oftere bak GPT-4s merkelapper enn datasettets offisielle. Noen ganger er modellen uenig med benchmarken fordi det er benchmarken som er den svake parten.

Grov klassifisering av positivt versus negativt scorer langt høyere over hele linjen. Sammenbruddet skjer nøyaktig der de interessante nyansene bor, som irritasjon versus sinne eller skuffelse versus misbilligelse.

Mennesker er også uenige om tone

Det som snudde opp ned på hele temaet for meg, er det som skjer når du sjekker menneskene. Vedlegget til GoEmotions-artikkelen rapporterer enighet mellom sine egne menneskelige annotatører, og for de fleste følelser ligger Cohens kappa mellom omtrent 0,1 og 0,5. Takknemlighet er enkelt, på 0,75. Sorg lander på 0,09, nesten på nivå med tilfeldig gjetting. Når trente mennesker som leser den samme setningen ikke kan bli enige om den uttrykker skuffelse eller misbilligelse, blir en modell som scorer 0,46 i macro F1 mot merkelappene deres, vurdert etter en fasit som er myk akkurat på de stedene. Kappa og F1 måler forskjellige ting, så tallet for menneskene er ikke noe fast tak, men det forteller deg at en del av modellens bom hører til selve oppgaven.

Cohens kappa, GoEmotions’ egne menneskelige merkere Takknemlighet: 0,75. Sorg: 0,09, nesten på nivå med tilfeldig gjetting.

En kappa på 1,0 er perfekt enighet, 0 er tilfeldig. Når trente mennesker ikke kan bli enige om en setning er skuffelse eller misbilligelse, blir en modells 0,46 i macro F1 vurdert etter en fasit som er myk akkurat på de stedene.

Det stikker dypere. Hvem sin følelse er det egentlig vi måler? Et datasett kalt EmoBank⁸ merket de samme setningene to ganger, én gang fra avsenderens perspektiv og én gang fra leserens, fordi det viser seg å være to forskjellige variabler. De samme forskerne fant i 2017 at merking fra avsenderens perspektiv ga bedre kvalitet totalt sett. Og den store SemEval 2025-oppgaven om følelser⁹, som dekket mer enn 30 språk fra syv språkfamilier, sikter bevisst mot oppfattet følelse, altså det en vanlig leser ville tillagt teksten og uttrykkelig ikke det avsenderen faktisk følte inni seg.

Den skarpeste testen kom i 2025. En ACL-studie¹⁰ ba forfattere merke sine egne følelser, og lot deretter utenforstående mennesker og språkmodeller gjette. Begge kom til kort mot forfatternes egne rapporter, og språkmodellene slo de fremmede menneskene på nesten alle punkter. Begge halvdeler av det funnet betyr noe. KI er nå bedre enn en tilfeldig person til å lese deg ut fra tekst alene, og den klarer fortsatt ikke å rekonstruere pålitelig hva du faktisk følte. Subtext er bygget for den halvdelen av funnet som holder mål. Den leser hvordan meldingen din sannsynligvis vil oppfattes, ikke hva du følte da du skrev den.

Én praktisk konsekvens viser seg i en sammenligning fra 2023 i Heliyon¹¹, som kjørte åtte kommersielle følelses-API-er over de samme datasettene og fant at de var uenige med hverandre, med rangeringer som endret seg fra datasett til datasett. Enhver leverandør som lover «95 prosent nøyaktig følelsesgjenkjenning» uten å nevne merkelappene, dataene og språket, siterer et tall som ikke klarer å bære vekten av påstanden.

Modeller skårer strålende på følelsestester, og bommer likevel på personen

To forskningsresultater ser motstridende ut helt til du skiller hva de faktisk måler.

I en studie fra 2025 i Communications Psychology¹² tok seks modeller, blant dem ChatGPT-4, Gemini 1.5 Flash, Claude 3.5 Haiku og DeepSeek V3, fem standard tester for emosjonell intelligens, av typen som brukes til å vurdere mennesker. Modellene fikk i snitt 81 prosent riktig, mot et menneskelig snitt på 56 prosent fra testenes valideringsstudier. I Nature Human Behaviour¹³ matchet eller slo GPT-4 mennesker på klassiske theory-of-mind-oppgaver som å oppdage falske antagelser og indirekte forespørsler, selv om den snublet på å gjenkjenne sosiale bommerter. Og i JAMA Internal Medicine¹⁴ leste lisensierte vurderere svar på ekte pasientspørsmål og foretrakk chatbotens svar fremfor legenes 78,6 prosent av gangene, og vurderte dem som 9,8 ganger mer sannsynlig å være empatiske. Ett forbehold ville jeg hatt i bakhodet. Chatbotens svar var i snitt 211 ord mot legenes 52, og fortrinnet krympet når legene skrev lengre svar. For mennesker er det et annet spørsmål om emosjonell intelligens betyr noe på jobb.

Samtidig finner EmoBench¹⁵, en benchmark bygget for å kreve emosjonell resonnering fremfor mønstergjenkjenning, fortsatt et klart gap mellom modeller og gjennomsnittsmennesker.

Begge funnene kan være sanne fordi det å vite om følelser og det å kjenne noens følelse er to forskjellige ferdigheter. En modell har lest mer om sjalusi, sorg og klønete unnskyldninger på jobben enn noe menneske i live. Det den mangler, er kontekst om nettopp den personen som skrev denne konkrete meldingen.

Fire personer kan skrive de samme ordene: «Gratulerer. Jeg er glad på dine vegne.» Én mener det. En annen misunner deg det. En tredje har hjertet i stykker og skjuler det bak et modig ansikt. Den fjerde er sarkastisk. Alle versjonene er identiske på skjermen, så ingen tekstmodell kan skille dem fra hverandre, og det kunne heller ikke en fremmed. Den informasjonen bor utenfor ordene.

Kontekst gjør mesteparten av jobben

Ta svaret «Greit.»

Alene kan det bety enighet, skuffelse, irritasjon, likegyldighet, eller en dør som lukkes stille. Sett det etter «Du har flyttet fristen for tredje gang», og tolkningen smalner raskt inn. Ingenting ved ordet endret seg. Konteksten gjorde det.

Sarkasmeforskning lander gang på gang på den samme konklusjonen, nemlig at selv mennesker ofte trenger den omkringliggende samtalen for å se om en tekstmelding er sarkastisk¹⁶¹⁷, og det er derfor nyere evalueringer tester modeller på hele dialoger i stedet for isolerte setninger. Den praktiske regelen jeg trekker ut av dette for ethvert toneverktøy, følger direkte. Gi det tråden, relasjonen og det som står på spill. Å vurdere én enkelt melding isolert er å be modellen om å feile høflig. Dette er også hvorfor Subtext tar hele tråden i stedet for bare én linje, fordi mesteparten av tolkningen bor i konteksten, ikke i ordene som blir lest.

Tone er kulturelt, og de fleste modeller vokste opp med amerikansk engelsk

En benchmark fra 2025 kalt BESSTIE¹⁸ testet modeller på sentiment og sarkasme på tvers av australsk, britisk og indisk engelsk. Ytelsen var gjennomgående dårligere på indisk engelsk, med sarkasme som det vanskeligste tilfellet, og modellene slet med å generalisere fra én variant til en annen.

Det resultatet stemmer med hverdagserfaring. «Kindly do the needful» leses på én måte i indisk profesjonell engelsk og på en annen måte for en modell kalibrert på amerikanske kontornormer. Etter 13 år i Berlin kan jeg legge til den tyske versjonen. Direktheten som her regnes som respekt for tiden din, kan bli flagget som kald av programvare oppdratt på amerikansk høflighet. Merkelapper som frekk, varm eller for direkte er kulturelle vurderinger i objektivitetens forkledning. Et toneverktøy som ignorerer hvem som skriver til hvem, og i hvilken kultur, vil selvsikkert mistolke begge parter.

En beslektet bias dukker opp i innholdsmoderasjon, en annen oppgave enn sentiment-poengsetting. Sap og kolleger undersøkte mye brukte datasett for hatprat¹⁹ og fant at tweeter skrevet på afroamerikansk engelsk, noen ganger kalt African American Vernacular English eller AAVE, ble merket som støtende av trente klassifikatorer opptil dobbelt så ofte som sammenlignbare tweeter i andre varianter, uten at annotatørene noen gang så hvem som hadde skrevet dem. Gapet ligger i toksisitetsklassifikatoren, ikke sentimentklassifikatoren, så en benchmark som BESSTIE ville ikke avdekke det. Et moderasjonssystem trent på de dataene flagger rutinemessig AAVE-formulering som støtende oftere enn den samme meldingen formulert på en annen måte.

Ansiktslesing er der følelses-KI sporet av

Alt over handler om tekst. Ansiktsskanning-grenen av denne bransjen har en langt mer humpete historikk, og den preger hvordan regulatorer nå behandler hele kategorien.

I 2019 gjennomgikk psykolog Lisa Feldman Barrett og kolleger over tusen studier²⁰ og konkluderte med at du ikke pålitelig kan slutte deg til hvordan noen føler ut fra ansiktsbevegelsene deres. Folk rynker pannen mens de konsentrerer seg, smiler mens de er engstelige, og gråter i bryllup. Samme år kjørte en studie bilder av 400 NBA-spillere gjennom to kommersielle systemer og fant at begge leste mer negativ følelse inn i ansiktene til svarte spillere²¹ enn hos hvite spillere med tilsvarende uttrykk.

Bransjen la merke til det. Microsoft avviklet følelsesgjenkjenning fra sitt Face API²² i 2022. HireVue droppet ansiktsanalyse fra sine ansettelsesvurderinger i 2021, etter at den digitale rettighetsgruppen EPIC klaget til FTC²³. Tekstverktøy er en annen teknologi, men de arver denne skepsisen, og de fortjener den hver gang de påstår å lese indre tilstander fremfor ordvalg.

EU trakk en grense, og tekst havnet utenfor den

Siden 2. februar 2025 forbyr Artikkel 5(1)(f)²⁴ i EUs KI-forordning bruk av KI som slutter seg til folks følelser på arbeidsplasser og i skoler, med snevre unntak for medisinsk bruk og sikkerhetsbruk som å oppdage sjåførtretthet. Brudd på de forbudte praksisene kan gi bøter på opptil 7 prosent av global årsomsetning.

Omfanget betyr noe for alle som bygger eller bruker slike verktøy. Retningslinjer fra EU-kommisjonen knytter forbudet til biometriske data²⁵: ansikter, stemmer, tastetrykk-mønstre, kroppsholdning. Et system som slutter seg til følelser fra skrevet tekst, er uttrykkelig utenfor forbudet²⁶. Å analysere hvordan en e-post kan lande, er lovlig. Å rette et webkamera mot ansatte for å score humøret deres, er forbudt. Den grensen følger vitenskapen ganske godt, og for Subtext blir den til en designbegrensning vi ville valgt uansett: bare tekst, ingen biometri, ingen overvåking på arbeidsplassen.

Hva dagens verktøy faktisk er gode til

Grammarlys tonedetektor²⁷ er det klareste eksempelet for forbrukere, og formuleringen deres er den mest direkte i markedet. Den analyserer ordvalg, formuleringer, tegnsetting og bruk av store bokstaver²⁷ for å fortelle deg hvordan meldingen din sannsynligvis vil virke på en leser, fordelt på mer enn 40 toner. Sannsynligvis vil virke. Den formuleringen gjør reelt vitenskapelig arbeid.

Sky-API-ene fra Google, Amazon, Microsoft og IBM²⁸ er bygget for å behandle support-saker, anmeldelser og spørreundersøkelser i stort volum. IBM avviklet sin frittstående Tone Analyzer i 2023 og la følelsesanalysen inn i det bredere språkproduktet sitt. Dette er de riktige verktøyene for «hvordan føler kundene våre seg om kassen» og de gale verktøyene for «høres teksten min passiv-aggressiv ut».

Generelle språkmodeller er det mest kapable alternativet for personlige meldinger, fordi de kan bruke kontekst, håndtere flere toner samtidig og forklare tolkningen sin. De er også dårligst kalibrert, så behandle enhver konfidensprosent som en magefølelse fremstilt som tall. På stemmesiden hentet Hume AI²⁹ inn 50 millioner dollar i en Series B-runde i 2024 for å måle vokal modulasjon, mest for at stemmegrensesnitt skal kunne svare med passende tempo og tone. En smalere bruk, og en mer forsvarlig én enn å påstå å oppdage skjulte følelser.

Hvordan dette former Subtext

Subtext analyserer meldingene folk bryr seg mest om, som teksten fra sjefen din, personen du dater eller moren din. Jeg lar forskningen avgjøre hvordan det bør fungere.

Resultatet må handle om oppfatning. «Dette kan virke avfeiende» er en påstand bevisene støtter. «Hun er sint på deg» er en påstand de ikke støtter, og ACL-førstepartsstudien er kvitteringen. Vi lar også meldinger bære flere toner samtidig, fordi ekte meldinger gjør det. Varm og defensiv er en normal kombinasjon, og de nyere benchmarkene behandler følelser som multi-tagg nettopp derfor.

Bevis slår dommer. Et nyttig verktøy peker på ordene som skaper et inntrykk, slik «som jeg allerede forklarte» stille gjør det tyngste løftet i en anspent e-post, slik at du selv kan avgjøre om det inntrykket er det du vil gi. Usikkerhet forblir også synlig. Når en melding er tvetydig, er tvetydigheten ofte det mest presise funnet, og å runde det av til en selvsikker merkelapp ville vært falsk presisjon. Kontekst kommer først. Vi vil heller lese tråden og spørre hvem mottakeren er, enn å vurdere en setning som flyter i tomrommet, fordi de samme ni ordene betyr noe annet for en sjef enn for en situationship.

I praksis limer du inn utkastet eller tar screenshot av tråden, og Subtext forklarer hva meldingen din sannsynlig signaliserer, peker på ordene som skaper inntrykket, og tilbyr versjoner som fortsatt høres ut som deg. Prøv Subtext i nettleserenLast ned appenPrøv Subtext i nettleseren

Min vurdering er at denne kategorien er mindre enn pitch-deckene og mer nyttig enn skeptikerne vil innrømme. Tankelesing er fortsatt utenfor rekkevidde. Å lese ordlyden er mulig i dag, og mesteparten av skaden i skriftlig kommunikasjon starter der uansett. Det føltes som en god nok grunn til å bygge det.

---

Jobber du med et av disse verktøyene og synes jeg har mistolket benchmarken din? Si fra på LinkedIn.

Samet Durgun er medgründer av Subtext, en app som fanger opp den følelsesmessige tonen i meldingene dine og skriver dem om med dine egne ord. Han bor i Berlin.

---

Kilder

Hver lenke over går til primærkilden der en slik finnes, nummerert i den rekkefølgen de opptrer i teksten. To oppføringer er sitert uten lenke fordi jeg ikke fant en stabil URL til dem, og de to siste er videre lesning snarere enn påstander gjort over.

1. Google Cloud. Natural Language API basics: sentiment score and magnitude.
2. AWS. Amazon Comprehend: sentiment analysis.
3. Microsoft. Azure Language: sentiment analysis and opinion mining.
4. Chhaya et al. (2018). Frustrated, Polite, or Formal: Quantifying Feelings and Tone in Email. PEOPLES Workshop, NAACL 2018.
5. Demszky et al. (2020). GoEmotions: A Dataset of Fine-Grained Emotions. ACL 2020.
6. Wang et al. (2024). Large Language Models on Fine-grained Emotion Detection Dataset with Data Augmentation and Transfer Learning. arXiv.
7. Rethinking Emotion Annotations in the Era of Large Language Models (2025).
8. Buechel og Hahn (2017). EmoBank, et korpus merket fra både avsenders og lesers perspektiv, og “Readers vs. Writers vs. Texts,” Linguistic Annotation Workshop 2017.
9. Muhammad et al. (2025). SemEval-2025 Task 11: Bridging the Gap in Text-Based Emotion Detection. SemEval 2025.
10. Li et al. (2025). Can Third Parties Read Our Emotions? ACL 2025.
11. Abu-Salih et al. (2023). Emotion detection of social data: APIs comparative study. Heliyon.
12. Schlegel, Sommer og Mortillaro (2025). Large language models are proficient in solving and creating emotional intelligence tests. Communications Psychology.
13. Strachan et al. (2024). Testing theory of mind in large language models and humans. Nature Human Behaviour.
14. Ayers et al. (2023). Comparing Physician and Artificial Intelligence Chatbot Responses to Patient Questions Posted to a Public Social Media Forum. JAMA Internal Medicine.
15. Sabour et al. (2024). EmoBench: Evaluating the Emotional Intelligence of Large Language Models. ACL 2024.
16. Feng et al. (2024). Affect Recognition in Conversations Using Large Language Models. SIGDIAL 2024.
17. Hazarika et al. (2018). CASCADE: Contextual Sarcasm Detection in Online Discussion Forums. COLING 2018.
18. Srirag et al. (2025). BESSTIE: A Benchmark for Sentiment and Sarcasm Classification for Varieties of English. Findings of ACL 2025.
19. Sap et al. (2019). The Risk of Racial Bias in Hate Speech Detection. ACL 2019.
20. Barrett et al. (2019). Emotional Expressions Reconsidered: Challenges to Inferring Emotion From Human Facial Movements. Psychological Science in the Public Interest.
21. Rhue (2019). Racial Influence on Automated Perceptions of Emotions. SSRN-arbeidsnotat.
22. Microsoft (2022). Framework for building AI systems responsibly, som kunngjorde at følelsesgjenkjenning i Face API ble avviklet.
23. EPIC. In re HireVue, FTC complaint (2019).
24. EU AI Act, Article 5: Prohibited AI Practices, gjeldende fra 2. februar 2025.
25. Lewis Silkin (2025). Understanding the EU AI Act’s prohibited practices, on the Commission’s February 2025 guidelines.
26. Future of Privacy Forum (2026). Red Lines under the EU AI Act: the prohibition of emotion recognition in the workplace and education.
27. Grammarly. Produktsiden for tonedetektoren og hvordan tonedetektoren fungerer.
28. IBM. Watson Natural Language Understanding.
29. Hume AI.
30. Northeastern University (2021). You can’t determine emotion from someone’s facial movements, and neither can AI.
31. The Guardian (2024). Are you 80% angry and 2% sad? Why “emotional AI” is fraught with problems.