La IA puede adivinar cómo suena tu mensaje. No puede saber lo que sientes en realidad.

Soy una de las dos personas que construye Subtext, una app que ayuda a la gente a leer sus mensajes y decidir cómo responder. Así que tenía un motivo egoísta para meterme de lleno en la investigación sobre detección de tono con IA: los benchmarks, los papers de la ACL, las críticas desde la psicología y la ley europea que ahora prohíbe parte de este campo.

La versión corta cabe en dos frases. Hoy la IA es buena prediciendo cómo puede sonarle un mensaje a quien lo lee. No tiene ninguna forma fiable de saber qué siente quien lo escribe. Todo lo que viene a continuación es el detalle de la distancia entre esas dos frases.

La detección de tono es en realidad cinco trabajos distintos

La frase suena a una sola función. Por dentro cubre problemas distintos que se van complicando a medida que bajas en la lista.

El sentimiento es lo fácil: si un texto es positivo, negativo o neutro. Todos los grandes proveedores de nube lo venden. La API de Google¹ devuelve una puntuación de menos uno a más uno junto con una magnitud para la intensidad emocional, Amazon Comprehend² clasifica el texto en positivo, negativo, neutro o mixto, y el servicio de Azure de Microsoft³ añade minería de opinión a nivel de aspecto, así que una frase como “la app es genial pero el soporte fue horrible” se divide bien en vez de promediarse hasta quedar en papilla.

La detección de emociones es el siguiente escalón: rabia, alegría, miedo, tristeza y sus muchas primas. Más difícil, como muestran los números.

El tono interpersonal es lo que te importa cuando le escribes a tu casero. Si suena cálido, directo, defensivo, acusador. Los investigadores ya modelaban la frustración, la formalidad y la cortesía en el correo de trabajo ya en 2018⁴, y funcionaba razonablemente bien porque trataban esto como dimensiones separadas en vez de una sola etiqueta de emoción.

Después vienen el sarcasmo y el subtexto, que dependen más del contexto que de las palabras. Y al fondo del todo está el estado emocional privado de quien escribe, que es justo lo que más insinúa el marketing y lo que menos respalda la investigación.

Así que cuando una página de producto dice que detecta el tono, mi primera pregunta es a cuál de estas cinco se refiere.

Los números de precisión que nunca llegan a la landing page

El dataset de referencia para la emoción fina en texto es GoEmotions⁵, de Google: 58.000 comentarios de Reddit, etiquetados a mano con 27 emociones más neutro, presentado en la ACL en 2020. Su modelo base BERT sacó un F1 macro de 0,46 sobre el conjunto completo de etiquetas. Trabajo posterior⁶ con modelos más potentes y trucos de datos lo subió hasta más o menos 0,49 a 0,51. Años de progreso, y los mejores modelos especializados siguen fallando en una parte grande de las etiquetas finas.

Pídele a un chatbot general que haga la misma clasificación en 28 categorías y su puntuación en el benchmark cae muy por debajo de los modelos pequeños afinados para la tarea, en parte porque los modelos de texto libre inventan etiquetas fuera de la taxonomía y no se calibran a los umbrales del test. Suena condenatorio hasta que descubres que en un estudio de 2025⁷, los jueces humanos se pusieron de parte de las etiquetas de GPT-4 antes que de las oficiales del dataset, y con bastante frecuencia. A veces el modelo discrepa del benchmark porque el benchmark es la parte más floja.

La clasificación básica de positivo contra negativo puntúa mucho más alto en todos los casos. El desplome ocurre justo donde viven las distinciones interesantes: fastidio contra rabia, decepción contra desaprobación.

Los humanos también discrepan sobre el tono

La parte que me hizo replantear todo el tema es lo que pasa cuando revisas a los humanos. El paper de GoEmotions reporta el acuerdo entre sus propios etiquetadores humanos, y para la mayoría de las emociones la kappa de Cohen se mueve entre 0,1 y 0,5 más o menos. La gratitud es fácil, con 0,75. El duelo cae en 0,09, cerca de etiquetar al azar. Cuando humanos entrenados leyendo la misma frase no logran ponerse de acuerdo en si expresa decepción o desaprobación, un modelo que saca 0,46 contra esas etiquetas está empujando contra el techo de la tarea misma.

Y va más hondo. ¿De quién es el sentimiento que estamos midiendo, en realidad? Un dataset llamado EmoBank⁸ anotó las mismas frases dos veces, una desde la perspectiva de quien escribe y otra desde la de quien lee, porque resultan ser variables distintas. Los mismos investigadores descubrieron en 2017 que anotar desde la perspectiva de quien escribe daba mejor calidad en general. Y la gran tarea de emoción de SemEval 2025⁹, que cubrió más de 30 idiomas de siete familias lingüísticas, apunta a propósito a la emoción percibida: lo que un lector cualquiera le atribuiría al texto, explícitamente no lo que sentía por dentro quien lo escribió.

La prueba más afilada llegó en 2025. Un estudio de la ACL¹⁰ pidió a los autores que etiquetaran sus propias emociones, y luego dejó que humanos ajenos y LLM adivinaran. Ambos se quedaron cortos frente a lo que reportaban los propios autores, y los LLM le ganaron a los desconocidos humanos en casi todo. Las dos mitades de este hallazgo importan. La IA ahora es mejor que una persona cualquiera leyéndote solo a partir del texto, y aun así no puede reconstruir de forma fiable lo que sentiste.

Una consecuencia práctica: una comparación de 2023 en Heliyon¹¹ hizo correr ocho APIs comerciales de emoción sobre los mismos datasets y descubrió que discrepaban entre sí, con rankings que cambiaban de un dataset a otro. Cualquier proveedor que diga “detección de emociones con un 95 por ciento de precisión” sin nombrar las etiquetas, los datos y el idioma está citando un número que no puede sostener el peso de esa afirmación.

Los modelos aprueban los tests de emoción y aun así no dan con la persona

Dos resultados de investigación parecen contradictorios hasta que separas qué es lo que miden.

En un estudio de 2025 en Communications Psychology¹², seis modelos, entre ellos ChatGPT-4, Gemini 1.5 Flash, Claude 3.5 Haiku y DeepSeek V3, hicieron cinco tests estándar de inteligencia emocional, del tipo que se usa para evaluar a personas. Los modelos acertaron un 81 por ciento de media, frente al 56 por ciento de media humana que reportan los estudios de validación de esos tests. En Nature Human Behaviour¹³, GPT-4 igualó o superó a los humanos en tareas clásicas de teoría de la mente, como detectar creencias falsas y peticiones indirectas, aunque tropezó al reconocer meteduras de pata sociales. Y en JAMA Internal Medicine¹⁴, evaluadores con licencia médica leyeron respuestas a preguntas reales de pacientes y prefirieron las del chatbot sobre las de los médicos un 78,6 por ciento de las veces, calificándolas como 9,8 veces más probables de ser empáticas. Una salvedad que vale la pena guardar: las respuestas del chatbot tenían de media 211 palabras contra las 52 de los médicos, y la preferencia se reducía cuando los médicos escribían más largo.

Mientras tanto, EmoBench¹⁵, un benchmark construido para exigir razonamiento emocional en vez de reconocimiento de patrones, sigue encontrando una brecha clara entre los modelos y la persona media.

Los dos hallazgos pueden ser ciertos a la vez porque saber sobre las emociones y saber la emoción de alguien son habilidades distintas. Un modelo ha leído más sobre celos, duelo y disculpas incómodas de oficina que cualquier humano vivo. Lo que le falta es contexto sobre la persona concreta que escribió este mensaje en particular.

Cuatro personas pueden escribir las mismas palabras: “Felicidades. Me alegro por ti.” Una lo dice en serio. Otra te guarda rencor. Una tercera está destrozada y haciendo de tripas corazón. La cuarta está siendo sarcástica. Las cuatro versiones son idénticas en la pantalla, así que ningún modelo de texto puede separarlas, y tampoco podría un desconocido humano. Esa información vive fuera de las palabras.

El contexto hace casi todo el trabajo

Toma la respuesta “Vale.”

Sola, podría ser acuerdo, decepción, irritación, indiferencia o una puerta que se cierra en silencio. Ponla después de “Has movido el plazo por tercera vez” y la lectura se estrecha rápido. La palabra no cambió en nada. El contexto sí.

La investigación sobre sarcasmo llega una y otra vez a la misma conclusión: hasta los humanos suelen necesitar la conversación de alrededor para captar la intención sarcástica¹⁶¹⁷, y por eso las evaluaciones más recientes prueban a los modelos con diálogos enteros en vez de frases aisladas. La regla práctica para cualquier herramienta de tono se sigue directamente de ahí. Dale el hilo, la relación y lo que está en juego. Juzgar un solo mensaje aislado es pedirle al modelo que falle con educación.

El tono es cultural, y la mayoría de los modelos se criaron con inglés americano

Un benchmark de 2025 llamado BESSTIE¹⁸ probó a los modelos en sentimiento y sarcasmo en inglés australiano, británico e indio. El rendimiento fue peor de forma constante en el inglés indio, con el sarcasmo como el caso más difícil, y a los modelos les costó generalizar de una variedad a otra.

Ese resultado encaja con la experiencia del día a día. “Kindly do the needful” se lee de una forma en el inglés profesional indio y de otra muy distinta para un modelo calibrado con las normas de oficina americanas. Después de 13 años en Berlín puedo añadir la versión alemana: la franqueza que aquí cuenta como respeto por tu tiempo puede quedar marcada como fría por un software criado con la cortesía americana. Etiquetas como grosero, cálido o demasiado directo son juicios culturales disfrazados de objetivos. Una herramienta de tono que ignora quién le escribe a quién, y en qué cultura, va a malinterpretar a las dos partes con toda confianza.

Leer caras es donde la IA emocional perdió el rumbo

Todo lo anterior es sobre texto. La rama de esta industria que escanea caras tiene un historial más accidentado, y eso condiciona cómo los reguladores tratan ahora toda la categoría.

En 2019, la psicóloga Lisa Feldman Barrett y sus colegas revisaron más de mil estudios¹⁹ y concluyeron que no se puede inferir de forma fiable cómo se siente alguien a partir de sus movimientos faciales. La gente frunce el ceño mientras se concentra, sonríe mientras está ansiosa y llora en las bodas. Ese mismo año, un estudio pasó fotos de 400 jugadores de la NBA por dos sistemas comerciales y descubrió que los dos leían más emoción negativa en las caras de los jugadores negros²⁰ que en las de los jugadores blancos con expresiones parecidas.

La industria se dio cuenta. Microsoft retiró la inferencia de emociones de su Face API²¹ en 2022. HireVue eliminó el análisis facial de sus evaluaciones de contratación en 2021, después de que el grupo de derechos digitales EPIC presentara una queja ante la FTC²². Las herramientas de texto son otra tecnología, pero heredan este escepticismo, y se lo ganan cada vez que afirman leer estados internos en vez de la redacción.

La UE trazó una línea, y el texto queda fuera

Desde el 2 de febrero de 2025, el Artículo 5(1)(f)²³ de la ley de IA de la UE prohíbe la IA que infiere las emociones de las personas en el trabajo y en la escuela, con excepciones estrechas para usos médicos y de seguridad, como detectar la fatiga de quien conduce. Incumplir las prácticas prohibidas puede acarrear multas de hasta el 7 por ciento de la facturación anual global.

El alcance importa para cualquiera que construya o use estas herramientas. Las directrices de la Comisión Europea atan la prohibición a los datos biométricos²⁴: caras, voces, dinámica de tecleo, postura corporal. Un sistema que infiere emociones a partir de texto escrito queda explícitamente fuera de la prohibición²⁵. Analizar cómo puede sentar un correo es legal. Apuntar una webcam a los empleados para puntuar su estado de ánimo está prohibido. Esa línea sigue bastante bien a la ciencia, y para Subtext se traduce en una restricción de diseño que habríamos elegido de todas formas: solo texto, nada de biometría, nada de vigilancia laboral.

Para qué sirven de verdad las herramientas de hoy

El detector de tono²⁶ de Grammarly es el ejemplo de consumo más claro, y su forma de plantearlo es, sin hacer ruido, la más honesta del mercado. Analiza la elección de palabras, la redacción, la puntuación y el uso de mayúsculas²⁶ para decirte cómo es probable que suene tu mensaje para quien lo lea, entre más de 40 tonos. Probable que suene. Esa forma de decirlo está haciendo trabajo científico de verdad.

Las APIs en la nube de Google, Amazon, Microsoft e IBM²⁷ están hechas para volumen: tickets de soporte, reseñas, respuestas de encuestas. IBM retiró su Tone Analyzer independiente en 2023 y metió la emoción dentro de su producto de lenguaje más amplio. Son las herramientas correctas para “cómo se siente el cliente con nuestro proceso de pago” y las herramientas equivocadas para “¿suena pasivo-agresivo mi texto?”.

Los LLM generales son la opción más capaz para mensajes personales porque pueden usar el contexto, manejar varios tonos a la vez y explicar su lectura. También son los peor calibrados, así que trata cualquier porcentaje de confianza como una sensación, nada más. En el terreno de la voz, Hume AI²⁸ levantó una serie B de 50 millones de dólares en 2024 para medir la modulación vocal, sobre todo para que las interfaces de voz puedan responder con el ritmo y el tono adecuados. Un uso más estrecho, y más defendible que afirmar que detectas sentimientos ocultos.

Cómo esto moldea Subtext

Analiza los mensajes que más le importan a la gente: el mensaje de tu jefe, de tu cita, de tu madre. La investigación resuelve cómo debería funcionar eso.

El resultado tiene que hablar de percepción. “Esto puede sonar desdeñoso” es una afirmación que la evidencia respalda. “Está enfadada contigo” es una afirmación que no, y el estudio de primera mano de la ACL es el recibo. También dejamos que un mensaje lleve varios tonos a la vez, porque los mensajes de verdad lo hacen. Cálido y defensivo es una combinación normal, y por eso mismo los benchmarks más nuevos tratan la emoción como multietiqueta.

La evidencia gana al veredicto. Una herramienta útil señala las palabras que están creando una impresión, la forma en que “como ya te expliqué” hace en silencio todo el trabajo pesado en un correo tenso, para que puedas decidir si esa impresión es la que quieres dar. La incertidumbre también se queda a la vista. Cuando un mensaje es ambiguo, la ambigüedad suele ser el hallazgo más preciso, y redondearla en una etiqueta segura de sí misma sería precisión falsa. El contexto va primero: preferimos leer el hilo y preguntar quién es el destinatario antes que calificar una frase flotando en el vacío, porque las mismas nueve palabras significan cosas distintas para un jefe y para un lío.

La versión honesta de esta categoría es más pequeña que la de los pitch decks y más útil de lo que admiten los escépticos. Leer la mente sigue fuera de alcance. Leer la redacción está disponible hoy, y de ahí sale casi todo el daño en la comunicación escrita, de todas formas. Eso me pareció motivo suficiente para construir esto.

---

¿Trabajas en una de estas herramientas y crees que he malinterpretado tu benchmark? Dímelo en LinkedIn.

Samet Durgun es cofundador de Subtext, una app que capta el tono emocional de tus mensajes y los reescribe con tu voz. Vive en Berlín.

---

Fuentes

Todos los enlaces de arriba llevan a la fuente primaria cuando existe. Dos entradas se citan sin enlace porque no pude confirmar una URL estable para ellas, y las dos últimas son lectura adicional y no afirmaciones hechas más arriba.

1. Google Cloud. Natural Language API basics: sentiment score and magnitude.
2. AWS. Amazon Comprehend: sentiment analysis.
3. Microsoft. Azure Language: sentiment analysis and opinion mining.
4. Chhaya et al. (2018). Frustrated, Polite, or Formal: Quantifying Feelings and Tone in Email. PEOPLES Workshop, NAACL 2018.
5. Demszky et al. (2020). GoEmotions: A Dataset of Fine-Grained Emotions. ACL 2020.
6. Wang et al. (2024). Large Language Models on Fine-grained Emotion Detection Dataset with Data Augmentation and Transfer Learning. arXiv.
7. Rethinking Emotion Annotations in the Era of Large Language Models (2025).
8. Buechel y Hahn (2017). EmoBank, un corpus anotado tanto desde la perspectiva de quien escribe como de quien lee, y “Readers vs. Writers vs. Texts,” Linguistic Annotation Workshop 2017.
9. Muhammad et al. (2025). SemEval-2025 Task 11: Bridging the Gap in Text-Based Emotion Detection. SemEval 2025.
10. Li et al. (2025). Can Third Parties Read Our Emotions? ACL 2025.
11. Abu-Salih et al. (2023). Emotion detection of social data: APIs comparative study. Heliyon.
12. Schlegel, Sommer y Mortillaro (2025). Large language models are proficient in solving and creating emotional intelligence tests. Communications Psychology.
13. Strachan et al. (2024). Testing theory of mind in large language models and humans. Nature Human Behaviour.
14. Ayers et al. (2023). Comparing Physician and Artificial Intelligence Chatbot Responses to Patient Questions Posted to a Public Social Media Forum. JAMA Internal Medicine.
15. Sabour et al. (2024). EmoBench: Evaluating the Emotional Intelligence of Large Language Models. ACL 2024.
16. Feng et al. (2024). Affect Recognition in Conversations Using Large Language Models. SIGDIAL 2024.
17. Hazarika et al. (2018). CASCADE: Contextual Sarcasm Detection in Online Discussion Forums. COLING 2018.
18. Srirag et al. (2025). BESSTIE: A Benchmark for Sentiment and Sarcasm Classification for Varieties of English. Findings of ACL 2025.
19. Barrett et al. (2019). Emotional Expressions Reconsidered: Challenges to Inferring Emotion From Human Facial Movements. Psychological Science in the Public Interest.
20. Rhue (2019). Racial Influence on Automated Perceptions of Emotions. Documento de trabajo de SSRN.
21. Microsoft (2022). Framework for building AI systems responsibly, donde anuncia la retirada de la inferencia de emociones en la Face API.
22. EPIC. In re HireVue, FTC complaint (2019).
23. Ley de IA de la UE, Article 5: Prohibited AI Practices, aplicable desde el 2 de febrero de 2025.
24. Lewis Silkin (2025). Understanding the EU AI Act’s prohibited practices, on the Commission’s February 2025 guidelines.
25. Future of Privacy Forum (2026). Red Lines under the EU AI Act: the prohibition of emotion recognition in the workplace and education.
26. Grammarly. página de producto del detector de tono y cómo funciona el detector de tono.
27. IBM. Watson Natural Language Understanding.
28. Hume AI.
29. Northeastern University (2021). You can’t determine emotion from someone’s facial movements, and neither can AI.
30. The Guardian (2024). Are you 80% angry and 2% sad? Why “emotional AI” is fraught with problems.