El tema

Computación afectiva: reconocer, interpretar, responder

Rosalind Picard, MIT Media Lab, 1995.

• Rosalind Picard, MIT Media Lab, propuso el campo en Affective Computing (1995): «los computadores que interactúen de manera natural e inteligente con los humanos necesitan la capacidad de, al menos, reconocer y expresar afecto».
• Definición estándar: sistemas que detectan, interpretan, simulan y responden a señales emocionales humanas.
• Qué leen: el rostro (microexpresiones), la voz (tono, ritmo, pausas), el texto (sentimiento) y la fisiología (ritmo cardíaco, conductancia de la piel, respiración).
• La definición de Picard (grupo de Computación Afectiva del MIT Media Lab): computación que «se relaciona con, surge de o influye deliberadamente en» la emoción. Tres verbos: sentir, responder, influir.
• También se la llama «emotion AI» o inteligencia emocional artificial. Subconjunto de la IA que «mide, comprende, simula y reacciona a las emociones humanas» (MIT Sloan).

También llamada «emotion AI» o inteligencia emocional artificial.

Fuentes

Picard, cita y año 1995: SRI International, «Part one: What is emotional AI and how is it embracing computing?» (2020), que reproduce la conclusión del artículo de Picard; MIT Sloan, «Emotion AI, explained» (Somers, 2019): «The field dates back to at least 1995, when MIT Media lab professor Rosalind Picard published “Affective Computing”». La traducción de la cita es mía. Definición: MIT Sloan 2019 («measures, understands, simulates, and reacts to human emotions… also known as affective computing, or artificial emotional intelligence»); Tavus 2025, proveedor («detect, interpret, and respond to human emotions»); Facing Disruption 2025 («recognizing, interpreting, and responding appropriately to human emotions»); Princeton Review («detect and respond to human emotions… also known as Emotion AI or Affective Computing»). Señales: Facing Disruption 2025 (rostro, voz, PLN, fisiología: «heart rate variability, skin conductance… respiration patterns, and even pupil dilation»); Tavus 2025 (rostro, voz, señales fisiológicas). Tres bloques: SRI 2020, que cita un artículo de IEEE de 2018: «Emotion recognition», «Emotion generation», «Emotion augmentation». Definición de Picard: Sigma Xi, perfil de Rosalind W. Picard, que la cita textualmente del sitio del Affective Computing Research Group del MIT Media Lab: «computing that relates to, arises from, or deliberately influences emotion or other affective phenomena»; el sitio del grupo no respondió esta noche, de modo que la cita se toma de Sigma Xi. La lectura de los tres verbos como sentir, responder, influir, y su reparto en medición, diseño y ética, es el marco de Carlos para la sala, no una cita.

Ver la diapositiva

La IA emocional no siente. La emoción está en usted.

Computación afectiva: sistemas que leen, simulan o responden a estados emocionales.

• Lee: voz, texto, rostro, ritmo, contexto.
• Simula: tono, empatía expresada, personalidad.
• Responde: adapta lo que dice, cuándo y cómo.

El sistema no tiene sentimientos. La emoción que ocurre es la de la persona. Y eso no la hace menos real: la hace más importante.

Lo digo con toda claridad: el sistema no siente. No hay nadie detrás que sufra o se alegre. Pero, y aquí vuelve la primera diapositiva, la emoción que sí ocurre es la de la persona que interactúa con él, y esa es completamente real, porque ocurre en su cerebro, igual que la fe o el honor. Que la máquina no sienta no vuelve falsa la experiencia; la vuelve una responsabilidad de diseño. Toda la ética de esta tecnología se deduce de esa frase.

Ver la diapositiva

• Sentir: detecta o infiere la emoción en el texto, la voz, el rostro o el cuerpo. Un problema de medición.
• Responder: adapta palabras, tono y momento a cómo parece sentirse uno. Un problema de diseño.
• Influir: está diseñada para cambiar cómo se siente uno. Un problema de ética, y donde viven los modelos de negocio.

Toda métrica de engagement es, en el fondo, una métrica emocional.

Fuentes

Los tres verbos vienen de la definición de Picard que cita Sigma Xi («computing that relates to, arises from, or deliberately influences emotion»), en Referencias. Su lectura como medición, diseño y ética es el marco de Carlos, no una cita. Adaptado de la diapositiva 6 del deck en inglés preparado con Claude en la web.

Ver la diapositiva

La vista de ingeniería, en los tres verbos

• Reconocimiento de emociones (voz, texto, rostro, postura, movimiento, actividad cerebral) → sentir.
• Generación de emociones (expresión emocional, sobre todo con reglas predefinidas) → responder.
• Aumento emocional (capacidad emocional añadida a sistemas que interactúan con personas) → responder, influir.

Los mismos tres verbos, vistos desde la ingeniería: describe capacidades, sentir y responder; influir pregunta para qué. Fuente: SRI International (2020), citando un artículo de IEEE de 2018.

Fuentes

SRI International, «Part one: What is emotional AI and how is it embracing computing?», 2020 (en Referencias), que cita el artículo de IEEE de 2018. Adaptado de la diapositiva 21 del deck en inglés preparado con Claude en la web.

Ver la diapositiva

• Publicidad: medir la reacción del rostro de quien ve un anuncio. Sentir.
• Automóvil: somnolencia, distracción y monitoreo de toda la cabina. Sentir.
• Servicio al cliente: detectar la frustración en la voz y ajustar la conversación. Sentir y responder.
• Centros de llamadas: Cogito lee el ánimo de quien llama para que el agente humano se ajuste en plena llamada. Siente la máquina; responde la persona.
• Salud mental: aplicaciones que escuchan la voz buscando señales de ansiedad. Sentir y responder.
• Recursos humanos y contratación: entrevistas de reclutamiento, evaluación del desempeño en tareas y en interacciones. Sentir.
• Educación: ajustar el ritmo cuando quien aprende muestra confusión. Sentir y responder.
• Compañía: relaciones emocionales continuas con una IA, la primera categoría con leyes propias. Responder e influir.

Fuentes

MIT Sloan, «Emotion AI, explained» (Somers, 2019): automóvil, centros de llamadas (Cogito), salud mental (CompanionMx, BioEssence), publicidad (Affectiva, que en 2019 hacía investigación publicitaria para la cuarta parte de las Fortune 500, según MIT Sloan). Educación: Tavus 2025 (proveedor) y Facing Disruption 2025, que la cuentan entre las aplicaciones. Smart Eye, «Automotive Interior Sensing» (proveedor): monitoreo de la cabina. Compañía: California SB 243 (Skadden y Future of Privacy Forum, octubre de 2025). Todas en Referencias. Adaptado de la diapositiva 7 del deck en inglés preparado con Claude en la web; se omitieron la cifra de la compra de Affectiva por Smart Eye (sin verificar aquí) y el ejemplo de Hume AI (su fuente no está en Referencias).

Ver la diapositiva

En lo que la gente cuenta, el uso número uno de 2025 fue terapia y compañía

• 1. Terapia y compañía.
• 2. Organizar la propia vida.
• 3. Encontrar un propósito.

Fuente: Marc Zao-Sanders, Top-100 Gen AI Use Case Report (2025), difundido por Harvard Business Review. Es una curaduría experta de conversaciones públicas, sobre todo en Reddit, ordenada por utilidad e impacto; no mide el uso real.

Fuentes

Marc Zao-Sanders, The 2025 Top-100 Gen AI Use Case Report (Filtered, 2025; PDF en learn.filtered.com), y el artículo de Harvard Business Review que lo difundió, «How People Are Really Using Gen AI in 2025» (abril de 2025). Método, según el propio informe: curaduría experta de discusiones públicas, sobre todo en foros de Reddit, ordenadas por utilidad e impacto; no es una encuesta ni una medición del uso. Si alguien lo cuestiona, decirlo así. No se leyó el artículo de HBR completo; la fecha exacta de publicación varía entre fuentes secundarias. Adaptado de la diapositiva 2 del deck en inglés preparado con Claude en la web.

Ver la diapositiva

La emoción es donde está el valor. Y donde está el riesgo.

Pero en los datos de uso de OpenAI y el MIT Media Lab, el uso emocional es raro y se concentra en pocos usuarios intensivos; y en un ensayo de cuatro semanas con cerca de mil personas, el uso diario prolongado se asoció a más soledad y más dependencia.

Fuente: MIT Media Lab y OpenAI (2025); sin revisión por pares, solo ChatGPT, solo en inglés y con participantes de EE. UU.

Fuentes

MIT Media Lab y OpenAI, «Early methods for studying affective use and emotional wellbeing in ChatGPT» (2025), en Referencias; limitaciones declaradas por los autores: sin revisión por pares, solo ChatGPT, solo conversaciones en inglés con participantes de EE. UU. Adaptado de las diapositivas 3 y 4 del deck en inglés preparado con Claude en la web.

Ver la diapositiva

• Cautela científica: Barrett y otros (2019) revisaron la evidencia: cómo se expresa una emoción en el rostro varía entre culturas, situaciones y personas, y un mismo gesto a menudo comunica algo que no es una emoción.
• Cautela legal: el Reglamento (UE) 2024/1689, artículo 5.1.f, prohíbe los sistemas de IA que infieren emociones de las personas en el lugar de trabajo y en los centros educativos, salvo por razones médicas o de seguridad; vigente desde el 2 de febrero de 2025. California, SB 243 (13 de octubre de 2025): los chatbots de compañía deben declarar que no son humanos, tener protocolos ante ideas suicidas y proteger a los menores.
• Regla práctica que saco de las dos leyes: cuidado con apuntar la IA emocional a quien no puede decir no; y nunca dejarla fingir lo que no es. Lo que yo añado viene ahora: la emoción que importa no está en la máquina.

Cuidado con apuntarla a quien no puede decir no. Y nunca dejarla fingir lo que no es.

Ver la diapositiva

• Validados, motivados, inspirados: bajamos las barreras del sentido común, confiamos, y hasta perdonamos fallas y errores.
• Un argumento que otros verían absurdo, una imagen o un video que otros verían falsos: dentro de una cámara de resonancia, o bajo el halo de quien nos inspira o nos guía, se aceptan como válidos.
• La emoción puede hacer que a una persona se la lleve o se la influya.

La psicología le puso nombre hace más de un siglo: el efecto halo (Thorndike, 1920). Por eso influir es el verbo que exige más cuidado.

Y aquí está el riesgo que más me importa, porque no está en la máquina: está en nosotros. Cuando una persona se siente segura, validada, motivada, inspirada, baja las barreras del sentido común. Confía. Y hasta perdona fallas y errores. Un argumento que cualquiera vería absurdo, una imagen o un video que cualquiera reconocería como falsos, dentro de una cámara de resonancia, o bajo el halo de quien nos inspira o nos guía, se aceptan como válidos. La emoción abre la puerta: puede hacer que a una persona se la lleve, o se la influya. Una IA que sabe hacernos sentir bien sabe también dónde está esa puerta. La psicología lo nombró hace más de un siglo: el efecto halo. Por eso, de los tres verbos, influir es el que exige más cuidado, y por eso las condiciones que vienen.

Fuentes

El argumento es de Carlos. Efecto halo: Edward L. Thorndike, «A constant error in psychological ratings», Journal of Applied Psychology 4(1), 1920, 25–29 (registro Crossref cotejado el 20 de octubre de 2026; no se leyó el texto): la impresión general de una persona tiñe el juicio sobre sus rasgos particulares.

Ver la diapositiva

El vocabulario del riesgo

• Pseudointimidad: reciprocidad sentida, sin una preocupación empática real del otro lado.
• Solipsismo emocional: un circuito cerrado de afirmación; la IA nunca cuestiona ni pone límites.
• Afecto algorítmico: mostrar empatía sin tenerla.
• Agencia emocional, la meta: que las personas conserven la propiedad de su vida emocional mientras usan la IA.

Fuente: Babu y otros, Frontiers in Psychology, 2025. Definiciones parafraseadas; artículo de perspectiva, sin datos originales.

Fuentes

Babu y otros, Frontiers in Psychology, 2025 (en Referencias); definiciones parafraseadas, artículo de perspectiva sin datos originales. Adaptado de la diapositiva 20 del deck en inglés preparado con Claude en la web.

Ver la diapositiva

• Consentimiento. La persona sabe que su emoción está siendo leída, y lo acepta antes, no después.
• Transparencia. Siempre se sabe que es una máquina, y qué lee de usted.
• Ninguna manipulación. Leer la emoción para servir a la persona, nunca para explotarla, retenerla o venderle en su momento de debilidad.
• Los datos se quedan con la persona. Su estado emocional es suyo. Se borra cuando usted lo diga.

Si la emoción es real, y lo es, los datos sobre ella son los más íntimos que existen.

En CEMI aplicamos estas condiciones a nuestras propias inteligencias conversacionales: cada una se presenta como lo que es, un personaje de IA con una perspectiva declarada, nunca como una persona real. Esa es la primera condición cumplida en casa antes de pedirla fuera.

Ver la diapositiva

Siete salvaguardas, en clave de NUNCA AYUDAR

• Aviso persistente: recordar que es una IA, no un solo aviso al registrarse. Involucrar.
• Control de los registros emocionales: permitir que el usuario vea, exporte y borre lo que se infirió de él. Involucrar, Empoderar.
• Fricción y salidas: invitar a pausar, a reflexionar o a buscar a alguien. Habilitar, Conectar.
• Triaje de riesgo y derivación a personas: de una invitación a un límite de sesión y a una persona, para quien está en situación vulnerable. Conectar.
• Minimización de datos: solo los datos emocionales que el propósito exige. Empoderar.
• Evaluación por resultados: bienestar y contacto social fuera de la plataforma, no engagement. Inspirar, Conectar.
• Auditorías independientes de lo que se promete y de los daños. Rendición de cuentas.
• Las siete salvaguardas son de Babu y otros (2025). Su correspondencia con las etapas de NUNCA AYUDAR es el marco de Carlos, no de la fuente.

Fuente: Babu y otros, Frontiers in Psychology, 2025 (artículo de perspectiva). El aviso y la derivación en crisis ya son ley para los chatbots de compañía en California (SB 243).

Fuentes

Babu, Joseph, Mohan Kumar, Alexander, Sasi y Joseph, «Emotional AI and the rise of pseudo-intimacy», Frontiers in Psychology, 2025, artículo de perspectiva (en Referencias). SB 243: Skadden y Future of Privacy Forum, octubre de 2025 (en Referencias). Adaptado de la diapositiva 18 del deck en inglés preparado con Claude en la web.

Ver la diapositiva

Agencia sobre asistencia. «Ayudar» supone que alguien sabe más y entrega soluciones: ahí empieza la dependencia.

• Involucrar: ¿hace partícipe a la persona de entender su situación, o la diagnostica en silencio?
• Habilitar: ¿construye capacidad emocional, o entrega consuelo a demanda?
• Inspirar: ¿amplía lo que la persona cree posible, o la mantiene donde sigue suscrita?
• Empoderar: ¿la propiedad pasa al usuario? ¿Lo necesitaría menos en seis meses?
• Conectar: ¿la devuelve a otras personas, o se vuelve la única que «la entiende»?
• Si la métrica es tiempo en la aplicación, la IA emocional se vuelve el mejor amigo de alguien. Si la métrica son resultados humanos, se vuelve un puente. No es una decisión técnica: es una decisión de directorio.

¿Tiempo en la aplicación o resultados humanos? Es una decisión de directorio.

Mi credo personal, que CEMI heredó como su Arco de Impacto, dice «NUNCA AYUDAR: Involucrar, Habilitar, Inspirar, Empoderar y Conectar». Suena duro, y es deliberado: la palabra «ayudar» supone asimetría, alguien que sabe más entregando soluciones a alguien que no. Ese es el punto de partida de la dependencia, no del desarrollo. Las cinco etapas construyen agencia: involucrar a la persona en entender su situación; habilitarla con conocimiento y herramientas, nunca con soluciones terminadas; inspirarla mostrando lo posible; empoderarla para que construya su propio camino; conectarla con otros para que su crecimiento no dependa de un solo punto de falla.

Es una filosofía y una posición de diseño, no un marco validado por investigación; lo digo con honestidad. Pero da el criterio para toda IA emocional en aprendizaje y en impacto social: ¿aumenta la agencia de la persona o la vuelve dependiente del sistema?

Ver la diapositiva

¿Cuántos de ustedes han visto a Dios? ¿Lo han tocado?

Y sin embargo es real para millones de personas.

• Quien siente la presencia de la Virgen.
• Quien siente el deber con su país.
• Quien se siente atado por su honor.

Nada de eso se toca. Todo eso es real. Lo real, para los humanos, nunca se limitó a lo que tocamos.

Ver la diapositiva

¿Por qué lloramos en el cine?

• Una película nos hace llorar por alguien que nunca existió.
• Un libro nos tiene despiertos hasta la madrugada en un mundo hecho de tinta.
• Un videojuego nos acelera el corazón en un mundo hecho de píxeles y pitidos.

Sabemos que no es «real». Y la emoción lo es.

Fuentes

Paradoja de la ficción: Radford y Weston, «How Can We Be Moved by the Fate of Anna Karenina?», Aristotelian Society Supplementary Volume 49(1), 1975, 67–94. Transporte narrativo: Green y Brock, «The role of transportation in the persuasiveness of public narratives», Journal of Personality and Social Psychology 79(5), 2000, 701–721. Videojuegos: Ravaja, Saari, Salminen y Laarni, «Phasic Emotional Reactions to Video Game Events: A Psychophysiological Investigation», Media Psychology 8(4), 2006, 343–367. Datos bibliográficos cotejados en Crossref el 20 de octubre de 2026; no se leyó el texto completo de ninguno, de modo que la diapositiva no da cifras. Las preguntas del cine, el libro y el videojuego son de Carlos.

Ver la diapositiva

Lo digital es tan real como lo real

El estímulo sensorial se procesa en el cerebro. La emoción ocurre en el cerebro.

• Lo virtual es un plano donde amamos, odiamos, nos unimos, nos separamos.
• Donde ampliamos nuestra existencia y nuestras interacciones sin el límite de nuestro cuerpo físico.

En 1996 fundé CIVILA, Ciudades Virtuales Latinas, una de las primeras redes sociales de América Latina. Treinta años después sostengo lo mismo: lo que allí pasaba entre personas era real.

Evidencia de campo: en 1996 fundé CIVILA, Ciudades Virtuales Latinas, años antes de que existieran Friendster, MySpace o Facebook. Vi comunidades enteras formarse, pelear, reconciliarse y sostenerse entre personas que nunca se tocaron. Nadie que haya vivido eso llama «irreal» a lo digital.

Ver la diapositiva

Aumentar el trabajo emocional. No reemplazarlo.

• Que la IA se lleve lo mecánico: documentación, triaje, formularios, resúmenes después de cada llamada.
• Que quede lo irreductiblemente humano: la mano de la enfermera en el hombro, quien facilita el aprendizaje y nota a quien está callado, el gerente que oye la duda en la voz de un cliente.
• Lo que una persona percibe: que hay más de lo que se dice. Y pregunta, o lo busca: el matiz que no quedó registrado, la suma de todo.

Hacer lo mismo más rápido es una ventaja lineal. Usar la capacidad liberada para hacer mejor la parte humana es el salto.

Fuentes

Marco de Carlos («aumentación, no reemplazo»; ventaja lineal frente a salto), no una cita. Adaptado de la diapositiva 14 del deck en inglés preparado con Claude en la web; se omitió la atribución a Rana el Kaliouby que trae ese deck, porque no se verificó en las fuentes de esta página.

Ver la diapositiva

La emoción está en la persona. Diseñemos para la persona.

• ¿Para qué optimiza nuestra IA emocional: engagement o resultados humanos?
• ¿De quién son las emociones con las que se entrenó, y son las de nuestros clientes?
• ¿Hace que la gente nos necesite más, o que se necesite más entre sí?

Lo que nos hace diferentes, nos hace mejores. · Carlos Miranda Levy · cemi.ai/emotional

Mi tesis, para que se la lleven: la IA emocional no siente; la emoción está en la persona, y es real. Diseñemos entonces para la persona: con su consentimiento, con transparencia, sin manipulación, con sus datos en sus manos, y para aumentar su agencia, nunca para reemplazarla. Lo que nos hace diferentes, nos hace mejores. Gracias.

Ver la diapositiva