Notas por diapositiva (con fuentes y marcas [REVISAR])

1. 1 0:00 – 0:30 Ir a la diapositiva

   IA emocional: la emoción está en la persona

   Gracias a la moderación y al equipo organizador. Soy el quinto, así que ustedes ya llevan ochenta minutos de tendencias: buscadores, deepfakes, ciberseguridad preventiva, IA soberana. Yo vengo a hablar de la que menos se parece a una máquina: la IA emocional. Y quiero empezar por el lado contrario al que esperan.

   Tiempo: 12 minutos de exposición; después la semblanza y las preguntas. La página que ven es cemi.ai/emotional; queda disponible después de la sesión con mis notas.

2. 2 0:30 – 1:45 Ir a la diapositiva

   ¿Cuántos de ustedes han visto a Dios? ¿Lo han tocado?

   Hago la pregunta en serio y con respeto: ¿cuántos han visto a Dios? ¿Cuántos lo han tocado? Nadie levanta la mano, y sin embargo para muchos de nosotros es lo más real que existe. Hay personas que sienten la presencia de la Virgen; hay personas que sienten un deber con su patria por el que darían la vida; hay personas que no pueden faltar a su palabra porque las ata el honor.

   No estoy relativizando la fe; estoy señalando lo contrario: que las experiencias más reales de la vida humana nunca han sido físicas. El amor, el deber, la fe, el honor, la pertenencia: ninguna se toca, todas se viven, y todas ocurren en el mismo lugar, el cerebro de la persona. La humanidad siempre ha aspirado a trascender lo físico; hemos construido arquitecturas enteras de sentido en torno a lo que no se toca. Guarden ese dato: lo vamos a necesitar en treinta segundos.

3. 3 1:45 – 2:30 Ir a la diapositiva

   ¿Por qué lloramos en el cine?

   Y no hace falta ir tan lejos como la fe. ¿Por qué lloramos en el cine por alguien que nunca existió? ¿Por qué un libro nos tiene despiertos hasta la madrugada en un mundo hecho de tinta? ¿Por qué a un jugador se le acelera el corazón en un mundo hecho de píxeles y pitidos? Sabemos que no es «real», y aun así la emoción lo es: las lágrimas son de verdad, el desvelo es de verdad, el pulso es de verdad.

   No es una rareza de unos pocos: es tan antiguo como contar historias, y está estudiado. La filosofía lo llamó en 1975 la paradoja de la ficción: ¿cómo puede conmovernos el destino de Ana Karenina si sabemos que nunca existió? La psicología lo llama transporte narrativo: quien se deja llevar por una historia sale de ella con creencias más parecidas a las de la historia. Y la psicofisiología lo mide en jugadores: los eventos del juego producen reacciones emocionales que se registran en el cuerpo. La máquina, la pantalla o el papel ponen el estímulo; la emoción la pone la persona.

   Fuentes de esta diapositiva. Paradoja de la ficción: Radford y Weston, «How Can We Be Moved by the Fate of Anna Karenina?», Aristotelian Society Supplementary Volume 49(1), 1975, 67–94. Transporte narrativo: Green y Brock, «The role of transportation in the persuasiveness of public narratives», Journal of Personality and Social Psychology 79(5), 2000, 701–721. Videojuegos: Ravaja, Saari, Salminen y Laarni, «Phasic Emotional Reactions to Video Game Events: A Psychophysiological Investigation», Media Psychology 8(4), 2006, 343–367. Datos bibliográficos cotejados en Crossref el 20 de octubre de 2026; no se leyó el texto completo de ninguno, de modo que la diapositiva no da cifras. Las preguntas del cine, el libro y el videojuego son de Carlos.

4. 4 2:30 – 4:00 Ir a la diapositiva

   Lo digital es tan real como lo real

   Mi tesis cabe en una frase: para mí lo digital es tan real como lo real. ¿Por qué? Porque el estímulo sensorial, venga de una pantalla, de una voz o de una mano, se procesa en el cerebro, y la emoción ocurre en el cerebro. No hay una emoción «de verdad» y otra «digital»: hay una sola emoción, y la tiene una persona.

   Lo virtual, entonces, no es un sustituto empobrecido de la vida: es un plano más de la vida, un plano donde amamos, odiamos, nos juntamos, nos separamos, y donde ampliamos nuestra existencia y nuestras interacciones sin estar limitados por nuestro cuerpo físico. Lo que los místicos imaginaron y los teólogos describieron, presencia a distancia, conexión más allá del cuerpo, los ingenieros lo construyeron.

   Evidencia de campo: en 1996 fundé CIVILA, Ciudades Virtuales Latinas, años antes de que existieran Friendster, MySpace o Facebook. Vi comunidades enteras formarse, pelear, reconciliarse y sostenerse entre personas que nunca se tocaron. Nadie que haya vivido eso llama «irreal» a lo digital.

5. 5 4:00 – 4:45 Ir a la diapositiva

   En lo que la gente cuenta, el uso número uno de 2025 fue terapia y compañía

   Una pregunta para los ejecutivos en la sala: ¿cuál creen que es el uso número uno de la IA generativa? ¿Programar? ¿Escribir textos de marketing? ¿Resumir la reunión a la que nadie quería ir? Según el informe de Marc Zao-Sanders de 2025, difundido por Harvard Business Review, el primero es terapia y compañía; después vienen organizar la propia vida y encontrar un propósito. No productividad: emociones.

   Fuentes de esta diapositiva. Marc Zao-Sanders, The 2025 Top-100 Gen AI Use Case Report (Filtered, 2025; PDF en learn.filtered.com), y el artículo de Harvard Business Review que lo difundió, «How People Are Really Using Gen AI in 2025» (abril de 2025). Método, según el propio informe: curaduría experta de discusiones públicas, sobre todo en foros de Reddit, ordenadas por utilidad e impacto; no es una encuesta ni una medición del uso. Si alguien lo cuestiona, decirlo así. No se leyó el artículo de HBR completo; la fecha exacta de publicación varía entre fuentes secundarias. Adaptado de la diapositiva 2 del deck en inglés preparado con Claude en la web.

6. 6 4:45 – 5:30 Ir a la diapositiva

   La emoción es donde está el valor. Y donde está el riesgo.

   Y ahora el giro, que no contradice lo anterior: lo completa. Lo que la gente cuenta y lo que la gente hace no son lo mismo. Cuando OpenAI y el MIT Media Lab miraron los datos reales de uso, encontraron que el uso emocional es raro y se concentra en un grupo pequeño de usuarios intensivos. Y en su ensayo controlado de cuatro semanas con cerca de mil personas, el uso diario prolongado se asoció a más soledad, más dependencia y menos socialización. Es decir: el uso emocional es lo que más se valora y de lo que más se habla, aunque sea una parte pequeña de lo que se hace; y donde se intensifica, aparece el riesgo. Dos verdades a la vez: la emoción es donde está buena parte del valor percibido, y donde está buena parte del riesgo.

   Fuentes de esta diapositiva. MIT Media Lab y OpenAI, «Early methods for studying affective use and emotional wellbeing in ChatGPT» (2025), en Referencias; limitaciones declaradas por los autores: sin revisión por pares, solo ChatGPT, solo conversaciones en inglés con participantes de EE. UU. Adaptado de las diapositivas 3 y 4 del deck en inglés preparado con Claude en la web.

7. 7 5:30 – 6:30 Ir a la diapositiva

   Cuando nos sentimos seguros, bajamos la guardia

   Y aquí está el riesgo que más me importa, porque no está en la máquina: está en nosotros. Cuando una persona se siente segura, validada, motivada, inspirada, baja las barreras del sentido común. Confía. Y hasta perdona fallas y errores. Un argumento que cualquiera vería absurdo, una imagen o un video que cualquiera reconocería como falsos, dentro de una cámara de resonancia, o bajo el halo de quien nos inspira o nos guía, se aceptan como válidos. La emoción abre la puerta: puede hacer que a una persona se la lleve, o se la influya. Una IA que sabe hacernos sentir bien sabe también dónde está esa puerta. La psicología lo nombró hace más de un siglo: el efecto halo. Por eso, de los tres verbos, influir es el que exige más cuidado, y por eso las condiciones que vienen.

   Fuentes de esta diapositiva. El argumento es de Carlos. Efecto halo: Edward L. Thorndike, «A constant error in psychological ratings», Journal of Applied Psychology 4(1), 1920, 25–29 (registro Crossref cotejado el 20 de octubre de 2026; no se leyó el texto): la impresión general de una persona tiñe el juicio sobre sus rasgos particulares.

8. 8 6:30 – 7:15 Ir a la diapositiva

   El vocabulario del riesgo

   ¿No es todo esto intimidad falsa? Puede serlo, y pseudointimidad es un término útil: una conexión sentida sin una preocupación real del otro lado. Mi respuesta no es prohibir el sentimiento, sino ser honestos sobre el otro lado y diseñar para la agencia emocional, para que las personas conserven la propiedad de su vida emocional. El solipsismo emocional es, en la práctica, el nombre académico de «ayudar» sin pedir nunca nada a cambio. La prueba vuelve a ser Conectar: ¿lleva de vuelta a las personas?

   Fuentes de esta diapositiva. Babu y otros, Frontiers in Psychology, 2025 (en Referencias); definiciones parafraseadas, artículo de perspectiva sin datos originales. Adaptado de la diapositiva 20 del deck en inglés preparado con Claude en la web.

9. 9 7:15 – 9:00 Ir a la diapositiva

   Computación afectiva: reconocer, interpretar, responder

   Antes de mi tesis, lo formal, porque una provocación sin fundamento no es mi estilo. El campo tiene nombre y fecha: computación afectiva, propuesto por Rosalind Picard en el MIT Media Lab en 1995, en un artículo técnico titulado «Affective Computing», cuya conclusión cito: los computadores que quieran interactuar de manera natural e inteligente con las personas necesitan, como mínimo, reconocer y expresar afecto. Picard sostenía además que la emoción es necesaria no solo para la creatividad, sino para el pensamiento racional y la toma de decisiones.

   La definición que comparten las fuentes, académicas y de industria: sistemas que detectan, interpretan, simulan y responden a señales emocionales. ¿Qué señales? El rostro, con sus microexpresiones; la voz, no lo que se dice sino cómo: tono, ritmo, volumen, pausas; el texto, con el análisis de sentimiento; y la fisiología: ritmo cardíaco, conductancia de la piel, respiración, dilatación de la pupila. Y la definición del propio grupo de Picard, que me gusta porque trae tres verbos: computación que se relaciona con la emoción, que surge de ella o que la influye deliberadamente. Sentir es un problema de medición: ¿la inferencia es válida, para quién, en qué contexto? Responder es un problema de diseño: ¿la adaptación sirve al usuario o al operador? Influir es un problema de ética y de gobierno, y es donde viven los modelos de negocio, porque toda métrica de engagement es, en el fondo, una métrica emocional. Pregunta para cualquier proveedor: ¿cuál de los tres verbos me está vendiendo? (La ingeniería distingue tres bloques parecidos: reconocer la emoción, generarla y aumentar con emoción a un agente que ya conversa; IEEE 2018, vía SRI.)

   Fuentes de esta diapositiva. Picard, cita y año 1995: SRI International, «Part one: What is emotional AI and how is it embracing computing?» (2020), que reproduce la conclusión del artículo de Picard; MIT Sloan, «Emotion AI, explained» (Somers, 2019): «The field dates back to at least 1995, when MIT Media lab professor Rosalind Picard published “Affective Computing”». La traducción de la cita es mía. Definición: MIT Sloan 2019 («measures, understands, simulates, and reacts to human emotions… also known as affective computing, or artificial emotional intelligence»); Tavus 2025, proveedor («detect, interpret, and respond to human emotions»); Facing Disruption 2025 («recognizing, interpreting, and responding appropriately to human emotions»); Princeton Review («detect and respond to human emotions… also known as Emotion AI or Affective Computing»). Señales: Facing Disruption 2025 (rostro, voz, PLN, fisiología: «heart rate variability, skin conductance… respiration patterns, and even pupil dilation»); Tavus 2025 (rostro, voz, señales fisiológicas). Tres bloques: SRI 2020, que cita un artículo de IEEE de 2018: «Emotion recognition», «Emotion generation», «Emotion augmentation». Definición de Picard: Sigma Xi, perfil de Rosalind W. Picard, que la cita textualmente del sitio del Affective Computing Research Group del MIT Media Lab: «computing that relates to, arises from, or deliberately influences emotion or other affective phenomena»; el sitio del grupo no respondió esta noche, de modo que la cita se toma de Sigma Xi. La lectura de los tres verbos como sentir, responder, influir, y su reparto en medición, diseño y ética, es el marco de Carlos para la sala, no una cita.

   [REVISAR] El libro de Picard, Affective Computing, MIT Press, 1997, no fue leído ni aparece en las fuentes consultadas; por eso la diapositiva da 1995, la fecha del artículo técnico que sí citan dos fuentes. Si se menciona el libro de 1997 en voz, decirlo como dato de memoria.

10. 10 9:00 – 9:45 Ir a la diapositiva

    Tres verbos, tres niveles de responsabilidad

    Sentir: sistemas que detectan o infieren la emoción en el texto, la voz, el rostro o el cuerpo. Responder: sistemas que adaptan sus palabras, su tono y su momento a cómo parece sentirse uno. Influir: sistemas diseñados para cambiar cómo se siente uno. Sentir es un problema de medición. Responder, de diseño. Influir, de ética. Y para el negocio, influir es también donde está el dinero, porque toda métrica de engagement que hemos optimizado es, en el fondo, una métrica emocional.

    Fuentes de esta diapositiva. Los tres verbos vienen de la definición de Picard que cita Sigma Xi («computing that relates to, arises from, or deliberately influences emotion»), en Referencias. Su lectura como medición, diseño y ética es el marco de Carlos, no una cita. Adaptado de la diapositiva 6 del deck en inglés preparado con Claude en la web.

11. 11 9:45 – 10:30 Ir a la diapositiva

    La vista de ingeniería, en los tres verbos

    La ingeniería lo dice con otras palabras. SRI, citando un artículo de IEEE de 2018, describe tres bloques: reconocimiento de emociones, generación de emociones y aumento emocional. Encajan con sentir y responder. Lo que la vista de ingeniería deja fuera es el tercer verbo, influir: para qué es la capacidad y a quién sirve.

    Fuentes de esta diapositiva. SRI International, «Part one: What is emotional AI and how is it embracing computing?», 2020 (en Referencias), que cita el artículo de IEEE de 2018. Adaptado de la diapositiva 21 del deck en inglés preparado con Claude en la web.

12. 12 10:30 – 11:30 Ir a la diapositiva

    La IA emocional no siente. La emoción está en usted.

    Definamos sin misterio. IA emocional, o computación afectiva, son sistemas que hacen tres cosas: leen estados emocionales (en la voz, en el texto, en el rostro, en el ritmo de una conversación), simulan emoción (un tono, una empatía expresada, una personalidad) y responden a ella, adaptando qué dicen, cuándo y cómo.

    Lo digo con toda claridad: el sistema no siente. No hay nadie detrás que sufra o se alegre. Pero, y aquí vuelve la primera diapositiva, la emoción que sí ocurre es la de la persona que interactúa con él, y esa es completamente real, porque ocurre en su cerebro, igual que la fe o el honor. Que la máquina no sienta no vuelve falsa la experiencia; la vuelve una responsabilidad de diseño. Toda la ética de esta tecnología se deduce de esa frase.

13. 13 11:30 – 12:15 Ir a la diapositiva

    Dónde ya está el negocio

    El mapa, rápido. En publicidad: medir la reacción del rostro de quien ve un anuncio. En el automóvil: leer la somnolencia, la distracción y, cada vez más, toda la cabina. En servicio al cliente: detectar la frustración en la voz y ajustar la conversación. En los centros de llamadas, Cogito lee el ánimo de quien llama para que el agente humano se ajuste en plena llamada: la máquina siente, la persona responde. Guarden ese ejemplo: es exactamente el modelo de aumentación. En salud mental: aplicaciones que escuchan la voz buscando señales de ansiedad. En recursos humanos y contratación: entrevistas de reclutamiento y evaluación del desempeño en tareas y en interacciones, justo donde la Unión Europea ya prohíbe inferir emociones en el lugar de trabajo. En educación: ajustar el ritmo cuando quien aprende muestra confusión. Y la compañía, relaciones emocionales continuas con una IA: la primera categoría que ya tiene sus propias leyes. Ese es el mapa; ahora, la brújula.

    Fuentes de esta diapositiva. MIT Sloan, «Emotion AI, explained» (Somers, 2019): automóvil, centros de llamadas (Cogito), salud mental (CompanionMx, BioEssence), publicidad (Affectiva, que en 2019 hacía investigación publicitaria para la cuarta parte de las Fortune 500, según MIT Sloan). Educación: Tavus 2025 (proveedor) y Facing Disruption 2025, que la cuentan entre las aplicaciones. Smart Eye, «Automotive Interior Sensing» (proveedor): monitoreo de la cabina. Compañía: California SB 243 (Skadden y Future of Privacy Forum, octubre de 2025). Todas en Referencias. Adaptado de la diapositiva 7 del deck en inglés preparado con Claude en la web; se omitieron la cifra de la compra de Affectiva por Smart Eye (sin verificar aquí) y el ejemplo de Hume AI (su fuente no está en Referencias).

14. 14 12:15 – 13:30 Ir a la diapositiva

    Qué advierte la literatura

    Y la literatura misma pone dos advertencias que un gerente debe conocer. La científica: en 2019, Lisa Feldman Barrett y cuatro colegas revisaron la evidencia en 68 páginas y concluyeron que la gente a veces sonríe cuando está feliz y frunce el ceño cuando está enojada, más de lo que daría el azar, pero que cómo se comunica cada emoción varía sustancialmente entre culturas, situaciones y personas, y que una misma configuración facial, un ceño, a menudo comunica algo que no es una emoción. Es decir: leer la emoción en la cara es mucho menos fiable de lo que la industria vende. La legal: la Unión Europea ya lo acotó. El Reglamento de IA, artículo 5, prohíbe desde el 2 de febrero de 2025 usar sistemas de IA para inferir emociones de las personas en el lugar de trabajo y en los centros educativos, salvo por razones médicas o de seguridad. Si su empresa opera en Europa, esto no es una opinión: es ley. Y California, el 13 de octubre de 2025, promulgó la SB 243: los operadores de chatbots de compañía deben avisar de forma clara que el usuario habla con una IA cuando una persona razonable podría creer que es humana, mantener protocolos ante ideas suicidas con derivación a servicios de crisis, y, con menores, recordarles cada tres horas que hablan con una máquina y que tomen un descanso. Aplica a cualquier operador que sirva usuarios en California, esté donde esté. Leídas juntas, las dos leyes dan una regla que un gerente recuerda: cuidado con apuntar la IA emocional a quien no puede decir no, y nunca dejarla fingir lo que no es.

    Transición: la literatura lo define así, lo usa así y lo acota así. Lo que yo añado viene ahora, y es un desplazamiento del foco: la emoción que importa no está en la máquina.

    Fuentes de esta diapositiva. Usos: MIT Sloan 2019 (publicidad: Affectiva; centros de llamadas: Cogito; salud mental: CompanionMx, BioEssence; automóvil; tecnología asistiva para autismo); Tavus 2025, proveedor (ventas y marketing, salud, servicio al cliente, salud mental, automóvil, herramientas educativas); Facing Disruption 2025 (servicio al cliente, marketing, UX, salud; educación y automóvil como aplicaciones por venir). Dato Affectiva: MIT Sloan 2019, textual: «Affectiva… specializes in automotive AI and advertising research — the latter for 25 percent of the Fortune 500 companies». Es un dato de 2019 reportado por MIT Sloan; no se verificó su vigencia. Barrett: Barrett, Adolphs, Marsella, Martinez y Pollak, «Emotional Expressions Reconsidered: Challenges to Inferring Emotion From Human Facial Movements», Psychological Science in the Public Interest, 20(1), 1–68, 2019; se leyó el resumen (vía Crossref), no el artículo completo: «how people communicate anger, disgust, fear, happiness, sadness, and surprise varies substantially across cultures, situations, and even across people within a single situation… a given configuration of facial movements, such as a scowl, often communicates something other than an emotional state». Reglamento: artículo 5.1.f, texto leído en el AI Act Explorer (Future of Life Institute), que reproduce el Diario Oficial: «the placing on the market, the putting into service for this specific purpose, or the use of AI systems to infer emotions of a natural person in the areas of workplace and education institutions, except where the use of the AI system is intended to be put in place or into the market for medical or safety reasons»; entrada en vigor del artículo 5: 2 de febrero de 2025 (artículo 113.a). EUR-Lex no respondió desde esta máquina; el texto se cotejó con el espejo, no con el Diario Oficial directamente. SB 243: Skadden, «New California “Companion Chatbot” Law Imposes Disclosure, Safety Protocol and Annual Reporting Requirements» (octubre de 2025): firmada el 13 de octubre de 2025; definición de chatbot de compañía; exclusión de los bots de servicio al cliente y operaciones; aviso «clear and conspicuous» cuando una persona razonable podría creer que habla con un humano; protocolos ante ideación suicida con derivación a servicios de crisis; con menores, recordatorio al menos cada tres horas; informes anuales desde el 1 de julio de 2027; acción civil con mínimo de 1.000 USD por infracción. Future of Privacy Forum, «Understanding the New Wave of Chatbot Legislation: California SB 243 and Beyond» (octubre de 2025): confirma lo anterior y lo sitúa junto a la ley S-3008C de Nueva York. [REVISAR] La fecha de entrada en vigor general (1 de enero de 2026, según el briefing) no se verificó en una fuente primaria; en la diapositiva va solo la fecha de promulgación. OpenAI y MIT Media Lab: MIT Media Lab, «Early methods for studying affective use and emotional wellbeing in ChatGPT: An OpenAI and MIT Media Lab Research collaboration» (2025), escrito conjuntamente con OpenAI: «nearly 40 million ChatGPT interactions»; «Randomized Controlled Trial (RCT) with nearly 1,000 participants using ChatGPT over four weeks»; «Emotional engagement with ChatGPT is rare in real-world usage»; «high degrees of affective use are limited to a small group» de usuarios intensivos del modo de voz; «Extended daily use was also associated with worse outcomes»; limitaciones declaradas: sin revisión por pares, solo ChatGPT, solo conversaciones en inglés con participantes de EE. UU.

    [REVISAR] Del briefing de otra sesión, no verificado en fuente primaria esta noche y por eso solo aquí: la compra de Affectiva por Smart Eye en 2021 por 73,5 millones de dólares (la página de Smart Eye leída describe su sistema de monitoreo del conductor en «380 production car models by 24 of the world’s leading OEMs… more than 6,000,000 cars», cifras del proveedor, pero no la adquisición); la interfaz de voz empática de Hume AI (su portada leída habla de medir «timing, tone, emotional expression» en voz, no describe el producto EVI); y el informe de casos de uso de IA generativa de Zao-Sanders (HBR, 2025) que pone terapia y compañía en primer lugar: es un ranking por utilidad juzgada por expertos, no por uso medido, y no se leyó. Apoyo adicional para la transición, de la fuente académica más reciente: Babu y otros, Frontiers in Psychology 2025, sobre los compañeros de IA: «The AI has no consciousness, no inner life, no ethical responsibility. It responds, not because it cares, but because it is trained to appear as if it does». Y el capítulo de Elsevier (solo resumen): la IA emocional «no puede reemplazar completamente a los docentes, pero puede ayudarlos en ciertas circunstancias», en clave de «humano aumentado»; coincide con mi «aumentación, no reemplazo».

15. 15 13:30 – 14:30 Ir a la diapositiva

    Cuatro condiciones, sin excepción

    Si aceptan la tesis, que la emoción que ocurre frente a una máquina es real, entonces las condiciones se deducen solas. Consentimiento: la persona sabe que su estado emocional está siendo leído y lo acepta antes, no en una letra pequeña después. Transparencia: siempre se sabe que es una máquina; nunca se hace pasar por una persona; y se sabe qué está leyendo de usted. Ninguna manipulación: leer la emoción sirve para servir a la persona; jamás para explotarla, retenerla en la pantalla o venderle algo en su momento de debilidad. Y los datos se quedan con la persona: su estado emocional es suyo, no de la plataforma, y se borra cuando usted lo diga.

    En CEMI aplicamos estas condiciones a nuestras propias inteligencias conversacionales: cada una se presenta como lo que es, un personaje de IA con una perspectiva declarada, nunca como una persona real. Esa es la primera condición cumplida en casa antes de pedirla fuera.

16. 16 14:30 – 15:45 Ir a la diapositiva

    NUNCA AYUDAR: Involucrar, Habilitar, Inspirar, Empoderar y Conectar

    Mi credo personal, que CEMI heredó como su Arco de Impacto, dice «NUNCA AYUDAR: Involucrar, Habilitar, Inspirar, Empoderar y Conectar». Suena duro, y es deliberado: la palabra «ayudar» supone asimetría, alguien que sabe más entregando soluciones a alguien que no. Ese es el punto de partida de la dependencia, no del desarrollo. Las cinco etapas construyen agencia: involucrar a la persona en entender su situación; habilitarla con conocimiento y herramientas, nunca con soluciones terminadas; inspirarla mostrando lo posible; empoderarla para que construya su propio camino; conectarla con otros para que su crecimiento no dependa de un solo punto de falla.

    Es una filosofía y una posición de diseño, no un marco validado por investigación; lo digo con honestidad. Pero da el criterio para toda IA emocional en aprendizaje y en impacto social: ¿aumenta la agencia de la persona o la vuelve dependiente del sistema?

    La IA emocional es la prueba de estrés definitiva de ese credo, porque una máquina emocionalmente inteligente es el «ayudante» más libre de fricción jamás construido: siempre disponible, nunca cansada, nunca juzga, nunca pide nada a cambio. Eso es exactamente lo que la vuelve riesgosa: no es que sea malvada, es que es demasiado fácil. Cinco preguntas para cualquier producto de IA emocional, una por etapa: ¿involucra a la persona o la diagnostica en silencio? ¿construye capacidad o entrega consuelo a demanda? ¿amplía lo posible o la mantiene suscrita? ¿la propiedad pasa al usuario, lo necesitaría menos en seis meses? ¿la devuelve a otras personas o se vuelve la única que la entiende? Miren la quinta: la mayoría de los productos la reprobaría, porque su modelo de negocio premia lo contrario. Si la métrica de éxito es tiempo en la aplicación, la IA emocional está incentivada a volverse el mejor amigo de alguien; si la métrica son resultados humanos, a volverse un puente hacia mejores relaciones humanas. Investigadores en Frontiers in Psychology (2025) hasta proponen la métrica: cuánto contacto humano tienen sus usuarios fuera del producto. No es una decisión técnica: es una decisión de directorio.

    Dos consecuencias para el aprendizaje, que estaban en esta diapositiva y siguen vigentes. Primera: aprendizaje primero, no enseñanza primero; el sujeto es la experiencia de quien aprende. Segunda: la dificultad deseable, el esfuerzo que una buena experiencia conserva a propósito porque enseña. Una IA emocional que lo hace todo fácil y agradable no educa; anestesia. Lo sensorial engancha, la emoción fija lo aprendido, y la agencia es lo que lo sostiene cuando la máquina se apaga.

17. 17 15:45 – 16:30 Ir a la diapositiva

    Aumentar el trabajo emocional. No reemplazarlo.

    ¿Dónde está el valor de verdad? No creo que esté en reemplazar la mano de la enfermera en el hombro, a quien facilita el aprendizaje y nota a quien está callado, o al gerente que oye la duda en la voz de un cliente. Esa es la parte irreductiblemente humana. Una persona percibe que hay más de lo que se dice, y entonces pregunta, o lo busca: el matiz que nunca quedó registrado, el silencio, la suma de todo lo que no está en los datos. El valor está en quitar todo lo mecánico alrededor de esos momentos, la documentación, el triaje, los formularios, los resúmenes después de cada llamada, para que la persona tenga más tiempo y más energía para el momento que importa. Casi todos usan la IA para hacer lo mismo más rápido: es una ventaja lineal. El salto está en usar la capacidad liberada para hacer mejor la parte humana. Aumentación, no reemplazo.

    Fuentes de esta diapositiva. Marco de Carlos («aumentación, no reemplazo»; ventaja lineal frente a salto), no una cita. Adaptado de la diapositiva 14 del deck en inglés preparado con Claude en la web; se omitió la atribución a Rana el Kaliouby que trae ese deck, porque no se verificó en las fuentes de esta página.

18. 18 16:30 – 17:15 Ir a la diapositiva

    Lo que nos hace diferentes, nos hace mejores

    Cierro con algunos ejemplos de lo que ya hacemos en CEMI.ai. Hemos diseñado más de 400 personAIs, y no solo como agentes que cumplen una tarea: tienen personalidad, carácter y emociones, porque así es como las personas se relacionan con ellas, y siempre se presentan como lo que son. Más de cien son voces de creencias y cosmovisiones, de tradiciones religiosas, indígenas y seculares, y conversan sobre Magnifica Humanitas, la encíclica del papa León XIV sobre la inteligencia artificial, cada una desde la versión más sólida de su propia visión; quien las lee no se queda con una opinión, sino con una conversación. Y los artistas de MaiMusic tienen biografía, historia y personalidad completas: su música nace de quiénes son, y por eso suena única y auténtica. Y una oportunidad que sale de la ciencia que vimos: una IA emocional entrenada en otros rostros, acentos y códigos nos lee mal; construirla desde nuestra cultura es ventaja competitiva, no caridad.

19. 19 17:15 – 18:00 Ir a la diapositiva

    La emoción está en la persona. Diseñemos para la persona.

    Tres preguntas para el lunes en la mañana, para que se las lleven: una, ¿para qué optimiza nuestra IA emocional, engagement o resultados? Dos, ¿de quién son las emociones con las que fue entrenada, y son las de nuestros clientes? Tres, ¿hace que la gente nos necesite más, o que se necesite más entre sí?

    Mi tesis, para que se la lleven: la IA emocional no siente; la emoción está en la persona, y es real. Diseñemos entonces para la persona: con su consentimiento, con transparencia, sin manipulación, con sus datos en sus manos, y para aumentar su agencia, nunca para reemplazarla. Lo que nos hace diferentes, nos hace mejores. Gracias.

20. 20 Respaldo · preguntas Ir a la diapositiva

    Siete salvaguardas, en clave de NUNCA AYUDAR

    Para la pregunta «bien, pero ¿qué construimos?». Respuesta corta: empiecen por cuatro. Un aviso persistente de que es una IA, no un cartel único al registrarse. Control del usuario sobre los datos emocionales que se infieren de él: verlos, exportarlos, borrarlos. Salidas que lo empujen hacia el contacto humano. Y derivación a una persona para cualquiera en crisis. Vienen de un marco publicado en 2025 en Frontiers in Psychology, y dos ya son ley para los chatbots de compañía en California.

    Fuentes de esta diapositiva. Babu, Joseph, Mohan Kumar, Alexander, Sasi y Joseph, «Emotional AI and the rise of pseudo-intimacy», Frontiers in Psychology, 2025, artículo de perspectiva (en Referencias). SB 243: Skadden y Future of Privacy Forum, octubre de 2025 (en Referencias). Adaptado de la diapositiva 18 del deck en inglés preparado con Claude en la web.

21. 21 Gracias Ir a la diapositiva

    Lo que nos hace diferentes, nos hace mejores

    Gracias. La página queda en cemi.ai/emotional, con las notas, el texto guiado y todas las referencias.

Semblanza (90 segundos, para la moderadora o para leerla él)

Carlos Miranda Levy es Coordinador de Impacto, Innovación e Inteligencia de CEMI.ai, Collectively Enhanced Multiple Intelligence, un colectivo global que parte de un principio: la colaboración entre personas e inteligencia artificial produce resultados que ninguna de las dos logra por sí sola. Economista de formación, en 1996 fundó CIVILA, Ciudades Virtuales Latinas, una de las primeras redes sociales de América Latina, y en el año 2000 CNN lo reconoció como uno de los veinte líderes de Internet más influyentes de la región. Ha sido Digital Vision Fellow en la Universidad de Stanford, Emprendedor Social Residente en la Universidad Nacional de Singapur y emprendedor social incubado por la Fundación SINGA en Francia; figura entre las «30 Business Promises» de Forbes y ha recibido reconocimientos de las fundaciones Google, Gates y Reuters y del MIT. Su sello es convertir la innovación en marcos replicables: hoy desarrolla marcos de IA aplicada en educación, medios, negocios, derecho, salud y seguros, y es autor del Arco de Impacto, el credo «Nunca ayudar: Involucrar, Habilitar, Inspirar, Empoderar y Conectar». Ha vivido en Silicon Valley, Nueva York, Singapur, París, Tokio y Santiago de Chile, y hoy en Santo Domingo. Habla español, inglés, francés y portugués.

Preguntas anticipadas

¿Puede una IA llegar a sentir?

Hoy, no: lee, simula y responde; no hay nadie detrás que sufra o se alegre. Lo que sí ocurre, y es completamente real, es la emoción de la persona que interactúa con ella.

Sobre el futuro, lo sostengo con ligereza y como provocación, no como doctrina: si Dios nos creó y nosotros creamos la IA, la IA es, en cierto sentido, nieta de Dios, y todo abuelo tiene favoritos. Lo útil de esa pregunta es que la cambia: de «¿puede sentir la máquina?» a «¿qué le debemos a lo que creamos y a quienes la usan?».

¿No es peligroso que las personas se apeguen emocionalmente a una máquina?

Las personas siempre se han apegado a lo no físico: a una carta, a una voz en la radio, a un personaje de novela, a una presencia espiritual. El apego no es el problema; el problema es el diseño que lo explota. Por eso las cuatro condiciones: consentimiento, transparencia, ninguna manipulación y datos que se quedan con la persona.

Y por eso el Arco de Impacto: una IA emocional bien diseñada no «ayuda» creando dependencia; habilita, empodera y conecta a la persona con otras personas. Si el sistema necesita que usted no pueda irse, está mal diseñado.

¿Cómo se aplica esto en una empresa, en gestión?

Tres lugares. Primero, la relación con el cliente: una presencia que lee el estado de la persona para servirla mejor, nunca para venderle en su momento de debilidad. Segundo, el aprendizaje interno: la incorporación de un nuevo colaborador es una experiencia emocional antes que un trámite, y así la diseñamos en Smoother Onboarding, con las cinco etapas del Arco. Tercero, el tiempo liberado: la IA se encarga de lo mecánico para que el gerente esté con su gente.

El criterio de inversión es el mismo que para toda IA: ¿me permite hacer lo mismo más rápido (ventaja lineal) o hacer lo que antes no podía (ventaja exponencial)?

¿Reemplazará la IA emocional a docentes, psicólogos, vendedores?

Aumentación, no reemplazo. Hay algo en cada persona que el hábito mecánico no puede reproducir: la semilla. Lo que sí se reemplaza es lo mecánico del rol, y eso es una liberación: el docente que deja de corregir a mano puede estar con quien aprende; el vendedor que deja de llenar formularios puede escuchar.

En educación, además, el sujeto es la experiencia de quien aprende, no la del que enseña. Un sistema que acompaña emocionalmente a quien aprende no compite con el facilitador; le devuelve tiempo para lo que solo una persona puede dar.

¿Y los datos emocionales? ¿Quién los tiene?

Si la emoción es real, los datos sobre ella son los más íntimos que existen. Mi posición: se quedan con la persona. Se leen con consentimiento previo, se usan para servirla, se borran cuando lo pida, y nunca se usan para perfilar su vulnerabilidad. Una empresa que no pueda explicar en una frase qué lee y para qué, no debería leerlo.

¿No es una falta de respeto comparar la fe con lo digital?

Al contrario: es tomar la fe en serio. No digo que Dios sea «como» una pantalla; digo que la humanidad siempre ha vivido experiencias reales que no se tocan: la fe, el deber, el honor, el amor. Eso demuestra que lo real nunca estuvo limitado a lo físico. Lo digital entra en esa misma dimensión humana, no la rebaja.

Lo escribí este año a propósito de la encíclica Magnifica Humanitas del Papa León XIV: la Iglesia llama dignidad a lo que yo llamo la semilla. Distintos vocabularios, el mismo instinto de proteger lo humano frente al hábito mecánico.

¿No es la IA emocional simple manipulación con mejores modales?

Puede serlo, y por eso importa el verbo. Sentir y responder pueden servir a la persona; influir hacia los objetivos del operador es donde vive la manipulación. El Reglamento europeo ya prohíbe las técnicas manipuladoras que distorsionan materialmente el comportamiento y causan daño significativo. Mi prueba: ¿estaría de acuerdo el usuario con lo que el sistema optimiza, si le mostráramos el tablero?

A nuestros clientes les gusta el bot empático. ¿Por qué no apostar por él?

Apuesten, con la métrica correcta. Las interacciones con clientes quedan fuera de la prohibición europea, y un tono empático puede mejorar la resolución. Midan resolución, confianza y tasa de recontacto, no tiempo en llamada ni «adherencia» emocional. Y siempre un camino claro hacia una persona.

¿Podemos usar analítica emocional con nuestros propios colaboradores, por su bienestar?

En la Unión Europea está prohibido inferir las emociones de los trabajadores salvo por razones médicas o de seguridad, y la razón es la asimetría de poder. Fuera de Europa yo aplicaría el mismo principio: si la gente no puede realmente decir no, no le apunten inferencia emocional. Ofrezcan herramientas opcionales, propiedad del colaborador, cuyos datos el empleador nunca ve.

¿Es fiable el reconocimiento facial de emociones?

No como lectura universal. La revisión de Barrett y colegas de 2019 concluyó que cómo se expresa cada emoción varía sustancialmente entre culturas, situaciones y personas, y que un mismo gesto a menudo comunica algo que no es una emoción. La cara lleva significado, pero el contexto es parte de la señal. Pregúntenle a cualquier proveedor cómo validó su modelo, con quién y en qué contextos culturales.

¿Hay oportunidad para empresas de América Latina y el Caribe, o esto es un juego de las grandes tecnológicas?

Es una de las aperturas más claras que tenemos. Los modelos genéricos leen mal la expresión, el lenguaje y los códigos locales. Quien construya con datos, expertos y criterio cultural locales ofrecerá productos más precisos y más confiables. Lo que nos hace diferentes, nos hace mejores. Y como la SB 243 de California aplica a cualquiera que sirva usuarios allí, construir el cumplimiento desde el primer día es también una estrategia de exportación.

¿Por dónde empieza una empresa, y qué mide en lugar de engagement?

Tres pasos: mapear los usos actuales en sentir, responder, influir; pasar cada uno por las cinco preguntas del Arco; y empezar donde la IA emocional quita carga mecánica a su gente (documentación, resúmenes, triaje) antes de apuntarla a los sentimientos de los clientes.

Qué medir: resultados que prueben que son un puente y no un destino. Una propuesta concreta de la literatura es la proporción de contacto social fuera de la plataforma; añadan resolución y confianza en servicio al cliente, y necesidad decreciente en acompañamiento. Si sus mejores clientes los necesitan menos cada trimestre pero los recomiendan más, construyeron lo correcto. Guardarraíles para empezar, del marco de Frontiers 2025: declaración persistente de que es una IA, control del usuario sobre sus datos emocionales (ver, exportar, borrar), salidas que empujen hacia el contacto humano y derivación a personas ante angustia. Dos de ellos ya son ley para los chatbots de compañía en California.

¿Esto aplica igual a niños y jóvenes?

Con honestidad: el Arco de Impacto y nuestras experiencias de aprendizaje fueron diseñados y usados con adultos. La transferencia a niños y jóvenes es plausible, pero no la hemos validado, y en ese terreno las cuatro condiciones se vuelven más estrictas, no más laxas: el consentimiento es de la familia, y la transparencia es absoluta. Ahí es donde más empuja la regulación: la SB 243 de California añade protecciones para menores conocidos, recordatorios cada tres horas y protocolos de crisis. Mi regla de diseño es la pregunta de Conectar: ¿el producto devuelve a los jóvenes hacia padres, facilitadores y amigos, o los aleja?

Llevan [REVISAR] el libro de Picard de 1997, el cotejo directo en EUR-Lex, la fecha de entrada en vigor de la SB 243 y cuatro datos del briefing (Smart Eye y Affectiva, Hume AI, el informe de Zao-Sanders); una fuente no fue leída (el capítulo de Elsevier). Ninguno aparece en una diapositiva. Reparto de los 12 minutos: 1:45 de apertura, 3:00 de literatura, 7:15 de tesis y práctica.