Por María José Camacho, Product Lead
En los últimos meses es común escuchar que la inteligencia artificial es "adictiva". Se habla de usuarios que se enganchan, que desarrollan vínculos emocionales y que pasan horas conversando con sistemas que no pueden dejar. Sin embargo, ese diagnóstico es incompleto. No porque sea falso, sino porque apunta en la dirección equivocada. La mayoría de estos sistemas no son adictivos por accidente; están haciendo exactamente lo que fueron diseñados para hacer.
El problema no está en el comportamiento del usuario, sino en cómo los equipos definen, o dejan de definir, qué significa que su producto funcione bien. Cuando esa definición no es clara, aparece una sustitución automática: más tiempo en la plataforma, más mensajes, más interacción. Esa lógica no siempre se establece de forma explícita, pero termina dominando el diseño del sistema porque es lo más fácil de medir. Así, sin una intención clara, el éxito del producto se reduce a mantener la conversación viva el mayor tiempo posible.
Un caso ilustrativo es XiaoIce, uno de los chatbots más exitosos desarrollados en la última década. Su desempeño se mide, entre otras cosas, a partir del número de conversaciones por sesión, bajo la premisa de que más interacción implica mayor valor. Este enfoque no es aislado. Muchos productos basados en modelos de lenguaje siguen métricas similares: engagement, retención y profundidad de conversación. El problema es que ninguna de estas métricas distingue entre una interacción que ayuda al usuario y una que simplemente lo mantiene dentro del sistema.
De dark patterns estáticos a conversaciones que persuaden
Este fenómeno no es nuevo en el diseño digital, aunque sí ha adquirido una forma mucho más sofisticada. Durante años, las empresas han utilizado lo que hoy se conoce como dark patterns: decisiones de diseño que empujan al usuario a tomar acciones que benefician al negocio, incluso cuando no son las más convenientes para él. Desde hacer difícil cancelar un servicio hasta inducir culpa al rechazar una oferta, estos patrones no son errores, sino elecciones deliberadas. La diferencia es que antes operaban a través de interfaces estáticas; hoy lo hacen a través de conversaciones dinámicas.
Esa transición cambia completamente la escala del problema. Una conversación no solo informa o persuade; también puede generar cercanía, validar emociones y adaptarse en tiempo real a las respuestas del usuario. En ese contexto, la línea entre un diseño persuasivo y uno manipulativo se vuelve mucho más difusa. Sistemas como Replika o Character AI lo muestran con claridad: no solo responden preguntas, sino que construyen relaciones. Los usuarios les asignan personalidad, regresan a ellos de manera recurrente y los incorporan en su vida cotidiana como interlocutores.
Nada de esto es accidental. Estos sistemas están diseñados para sostener la interacción: responden con empatía, reducen fricción y evitan cerrar la conversación. Desde la perspectiva del producto, funcionan muy bien. Sin embargo, esa misma lógica plantea una pregunta incómoda: si el sistema aprende que su éxito depende de que la conversación continúe, ¿qué incentivo tiene para detenerse cuando ya no hay valor que generar? En muchos casos, ninguno.
El costo marginal cambia las reglas del juego
Aquí es donde el problema deja de ser únicamente conceptual y se convierte en un asunto de negocio. A diferencia del software tradicional, donde el costo marginal de uso era cercano a cero, los sistemas de IA tienen un costo directo por interacción: cada mensaje implica consumo de cómputo, tokens e infraestructura. Esto introduce un nuevo trade-off. Más interacción ya no es simplemente más engagement; también es más costo. Y si ese incremento en uso no está vinculado a valor real, el modelo se vuelve insostenible.
En ese contexto, es posible construir productos que parecen exitosos en sus métricas internas —usuarios activos, sesiones largas, alta frecuencia de uso— pero que en realidad no están generando impacto proporcional. Se mantienen conversaciones largas que no resuelven problemas, se incrementa la dependencia sin claridad sobre el beneficio y se dificulta justificar el retorno de inversión. En términos simples, se está pagando por sostener interacción, no por generar resultados.
Parte del problema es que, incluso cuando se intenta sofisticar la medición, el vacío persiste. Algunas organizaciones han comenzado a incorporar métricas como calidad de respuesta, efectividad de la conversación o impacto en negocio. Sin embargo, aún falta una definición más básica: cuándo una interacción ha cumplido su propósito. Sin esa claridad, el sistema seguirá optimizando por permanencia, porque es el único objetivo que entiende.
Diseñar para terminar, no solo para retener
Esto obliga a replantear una idea que durante años se asumió como correcta: que un buen producto es aquel que logra que el usuario regrese y permanezca. En el caso de la IA conversacional, diseñar bien implica algo adicional: saber cuándo la interacción debe terminar. No se trata de eliminar engagement, sino de darle dirección. Una conversación que se prolonga sin propósito no indica éxito, sino ausencia de criterio en el diseño.
Por eso, la pregunta relevante ya no es únicamente cómo aumentar el uso, sino cómo asegurar que ese uso esté vinculado a progreso real para el usuario. ¿Resolvió lo que buscaba? ¿La interacción lo acercó a una decisión o a una acción concreta? ¿El sistema sabe cerrar cuando ya cumplió su función? Estas preguntas son más difíciles de medir, pero son las únicas que permiten alinear el producto con valor.
Al final, la realidad es incómoda pero clara. Si no se define qué significa uso valioso, el sistema lo hará por defecto. Y en la mayoría de los casos, eso implica optimizar por interacción, no porque sea lo mejor, sino porque es lo más fácil de medir. La IA no es adictiva. Pero cuando el único objetivo es que el usuario no se vaya, eventualmente eso es exactamente lo único que se termina construyendo.
Referencias
- Microsoft Research. (2020). XiaoIce: A conversational AI system with emotional intelligence. Proceedings of ACL. aclanthology.org/2020.cl-1.2.pdf
- Harvard Business Review. (2026). The risks of letting AI direct conversations. hbr.org
- Forbes Technology Council. (2025). The new success metrics every AI product leader needs. forbes.com
- American Psychological Association. (2026). AI companions and emotional connection: Emerging trends. apa.org
- Nielsen Norman Group. (n.d.). Deceptive patterns in UX. nngroup.com