La conversación sobre el riesgo de la IA lleva años secuestrada por los mismos fantasmas: el sesgo algorítmico, las alucinaciones, los empleos destruidos, la superinteligencia descontrolada. Son preocupaciones legítimas. Pero hay un peligro más cotidiano, menos fotogénico y bastante más difícil de medir que casi nadie nombra con claridad: la atrofia del criterio propio.
No es que la IA te vaya a engañar. Es que cuando funciona bien —y cada vez funciona mejor— el incentivo para pensar por ti mismo se erosiona de forma imperceptible. Abres el chat, planteas el problema, lees la respuesta y asienes. No porque la respuesta sea correcta, sino porque es plausible, está bien redactada y llega antes de que hayas terminado de formular la pregunta en tu cabeza.
Eso no es eficiencia. Es delegación encubierta de juicio.
- La IA genera output convincente aunque no tenga criterio propio sobre lo que es correcto en tu contexto.
- Cuanto más fluida es la experiencia, más difícil es detectar el momento en que dejamos de cuestionar.
- El riesgo no está en los errores de la IA —esos se ven—, sino en las respuestas correctas que te evitan pensar.
Automatización Cognitiva: El Problema no es la Herramienta, es el Músculo que Atrofia
Existe un fenómeno bien documentado en psicología cognitiva llamado "efecto de descarga cognitiva": cuando externalizamos una tarea mental a una herramienta (una calculadora, un GPS, una lista de tareas), el cerebro trata de optimizar energía y reduce la activación de los circuitos que antes realizaban esa tarea. Es adaptativo. Y también es peligroso cuando la herramienta desaparece o falla en el momento menos oportuno.
Con la IA el fenómeno se amplifica porque el alcance de la externalización es radicalmente mayor. No se trata solo de calcular o de recordar. Se trata de razonar, de priorizar, de redactar, de diagnosticar, de tomar decisiones estratégicas. Si delegas todo eso de forma sistemática, ¿qué queda del equipo que pensaba?
Un ejemplo concreto: en muchos equipos de producto que nos encontramos, los product managers llevan meses usando LLMs para redactar sus PRDs. El output es pulido, estructurado y aparentemente completo. El problema es que la calidad del documento ya no refleja la profundidad de comprensión del PM sobre el problema —refleja la profundidad del prompt que supo escribir. Eso no es lo mismo. Y se nota cuando hay que defender la decisión en una reunión sin el modelo delante.
La IA no te hace menos inteligente porque cometa errores. Te hace menos inteligente cuando acierta tan seguido que dejas de entrenar el músculo de dudar.
En el plano tecnológico, la presión competitiva que están sufriendo los productos digitales está acelerando esta dinámica: los equipos adoptan IA para ir más rápido, y "más rápido" se convierte en sinónimo de "sin pausa para cuestionar". El resultado no es agilidad; es velocidad sin dirección.
La Paradoja de la Competencia: Cuanto Mejor Funciona, Más Daño Potencial Causa
El sesgo de automatización —la tendencia humana a confiar más en los sistemas automatizados que en el propio juicio, especialmente bajo presión o fatiga— lleva décadas estudiándose en contextos de aviación, medicina y control de procesos industriales. La conclusión consistente es inquietante: los operadores que trabajan con sistemas muy fiables son más vulnerables a los fallos del sistema, no menos. Porque cuando el piloto automático rara vez falla, los reflejos para detectar el fallo se oxidan.
Con los modelos de lenguaje ocurre algo análogo. Un LLM que produce outputs razonables el 92% del veces genera un entorno en el que el 8% de errores pasa sin escrutinio. No porque el usuario sea descuidado, sino porque el umbral de alerta está calibrado para la tasa de aciertos, no para los casos límite.
El problema específico de la fluencia lingüística
Los LLMs tienen una ventaja particular que los hace especialmente propensos a generar exceso de confianza: producen texto fluido, bien estructurado y con apariencia de autoridad independientemente de si el contenido es correcto o no. La forma no señala la calidad del fondo. Un texto mal construido activa en el lector una señal de alarma ("esto no suena bien"); un texto impecable pero factualmente incorrecto no activa ninguna.
Esto no es una crítica a los modelos —es su naturaleza. Están entrenados para generar texto coherente, no para evaluar si ese texto es verdadero en tu contexto específico. El problema es que la mayoría de los usuarios no internaliza esa distinción. Leen fluidez como señal de veracidad.
Casos donde el riesgo se concentra
No todos los usos de IA presentan el mismo nivel de riesgo cognitivo. El peligro se concentra en tres zonas:
- Decisiones de alta consecuencia con baja verificabilidad inmediata: estrategia de producto, roadmaps, decisiones de arquitectura técnica. Son áreas donde la IA puede sonar muy convincente y donde el error se ve meses después.
- Tareas de síntesis y diagnóstico: resumir investigación, interpretar datos de usuario, diagnosticar problemas de rendimiento. La IA colapsa matices que muchas veces son el quid del asunto.
- Formación y onboarding: los profesionales que aprenden con IA como muleta desde el principio nunca desarrollan el modelo mental que les permite evaluar críticamente sus outputs.
Soberanía Cognitiva: Lo que Significa Usar IA sin Cederle el Timón
Hablar de soberanía cognitiva puede sonar a reaccionario, como si propusiéramos volver a escribir a máquina. No es eso. La cuestión no es si usar IA sino cómo estructurar esa relación para que el criterio propio siga siendo el juez, y la IA siga siendo una herramienta, por muy sofisticada que sea.
Hay tres prácticas concretas que aplicamos y recomendamos:
- El modelo como contrargumentador, no como oráculo: antes de pedir a la IA una respuesta, formula tu propia hipótesis. Luego pídele que la critique. Esa secuencia mantiene activo el músculo analítico y convierte el modelo en un sparring, no en una fuente de verdad.
- Separar generación de evaluación: permite que la IA genere opciones, borradores, estructuras. Reserva para el equipo humano la evaluación y la selección. No mezcles los dos pasos en el mismo ciclo.
- Documentar el razonamiento, no solo el resultado: si un PM toma una decisión de producto con ayuda de un LLM, el artefacto que queda en el repositorio debe incluir el razonamiento —por qué se eligió esa opción, qué alternativas se descartaron. Eso obliga a tener el razonamiento antes de poder documentarlo.
Esto conecta directamente con algo que ya trabajamos cuando hablamos del contexto como recurso escaso en los sistemas de IA: diseñar bien la interacción con el modelo implica saber qué parte del proceso quieres que el modelo lleve y qué parte quieres que siga siendo tuya. No es una decisión técnica; es una decisión de diseño organizacional.
Usar IA con criterio no es usar IA menos. Es saber exactamente qué parte del pensamiento estás delegando y por qué.
Implicaciones para Equipos y Productos: Donde Esto se Vuelve Estratégico
Todo lo anterior tiene consecuencias prácticas que van más allá de la higiene cognitiva individual. A nivel de equipo y de producto, la dependencia no gestionada de IA produce tres patrones que hemos visto repetirse:
Convergencia prematura: los equipos que usan el mismo modelo para generar ideas tienden a explorar el mismo espacio de soluciones. La diversidad cognitiva, que es uno de los activos más valiosos de un equipo multidisciplinar, se colapsa porque todos están leyendo variaciones del mismo output. El resultado es un roadmap que parece consensuado pero que en realidad nadie cuestionó con profundidad.
Documentación vacía: cuando los documentos de producto, los research readouts y las propuestas técnicas se generan con IA sin supervisión crítica, el repositorio de conocimiento de la empresa empieza a llenarse de texto que suena bien pero no captura el aprendizaje real. El knowledge management se vicia desde la fuente.
Fragilidad ante la ambigüedad: los equipos que han externalizado el razonamiento difuso a la IA pierden tolerancia a los problemas sin respuesta clara. Y la mayoría de los problemas estratégicos son, exactamente, problemas sin respuesta clara. La IA puede dar una respuesta. Pero esa respuesta no es la que necesitas cuando el problema no está bien definido.
Este último punto enlaza con algo central en nuestra forma de entender el diseño de producto: el error de diseñar desde la herramienta y no desde el objetivo se reproduce a escala cuando el equipo que diseña el producto tampoco parte de sus propios objetivos, sino de lo que el modelo sugiere.
Hay una salida práctica. No consiste en demonizar la IA ni en desarrollar políticas restrictivas que se ignorarán a los tres días. Consiste en diseñar explícitamente qué partes del proceso cognitivo del equipo son intocables —las que definen la identidad analítica de la empresa— y rodear esas partes de fricción deliberada. Que no sea cómodo dejarlas al modelo. Que cueste un poco más. Ese coste es la inversión en mantener el músculo activo.
En Room 714 trabajamos con equipos que quieren incorporar IA de forma que amplíe su capacidad, no que la sustituya. Eso empieza por un diagnóstico honesto de dónde está cediendo el criterio sin que nadie lo haya decidido conscientemente. Si eso suena a algo que merece una conversación, ya sabes dónde encontrarnos.
