Cómo diseñar sistemas que fortalezcan el razonamiento humano

La mayoría de las organizaciones reconocen la importancia de contar con empleados que hagan algo más que seguir instrucciones o aplicar reglas. Los pensadores críticos hacen preguntas y cuestionan los supuestos, comportamientos que se consideran fundamentales para la agilidad organizacional y la innovación. Sin embargo, existe cada vez más evidencia de que el uso de la IA puede erosionar esta capacidad.

Para ayudar a las empresas a abordar este problema, hemos analizado investigaciones existentes sobre administración, ciencia cognitiva, interacción humano-computadora y estudios sobre el trabajo y la tecnología en las organizaciones, además de realizar entrevistas con directivos de empresas que están experimentando con distintos enfoques. El objetivo ha sido proponer una nueva manera de diseñar, implementar y utilizar la IA que fomente, a largo plazo, la diversidad de perspectivas y el pensamiento crítico.

Las organizaciones deberían centrarse en dos riesgos principales relacionados con la erosión del pensamiento crítico: la pérdida de experiencia especializada y la pérdida del pluralismo epistémico. Ambos pueden perjudicar su capacidad para mantenerse ágiles e innovadoras. Los líderes deben reconocer que la tecnología no es neutral y que puede moldear nuestras formas de pensar e interactuar de maneras negativas. Por ello, deberían mirar más allá de las ganancias a corto plazo —como la promesa de una mayor eficiencia y la reducción de costos— y, en cambio, alentar a los usuarios a no dar por sentadas las características de la tecnología y a experimentar con ella para moldearla, en lugar de dejar que sea ella quien los moldee.

Cómo la IA moldea el pensamiento

Incluso antes de la explosión de la IA generativa, diversos estudios —entre ellos, el estudio etnográfico de Callen Anthony sobre banqueros de inversión, publicado en 2021— ya sugerían que el fenómeno del black boxing(o "caja negra"), en el que los trabajadores confían en herramientas analíticas sin comprender cómo funcionan, podía provocar que los profesionales perdieran parte de su experiencia especializada.

Más recientemente, varios estudios han sugerido que el uso de la IA puede comprometer la capacidad de las personas para cuestionar la información que reciben, lo que ha despertado preocupaciones sobre la delegación cognitiva (cognitive offloading) e incluso la rendición cognitiva (cognitive surrender). Un estudio del MIT Media Lab de 2025, que investigó los costos cognitivos de utilizar un modelo de lenguaje de gran tamaño (LLM), junto con un estudio de Wharton de 2026 sobre el impacto de introducir la IA como un tercer sistema cognitivo, indican que quienes utilizan IA tienden a cuestionar e investigar menos los resultados que esta produce. Aunque el impacto a largo plazo sobre la cognición aún está por determinarse, estas investigaciones sí ponen de manifiesto señales claras de que el uso de la IA afecta las capacidades organizacionales.

Para empezar, muchos investigadores temen que el uso de la IA conduzca a una descontextualización de la experiencia especializada dentro de las organizaciones. El argumento es que, aunque la IA puede acceder fácilmente a hechos y datos, no puede interpretar ni aplicar el conocimiento de manera contextual y significativa. Los datos suelen contener matices que solo pueden ser reconocidos por personas con intuición, emociones y experiencia vivida en múltiples ámbitos de especialización. Percibimos determinados aspectos de los datos porque tenemos experiencia directa con ellos y con el contexto en el que los comprendemos.Como la IA es un algoritmo y no experimenta los datos de forma directa, pasa por alto esos matices.

Por ejemplo, el hecho de que una IA pueda aprobar un examen de habilitación para ejercer la abogacía no significa que comprenda todos los matices del sistema de justicia, de sus actores, de cómo y por qué distintos casos se interpretan de manera diferente, ni de cómo otras formas de conocimiento especializado se relacionan con el derecho. Esta descontextualización del conocimiento jurídico introduce riesgos porque, sin una comprensión tanto del caso específico como de un sistema judicial complejo y lleno de matices, los abogados que confían en la experiencia proporcionada por la IA pueden interpretar erróneamente las pruebas y cometer errores.

De hecho, un estudio reciente sugiere que depender de la IA aumenta, posiblemente, la importancia de contar con personas que, gracias a su conocimiento especializado del dominio, puedan validar los resultados generados por la IA, adaptarse a nuevas situaciones y anticipar posibles problemas. Otra preocupación es que, a medida que las organizaciones eliminan puestos de nivel inicial para reducir costos, corren el riesgo de perder, en un futuro cercano, el grupo de mandos intermedios de cuya comprensión contextual dependen actualmente.

Además, la IA fomenta un pensamiento homogéneo. Varios estudios han demostrado que los modelos de lenguaje de gran tamaño (LLM) tienden a reducir la diversidad de ideas, en parte porque suelen fijarse en la primera idea generada y presentan un sesgo hacia el promedio o el consenso. Esto anima a los usuarios a ignorar información sorprendente o inesperada, a pesar de que son precisamente los elementos imprevistos los que desencadenan los descubrimientos creativos. En consecuencia, el uso de la IA generativa favorece el desarrollo de monoculturas intelectuales que carecen de la diversidad de experiencias y perspectivas esenciales para la capacidad de innovación de las organizaciones. También puede afectar la agilidad de las empresas, ya que las personas tienen más probabilidades de pasar por alto señales del entorno que indican la necesidad de cambiar.

Entonces, ¿cómo podemos controlar estos riesgos? Existe una amplia y consolidada literatura sobre el trabajo y la tecnología en las organizaciones que ofrece posibles respuestas. En particular, esta corriente considera que la tecnología siempre es interpretada por las personas y que su uso depende del contexto, por lo que puede ser adaptada por quienes la utilizan.

Cómo los seres humanos pueden moldear la IA

Las narrativas actuales sobre la IA generativa tienden a presentarla como una única herramienta con una interfaz de chatbot a la que las personas hacen preguntas para obtener respuestas. Estas narrativas insisten en que, para obtener mejores respuestas, necesitamos aprender a redactar mejores prompts y utilizar la herramienta con mayor frecuencia. No hay nada malo en aprender a formular mejores preguntas, pero eso no reducirá de manera significativa los riesgos. Para lograrlo, debemos dejar de considerar la tecnología simplemente como una herramienta y empezar a verla como parte de un sistema que los seres humanos pueden moldear. Y eso significa encontrar maneras de diseñar entornos de trabajo potenciados por IA que preserven la autonomía humana y el liderazgo.

Basándonos en los resultados de la experimentación con IA y otras tecnologías llevada a cabo por organizaciones que hemos estudiado o con las que hemos trabajado, presentamos tres posibles formas de lograrlo.

1. Poner la IA de cabeza

El filósofo griego Sócrates solía hacer preguntas a sus discípulos para guiarlos a encontrar por sí mismos la respuesta a un problema filosófico o, en algunos casos, para que reconocieran su propia ignorancia. Este enfoque también puede aplicarse a la IA. Considere dos ejemplos:

A. El desafío Prompt with Me.Lanzado por la gran empresa farmacéutica AstraZeneca en agosto de 2025, este programa de 10 días, compuesto por breves ejercicios, fue diseñado para animar a los empleados a experimentar con la IA con el fin de desarrollar su capacidad de pensamiento crítico. Más de 1.500 participantes de toda la empresa aprendieron no sólo a elaborar prompts, sino, lo que es más importante, a formularlos de maneras que les permitieran aprender más y profundizar en los temas.

Los comentarios de los participantes ilustraron cómo el desafío ayudó a replantear la relación con la IA. Uno de ellos señaló:

"Este enfoque sacó a la luz nuevas perspectivas, cuestionó mis supuestos e inspiró la autorreflexión para cualquier conversación futura."

En una entrevista, la directora global de Desarrollo de Capacidades de AstraZeneca, la Dra. Bonnie Cheuk, y el Dr. Maciej Szymaszek, responsable de Estrategia e Innovación para IA Empresarial, explicaron que:

"El desafío... se expandió rápidamente por toda la organización, con equipos y departamentos participando y adaptándolo aún más a diferentes flujos de trabajo, funciones y herramientas de IA."

El proyecto piloto original de 2025 obtuvo un premio Brandon Hall de plata. Hoy, un año después de su lanzamiento, Prompt with Me ha sido adoptado por más de 50 equipos y áreas funcionales, y miles de personas han completado los desafíos.

B. El hackatón BUILD2GETHER AI–SDG. Hace algunos meses, un equipo de investigadores de ETH Zúrich y la Universidad Tecnológica de Nanyang (NTU), en Singapur, experimentó con el uso de la IA durante un hackatón de 24 horas (organizado en las Instituciones Sairam), con cerca de 2.000 participantes distribuidos en casi 500 equipos.

Los equipos recibieron distintos tipos de retroalimentación generada por IA sobre las propuestas de proyectos destinadas a ayudar a las Naciones Unidas a alcanzar sus Objetivos de Desarrollo Sostenible (ODS).

La mitad de los equipos recibió comentarios sobre cómo mejorar sus ideas para alcanzar mejor los objetivos establecidos y ajustarse a ellos. La otra mitad recibió comentarios que identificaban redundancias entre sus propuestas y proyectos que ya estaban en marcha, animándolos a experimentar con ideas alternativas.

El equipo de investigación descubrió que, cuando la IA desafiaba a los participantes del segundo grupo a cuestionar sus propuestas y a distinguir qué elementos eran realmente novedosos y cuáles ya existían, estos equipos generaban una gama más amplia de ideas y propuestas significativamente más innovadoras.

2. Comprender el momento y el lugar adecuados para utilizar la IA

Al establecer un marco de gobernanza de la IA, las empresas suelen centrarse en optimizar los lugares donde pueden implementarla. En cambio, podrían preguntarse dónde y cuándo no debería utilizarse la IA. Sugerimos que los líderes:

A. Crear espacios libres de IA para pensar con libertad. Esta estrategia se inspira en iniciativas anteriores destinadas a combatir la sobrecarga del correo electrónico. Por ejemplo, en 2007, Intel llevó a cabo un proyecto piloto con un grupo de ingenieros para combatir la sobrecarga de información que sufrían sus empleados. Durante un día a la semana, se animó a los ingenieros a evitar el uso del correo electrónico. (Intel siguió el ejemplo de otras empresas como Deloitte y U.S. Cellular, que también habían experimentado con un día o una semana sin correo electrónico).

De manera similar, las organizaciones y los directivos pueden alentar a las personas a no utilizar herramientas de IA generativa durante determinados bloques de tiempo o proporcionarles "interfaces con acceso restringido que solo desbloqueen la asistencia después de que el usuario haya aportado primero su propio contexto", como sugieren Chengwei Liu y sus colegas en un reciente artículo de Harvard Business Review.

Asimismo, otro grupo de investigadores informó que una empresa australiana de telecomunicaciones exigía a sus mandos intermedios participar en "sesiones estratégicas libres de IA" antes de utilizar herramientas de inteligencia artificial, obligándolos a elaborar primero planes estratégicos basados en su propio criterio y experiencia.

B. Poner la capacidad de decisión humana en el centro. La omnipresencia de la tecnología en las actuales estrategias de desarrollo y crecimiento puede llegar a influir tanto en las decisiones y la estructura de una organización que su utilización termina por darse por sentada y deja de cuestionarse.

Garantizar que los seres humanos puedan moldear la tecnología comienza por ofrecer a los empleados —especialmente a los de nivel inicial— la oportunidad de desarrollar experiencia y conocimiento contextual, exigiéndoles realizar determinadas tareas sin utilizar herramientas de IA.

Pensemos en los jóvenes banqueros estudiados por Callen Anthony. La investigadora descubrió que quienes aprendían a comprender los procesos mediante la práctica independiente eran capaces de desempeñar mejor su trabajo. Tenían más probabilidades de detectar errores y de proponer alternativas.

Comprender el proceso no es importante únicamente para los puestos de nivel inicial. También es fundamental para los mandos intermedios y los directivos de mayor rango. Anthony También se encontró diferencias entre los banqueros más experimentados: un grupo consideraba la tecnología algorítmica simplemente como una herramienta para producir resultados y, como consecuencia, debilitaba su propia experiencia profesional; otro grupo, en cambio, procuraba comprender el funcionamiento de las distintas tecnologías utilizadas y la manera en que estas influían en su trabajo.

Estos últimos lograban profundizar su experiencia y relacionarse de forma más significativa con los analistas jóvenes, pidiéndoles que justificaran la elección de las herramientas utilizadas y explicaran los supuestos y cálculos que sustentaban las cifras que presentaban.

A un nivel organizacional más amplio, los estudios sobre tecnología y trabajo han demostrado que la implementación eficaz de nuevas tecnologías implica rediseñar los procesos laborales aprovechando el conocimiento de los trabajadores.

De hecho, vemos este enfoque reflejado en un informe elaborado por un grupo de expertos y patrocinado por el Ministerio de Trabajo de España, que destaca la importancia de involucrar a los trabajadores de las empresas en las conversaciones relacionadas con la implementación de la inteligencia artificial.

3. Procesar en paralelo

En algunas situaciones, puede ser útil que la IA y un equipo de personas realicen la misma tarea de forma independiente y en paralelo. Posteriormente, el equipo y la IA pueden combinar sus resultados para producir un resultado híbrido.

Por ejemplo, With Company, una consultora de diseño transformacional con sede en Lisboa, ha estado experimentando con el procesamiento en paralelo en proyectos estratégicos y creativos.

En uno de sus primeros experimentos, realizado en 2024 con una empresa emergente en etapa inicial, dos equipos trabajaron simultáneamente sobre el mismo desafío de creación de marca (branding): uno utilizando un proceso de diseño más tradicional y otro apoyándose en gran medida en flujos de trabajo asistidos por IA.

El equipo que utilizó IA generó cerca de 1.700 imágenes antes de llegar a una propuesta final, ampliando de manera significativa el espacio de exploración y acelerando la generación de alternativas. El equipo dirigido por personas produjo menos propuestas, pero con mayor coherencia, narrativas más sólidas y una mejor contextualización desde el principio.

Finalmente, fue seleccionada la propuesta del equipo liderado por personas. Sin embargo, la enseñanza más importante para With Company fue que el procesamiento en paralelo puso de manifiesto las diferencias entre las fortalezas relativas de la IA y de los equipos humanos en las distintas etapas del proceso creativo.

La IA demostró ser especialmente útil para la transcripción, la síntesis, la exploración rápida y la ampliación del abanico de posibilidades, mientras que el encuadre del problema, la priorización y el juicio siguieron dependiendo en gran medida de la interpretación humana y de la comprensión del contexto.

Desde entonces, With Company ha continuado experimentando con el procesamiento en paralelo en múltiples proyectos.

Probar diferentes interfaces

Muchos modelos de IA generativa y modelos de lenguaje de gran tamaño (LLM) están diseñados en torno a una interfaz de chatbot, que favorece una interacción basada en el esquema de "pregunta y respuesta" en la mayoría de los contextos. Su respuesta suele consistir en un extenso bloque de texto que obliga al usuario a leer listas de viñetas y revisar una gran cantidad de información hasta encontrar la respuesta que busca.

Sin embargo, este tipo de interfaz no resulta adecuado para todas las situaciones. Con frecuencia, la interacción con el chatbot termina convirtiéndose en una conversación desordenada en la que, por ejemplo, un largo texto resumido generado por la IA es simplificado, reorganizado y reinterpretado por un trabajador de oficina que ya se encuentra abrumado por la enorme cantidad de información presentada. Posteriormente, la IA refuerza esa confusión al responder a esa reinterpretación de una manera que imita estructuralmente la respuesta del propio trabajador.

Las investigaciones sobre interacción humano-computadora han cuestionado la idea de que la única forma de interactuar con una computadora sea mediante un teclado y un ratón. De manera similar, podemos cuestionar la idea de que la IA sea simplemente un chatbot.

Un artículo reciente propone abandonar la "interfaz de usuario sin fricción" y sustituirla por otra que comparta los datos originales y presente evidencias contrapuestas, obligando al usuario a interpretar la información, evaluar las distintas alternativas y deliberar antes de tomar una decisión.

La evidencia empírica sugiere que este tipo de interfaces más sofisticadas funciona especialmente bien en ámbitos como las matemáticas o la programación, donde los usuarios ya son expertos.

Google, por ejemplo, señaló que las interfaces conversacionales actuales no respaldaban el complejo proceso multidimensional e iterativo que caracteriza a la investigación matemática. Para cubrir esa necesidad, desarrolló el "AI Co-mathematician" ("IA co-matemática"), una herramienta diseñada con una interfaz flexible que ayuda a los matemáticos a desarrollar sus líneas de trabajo y, al mismo tiempo, los asiste en la verificación de demostraciones y en la detección de errores.

La herramienta ofrece un mejor apoyo al proceso iterativo propio de las matemáticas mediante un sistema de anotaciones que visualiza las distintas etapas del razonamiento y hace mucho más visible el proceso mediante el cual se llega a una conclusión.

Herramientas como esta demuestran que la IA ya no tiene por qué limitarse al chatbot genérico que actualmente conocemos y utilizamos.

Conclusión

A medida que la IA continúa incorporándose a las organizaciones, los directivos deben ir más allá del entusiasmo que rodea a esta tecnología y adoptar una visión integral y equilibrada sobre su utilización dentro de las empresas.

Para apoyar a sus empleados en su papel como productores activos de conocimiento, es fundamental que las organizaciones lleven a cabo una experimentación estratégica con la IA, con el fin de identificar cómo utilizar esta tecnología para respaldar el trabajo, preservar la experiencia especializada y fomentar la diversidad de pensamiento.

La IA debe potenciar a las personas, no sustituirlas.

Artículo tomado, adaptado y traducido del blog de Harvard Business Review
Melchior Tamisier-Fayard, Theodoros Evgeniou y Anne-Laure Fayard, Design AI Systems That Actually Strengthen Human Reasoning