El concepto de «descarga cognitiva» (cognitive offloading) —cuando los seres humanos delegan tareas mentales complejas o que requieren un esfuerzo considerable en herramientas externas, como los chatbots de inteligencia artificial— se ha utilizado cada vez más para describir cómo la IA podría estar volviéndonos, por así decirlo, más estúpidos. Cuando las personas desarrollan este hábito, especialmente al enfrentarse a tareas más complejas, pueden debilitar su capacidad de pensamiento crítico y sus conocimientos especializados contextualizados, comprometer sus capacidades para tomar decisiones y conducir a formas de pensamiento cada vez más homogéneas.
¿Qué significa esto para las organizaciones? La mayoría de ellas reconoce el valor de los empleados que hacen preguntas y cuestionan los supuestos establecidos: comportamientos fundamentales para la agilidad organizacional y la innovación. La ironía es que, a pesar de las crecientes evidencias de que el uso de la IA puede erosionar esta capacidad, muchas empresas siguen incorporándola de manera acrítica a sus procesos de trabajo.
Para contribuir a resolver este problema, nos apoyamos en investigaciones existentes (incluidas algunas de nuestra propia autoría), estudios organizacionales y entrevistas con directivos para proponer un nuevo enfoque sobre cómo diseñar, implementar y utilizar la IA de manera que fomente, a largo plazo, el pensamiento diverso y crítico.
Los riesgos de que la IA influya en nuestra manera de pensar
A muchos investigadores les preocupa que el uso de la IA conduzca a una descontextualización del conocimiento especializado. Aunque la IA puede acceder fácilmente a hechos y datos, en última instancia es un algoritmo: esto significa que no experimenta los datos de manera directa ni puede interpretar y aplicar el conocimiento de forma significativa dentro de un contexto. Esto se debe a que pasa por alto matices que solo pueden reconocer las personas gracias a su intuición, sus emociones y su experiencia vivida.
Por ejemplo, el hecho de que una IA pueda aprobar un examen de acceso a la abogacía no significa que comprenda plenamente el sistema de justicia, a sus distintos actores y la manera en que otras formas de conocimiento especializado se relacionan con el derecho. Sin una comprensión tanto del caso específico como de los matices del sistema judicial, los abogados que confían en los conocimientos de la IA pueden correr el riesgo de interpretar incorrectamente las pruebas y cometer errores.
De hecho, un estudio reciente sugiere que la dependencia de la IA incrementa la necesidad de contar con personas que, a partir de sus conocimientos especializados en un determinado ámbito, puedan validar los resultados de la IA, adaptarse a nuevas situaciones y anticiparse a posibles problemas. Otra preocupación es que, a medida que las empresas eliminan puestos de nivel inicial para reducir costes, corren el riesgo de perder, con el tiempo, la cantera de mandos intermedios de cuya comprensión contextual dependen actualmente.
La IA también fomenta el pensamiento homogéneo. Diversos estudios han demostrado que los grandes modelos de lenguaje (LLM, por sus siglas en inglés) tienden a fijarse en la primera idea que generan y muestran una inclinación hacia las respuestas promedio. Esto lleva a los usuarios a ignorar información sorprendente o inesperada, a pesar de que precisamente esa información es la que puede dar lugar a descubrimientos creativos. Por tanto, el uso de la inteligencia artificial generativa (IA generativa o GenAI) favorece la formación de monoculturas intelectuales que carecen de las experiencias y perspectivas diversas indispensables para la innovación. También puede afectar la agilidad de las empresas, ya que las personas tienen más probabilidades de pasar por alto las señales del entorno que indican la necesidad de un cambio.
Cómo pueden los seres humanos dar forma a la IA
Para controlar estos riesgos, debemos considerar la tecnología no sólo como una herramienta, sino como parte de un sistema al que los seres humanos pueden dar forma. Esto significa encontrar maneras de diseñar entornos de trabajo apoyados en la IA que preserven la autonomía humana. A continuación, presentamos tres posibles formas de conseguirlo.
1. Pensar en nuevas maneras de abordar la IA. El filósofo griego Sócrates solía plantear preguntas a sus seguidores para conducirlos a encontrar respuestas a los problemas de manera independiente o, en algunos casos, a reconocer su propia ignorancia. Este enfoque también puede utilizarse con la IA, como muestran los siguientes ejemplos.
El desafío «Prompt With Me»: Esta iniciativa fue puesta en marcha por la empresa farmacéutica multinacional AstraZeneca como respuesta a los problemas relacionados con el uso de la IA en el entorno laboral. El programa, de diez días de duración, fue diseñado para animar a los empleados a comprender y experimentar con sus propias formas de utilizar la IA. El objetivo era desarrollar el pensamiento crítico, no solo mediante el aprendizaje de mejores técnicas para formular instrucciones (prompts), sino también a través del desarrollo de estrategias para utilizar la IA como un medio que permitiera profundizar en los temas y aprender más.
Los 1.500 participantes fueron invitados a adoptar una actitud reflexiva e introspectiva respecto a la manera en que utilizaban e interactuaban con la IA a través de sus instrucciones. La iniciativa creció rápidamente dentro de la organización y se convirtió en un modelo para abordar otros flujos de trabajo, áreas funcionales y herramientas de IA. Actualmente, ha sido adoptada por más de cincuenta equipos y departamentos de AstraZeneca.
El hackatón BUILD2GETHER–AI-SDG: La Escuela Politécnica Federal de Zúrich (ETH Zürich), la Universidad Tecnológica de Nanyang y el Sairam Engineering College organizaron un hackatón de 24 horas en el que participaron cerca de 2.000 personas distribuidas en casi 500 equipos. Los participantes recibieron distintos tipos de retroalimentación generada por IA sobre propuestas de iniciativas destinadas a ayudar a las Naciones Unidas a alcanzar sus Objetivos de Desarrollo Sostenible.
La mitad de los equipos recibió comentarios sobre cómo mejorar sus ideas para que se ajustaran mejor a los objetivos previamente establecidos y contribuyeran a alcanzarlos. La otra mitad recibió comentarios que identificaban redundancias entre sus propuestas y proyectos que ya se habían llevado a cabo, con el propósito de animarlos a experimentar con conceptos alternativos. Cuando la IA cuestionó las propuestas de los participantes de este segundo grupo, estos desarrollaron una gama más amplia de ideas innovadoras.
2. Comprender dónde y cuándo es conveniente utilizar la IA. Al establecer marcos de gobernanza de la IA, las empresas suelen centrarse en optimizar los ámbitos en los que pueden implementarla. Sin embargo, quizá deberían considerar también dónde y cuándo no conviene utilizarla. Estas son algunas sugerencias.
Crear espacios libres de IA: Las organizaciones pueden animar a sus empleados a abstenerse de utilizar herramientas de IA generativa durante determinados periodos de tiempo o proporcionarles, como señalan los autores de este artículo, «interfaces restringidas que desbloqueen la asistencia únicamente después de que el usuario haya aportado su propio contexto». Otro grupo de investigadores documentó el caso de una empresa australiana de telecomunicaciones que exigió a sus mandos intermedios participar en «sesiones estratégicas libres de IA» antes de utilizar herramientas de inteligencia artificial. De este modo, se les obligaba a realizar primero una lluvia de ideas a partir de su propio criterio y experiencia.
Situar la autonomía humana en el centro: La tecnología ocupa un lugar omnipresente en los planes de desarrollo y las estrategias de crecimiento de muchas organizaciones, hasta el punto de que su utilización puede llegar a darse por sentada y dejar de cuestionarse. Garantizar que los seres humanos puedan dar forma a la tecnología comienza por ofrecer a los empleados, especialmente a quienes ocupan puestos de nivel inicial, la oportunidad de desarrollar competencias y conocimientos contextuales. Esto puede conseguirse exigiéndoles que realicen determinadas tareas sin la ayuda de la IA.
En un estudio sobre analistas de banca de inversión en etapas iniciales de su carrera, el investigador Callen Anthony descubrió que quienes habían aprendido mediante la práctica estaban mejor preparados para realizar su trabajo y tenían mayores probabilidades de detectar errores y proponer alternativas.
Anthony también encontró diferencias entre los banqueros sénior. Un grupo consideraba la tecnología algorítmica simplemente como una herramienta para producir resultados, lo que debilitaba sus conocimientos especializados; otro, en cambio, comprendía las distintas tecnologías y la manera en que estas daban forma a su trabajo. Este segundo grupo logró profundizar sus conocimientos y establecer una interacción significativa con los analistas júnior: les pedía que justificaran sus elecciones de herramientas y explicaran los supuestos y cálculos que había detrás de las cifras que presentaban.
Trabajar en paralelo: En determinadas situaciones, puede resultar útil que la IA y un equipo de personas realicen de manera independiente y simultánea una misma tarea. Por ejemplo, la consultora de diseño With Company puso en marcha dos equipos para trabajar en un mismo desafío de identidad de marca: uno utilizó un proceso de diseño más tradicional, mientras que el otro recurrió ampliamente a flujos de trabajo apoyados en la IA.
El segundo equipo generó cerca de 1.700 imágenes antes de llegar a una propuesta definitiva, lo que amplió considerablemente el espacio de exploración y aceleró la diversificación de las ideas. El equipo dirigido por personas produjo menos alternativas, pero estas mostraban desde el principio una mayor coherencia, narrativas más definidas y una contextualización más sólida.
Finalmente, se seleccionó la propuesta del equipo dirigido por personas. Sin embargo, la enseñanza más general fue que el trabajo en paralelo permitió identificar las diferencias entre las fortalezas relativas de los equipos humanos y los sistemas de IA en las distintas etapas del proceso creativo.
3. Experimentar con diferentes interfaces. Muchos modelos de IA generativa y grandes modelos de lenguaje están diseñados en torno a interacciones de chatbot basadas en el esquema de «pregunta y respuesta». Esto suele desembocar en una «conversación» desordenada en la que, por ejemplo, un empleado de oficina, abrumado por la enorme cantidad de información presentada, intenta simplificar, reorganizar y reinterpretar un bloque de texto generado por la IA. La propia IA termina reforzando esa confusión al responder de una manera que reproduce estructuralmente la respuesta del usuario.
Para superar este problema, invitamos a las empresas a cuestionar la idea de que la IA debe funcionar necesariamente como un chatbot. De hecho, un artículo académico reciente ha propuesto abandonar las «interfaces de usuario sin fricciones» y sustituirlas por otras que hagan visibles los datos en bruto y las evidencias contrapuestas, obligando al usuario a interpretar la información y deliberar sobre las alternativas propuestas.
Este tipo de interfaces puede funcionar bien en ámbitos como las matemáticas o la programación, en los que los usuarios ya cuentan con conocimientos especializados. Tomemos el caso de Google. Tras darse cuenta de que las interfaces de conversación actuales no ofrecían la mejor asistencia para la investigación matemática, desarrolló una herramienta de IA con una interfaz flexible y un sistema de anotaciones que ayuda a los matemáticos a desarrollar líneas de trabajo, verificar demostraciones y detectar errores.
No cedamos el control a la IA
A medida que la IA continúa incorporándose a las organizaciones, sus directivos deben reconocer que la tecnología no es neutral y que puede influir negativamente en nuestra manera de pensar y relacionarnos. Por ello, los responsables de las empresas deben ir más allá del entusiasmo que rodea a esta tecnología y adoptar una perspectiva integral y equilibrada sobre su utilización.
En lugar de centrarse en los beneficios a corto plazo, las empresas deberían apoyar el desarrollo de sus empleados como productores activos de conocimiento, experimentando estratégicamente con la IA para identificar de qué manera puede fortalecer el trabajo, preservar los conocimientos especializados y fomentar el pensamiento diverso.
En otras palabras: dar forma a la IA, en lugar de permitir que ella nos dé forma a nosotros.
Texto tomado, adaptado y traducido del blog de Forbes
Melchior Tamisier-Fayard, Theodoros Evgeniou y Anne-Laure Fayard, “How to use AI without eroding critical thinking”
