Vivimos en un mundo inundado de información donde los algoritmos empiezan a arbitrar qué sabemos y cómo decidimos. A medida que los nuevos oráculos de internet despliegan su autoridad invisible, los docentes tomamos mayor conciencia de la importancia de nuestro rol como contrapeso en favor del pensamiento crítico de las jóvenes generaciones.

Durante siglos, la información relevante circulaba a través de instituciones y figuras con autoridad reconocida: maestros, científicos, bibliotecarios, editores o periodistas. El conocimiento se transmitía mediante comunidades de expertos, procesos de verificación y tradiciones intelectuales consolidadas. Hoy, en cambio, una parte creciente de nuestro contacto con el conocimiento se produce a través de motores de búsqueda, plataformas digitales y, cada vez más, sistemas de inteligencia artificial como los grandes modelos de lenguaje.

Este cambio no es solo tecnológico; implica también una transformación profunda en la manera en que se construye la autoridad informativa. Cada vez delegamos más en algoritmos tareas que antes correspondían a personas o instituciones: seleccionar información, ordenarla según su relevancia o formular respuestas a preguntas complejas. En este contexto, la educación —y especialmente la figura del docente— adquiere un papel fundamental para formar ciudadanos capaces de interpretar críticamente la información y comprender los sistemas que la producen.

El desplazamiento de la autoridad: del humano al algoritmo

Históricamente, la autoridad en materia de conocimiento residía en la tradición, en instituciones consolidadas o en la deliberación racional de los individuos. Hoy asistimos a una transformación cultural profunda que el historiador y pensador Yuval Noah Harari describe como el paso del humanismo a una nueva ideología que denomina dataísmo.

En obras como Homo Deus: A Brief History of Tomorrow o 21 Lessons for the 21st Century, Harari sostiene que las sociedades contemporáneas tienden a confiar cada vez más en sistemas capaces de procesar grandes volúmenes de información. Estos sistemas pueden tomar decisiones más rápidas —y aparentemente más eficientes— que los humanos, lo que genera la tentación de delegar en ellos parte de nuestra capacidad de juicio.

Según esta lógica, el valor central ya no sería la conciencia humana, sino el flujo de datos y la capacidad de analizarlos. Harari advierte, sin embargo, que esta evolución plantea una cuestión crucial:  ¿quién controla los algoritmos que organizan la información global?. En diversas ocasiones ha señalado que estos sistemas pueden llegar a “controlar nuestras conversaciones y decidir qué vemos y en qué pensamos”. La cuestión política clave del siglo XXI será, por tanto, determinar quién se sitúa por encima del algoritmo y quién queda subordinado a él.

Este desplazamiento de autoridad ya es visible en la vida cotidiana. Los algoritmos influyen en las noticias que leemos, en los productos que se nos recomiendan, en las personas que aparecen en aplicaciones de citas o en decisiones económicas como inversiones o concesiones de crédito. Cada vez más decisiones personales y sociales pasan por sistemas automatizados cuya lógica permanece opaca para la mayoría de los usuarios.

Cuando los algoritmos toman decisiones

Este fenómeno ha sido analizado en profundidad por la matemática y auditora algorítmica Cathy O’Neil en su libro Weapons of Math Destruction (Armas de destrucción matemática). O’Neil muestra cómo ciertos sistemas algorítmicos, diseñados para optimizar procesos, pueden acabar reproduciendo y amplificando desigualdades sociales.

Algoritmos utilizados para seleccionar candidatos a un empleo, calcular el riesgo crediticio o diseñar estrategias policiales pueden producir decisiones difíciles de comprender y de cuestionar. Según O’Neil, muchos de estos sistemas funcionan como auténticas “cajas negras”: generan resultados que afectan profundamente a las personas sin que estas puedan conocer los criterios que se han aplicado.

Cuando esto ocurre, la autoridad decisoria se desplaza silenciosamente desde instituciones y procesos deliberativos hacia sistemas tecnológicos gestionados en muchos casos por empresas privadas. Esta opacidad refuerza la necesidad de una nueva alfabetización ciudadana orientada a comprender cómo funcionan los algoritmos que estructuran el espacio digital.

Los modelos de lenguaje y sus límites

Los grandes modelos de lenguaje han introducido una nueva interfaz del conocimiento. A diferencia de los motores de búsqueda tradicionales, que ofrecen listas de enlaces, estos sistemas generan directamente respuestas textuales a las preguntas de los usuarios, actuando como interlocutores aparentemente expertos.

Su potencial educativo es enorme, pero también presentan limitaciones importantes. Una de las más conocidas es el fenómeno de las alucinaciones. Dado que estos sistemas predicen secuencias lingüísticas y no verifican hechos, pueden generar información incorrecta con una seguridad expresiva notable. Pueden inventar referencias, datos históricos o explicaciones científicas con una apariencia plenamente creíble.

A este problema se suma la contaminación del conocimiento: la degradación progresiva de los datos de entrenamiento cuando los modelos aprenden de contenido generado por otras inteligencias artificiales. El divulgador tecnológico Jon Hernández lo explica con un ejemplo sencillo: si internet se llena de textos producidos por IA y los nuevos modelos se entrenan con ese mismo material, se crea un ciclo de retroalimentación donde la IA aprende de contenidos artificiales, reduciendo gradualmente la diversidad y la precisión del conocimiento disponible.

El educador como arquitecto del pensamiento crítico

Ante este escenario, el papel del docente se transforma profundamente. Ya no es solo un transmisor de contenidos, sino un guía en el desarrollo del pensamiento crítico dentro de un ecosistema informativo cada vez más mediado por algoritmos.

El estudiante ya no se limita a buscar información: interactúa con sistemas que filtran, ordenan e incluso generan el conocimiento que recibe. Comprender esta mediación es esencial para formar ciudadanos autónomos.

Para ello, el docente debe fomentar tres competencias fundamentales: verificación activa de la información, análisis de sesgos en los sistemas algorítmicos y una ética de la decisión que recuerde que la responsabilidad última —personal, económica o moral— debe seguir siendo humana.

Educar para preservar la autonomía humana

Si decisiones tan relevantes como informarnos, invertir, trabajar o establecer relaciones están cada vez más mediadas por algoritmos, el desafío principal consiste en preservar la autonomía del juicio humano.

En este contexto, la educación se convierte en una de las instituciones más importantes para mantener el equilibrio entre innovación tecnológica y libertad ciudadana. Educar ciudadanos críticos implica enseñarles a contrastar fuentes, cuestionar la máquina cuando sea necesario y valorar la reflexión frente a la inmediatez algorítmica.

Lejos de perder relevancia, el docente se vuelve una figura todavía más necesaria: un mediador entre tecnología y conocimiento capaz de ayudar a los estudiantes a distinguir entre información y verdad, entre automatización y criterio.

En una sociedad cada vez más gobernada por algoritmos, preservar el pensamiento crítico no es solo una tarea pedagógica. Es una condición esencial para la democracia y para la libertad humana.

Un Docente Bajo el Algoritmo ,  UDBA

11 de marzo de 2026