Sesgos, ilusiones y decisiones: ¿hasta qué punto podemos confiar en la inteligencia artificial?

Resumen

La Inteligencia Artificial (IA), desarrollada desde la década de 1950, es una tecnología de propósito general que requiere un análisis crítico de sus implicaciones éticas, epistemológicas y sociotécnicas. Aunque promete innovación y eficiencia, suscita preocupaciones como sesgos algorítmicos, burbujas sociales, alucinaciones y opacidad de los modelos. En este ensayo teórico, la confiabilidad de la IA se discute a partir de tres ejes: los sesgos, las “ilusiones” y las decisiones tomadas con base en sus respuestas. Para ello, se adopta un enfoque metodológico cualitativo, centrado en la revisión de literatura, dialogando con autores como Rivoltella (2024) y Fantin (2024). Se muestra que los sesgos algorítmicos reflejan prejuicios presentes en los datos de entrenamiento, como ocurre con ChatGPT y sistemas de reconocimiento facial que fallan en la identificación de rostros negros, reforzando culturas hegemónicas y afectando el ámbito educativo. Las “ilusiones” contribuyen a la difusión de desinformación y fortalecen la posverdad. En este contexto, la alfabetización en IA se vuelve esencial para que los usuarios reconozcan limitaciones y fallos. Las decisiones automatizadas se basan con frecuencia en modelos opacos, que comprometen la explicabilidad y exigen mediación humana activa. Además, la concentración de la producción de IA en grandes corporaciones privadas intensifica la falta de transparencia y profundiza las desigualdades tecnológicas, especialmente en países periféricos. Se concluye que la confianza en la IA debe entenderse como una construcción continua y situada, entrelazada con decisiones humanas, intereses económicos y estructuras de poder. Así, confiar en la IA exige mantener la responsabilidad sobre su uso, con mediación crítica y fundamentación en principios de justicia, equidad y libertad cognitiva, reforzando la necesidad urgente de una educación crítica y de la alfabetización en IA.