Profecía

En Profecía, Carissa Véliz dice que aspira a contribuir al debate público con una idea central: debemos reflexionar con mayor detenimiento sobre qué es la predicción, qué no lo es, y cómo utilizarla para construir el mundo en el que queremos vivir. Se trata de tener en cuenta que, por un lado, «las predicciones no solo legitiman decisiones políticas y ciudades, sino que también otorgan autoridad a los propios líderes»; y, por otro, que «la profecía es un asunto peligroso tanto para gobernantes como para adivinos».

La principal promesa de la predicción es el poder, no la precisión. Esto se ve si miramos a los oráculos del mundo antiguo, a los astrólogos de la Edad Media, a los científicos sociales del siglo XIX, a los sociólogos y burócratas que asumieron el papel de los astrólogos, a los informáticos, analistas de datos y ejecutivos tecnológicos que los reemplazaron. Todos los comentarios y anécdotas de tipo histórico que cuenta conducen a donde la autora quiere llegar: a las IA, los oráculos más recientes, y de los ejecutivos tecnológicos, los nuevos profetas.

Afirma que las IA generativas, los grandes modelos de lenguaje, tal como están diseñados actualmente, son los mayores engañadores porque están hechos para ser plausibles sin importarles la verdad, para sonar como seres humanos y hacerse pasar por algo que no son: seres empáticos. Su talón de Aquiles es su incapacidad para distinguir entre correlación y causalidad; su gran problema es que, con mucha facilidad, confunden la verdad con la semejanza a la verdad.

Explica que las predicciones tienden a generar la realidad que profetizan pero, por mucho que se vigile y se prediga, no todo es predecible, y cuanto más se cree que todo es predecible, mayor es el riesgo de ser aplastado por lo imprevisible. Conviene pensar que existen problemas con los datos, que existen problemas sociales, que existen problemas científicos, que existen problemas de coincidencia, y que existen problemas irónicos. Al final, nuestras propias predicciones hacen que el mundo sea más impredecible.

Tal como decía en La privacidad es poder, la autora insiste en que las herramientas digitales no son neutrales; están diseñadas para vigilar. Muchos productos en nuestros dispositivos (como documentos y mapas en línea) fueron diseñados precisamente con la creación de datos personales en mente, para que nuestras vidas sean más rastreables por las máquinas. Que nos resulten útiles es solo el incentivo para que, sin darnos cuenta, proporcionemos los datos que se utilizan para controlarnos. No existe la vigilancia por la vigilancia misma. La vigilancia carece de sentido sin la intención de controlar. Ni las instituciones ni los depredadores vigilan por diversión.

El invento más poderoso de las empresas tecnológicas no es la tecnología, sino sus narrativas. Así que, afirma la autora, es nuestra responsabilidad cuestionarlas y no dejarnos engañar por sus historias. No existen expertos en el futuro. Ninguna cantidad de datos nos ayudará a prepararnos para lo impredecible, para los momentos en que el futuro no se parezca al pasado. El uso extensivo de la IA predictiva está, por lo tanto, haciendo que la sociedad sea menos resiliente, aunque aparentemente la fortalezca.

Carissa Véliz. Profecía: Lecciones sobre el uso y abuso de la predicción, desde los antiguos oráculos hasta la IA (Prophecy: Prediction, Power, and the Fight for the Future, from Ancient Oracles to AI, 2026). Barcelona: Debate, 2026; 456 pp.; trad. de Álvaro Marcos Lantero y Andrés Barba; ISBN:‎ 979-1387600631. [Vista del libro en amazon.es]