CLiC × 4 | Cuatro libros, un problema

La pregunta más inquietante sobre la inteligencia artificial quizá esté mal formulada. Nos preguntamos si las máquinas llegarán a pensar como nosotros, si podrán escribir mejores textos, tomar decisiones más precisas, producir obras de arte o superar nuestra inteligencia. Pero tal vez el problema decisivo sea exactamente el contrario: ¿qué ocurrirá con nosotros cuando ya no necesitemos pensar porque una máquina pueda hacerlo en nuestro lugar? El riesgo de la inteligencia artificial no se encontraría entonces únicamente en lo que las máquinas lleguen a ser, sino en aquello que los seres humanos podríamos dejar de ser.

Cuatro libros permiten contemplar esta cuestión desde lugares diferentes: Si alguien la crea, todos moriremos, de Eliezer Yudkowsky y Nate Soares; Sabiduría artificial. Una IA humanista, de Juan María Nin, María José Sánchez Yago y José Luis Vázquez; ¿Ética o ideología de la inteligencia artificial?, de Adela Cortina; y Contra la bazofia digital, de Irene Lozano. Leídos conjuntamente, no ofrecen una respuesta uniforme. Precisamente por eso resulta fecundo ponerlos en conversación: entre ellos aparece una tensión que va desde la posibilidad extrema de una inteligencia que escape al control humano hasta un peligro mucho más cercano y silencioso, el de seres humanos que deleguen progresivamente sus capacidades intelectuales.

Yudkowsky y Soares (2025) sitúan la amenaza en el futuro de la propia tecnología. Su tesis es radical: desarrollar una inteligencia superior a la humana sin resolver previamente el problema de su alineamiento podría representar un riesgo existencial. No basta con construir sistemas cada vez más capaces; habría que poder garantizar que sus objetivos permanezcan compatibles con la supervivencia y los intereses humanos. La paradoja es perturbadora: la inteligencia creada para ampliar nuestro poder podría convertirse en aquello frente a lo cual nuestro poder resultara irrelevante. La cuestión deja entonces de ser cuánto puede hacer una máquina y pasa a ser si podremos seguir controlando aquello que hemos creado.

Pero existe otra posibilidad. Quizá la inteligencia artificial nunca necesite rebelarse contra nosotros para transformarnos profundamente. Puede bastar con que sea extraordinariamente útil.

Ese desplazamiento del problema permite leer de otra manera Contra la bazofia digital. Lozano (2026) dirige la mirada hacia un fenómeno que ya pertenece al presente: la producción incesante de contenidos, la sobreabundancia de información y la progresiva sustitución de actividades intelectuales que hasta hace poco exigían tiempo, atención y esfuerzo. Frente a ello, reivindica la lectura, la conversación, la reflexión y el criterio propio como formas de preservar la libertad intelectual. La amenaza adquiere aquí una forma paradójica: una tecnología diseñada para ahorrarnos esfuerzo podría terminar ahorrándonos precisamente aquellos esfuerzos mediante los cuales aprendemos a pensar.

La inteligencia humana no es únicamente una capacidad disponible; también es una práctica. Se aprende a argumentar argumentando, a escribir escribiendo, a interpretar interpretando y a decidir enfrentándose a la incertidumbre de una decisión. Si comenzamos a delegar sistemáticamente esas operaciones, la pregunta relevante no será únicamente si la respuesta producida por la máquina es correcta. Tendremos que preguntarnos qué capacidad dejamos de ejercitar cada vez que permitimos que alguien —o algo— piense por nosotros.

En este punto, Adela Cortina introduce una dimensión todavía más profunda. El problema de la IA no puede reducirse a determinar qué tareas ejecutan mejor los algoritmos. También exige preguntarse qué racionalidad queremos que organice nuestra convivencia. Cortina (2024) advierte sobre el predominio de una razón estratégica y tecnológica frente a una razón comunicativa sustentada en el diálogo y la deliberación. En juego aparecen la autonomía, la dignidad y la propia democracia. Una sociedad puede disponer de máquinas extraordinariamente inteligentes y, simultáneamente, empobrecer los espacios en los cuales sus ciudadanos argumentan, discrepan, deliberan y construyen decisiones comunes.

La cuestión ética fundamental cambia entonces de dirección. No se trata solamente de preguntarnos qué valores debemos introducir en la inteligencia artificial, sino qué valores estamos dispuestos a conservar nosotros cuando convivamos permanentemente con ella. Una máquina puede producir argumentos, pero no por ello debe desaparecer nuestra obligación de argumentar; puede recomendarnos una decisión, pero la responsabilidad moral de decidir no se transfiere automáticamente al algoritmo; puede proporcionarnos información ilimitada, pero ninguna cantidad de información garantiza por sí misma la formación del juicio.

Aquí adquiere especial importancia Sabiduría artificial. Una IA humanista. Nin, Sánchez Yago y Vázquez plantean que el valor de la inteligencia artificial debe medirse por su capacidad para fortalecer la dignidad humana, ampliar las posibilidades de desarrollo y contribuir al bienestar colectivo. Su propuesta vincula innovación tecnológica con libertad, justicia y bien común. Esta perspectiva permite escapar de una alternativa demasiado simple: aceptar incondicionalmente la IA o rechazarla. El verdadero problema consiste en determinar qué relación queremos establecer con ella.

Porque inteligencia artificial y sabiduría no son sinónimos. Podemos construir sistemas capaces de procesar cantidades de información inconcebibles para una persona y seguir sin saber qué merece la pena hacer con ese conocimiento. Podemos disponer de respuestas cada vez más rápidas y perder, al mismo tiempo, la capacidad de formular preguntas importantes. Podemos automatizar decisiones sin haber decidido previamente cuáles deberían permanecer bajo responsabilidad humana.

Los cuatro libros terminan así convergiendo sobre una paradoja. Yudkowsky y Soares temen una inteligencia demasiado poderosa; Lozano, una humanidad intelectualmente debilitada; Cortina, una sociedad donde la racionalidad tecnológica desplace la deliberación; Nin, Sánchez Yago y Vázquez buscan una inteligencia artificial subordinada a un horizonte humanista. Entre esas posiciones aparece una posibilidad inquietante: el futuro de la inteligencia artificial dependerá tanto de las capacidades que consigamos darlea las máquinas como de las capacidades que decidamos conservar en nosotros mismos.

Quizá, por eso, la pregunta decisiva de nuestro tiempo no sea cuándo llegará una máquina capaz de pensar como un ser humano. Puede ser otra mucho más próxima: cuando pensar deje de ser necesario, ¿seguiremos eligiendo hacerlo?

En CLiC, el acceso a estos cuatro libros adquiere sentido precisamente en ese punto. Ninguno contiene por separado la respuesta al problema y ningún ensayo puede sustituir su lectura. Al ponerlos en relación aparece algo que no estaba contenido enteramente en ninguno de ellos: una pregunta común que los atraviesa y que obliga al lector a pasar de un libro al otro. Leerlos es entrar en una discusión todavía abierta sobre las máquinas que estamos construyendo, pero, sobre todo, sobre los seres humanos que queremos seguir siendo.

Referencias

Cortina, A. (2024). ¿Ética o ideología de la inteligencia artificial? El eclipse de la razón comunicativa en una sociedad tecnologizada. Paidós.

Lozano, I. (2026). Contra la bazofia digital: Un alegato urgente por la inteligencia humana y el orgullo de ser mortales. Ediciones Península.

Nin, J. M., Sánchez Yago, M. J., & Vázquez, J. L. (s. f.). Sabiduría artificial: Una IA humanista.

Yudkowsky, E., & Soares, N. (2025). If anyone builds it, everyone dies: Why superhumanAI would kill us all. Little, Brown and Company.