Este capítulo arranca con una confesión del autor que se me quedó grabada: "Pensé que sabía cuáles eran las preguntas importantes… y estaba equivocado." Después de nueve capítulos hablando de todo lo que la IA puede arreglar —salud, trabajo, educación, finanzas—, este es el capítulo donde el libro se detiene y pregunta: ¿y lo que no sabemos?
No es un capítulo de respuestas. Es un capítulo de preguntas que casi nadie se está haciendo en voz alta, y que a mí como lectora me incomodaron justo lo suficiente para compartirlas acá.
¿Qué significa "bueno" para una IA?
El primer dilema es el más filosófico y el más ignorado: ¿bajo qué valores optimiza un sistema de IA? El capítulo plantea que no existe un "north star" universal — lo que se considera una decisión correcta cambia según la cultura, el país, el sistema político. Optimizar un algoritmo global bajo un solo set de valores es, en el fondo, imponer una visión particular como si fuera neutral.
El costo ecológico que nadie pone en la portada
Segundo dilema: la IA no es gratis para el planeta. Entrenar y correr estos modelos consume energía, agua y una infraestructura física gigantesca que rara vez aparece en la conversación sobre "el futuro que viene". El capítulo no dice que haya que frenar el desarrollo — dice que hay que dejar de fingir que el costo no existe.
Más riqueza no es lo mismo que más justicia
Este es, para mí, el punto más importante del capítulo. La IA puede generar riqueza global sin garantizar que esa riqueza se distribuya de forma justa. Puede ampliar la brecha entre personas, entre países, entre empresas grandes y chicas — al mismo tiempo que hace crecer la torta completa. Crecimiento y justicia no son lo mismo, y tratarlos como sinónimos es donde más nos equivocamos.
"Pensé que sabía cuáles eran las preguntas importantes… y estaba equivocado."
Un marco legal que todavía no existe
¿Quién es responsable cuando un sistema de IA se equivoca? ¿De quién son los datos con los que se entrena? ¿Cómo verificamos qué es real y qué no, en un mundo donde generar contenido convincente es trivial? El capítulo no resuelve estas preguntas — y ese es justamente el punto: la tecnología avanza más rápido que el marco legal que debería contenerla.
No todo lo que se puede automatizar, se debería automatizar
Un principio simple, pero que casi nadie aplica en la práctica: que algo sea técnicamente posible no significa que sea deseable. El capítulo invita a hacerse esa pregunta antes de automatizar, no después.
Y al final, la pregunta más grande de todas
Si la IA resuelve las necesidades básicas —salud, trabajo, educación, dinero— ¿qué le da propósito a una vida humana? El capítulo cierra sin respuesta, con una idea que prefiero dejar tal cual: el RenAIssance no lo va a definir la tecnología. Lo van a definir las decisiones humanas que tomemos alrededor de ella.
De todos los capítulos que he resumido hasta ahora, este es el que más me hizo cerrar el libro y quedarme pensando. No porque tenga las respuestas — porque por fin alguien hace las preguntas en voz alta.
Publicado originalmente en mi newsletter Estrategia con alma ↗ en LinkedIn.