The Precipice

Toby Ord, filósofo de Oxford especializado en ética, dedicó una década a una pregunta incómoda: ¿cuál es la probabilidad real de que la humanidad no llegue al siglo próximo? Su respuesta —una entre seis, según su propio cálculo— convirtió a The Precipice en uno de los libros fundacionales del movimiento de riesgo existencial, y en lectura obligada mucho antes de que el resto del mundo empezara a hablar de riesgos de la inteligencia artificial.

Por qué lo recomienda Vitalik Buterin

Vitalik Buterin lo elogió específicamente por cómo está construido, más que solo por su contenido: “The Precipice hace un gran trabajo en esto. Una sección principal muy accesible para el público general, apéndices más técnicos, notas todavía más técnicas. Definitivamente es un modelo a seguir”. Viniendo de alguien que escribe tanto ensayos técnicos sobre criptografía como reflexiones accesibles sobre gobernanza y sociedad, el elogio apunta a algo que Buterin practica en su propio blog: la idea de que un texto serio puede (y debería) tener capas de profundidad distintas para lectores distintos, en vez de elegir entre popularizar o tecnificar.

De qué trata

Ord clasifica los riesgos existenciales en dos grandes categorías: los naturales (asteroides, supervolcanes, pandemias naturales), que según sus cálculos son relativamente improbables porque la humanidad ya lleva 200.000 años sobreviviéndolos, y los antropogénicos —guerra nuclear, cambio climático extremo, pandemias diseñadas y, sobre todo, inteligencia artificial avanzada mal alineada—, que concentran la enorme mayoría del riesgo real porque son nuevos y todavía no sabemos gestionarlos bien. El libro no es alarmismo: es un intento sistemático, con números y supuestos explícitos, de estimar cuánto deberíamos preocuparnos por cada uno.

El “precipicio” como ventana histórica angosta

La idea central que le da título al libro es que la humanidad entró, con la bomba atómica en 1945, en un período histórico angosto y peligroso: tenemos ya el poder tecnológico para autodestruirnos, pero todavía no la sabiduría institucional para gestionar ese poder con seguridad. Ord argumenta que si logramos atravesar este “precipicio” sin una catástrofe irreversible, el potencial de florecimiento humano a largo plazo —milenios, no décadas— es enorme, lo que convierte a la seguridad existencial en una prioridad moral de una magnitud que casi nadie trata con la seriedad que merece.

Para quién es

Para quien piensa en tecnología emergente, gobernanza global o el largo plazo de la civilización, y quiere una introducción rigurosa —no alarmista ni negacionista— a por qué el riesgo existencial merece atención seria hoy.

Por ahora disponible solo en inglés; el enlace lleva a la edición de Bloomsbury Publishing.