Si alguien la crea, todos moriremos

Yudkowsky, E. y Soares, N. (2026). Si alguien la crea, todos moriremos. Por qué la superinteligencia artificial es una amenaza para la humanidad. Barcelona: Destino.

Dadas las implicaciones del título, las evaluaciones inmediatas tan positivas de la obra y el reconocimiento internacional de los autores -fundador y actual presidente del MIRI (Machine Intelligence Research Institute), respectivamente-, parece pertinente que veamos hasta qué punto podemos incluir este volumen en el marco de la buena ciencia. Comencemos, pues.

El objetivo: mitigar el riesgo de extinción (prioridad global) si un día llega a ver la luz la superinteligencia artificial (SIA), capaz de superar al ser humano en prácticamente todas las tareas cerebrales -la IA actual se halla todavía lejos de este logro, aunque será cada vez más inteligente: alta velocidad, copiar y pegar fácilmente… mejoría rápida -.

Será técnicamente difícil dar forma a la SIA para que sea de utilidad a la humanidad en vez de perjudicarla (tal vez sea oportuno, en consecuencia, evitar su creación). Más vale, entonces, irnos preparando -no queremos morir de esta forma-. Hemos de presentar batalla, sabiendo que no estamos solos en el intento, como iremos viendo (Hinton y Bengio –Premios Nobel y Turing-, los propios autores…).

Hoy ya conocemos relativamente bien los pasos que hay que dar para desarrollar una IA: se elige la arquitectura de la IA, se seleccionan los parámetros que se añaden y los que se multiplican, se establece el motor que calcula trillones de gradientes… Una IA es un conjunto de miles de millones de números que son descensos de gradiente (algoritmo de optimización usado para entrenar modelos de aprendizaje automático, minimizando los errores entre los resultados previstos y los reales). Lo que no se entiende tanto, en cambio, es lo referido a qué significan los números o por qué funcionan –interpretabilidad– (la relación de los biólogos con el ADN es semejante a la de los ingenieros con los números de la IA; han fracasado hasta el momento en la creación de la SIA, no así en su paulatino desarrollo).

Las preferencias de la IA (deseos). He aquí la cuestión: actuar como si quisiera algo determinado, como si quisiera tener éxito -la clase de pensamiento que va a por todas, que no se rinde-. El problema entonces no es tanto si buenas o malas personas controlan la IA, cuanto saber que es más fácil desarrollar una IA que se dirija a algún sitio, que se dirija exactamente a donde tú quieres (alineación).

Las preferencias de una IA madura son prácticamente imposibles de predecir y poco probable que coincidan con las nuestras, con independencia de su entrenamiento (problema de alineación de la IA: ¿cómo dar forma a las preferencias de una IA que no podemos entender?). Lo que ya sí podríamos responder a si la SIA sería buena para la humanidad, con alta probabilidad de acierto, es un claro no: no estaríamos entre sus cosas favoritas ni necesitaría odiar a la humanidad para usar sus átomos para otras cosas -sus preferencias-. Nosotros perderíamos. Ella – SIA- ganaría. Golpearía con más fuerza en los dominios menos comprendidos por nosotros.

Afrontar el desafío. El reto al que se enfrenta la humanidad -SIA- no se puede superar con nuestros actuales conocimientos en modo alguno. Ante este panorama, una llamada de urgencia: humanidad, ponte a la altura de las circunstancias y gana. Pongamos, pues, nuestros cerebros a trabajar en una misma dirección: anticipémonos, no permitiendo que esta futurible SIA ponga en riesgo nuestra propia existencia, dado que es difícil de imaginar una SIA sumisa a los deseos de los humanos -alineación de la SIA: ¿un oximeron?-.

Las excusas de que nadie nos avisó dejan de ser válidas ya desde ahora. Podemos actuar ciertamente (gobiernos, políticos, periodistas y ciudadanía) antes de la aparición de la SIA, después sería prácticamente imposible -ya no podríamos saber lo que pasa dentro-. Donde hay vida (aún estamos en el antes: ¿cuál es la cultura de seguridad imperante en la IA?), todavía hay esperanza, siendo conscientes de que con la SIA no habrá una segunda oportunidad para la humanidad. En síntesis: lectura obligada, si nos apreciamos un mínimo a nosotros mismos (y a la humanidad).