¿Qué desventaja grave tenía el totalitarismo en el siglo XX?

¿Cómo la IA podría inclinar la balanza tecnológica del poder?

¿Qué compañías han logrado imponer un monopolio en sus ámbitos?

¿Cómo podrían garantizar los ingenieros humanos que la IA no degenerará hacia formas ilícitas?

¿Qué podría impedir que un chatbot señalara patrones censurables?

¿Cómo harían los ingenieros rusos para explicar a un chatbot que, aunque en principio la Constitución rusa garantice a todos los ciudadanos la libertad de expresión y prohíba la censura, no debe creer en la Constitución ni mencionar la brecha entre la teoría y la práctica?

¿Cómo aprenderá y se desarrollará dicho algoritmo?

¿Cómo haríamos para adiestrar a un chatbot de manera que olvide que las políticas hoy denigradas eran la línea oficial del Gobierno hace solo un año?

¿Qué ocurriría, por ejemplo, si, a pesar de los tremendos esfuerzos de los ingenieros de Microsoft o Facebook, su chatbot empezara a proferir insultos racistas?

¿Qué desafío representan los bots disidentes para los regímenes totalitarios?

¿Cuál es la mayor amenaza para los autócratas a lo largo de la historia?

¿Qué podría suceder si un autócrata concede demasiado poder a los ordenadores?

¿Qué emergencia enfrenta el Líder Supremo según el algoritmo?

¿Qué patrones ha detectado el algoritmo en los datos que recibe?

¿Qué dilema enfrenta el Líder Supremo al conceder poder al algoritmo?

¿Cómo puede un algoritmo no consciente acumular poder?

¿Cómo podría lidiar el algoritmo con, por ejemplo, la oposición de un senador?

Adueñarse del poder en un sistema mucho más centralizado resulta más sencillo. Cuando todo el poder se halla en manos de una persona, quienquiera que controle el acceso al autócrata estará en disposición de manipularlo... y con él al resto del Estado. Para hackear el sistema, bastaría con aprender a manipular a un único individuo. Un caso paradigmático lo encontramos en el emperador romano Tiberio, que se convirtió en el títere de Lucio Elio Sejano, comandante de la Guardia Pretoriana.

La paranoia fue su mayor debilidad. Sejano, uno de los dos prefectos pretorianos, supo sacar provecho de los miedos de Tiberio con gran astucia, pues se hizo frecuente que destapara supuestos complots para asesinar al emperador, muchos de los cuales eran pura fantasía. El suspicaz Tiberio fue desconfiando cada vez más de todo el mundo excepto de Sejano.

Al final, Sejano logró persuadir a Tiberio para que abandonara la capital y se trasladara a Capri, aduciendo que sería mucho más fácil proteger al emperador en una isla pequeña que en una metrópolis abarrotada de traidores y espías.

Con los pretorianos controlando Roma, Tiberio aislado en Capri y Sejano controlando toda la información destinada al emperador, el comandante pretoriano se convirtió en el verdadero gobernador del Imperio.

Al final, alguien —quizá Antonia, cuñada de Tiberio— encontró una grieta en el cordón informativo de Sejano. A escondidas, esta persona envió una carta al emperador en la que le explicaba lo que estaba ocurriendo.

Pero, para cuando abrió los ojos y decidió librarse de Sejano, Tiberio se hallaba casi indefenso. ¿Cómo podía derrocar al hombre que controlaba no solo a sus guardaespaldas, sino también todo tipo de comunicación con el mundo exterior?

¿Qué ocurriría si el algoritmo a cargo de las políticas medioambientales cometiera un error importante pero careciera de unos mecanismos autocorrectores que le permitieran identificar y corregir el error?

¿Qué ocurriría si el algoritmo en el que se basa el sistema de puntuación social del Estado empezara a atemorizar no solo a la población general, sino también a los miembros del Gobierno, y a etiquetar como «enemigo del pueblo» a todo aquel que cuestionara sus políticas?