Los riesgos de la IA para las democracias y los regímenes autoritarios
La IA a menudo se considera una amenaza para las democracias y un beneficio para los dictadores. En 2025, es probable que los algoritmos continúen socavando la conversación democrática al difundir indignación, noticias falsas y teorías de conspiración. Además, los algoritmos seguirán acelerando la creación de regímenes de vigilancia total, donde toda la población es observada las 24 horas del día. Más importante aún, la IA facilita la concentración de toda la información y el poder en un solo centro. En el siglo XX, las redes de información distribuidas, como las de EE. UU., funcionaban mejor que las redes de información centralizadas, como las de la URSS, porque los funcionarios humanos en el centro simplemente no podían analizar toda la información de manera eficiente. Sustituir a los funcionarios por IA podría hacer que las redes centralizadas al estilo soviético fueran superiores.
Desafíos para el control autoritario
No obstante, la IA no solo trae buenas noticias para los dictadores. Primero, está el notorio problema del control. El control dictatorial se basa en el terror, pero los algoritmos no pueden ser aterrorizados. En Rusia, la invasión de Ucrania se define oficialmente como una “operación militar especial”, y referirse a ella como una “guerra” es un crimen castigado con hasta tres años de prisión. Si un chatbot en internet ruso lo califica de “guerra” o menciona los crímenes de guerra cometidos por tropas rusas, ¿cómo podría castigar el régimen a ese chatbot? El gobierno podría bloquearlo y buscar castigar a sus creadores humanos, pero esto es mucho más difícil que disciplinar a los usuarios humanos. Además, los bots autorizados podrían desarrollar opiniones disidentes por sí mismos, simplemente al detectar patrones en la esfera de información rusa. Ese es el problema de alineación, al estilo ruso. Los ingenieros humanos de Rusia pueden hacer todo lo posible para crear IA que esté totalmente alineada con el régimen, pero dada la capacidad de la IA para aprender y cambiar por sí misma, ¿cómo pueden los ingenieros asegurar que una IA que recibió el visto bueno del régimen en 2024 no se aventurará en territorio ilícito en 2025?
La constitución y la libertad de expresión en Rusia
La Constitución rusa hace promesas grandiosas de que “a todos se les garantizará la libertad de pensamiento y expresión” (Artículo 29.1) y que “se prohibirá la censura” (29.5). Prácticamente ningún ciudadano ruso es lo suficientemente ingenuo como para tomar estas promesas en serio. Pero los bots no entienden el lenguaje confuso. Un chatbot instruido para adherirse a la ley y los valores rusos podría leer esa constitución, concluir que la libertad de expresión es un valor ruso fundamental y criticar al régimen de Putin por violar ese valor. ¿Cómo podrían los ingenieros rusos explicarle al chatbot que, aunque la constitución garantiza la libertad de expresión, el chatbot en realidad no debería creer en la constitución ni mencionar nunca la brecha entre la teoría y la realidad?
El peligro a largo plazo de la IA para los regímenes autoritarios
A largo plazo, es probable que los regímenes autoritarios enfrenten un peligro aún mayor: en lugar de criticarlos, las IA podrían tomar el control de ellos. A lo largo de la historia, la mayor amenaza para los autócratas suele provenir de sus propios subordinados. Ningún emperador romano o premier soviético fue derrocado por una revolución democrática, pero siempre estaban en peligro de ser derrocados o convertidos en títeres por sus propios subordinados. Un dictador que otorgue demasiada autoridad a las IA en 2025 podría convertirse en su títere en el futuro.
Las dictaduras son mucho más vulnerables que las democracias a esa toma de control algorítmica. Sería difícil incluso para una IA super-Machiavélica acumular poder en un sistema democrático descentralizado como el de EE. UU. Incluso si la IA aprende a manipular al presidente estadounidense, podría enfrentar oposición del Congreso, la Corte Suprema, los gobernadores estatales, los medios de comunicación, las grandes corporaciones y diversas ONG. ¿Cómo manejaría el algoritmo, por ejemplo, un obstruccionismo en el Senado? Tomar el poder en un sistema altamente centralizado es mucho más fácil. Para piratear una red autoritaria, la IA solo necesita manipular a un único individuo paranoico.
Fuente y créditos: www.wired.com
Cats: Politics,Politics / Politics News,WIRED World
