Una carrera armamentista por la supremacía de la inteligencia artificial
Una carrera armamentista por la supremacía de la inteligencia artificial (IA), desencadenada por el reciente pánico por el chatbot chino DeepSeek, está en riesgo de amplificar los peligros existenciales de la superinteligencia, según uno de los “padres” de la IA. El pionero canadiense en aprendizaje automático Yoshua Bengio, autor del primer Informe Internacional de Seguridad de la IA que se presentará en una cumbre internacional de IA en París la próxima semana, advierte que la inversión descontrolada en poder computacional para la IA sin supervisión es peligrosa.
“El esfuerzo se está enfocando en quién ganará la carrera, en lugar de cómo asegurarnos de que no vayamos a construir algo que explote en nuestras manos,” dice el Sr. Bengio. Él advierte que las carreras militares y económicas “resultan en recortes en la ética, en la responsabilidad y en la seguridad. Es inevitable”. El Sr. Bengio trabajó en redes neuronales y aprendizaje automático, la arquitectura de software que sustenta los modelos de IA modernos. Él se encuentra en Londres, junto a otros pioneros de la IA para recibir el Premio Reina Elizabeth a la Ingeniería, el premio global más prestigioso en ingeniería, en reconocimiento a la IA y su potencial. Está entusiasmado con sus beneficios para la sociedad, pero el alejamiento de la regulación de la IA por parte de la Casa Blanca de Donald Trump y la frenética competencia entre las grandes empresas tecnológicas por modelos de IA más poderosos es un cambio preocupante.
Sistemas superhumanos y sus implicaciones económicas
“Estamos construyendo sistemas que son cada vez más poderosos; volviéndose superhumanos en algunas dimensiones,” dice. “A medida que estos sistemas se vuelven más poderosos, también se vuelven extraordinariamente más valiosos, económicamente hablando.” Así que la magnitud de “wow, esto me va a hacer ganar mucho dinero” está motivando a muchas personas. Y, por supuesto, cuando quieres vender productos, no quieres hablar de los riesgos.” Sin embargo, no todos los “padres” de la IA están tan preocupados. Toma a Yann LeCun, científico jefe de IA de Meta, que también está en Londres para compartir el QEPrize.
“Nos hemos dejado engañar al pensar que los grandes modelos de lenguaje son inteligentes, pero en realidad, no lo son,” dice. “No tenemos máquinas que sean casi tan inteligentes como un gato doméstico, en términos de comprensión del mundo físico.” Dentro de tres a cinco años, el Sr. LeCun predice que la IA tendrá algunos aspectos de la inteligencia a nivel humano. Robots, por ejemplo, que pueden realizar tareas para las que no han sido programados o entrenados. Pero, argumenta, en lugar de hacer el mundo menos seguro, los modelos de IA de código abierto como DeepSeek – un chatbot desarrollado por una empresa china que rivaliza con los mejores de las grandes empresas tecnológicas estadounidenses con una décima parte del poder computacional – demuestran que nadie dominará por mucho tiempo. “Si EE.UU. decide cerrarse en torno a la IA por razones geopolíticas o comerciales, entonces tendrás innovación en otro lugar del mundo. DeepSeek mostró eso,” dice.
Premio Reina Elizabeth y la regulación de la IA
El premio Reina Elizabeth a la Ingeniería se otorga cada año a ingenieros cuyos descubrimientos han tenido, o prometen tener, el mayor impacto en el mundo. Los receptores anteriores incluyen a los pioneros de las celdas fotovoltaicas en paneles solares, la tecnología de turbinas eólicas y los imanes de neodimio encontrados en discos duros y motores eléctricos. El ministro de Ciencia, Lord Vallance, quien preside la fundación del QEPrize, dice que está alerta a los posibles riesgos de la IA. Organizaciones como el nuevo Instituto de Seguridad de IA del Reino Unido están diseñadas para prever y prevenir los posibles daños que la “inteligencia” similar a la humana de la IA podría traer.
Pero está menos preocupado por que una nación o empresa tenga un monopolio sobre la IA. “Creo que lo que hemos visto en las últimas semanas es que es mucho más probable que tengamos muchas empresas en este espacio, y la idea de un dominio de un solo punto es bastante improbable,” dice.
Fuente y créditos: news.sky.com
Cats:
