Geoffrey Hinton, tras abandonar Google hace poco más de tres años, advirtió que el desarrollo de la inteligencia artificial avanzaba demasiado rápido y propuso una moratoria para comprender sus riesgos, pero no se implementó ninguna pausa ni desaceleración en el sector.
La inversión en inteligencia artificial se disparó, nuevos modelos emergieron y la competencia aumentó, acelerando el desarrollo. Recientemente, Anthropic ha planteado la necesidad de una desaceleración global coordinada para investigar sobre seguridad y gobernanza, motivada por la preocupación por la recursive self-improvement de los sistemas de IA. Dario Amodei, de Anthropic, ha advertido sobre los riesgos de estos sistemas avanzados, al tiempo que defiende sus beneficios potenciales, como acelerar el progreso científico en diversas áreas. Sin embargo, surge la contradicción: si la IA puede generar avances significativos, ¿qué incentivos existen para frenar su desarrollo?
El dilema no es tecnológico, sino económico y geopolítico. En el pasado, el sector de la IA tenía pocos actores, pero ahora hay cientos de compañías y gobiernos que ven la IA como clave para su competitividad. La historia tecnológica muestra que los llamamientos a la prudencia a menudo son superados por los incentivos. La regulación de la energía nuclear fue posible debido a su complejidad, mientras que la IA, similar al software, es más difícil de controlar.
Anthropic reconoce que verificar el cumplimiento de una moratoria es problemático. La dificultad radica en cómo comprobar que un actor no sigue desarrollando IA mientras otros se detienen. La comparación entre silos de misiles y entrenamientos de modelos ilustra que el desarrollo de IA es más fácil de ocultar. La ventaja competitiva de continuar desarrollando IA mientras otros se detienen es significativa.
La pausa solo sería efectiva si todos los actores se detuvieran, pero para cualquier actor individual, continuar es más atractivo. A medida que aumenta la recompensa potencial, se complica alcanzar acuerdos colectivos. Las tensiones entre Estados Unidos y China, así como la inversión de otros países, hacen que la idea de una pausa global sea poco realista, dado que requiere un nivel de confianza internacional que actualmente no existe.
¿Es posible establecer un marco de cooperación internacional en un entorno de competencia feroz por el desarrollo de la inteligencia artificial?
.
.
.
RESUMEN BASADO EN EL ARTÍCULO PUBLICADO EN Enrique Dans EL Fecha no disponible. Leer original
https://www.enriquedans.com/2026/06/la-pausa-de-la-inteligencia-artificial-es-una-buena-idea-que-nunca-va-a-ocurrir.html
Antoni Garrell · La Vanguardia