Una de las empresas de IA más poderosas pidió una pausa global en la inteligencia artificial más avanzada por temor a perder el control

La empresa de inteligencia artificial Anthropic, desarrolladora de Claude, propuso una pausa global en el desarrollo de los sistemas de IA más avanzados, argumentando que los modelos recientes podrían evolucionar hasta un punto en el que resulten difíciles de controlar por los seres humanos.

En un informe, la firma con sede en San Francisco afirmó que una desaceleración mundial del desarrollo de la inteligencia artificial de última generación sería “probablemente una buena idea”, pero solo tendría sentido si fuera adoptada de manera conjunta por las principales empresas y gobiernos involucrados. Anthropic sostiene que frenar momentáneamente el desarrollo de la IA más avanzada podría beneficiar a la sociedad a largo plazo. “Creemos que sería bueno para el mundo tener la opción de disminuir o pausar temporalmente el desarrollo de vanguardia de la IA para permitir que las estructuras sociales y la investigación sobre alineamiento sigan el ritmo del avance de la tecnología”, señaló. Anthropic considera que un acuerdo de este tipo requeriría la participación de los principales desarrolladores de IA en países como China y Estados Unidos. “Sin un mecanismo global de coordinación, las empresas y los gobiernos tendrán que tomar decisiones difíciles sobre seguridad mientras enfrentan presiones competitivas y geopolíticas”, indicó. La compañía también alertó sobre la “superación recursiva”, un escenario en el que una inteligencia artificial pueda mejorarse a sí misma sin intervención humana. “Aún no hemos llegado a ese punto, y la superación recursiva no es inevitable”, señala el informe. Sin embargo, Anthropic advirtió que los avances podrían producirse más rápido de lo esperado y que existen señales de que la intervención humana está perdiendo protagonismo en el desarrollo de estos sistemas. “Las pruebas sugieren que el papel humano se está reduciendo en cada paso del proceso de desarrollo de la IA”, advirtió Anthropic.
¿Estamos preparados para enfrentar los riesgos de una inteligencia artificial que evoluciona sin control humano?
.

.

.

RESUMEN BASADO EN EL ARTÍCULO PUBLICADO EN Sema EL 5 de junio de 2026. Leer original

https://www.semana.com/tecnologia/articulo/una-de-las-empresas-de-ia-mas-poderosas-pidio-una-pausa-global-en-la-inteligencia-artificial-mas-avanzada-por-temor-a-perder-el-control/202637/