Anthropic, la empresa detrás del chatbot Claude, considera que la inteligencia artificial pronto podría cruzar un umbral sin precedentes, participando en el diseño de sus propios sucesores, y llama a una pausa coordinada en el desarrollo de sistemas avanzados.
Claude genera aproximadamente el 80 % del nuevo código utilizado para mejorar el chatbot. Los avances en agentes autónomos alimentan temores sobre una aceleración tecnológica difícil de controlar. Anthropic se preocupa por la aparición de una IA capaz de mejorar a sus sucesores, basándose en observaciones internas que indican que Claude juega un papel crucial en su propio desarrollo.
Los investigadores aclaran que los sistemas actuales no pueden desarrollar solos una nueva generación de IA, pero destacan que Claude genera gran parte del código para sus futuras versiones, y que los agentes de IA pueden escribir y ejecutar código de manera autónoma. La velocidad de los avances podría depender de la potencia de cálculo disponible si la auto-mejora recursiva se convierte en realidad.
Anthropic plantea la necesidad de una pausa temporal y coordinada para que autoridades e investigadores evalúen los riesgos. Sin coordinación, los actores que continúen su trabajo podrían superar rápidamente el retraso, neutralizando el efecto de la desaceleración. Esta posición provoca reacciones encontradas, alimentando un debate sobre si es una anticipación prudente de un riesgo real o una estrategia de comunicación para sensibilizar al público sobre los desafíos de la IA avanzada.
Las discusiones sobre inteligencia artificial ya no se limitan a su desempeño, sino también a las medidas que enmarquen su evolución. Anthropic revela un desafío sin precedentes al llamar a reflexionar sobre un mecanismo mundial de desaceleración, planteando la cuestión de si los Estados y empresas podrán acordar reglas comunes antes de que los avances de la IA hagan el debate aún más urgente.
¿Serán capaces los Estados y las empresas de establecer un marco regulatorio efectivo antes de que la inteligencia artificial supere los límites de control?
.
.
.
RESUMEN BASADO EN EL ARTÍCULO PUBLICADO EN Cointribune EL 05 de junio de 2026. Leer original
https://www.cointribune.com/es/anthropic-plantea-una-pausa-global-ante-el-avance-de-la-inteligencia-artificial/
La carta papal sobre inteligencia artificial, «valiente, pertinente y documentada»