El cofundador de Anthropic, Jack Clark, advierte que la IA necesita un ‘freno’

Jack Clark, cofundador de Anthropic, ha solicitado la capacidad de ralentizar el progreso de la inteligencia artificial (IA), advirtiendo que la tecnología está cerca de un punto en el que podría desarrollarse sin intervención humana.

Clark afirmó en BBC Newsnight: "Se quiere tener la opción de poder quitar el pie del acelerador y ponerlo en el freno". Subrayó que las personas, a través de políticas gubernamentales, deben mantener el control sobre los sistemas de IA, que solo se volverán más poderosos y tendrán impactos más amplios en la sociedad. "El mundo necesita reflexionar y eventualmente desarrollar nuevas regulaciones que nos permitan tener confianza en estos sistemas", dijo.

Actualmente, el popular chatbot de Anthropic, Claude, opera con un código que el 80% del sistema escribió por sí mismo. Clark mencionó que alcanzar el 100% es posible en dos años y que "tendría enormes implicaciones". No especificó cómo se podría crear un "freno" para la investigación y desarrollo de IA, pero trazó un paralelo entre la IA y el auge del petróleo y los barones de principios del siglo pasado.

Clark observó que la respuesta de la sociedad fue desarrollar un marco regulatorio que brindara confianza en el petróleo y sus beneficios, sugiriendo que eso es lo que se necesita en el ámbito de la IA. Sin embargo, Anthropic dio la bienvenida a una orden ejecutiva sobre IA del presidente de EE. UU., Donald Trump, que fue relativamente laxa en sus directrices hacia las empresas, sin requerir pruebas de seguridad por parte del gobierno.

Las principales empresas de IA, incluidas Anthropic, OpenAI y Google, no han indicado que pausen su propia investigación. Anthropic ha crecido rápidamente desde su fundación hace cinco años y se prepara para debutar en el mercado de valores, siendo una de las primeras ofertas públicas de una nueva empresa de IA y una de las más valiosas de la historia, con una valoración estimada por inversores privados de casi $1 billón (£745 mil millones).

Clark enfatizó que la motivación de Anthropic para discutir públicamente la creciente capacidad de la tecnología de IA no es mejorar su reputación con los clientes, sino "contar al mundo lo que estamos viendo dentro de estas empresas con esta tecnología inusual". Desde su fundación por el director ejecutivo Dario Amodei, Clark y otros ejecutivos han sido vocales sobre los riesgos potenciales derivados de la IA.

Clark expresó su preocupación por el futuro de sus hijos si la sociedad no tiene una conversación seria sobre las implicaciones de los avances continuos de la IA, señalando que hay beneficios potenciales, pero también riesgos, como la disrupción económica y la posibilidad de que la tecnología de IA reemplace ciertos trabajos.

Clark sugirió que las personas más creativas y con mejores ideas podrían tener una ventaja sobre la tecnología de IA, y recomendó a los jóvenes que se sientan inseguros en una economía impulsada por la IA que "desarrollen un pasatiempo" y busquen una educación en artes liberales.
¿Estamos preparados para regular la inteligencia artificial antes de que sea demasiado tarde?
.

.

.

RESUMEN BASADO EN EL ARTÍCULO PUBLICADO EN BBC News EL 7 horas atrás. Leer original

https://www.bbc.com/news/articles/cx2124z7g45o