Una versión de una herramienta de inteligencia artificial (IA) que la empresa dijo que era demasiado poderosa para ser liberada al público ha sido lanzada al público. Claude Fable 5 es una versión de Claude Mythos de Anthropic, un programa de IA que causó serias preocupaciones entre líderes de tecnología, finanzas y gobierno cuando fue lanzado privadamente en abril para su vista y prueba.
Algunos temen que la herramienta sea tan poderosa que podría representar riesgos para la seguridad financiera, aunque otros han cuestionado cuánto de la atención es un giro de marketing. Anthropic declaró el martes que Fable será lanzado con salvaguardias y limitaciones para los usuarios, aunque advirtió que "liberar un modelo tan capaz conlleva riesgos". "Las capacidades de Fable superan las de cualquier modelo que hayamos hecho disponible generalmente", añadieron.
Cuando Mythos fue lanzado por primera vez a un pequeño grupo de organizaciones para probar la herramienta, Anthropic dijo que lo hacía porque la herramienta era tan inteligente que podría ser peligrosa debido a su capacidad para explotar o hackear sistemas informáticos. El Ministro de Finanzas de Canadá, François-Philippe Champagne, dijo a la BBC en abril que la atención sobre Mythos era justificada, en parte, porque "es lo desconocido, desconocido".
Mientras tanto, a pesar de la demanda en curso de Anthropic contra el Departamento de Defensa de EE. UU. por su negativa a aceptar el uso gubernamental de sus herramientas de IA, las agencias gubernamentales de EE. UU. también han estado probando Mythos. Se espera que Anthropic se convierta en una empresa pública pronto, ya que su valoración privada ha alcanzado cerca de $1 billón (£747 mil millones). Mostrar consistentemente mejores y más amplias capacidades de IA subraya su valor para los inversores.
La empresa también dijo el martes que los aproximadamente 150 grupos que habían tenido acceso para probar Mythos ahora tendrán acceso a Claude Mythos 5, que no tiene limitaciones en ciberseguridad o biología, dependiendo de los usos específicos de una organización. Hasta la fecha, los grupos y empresas que utilizan Mythos han informado a Anthropic haber encontrado más de 10,000 fallos de seguridad críticos en sus sistemas.
Anthropic indicó que el acceso actualizado estaba limitado a un "pequeño grupo de ciberdefensores y proveedores de infraestructura", pero se espera que pronto se amplíe. "Intendemos expandir el acceso a Mythos 5 a través de un programa de acceso confiable más amplio", dijo la empresa.
Tanto Fable como Mythos, que son esencialmente el mismo modelo pero con diferentes salvaguardias y niveles de acceso, pueden trabajar "sin supervisión" en comandos humanos que se les dan por períodos más largos "que cualquier modelo Claude anterior". Anthropic añadió que la capacidad de las herramientas de IA estaba expandiéndose tan rápidamente que la empresa pensó que debería haber una manera para que el público desacelerara el avance de la tecnología.
El cofundador de Anthropic, Jack Clark, dijo la semana pasada a BBC Newsnight que "quieres la opción de poder quitar el pie del acelerador y poner el pie en el freno". "En este momento, es como si la industria de la IA tuviera un pedal de gas, pero no tuviera un pedal de freno".
¿Qué implicaciones tiene el lanzamiento de herramientas de IA tan poderosas para la seguridad y la ética en la tecnología?
.
.
.
RESUMEN BASADO EN EL ARTÍCULO PUBLICADO EN BBC EL 12 horas atrás. Leer original
https://www.bbc.com/news/articles/ckg701v1dp6o
Presentación del libro de Antoni Garrell, «La segona revolució digital: una nova era per a la humanitat», 30 junio Círculo Ecuestre Barcelona