Anthropic está investigando una posible violación de Mythos, un nuevo modelo que la empresa de inteligencia artificial lanzó a un pequeño grupo de empresas a principios de este mes para ayudarles a detectar vulnerabilidades de software.
La empresa detrás del chatbot Claude está revisando un informe de acceso no autorizado a Mythos desde uno de sus entornos de proveedores externos, según un portavoz de Anthropic en un correo electrónico a CBS News. Anthropic trabaja con un número reducido de proveedores externos para desarrollar sus modelos de IA. Hasta ahora, la empresa no ha detectado ninguna violación fuera de su entorno de proveedores ni compromisos en los sistemas de Anthropic.
Anthropic confirmó su investigación sobre la posible violación de Mythos el miércoles, un día después de que Bloomberg informara que un pequeño grupo de usuarios no autorizados había accedido a la herramienta, citando a una persona familiarizada con el asunto. Anthropic lanzó Mythos a un grupo limitado en abril como parte de un esfuerzo denominado Proyecto Glasswing, presentando el nuevo modelo como más efectivo que los sistemas de IA competidores en la detección de vulnerabilidades de software.
En ese momento, Anthropic solo compartió la herramienta con un pequeño grupo de grandes empresas, incluyendo Amazon, Apple, Cisco, JPMorgan Chase y Nvidia, ante preocupaciones de que el nuevo modelo pudiera ser explotado por hackers. El objetivo era ayudar a estas empresas a fortalecer sus defensas antes de que actores malintencionados pudieran acceder a Mythos o modelos de IA similares.
Funcionarios federales, expertos en seguridad y líderes de instituciones globales como el Fondo Monetario Internacional han expresado preocupaciones sobre lo que podría suceder si Mythos cae en manos equivocadas. Si bien el Proyecto Glasswing está destinado a ayudar a las empresas a aislarse de las amenazas cibernéticas, algunos expertos temen que Mythos también pueda ser utilizado para explotar la infraestructura de TI en bancos, hospitales, sistemas gubernamentales y otras organizaciones.
"Necesitamos prepararnos, porque no pudimos mantenernos al día con los malos cuando eran humanos hackeando nuestras redes", dijo Alissa Valentina Knight, CEO de la empresa de ciberseguridad Assail, en declaraciones anteriores a CBS News. "Ciertamente no podemos mantenernos al día ahora si están utilizando IA porque es mucho más devastadoramente rápido y capaz.
¿Cómo pueden las empresas protegerse eficazmente contra las amenazas emergentes de la inteligencia artificial?
.
.
.
RESUMEN BASADO EN EL ARTÍCULO PUBLICADO EN CBS News EL no especificado. Leer original
https://www.cbsnews.com/news/anthropic-investigates-mythos-ai-breach/
Carles Martín et convida a la jornada anual d’Itsccol sobre la docència i la IA