Dario Amodei, CEO de Anthropic, ha lanzado una advertencia explícita sobre el futuro de la inteligencia artificial. En un ensayo de 38 páginas titulado “The Adolescence of Technology: Confronting and Overcoming the Risks of Powerful AI” (La adolescencia de la tecnología: afrontar y superar los riesgos de la inteligencia artificial avanzada), el directivo sostiene que la humanidad se encuentra ante una prueba de madurez histórica, enfrentada a una tecnología cuyo poder crece más rápido que las instituciones capaces de controlarla. “La humanidad está a punto de recibir un poder casi inimaginable, y no está claro que nuestros sistemas sociales, políticos y tecnológicos tengan la madurez necesaria para manejarlo”, escribe Amodei, que describe el momento actual como una fase inevitable de desajuste.

El núcleo de su argumento se encuentra en que la carrera por la IA no puede autorregularse. El incentivo económico, geopolítico y militar es tan fuerte que ningún laboratorio, empresa o gobierno tiene margen real para pisar el freno sin quedar fuera del juego. “El premio es demasiado brillante”, viene a decir Amodei, incluso para quienes son plenamente conscientes de los riesgos.

Para explicar el alcance del problema, el CEO recurre de forma constante a una metáfora inquietante: “un país de genios en un centro de datos”. Un ecosistema compuesto por millones de sistemas de IA, más inteligentes que cualquier humano, operando a velocidad de máquina, coordinándose y con capacidad creciente para actuar sobre el mundo real. El riesgo, según Amodei, es solo moral y estratégico, puesto que la falta de control podría llevar a consecuencias catastróficas.

Amodei concluye que la única forma de mitigar estos riesgos es a través de un esfuerzo colaborativo global que involucre a gobiernos, empresas y la sociedad civil, para establecer regulaciones que aseguren un desarrollo seguro y ético de la inteligencia artificial. Sin embargo, la pregunta persiste: ¿podrán los actores involucrados dejar de lado sus intereses individuales por el bien común?

¿QUIÉN DIJO QUE LA INTELIGENCIA ARTIFICIAL NO PODÍA SER UN JUEGO PELIGROSO?