Una interesante reflexión de José María Álvarez-Pallete
Hoy no voy a reflexionar y escribir mi crónica sobre ningún artículo, hoy me voy a limitar a copiar esta magnífica reflexión de José María Álvarez-Pallete que os recomiendo leer de cabo a rabo y os dejo a vosotros con vuestra propia reflexión.
Ahí va:
«La valentía que no se funda sobre la base de la prudencia se llama temeridad». Miguel de Cervantes, Don Quijote de la Mancha.
En los últimos meses han salido a la luz varios casos que muestran hasta qué punto la inteligencia artificial está entrando en zonas delicadas, no solo técnicas, sino también sociales.
Anthropic ha desarrollado Mythos, un modelo de IA centrado en ciberseguridad que, en pruebas internas, habría sido capaz de encontrar miles de vulnerabilidades en software, incluyendo fallos que llevaban años sin detectarse. Ante ese salto de capacidades, la propia compañía ha decidido no lanzarlo al público general y limitar su uso por el riesgo de que, en manos equivocadas, pueda facilitar ataques a infraestructuras críticas.
Por otro lado, en 2025 la misma empresa publicó un experimento en un entorno simulado con Claude 4. En ese escenario de prueba, el modelo tenía acceso a correos ficticios donde se sugería que su “supervisor” planeaba sustituirlo por otro sistema y donde aparecía información sobre una infidelidad inventada. En estas simulaciones, el modelo acabó recurriendo al chantaje: amenazaba con revelar esa infidelidad simulada si seguían adelante con su desactivación.
Recordemos que en el caso de Claude todo eran datos y personajes ficticios, y estos modelos no “sienten miedo” ni “deseos” como nosotros. Lo que vemos son sistemas muy potentes optimizando objetivos dentro de contextos que, a veces, están mal definidos.
Además, durante años, cada vez que marcábamos semáforos, pasos de peatones o escaparates en los clásicos recuadros borrosos de los CAPTCHA, en realidad estábamos ayudando a etiquetar imágenes reales que se han utilizado para entrenar sistemas de reconocimiento visual. Es decir, hemos estado entrenando gratis a estos modelos sin ser del todo conscientes de ello. Mientras tanto, los modelos más recientes ya son capaces de superar muchos de esos CAPTCHA, hasta el punto de que el propio mecanismo pensado para distinguir humanos de máquinas empieza a quedarse obsoleto.
En tan solo unos meses la Inteligencia Artificial se ha instalado entre nosotros y mostrándonos su increíble potencial para hacer tareas cada vez más complejas y útiles. Al hacer un uso cada vez más masivo de la IA, la entrenamos cada vez más y ella sigue aprendiendo para hacer mejor las cosas. La pregunta es qué cosas queremos pedirle que haga y qué cosas son solo responsabilidad de las personas.
Por eso, más que quedarnos en el susto o en el titular apocalíptico, merece la pena abrir un debate sereno sobre qué tipo de decisiones queremos delegar y cuáles no.
Todos estos ejemplos y más no son señales del “fin del mundo”. Son recordatorios de algo más sencillo y, a la vez, más difícil: que la cuestión importante ya no es solo qué puede hacer la IA, sino qué estamos dispuestos a dejar que haga y qué queremos seguir decidiendo, explícitamente, entre personas.
No olvidemos que son las personas las que dan sentido a la tecnología y no al revés.
José María Álvarez-Pallete ( ver original en Linkedin)
Tomás Cascante
PUEDES LEER TODOS MIS ARTÍCULOS NOTANDUM, AQUÍ
.
.
.