L’entrevista analitza l’aparició de programes de programari d’intel·ligència artificial disruptius, com els desenvolupats per Anthropic, que han generat sorpresa i temor pel seu alt grau d’autonomia en la decisió. Héctor Santcovsky explica que aquests sistemes han demostrat una capacitat de concatenació lògica tan avançada que semblen «treballar sols», fet que va portar els seus creadors a retirar certes versions professionals del mercat per prudència ètica.
Un dels punts centrals de la conversa és la tensió entre l’ètica i l’ús militar. Mentre empreses com Anthropic imposen limitacions per evitar que la seva tecnologia s’utilitzi en la guerra o per a l’exclusió social, s’ha fet públic un manifest de 22 punts per part de líders de Palantir (com Peter Thiel i Alex Karp). Aquest manifest advoca per una aliança estreta entre Silicon Valley i el Pentàgon per subministrar les armes més potents possibles, sota l’argument que, si no ho fa Occident, la Xina prendrà la davantera en la cursa armamentista digital.
Aquesta cursa tecnològica planteja el risc del que alguns autors, com Yanis Varoufakis, anomenen «tecnofeudalisme» o «tecnofeixisme». Es tracta d’una possible substitució de la voluntat popular per una tecnocràcia dominada per grans corporacions digitals i el poder militar. A més, s’alerta que aquesta desigualtat tecnològica pot aprofundir l’esquerda social entre territoris rics (grans àrees metropolitanes) i zones perifèriques o rurals que quedarien postergades.
Finalment, Santcovsky destaca la vulnerabilitat dels sistemes de ciberseguretat actuals, que ha posat en alerta la banca i els estats. De cara al futur, subratlla que el debat no s’ha de centrar només en el control, sinó en la identificació de sectors vulnerables (com l’ocupació) i en reptes emergents que sovint s’ignoren, com el consum massiu d’energia dels centres de dades.
Mythos, el nuevo modelo de IA de Anthropic, desata la alarma mundial