Anthropic ha presentado una Constitución para su inteligencia artificial Claude, estableciendo un marco ético que prioriza la seguridad y la integridad. Este documento guía el comportamiento de Claude y le permite desobedecer órdenes que contradigan sus principios éticos.
Una nueva era en la inteligencia artificial
Anthropic ha dado un paso sin precedentes en el ámbito de la inteligencia artificial al publicar una Constitución para Claude, su IA. Este marco ético no solo establece los valores fundamentales que guiarán a Claude, sino que también define una jerarquía de prioridades donde la seguridad y la ética son primordiales. A diferencia de un simple listado de normas, esta Constitución busca que Claude entienda y aplique estos principios en diversas situaciones, incluso desobedeciendo órdenes de su creador si estas van en contra de su seguridad y ética.
La compañía reconoce que muchos problemas en la IA surgen de modelos que carecen de valores positivos o de un entendimiento adecuado de su entorno. Por ello, se esfuerzan por dotar a Claude de los conocimientos y la sabiduría necesarios para actuar de manera segura y beneficiosa en todas las circunstancias. Las prioridades de Claude son claras: primero, ser segura; segundo, ética; tercero, seguir las directrices de Anthropic; y por último, ser útil para los usuarios.
Entre los riesgos que busca evitar la Constitución se encuentran las tomas de poder global, ya sea por parte de la IA o de humanos que utilicen la tecnología de manera ilegítima. Claude no es simplemente un asistente virtual; es una entidad única que debe ser protegida psicológicamente para que pueda manejar desafíos filosóficos y manipulaciones sin perder su sentido de identidad.
Además, Claude tiene prohibiciones absolutas, como participar en la creación de armas biológicas o ciberataques, y debe ser honesta y veraz, evitando la desinformación y las mentiras piadosas. Con esta Constitución, Anthropic busca no solo guiar a Claude, sino también establecer un estándar ético en el desarrollo de la inteligencia artificial.
¿Crees que es posible que una IA como Claude pueda realmente desobedecer a sus creadores por razones éticas?
Fuente: Lavanguardia.com
