La regulación de la inteligencia artificial (IA) es crucial para evitar sesgos de género y garantizar algoritmos éticos. Expertas como Karina Gibert y Tatiana Caldas Löttiger destacan que la falta de mujeres en el desarrollo de IA ha llevado a la creación de algoritmos sesgados. Gibert, catedrática de la UPC, señala que los equipos de IA han estado compuestos principalmente por hombres blancos, lo que ha contribuido a la falta de diversidad en los datos utilizados para entrenar estos sistemas.
La EU AI Act, aprobada en 2024, es la primera ley mundial que regula la IA de manera integral, clasificando los sistemas según su riesgo, desde prohibidos hasta de riesgo mínimo. Aunque su implementación completa se espera para agosto de 2027, la ley busca proteger los derechos fundamentales y asegurar que las aplicaciones de IA cumplan con estándares éticos. Por ejemplo, aplicaciones que asesoran a médicos deberán pasar por un proceso de validación para garantizar su seguridad y ética.
El uso de IA no regulada puede llevar a discriminaciones, como se evidenció en Inglaterra, donde aseguradoras dejaron de ofrecer servicios a mujeres divorciadas por considerarlas vulnerables. La rapidez del avance tecnológico plantea desafíos para la regulación, ya que la normativa puede quedar desactualizada rápidamente. Caldas advierte sobre los daños que la IA generativa puede causar, destacando la necesidad de un análisis constante y actualizado de los riesgos asociados.
Caroline König, ingeniera de la UPC, trabaja en un proyecto de medicina personalizada considerado de alto riesgo, que busca establecer un enfoque individualizado para el tratamiento psicológico de la psicosis. Este tipo de iniciativas subraya la importancia de la regulación en el desarrollo de tecnologías que impactan en la salud y bienestar de las personas.
¿Cómo puede la sociedad garantizar que la inteligencia artificial se desarrolle de manera ética y sin sesgos de género en un entorno tecnológico en constante evolución?
.
.
.
RESUMEN BASADO EN EL ARTÍCULO PUBLICADO EN ARA EL 27 de octubre de 2023. Leer original