Metodología

Es importante señalar que la ética es contextual, además de ser de vital relevancia.

Existen más de 80 guías y recomendaciones sobre ética y responsabilidad elaboradas por universidades, organizaciones de la sociedad civil, institutos de investigación, empresas, gobiernos y otras entidades. Independientemente de su solidez, la cantidad y variedad de guías dan lugar a una aplicación a la carta de los principios éticos y de responsabilidad, lo que resta importancia al debate sobre la ética. Al mismo tiempo, muchos aspectos de estas guías son muy abstractos y han sido criticados por no ser directamente aplicables, tanto en el ámbito académico como en el industrial.

Las normas de derechos humanos se basan en un conjunto acordado de leyes internacionales y nacionales, lo que proporciona un punto de partida común entre los diferentes actores y hace que el debate y los objetivos sean más concretos. Por ello, hemos decidido centrar este curso en un enfoque del desarrollo de la IA basado en los derechos humanos.

El objetivo principal de los derechos humanos, que es orientar el impacto en los seres humanos hacia su prosperidad, es aplicable a los sistemas de IA y su desarrollo, en otras palabras:

«En el mejor de los casos, la revolución digital empoderará, informará, conectará y salvará vidas. En el peor de los casos, desempoderará, desinformará, desconectará y costará vidas. Los derechos humanos marcarán la diferencia en esa ecuación».

Michelle Bachelet, ex Alta Comisionada de las Naciones Unidas para los Derechos Humanos, 2019.

Realizar un análisis crítico durante y después del desarrollo de la IA ayudará a los creadores a considerar las mejores prácticas desde el principio, incluida una mayor participación de las comunidades afectadas. Es probable que un enfoque basado en los derechos humanos dé lugar a soluciones más sostenibles que tengan un impacto positivo en las comunidades a las que están destinadas.

Este enfoque se basa en preguntas reflexivas a lo largo del ciclo de vida de la IA, utilizando el proceso para pasar de la identificación de un problema social a la solución técnica que lo aborda. En la caja de herramientas distinguimos seis etapas clave del ciclo de vida:

1. Objetivo + Composición del equipo
2. Definición de los requisitos del sistema
3. Descubrimiento de datos
4. Selección y desarrollo de un modelo
5. Prueba e interpretación de los resultados
6. Despliegue, implementación y monitoreo posterior 

Este ciclo de vida no es estrictamente lineal, sino más bien entrelazado y cíclico, lo que fomenta el retorno a pasos anteriores a medida que el modelo evoluciona. Utilizamos la metáfora de un hilo que se repite una y otra vez para enfatizar la importancia de reflexionar, revisar y perfeccionar a medida que aprendemos más sobre el contexto sociotécnico de un sistema.