En mayo de 2018, Amnistía Internacional, Access Now y otras organizaciones asociadas presentaron la Declaración de Toronto sobre la protección del derecho a la igualdad y la no discriminación en los sistemas de aprendizaje automático. Esta Declaración es un documento histórico que busca aplicar las normas internacionales de derechos humanos existentes al desarrollo y uso de sistemas de aprendizaje automático, comúnmente conocidos como inteligencia artificial.
Contexto y Motivación de la Declaración
Cuando Amnistía Internacional comenzó a examinar la intersección entre la inteligencia artificial y los derechos humanos, se observaron dos aspectos clave. Primero, existía un interés amplio y genuino en las cuestiones éticas en torno a la IA, no solo entre académicos, sino también en muchas empresas. Esto fue alentador, ya que parecía que los escándalos sucesivos que afectaron a las empresas de redes sociales habían generado una respuesta proactiva a los riesgos asociados con la IA.
La segunda observación fue que, en gran medida, las normas de derechos humanos no estaban presentes en el debate sobre la ética de la IA; en varias ocasiones se mencionaba su importancia, pero por lo general era una referencia pasajera. Además, la discusión sobre la ética de la IA comenzaba a tomar un giro conocido: se argumentaba que la ética de la IA debería depender de la cultura. Esto abre la puerta a diferentes estándares y niveles de protección de los derechos de las personas, lo cual, en el contexto de una tecnología digital global como la IA, carece de sentido. Era evidente que afirmar el papel central del marco de derechos humanos en la ética de la IA era una prioridad, por lo que se decidió centrar en la igualdad y la no discriminación en el aprendizaje automático, un tema urgente que genera cada vez más problemas en la vida real.
La Inteligencia Artificial y el Aprendizaje Automático: Impacto y Riesgos
La inteligencia artificial (IA) es una tecnología poderosa con un efecto transformador en muchos aspectos de la vida, desde el transporte y la fabricación hasta la atención médica y la educación. Su uso está aumentando en todos estos sectores, así como en el sistema de justicia, la policía y el ejército. La IA puede aumentar la eficiencia, generar nuevos conocimientos sobre enfermedades y acelerar el descubrimiento de medicamentos novedosos. Sin embargo, su uso indebido, intencional o no, también puede dañar los derechos de las personas.
El aprendizaje automático (AA), un subconjunto de la inteligencia artificial, se define como “proporcionar a los sistemas la capacidad de aprender y mejorar de forma automática a partir de las experiencias, sin necesidad de programación explícita”. Uno de los riesgos más importantes que presenta el aprendizaje automático es el peligro de amplificar la discriminación y los sesgos existentes contra ciertos grupos, a menudo comunidades marginadas y vulnerables, que ya luchan por ser tratadas con dignidad y respeto. Cuando se utilizan datos históricos para entrenar a los sistemas de aprendizaje automático sin salvaguardias, estos sistemas pueden reafirmar o incluso aumentar el sesgo estructural existente. También se pueden causar daños discriminatorios cuando las decisiones tomadas al diseñar los sistemas de IA producen resultados sesgados, ya sea de forma deliberada o no.
Lea también: ¿Qué es el Acuse de Recibo de la Declaración?
Desarrollo y Estructura de la Declaración de Toronto
La Declaración de Toronto fue redactada después de discusiones y entrevistas con docenas de expertos en IA, empresas y derechos humanos, entre otros. Se realizaron amplias consultas sobre el borrador, y el documento fue adoptado el 16 de mayo de 2018, al inicio de RightsCon.
La Declaración tiene tres secciones principales que abordan deberes y responsabilidades:
Deber de los Estados: Establece el deber de los Estados de prevenir la discriminación en el diseño o la implementación de los sistemas de aprendizaje automático en contextos públicos o mediante asociaciones público-privadas. Esta sección incluye principios para identificar riesgos en el uso de sistemas de aprendizaje automático, garantizar la transparencia y la rendición de cuentas (incluida la divulgación pública de dónde se usan estos sistemas), hacer cumplir la supervisión (incluidos mecanismos para la supervisión independiente) y promover la igualdad.
Responsabilidades de los Actores Privados: Describe las responsabilidades de los actores privados en el contexto del desarrollo y la implementación de sistemas de AA. Se basa en el marco de diligencia debida en materia de derechos humanos, definido originalmente en los Principios Rectores de la ONU sobre las Empresas y los Derechos Humanos. Estas responsabilidades incluyen detectar posibles resultados discriminatorios a través de la identificación y evaluación de riesgos, tomar medidas efectivas para prevenir y mitigar la discriminación (como someter a los sistemas a auditorías externas independientes cuando haya un riesgo considerable de violación de derechos humanos), y ser transparentes, lo que incluye la publicación de especificaciones técnicas, muestras de los datos de entrenamiento utilizados y fuentes de datos.
Derecho a un Recurso Efectivo: Afirma el derecho a un recurso efectivo y a llamar a cuentas a los responsables de las violaciones. Exhorta a los gobiernos a garantizar estándares de debido proceso para el uso del aprendizaje automático en el sector público, actuar con cautela al utilizar sistemas de AA en el sistema penal, definir líneas claras de rendición de cuentas para el desarrollo e implementación de aplicaciones de AA, y aclarar cuáles son los organismos o personas jurídicamente responsables de las decisiones tomadas mediante el uso de dichos sistemas.
Lea también: Aprende a declarar el IVA correctamente
Hacia la Implementación y el Compromiso
Redactar y publicar la Declaración es solo el primer paso para que el marco de derechos humanos se convierta en un componente fundamental del ámbito de la ética de la IA y los datos, el cual está experimentando un rápido desarrollo. La Declaración establece principios para la política y la práctica, pero para hacerlos efectivos se necesitan guías prácticas de implementación que ayuden a ingenieros y gerentes de productos a aplicar estos principios en su trabajo. Amnistía Internacional está trabajando con ingenieros e investigadores para lograrlo.
Además, es importante que la sociedad civil dé su más amplio respaldo a la Declaración de Toronto para afirmar la centralidad de los derechos humanos en el debate sobre la ética de la IA. Esta sería una señal importante de que se espera que las empresas de tecnología también apoyen la Declaración y se comprometan a velar por que las nuevas tecnologías no diluyan los derechos humanos existentes. Acercarse más a la comunidad tecnológica para entablar un diálogo entre los defensores de derechos humanos y los ingenieros ayudará a incorporar los derechos humanos en el uso y desarrollo de la IA.
Finalmente, es crucial impulsar una información equilibrada sobre las tecnologías de IA, reconociéndolas como herramientas que pueden usarse para el bien, pero de las que también se puede abusar. Describir la IA mediante visiones distópicas o utópicas no conduce a un debate sensato, y nos distrae de abordar los riesgos reales y de aprovechar las oportunidades de utilizar la IA en nuestro beneficio.
Lea también: SAT: Anulación y Corrección
tags: #declaracion #de #toronto #inteligencia #artificial