El Cermi analiza el impacto de la inteligencia artificial sobre los derechos de las personas con discapacidad

El diálogo, celebrado en la agencia de noticias Servimedia y conducido por su director general, José Manuel González Huesa, contó con la participación de Pilar Villarino, directora ejecutiva del CERMI y presidenta de la Comisión de Transformación Digital e Inteligencia Artificial del Cermi; Gregorio Saravia, delegado del Cermi para los Derechos Humanos y la Convención de la ONU de la Discapacidad; y Luis Vañó, presidente del Cermi Comunidad Valenciana.

Durante la presentación del estudio ‘DiscapacIA’, Pilar Villarino subrayó que el informe nace en el marco del Día Nacional de la Convención y del vigésimo aniversario de este tratado internacional, recordando que el CERMI actúa como mecanismo independiente de seguimiento de la Convención. “La IA no es neutral”, afirmó Villarino, quien explicó que los sistemas de inteligencia artificial aprenden de datos y contextos sociales que pueden contener discriminaciones previas, con el riesgo de “sistematizarlas, ocultarlas, proyectarlas o amplificarlas”.

Villarino defendió, asimismo, que la Convención debe ser el “hilo conductor” para analizar el Reglamento Europeo de Inteligencia Artificial y garantizar que los sistemas de alto riesgo no generen nuevas formas de exclusión. Además, destacó que el informe incorpora una mirada interseccional para analizar cómo la IA puede impactar de manera diferenciada en mujeres con discapacidad, personas mayores, infancia, jóvenes o personas LGTBI con discapacidad.

Cinco partes clave sobre inteligencia artificial y discapacidad

El documento se estructura en cinco partes, 21 capítulos, anexos y un resumen ejecutivo y permite una lectura modular por ámbitos de interés, como empleo, educación, sanidad, servicios financieros, participación política o servicios públicos. Además, el Cermi desarrollará nuevos productos derivados del informe para facilitar su uso por parte de administraciones, entidades y organizaciones sociales.

Por su parte, Gregorio Saravia destacó que la inteligencia artificial “ha llegado para quedarse” y que debe abordarse desde el conocimiento y los derechos humanos, evitando tanto una visión basada en el miedo como una aproximación acrítica a la tecnología. En este sentido, recordó que detrás de los sistemas de IA “hay personas, decisiones y política”, por lo que también deben existir garantías jurídicas y control democrático.

Saravia también alertó de que la tecnología no puede convertirse en “un espacio de anarquía” en el que prevalezcan únicamente intereses comerciales o empresariales. Por ello, reclamó que las personas con discapacidad y sus organizaciones representativas estén presentes en los espacios donde se diseñan, despliegan y supervisan estas herramientas, especialmente en cuestiones relacionadas con los datos, los ajustes razonables y la supervisión de los algoritmos.

Derechos humanos, regulación europea y control de la inteligencia artificial

El delegado del Cermi para los Derechos Humanos insistió además en que la Unión Europea está obligada por la Convención Internacional sobre los Derechos de las Personas con Discapacidad y que este mandato debe trasladarse de forma efectiva a la aplicación del Reglamento Europeo de Inteligencia Artificial.

En representación de los Cermis autonómicos, Luis Vañó defendió la necesidad de incorporar una dimensión territorial a la supervisión de la inteligencia artificial, ya que muchos sistemas automatizados se aplican en ámbitos gestionados por las comunidades autónomas, como servicios sociales, sanidad, educación o dependencia.

Vañó advirtió de que la modernización tecnológica “no puede servir para reducir garantías, apoyos o derechos ya reconocidos” y reclamó que toda IA utilizada por las administraciones públicas sea accesible, explicable, supervisada y recurrible. Asimismo, defendió la creación de mecanismos estables de vigilancia y control, así como una mayor participación de los Cermis autonómicos en la evaluación de impacto y supervisión de los sistemas de inteligencia artificial.

Brechas, discriminación algorítmica y más de 40 recomendaciones del CERMI

El Cermi subrayó que el informe identifica brechas estructurales y patrones de exclusión relacionados con discriminación algorítmica, accesibilidad, ausencia de datos desagregados, biometría o falta de salvaguardas jurídicas y plantea más de 40 recomendaciones dirigidas a administraciones públicas, instituciones europeas, organismos supervisores y empresas tecnológicas.

Como conclusión, las personas participantes coincidieron en que la inteligencia artificial puede convertirse en una aliada para la inclusión si se desarrolla desde los derechos humanos, la accesibilidad y la participación efectiva de las personas con discapacidad. No obstante, advirtieron de que, sin garantías suficientes, también puede transformarse en una nueva fuente de discriminación y exclusión social.