60 organizaciones instan al Gobierno a controlar la inteligencia artificial durante su presidencia de la UE

Hasta 60 organizaciones de la sociedad civil, tanto españolas como internacionales, han remitido una carta este miércoles al Gobierno instándole a aumentar “la protección de los derechos fundamentales” en la nueva regulación para la inteligencia artificial que se está negociando en Bruselas. Los firmantes solicitan a España que aproveche su presidencia rotativa de la Unión Europea, que se desarrollará de julio a diciembre de este año, para establecer “una legislación robusta y respetuosa” para esta tecnología.

El nuevo Reglamento de la Inteligencia Artificial que prepara la UE encara ya la fase final de su trámite comunitario y es una de las importantes leyes europeas en materia digital que se aprobarán durante la presidencia española. El Gobierno de Pedro Sánchez ha tenido además una actitud proactiva en esta regulación, ofreciendo a España como campo de pruebas del Reglamento y lanzando instituciones nuevas como la AESIA, la Agencia Española de Supervisión de la Inteligencia Artificial, que se establecerá en A Coruña.

“Dado el papel que desempeñará el Gobierno español a partir del 1 de julio de 2023 al asumir la Presidencia rotatoria del Consejo, y el interés mostrado ya por liderar la carrera de la Inteligencia Artificial en Europa, creemos que la Presidencia española debe asumir un papel asertivo y garantizar que la legislación sea a prueba de futuro”, recalcan las organizaciones firmantes.

“Algunas de nuestras preocupaciones se refieren a prácticas peligrosas que conducen a la vigilancia masiva sobre la población. Al fomentar la vigilancia masiva y amplificar algunas de las desigualdades sociales y desequilibrios de poder más profundos, los sistemas de IA están poniendo en grave peligro nuestros derechos fundamentales y los procesos y valores democráticos”, exponen.

La carta concentra las solicitudes al Gobierno en cinco puntos. El primero es aumentar los sistemas prohibidos en el Reglamento, en donde incluyen la justicia predictiva, el reconocimiento emocional o el uso de sistemas que puedan manipular a personas aprovechando una vulnerabilidad. Se trata de una postura que comparte el Parlamento Europeo, que ha pedido recientemente aumentar el listado de prácticas prohibidas que incluía el la propuesta original de la Comisión para excluir el uso indiscriminado de tecnologías como el reconocimiento facial por parte de la policía.

El segundo punto de la carta pide “eliminar cualquier tipo de discrecionalidad en el proceso de clasificación de sistemas de alto riesgo”. Este tipo de inteligencias artificiales serán las más restringidas y las que deberán incluir más salvaguardas antes de su despliegue. Los firmantes consideran que la propuesta actual no aclara lo suficiente qué tipo de sistemas serán clasificados con el nivel de riesgo más alto y cuándo.

El tercero y el cuarto se refieren a la transparencia obligada de todos los sistemas de IA y al establecimiento de mecanismos para que las personas afectadas por ellos puedan “presentar reclamaciones ante autoridades públicas en caso de incumplimientos del Reglamento”.

La última solicitud de la misiva gira en torno a la capacidad de los fabricantes y desarrolladores de esta tecnología para influir en cuestiones relacionadas con los derechos fundamentales. Por ello, piden que “los estándares técnicos no sean utilizados para evaluar la posible afectación sobre los derechos fundamentales de las personas” y que “se pongan los medios y recursos necesarios para garantizar una mayor participación de la sociedad civil en los procesos de estandarización sobre el Reglamento de IA, que ya están teniendo lugar”.

Por último, las organizaciones firmantes piden al Ejecutivo establecer una agenda de reuniones con la sociedad civil y “garantías” sobre cuál será su plan de acción para conseguir los objetivos marcados en la carta.