La Unión Europea apuesta por la Inteligencia Artificial y define una estrategia para su correcto desarrollo y uso seguro

Written on 20 Mar 2020

La Comisión Europea, como parte de su nueva estrategia de transformación digital, ha publicado el Libro Blanco sobre la Inteligencia Artificial, en el que se reconocen las oportunidades que ofrece esta tecnología para potenciar la economía digital de Europa y se expone el enfoque para su implementación, al mismo tiempo que aborda los principales riesgos que conllevan usos determinados de esta tecnología.

Como ya pusimos de manifiesto en nuestro artículo "Presente y futuro de la regulación de la inteligencia artificial", la Inteligencia Artificial ("IA") es un fenómeno que está cada vez más presente en nuestras vidas y que, como tal, debe abordarse desde una perspectiva europea, para evitar fragmentar el mercado único, incrementar las capacidades de los Estados Miembros en esta materia y así garantizar un uso seguro de dicha tecnología. Por ello, la Comisión Europea ha publicado el "Libro Blanco sobre la Inteligencia Artificial – un enfoque europeo a la excelencia y la confianza", sometido a consulta pública para que puedan plantearse observaciones hasta, en principio, el 31 de mayo de 2020 y cuyo objetivo es sentar las bases de la estrategia europea en lo que a esta tecnología respecta y lograr encabezar la carrera tecnológica que actualmente se disputa entre China y Estados Unidos.

El documento, que establece pautas precisas sobre los límites en el desarrollo de esta tecnología con el fin de evitar que su evolución vaya en detrimento de los derechos fundamentales de los ciudadanos, se articula bajo dos bloques: en un primer bloque, se incluyen una serie de propuestas para garantizar un "ecosistema de excelencia" y, en un segundo bloque, se describen una serie de elementos regulatorios para generar un "ecosistema de confianza".

En el primer bloque, la Comisión Europea pretende, por una parte, fomentar el desarrollo y liderazgo de la IA en Europa, por lo que focaliza sus esfuerzos en el trabajo que deberán llevar a cabo los distintos Estados Miembros (bien a través de diversos planes presentados por la Comisión, así como a través de estrategias que deberán desarrollar a nivel nacional cada uno de los Estados Miembros) y, por otra, incentivar la investigación y la innovación como vía para mejorar la excelencia europea en este campo. A tal efecto, la Comisión propone la creación de centros de investigación, que se sitúen a la vanguardia y que puedan competir con otros organismos a nivel mundial y cuyos campos de estudio sean sectores en los que Europa ya cuenta con un gran potencial, tales como, entre otros, el transporte, las finanzas, la sanidad y la energía. En definitiva, la Comisión quiere evitar que el futuro marco normativo que regule la IA o la adaptación de la legislación existente a esta tecnología ponga excesivos obstáculos en aquellos campos donde la IA no entrañe un riesgo considerable.

Otro de los aspectos que recoge este bloque es la necesidad de reforzar y mejorar el conocimiento que tiene el público en general acerca de esta materia y, a tal efecto, propone fomentar iniciativas educativas, a través de universidades y centros de investigación. La Comisión también pone de relieve la necesidad de potenciar el acceso de las pequeñas y medianas empresas (PYMES) a este tipo de tecnología.

Mientras el primer bloque analiza qué acciones llevar a cabo a nivel europeo para potenciar la IA, el segundo bloque, bajo el título "ecosistema de confianza", evalúa los aspectos que deben considerarse para que esta tecnología no impacte de forma negativa en los derechos y libertades de los ciudadanos (entre otros, la protección de datos, la privacidad y la no discriminación) y en su seguridad, puesto que éstos son los principales riesgos relacionados con el uso de la IA debido a su carácter opaco, su complejidad, imprevisibilidad y comportamiento parcialmente autónomo. En este sentido, la Comisión señala que dichos riesgos podrían ser el resultado de defectos en el diseño general de los sistemas o bien, debido a un uso de datos que puedan ser sesgados sin corrección previa.

Ante este escenario, la Comisión ofrece una serie de medidas destinadas a paliar estos riesgos y propone, entre otras, que los sistemas de IA sean transparentes y que técnicamente estén desarrollados con solidez y exactitud para ofrecer confianza. Sin perjuicio de los controles de cumplimiento de los sistemas de IA como parte de las labores de vigilancia en el mercado por parte de las autoridades competentes, la Comisión plantea la necesidad de establecer controles previos de conformidad para verificar y garantizar el cumplimiento de los requisitos obligatorios que resultan de aplicación en estos sistemas. Asimismo, en su propuesta, la Comisión apuesta por la distribución del cumplimiento de los requisitos legales aplicables en sistemas de IA entre los diferentes agentes económicos involucrados (productor, distribuidor, proveedor de servicios y usuarios) y que éstos resulten de aplicación a todos los agentes económicos que ofrezcan esta tecnología en la UE, con independencia de que su establecimiento no se encuentre dentro de las fronteras de la UE.

Para el desarrollo de los sistemas de IA en sectores donde el riesgo es menor, la Comisión propone un sistema de etiquetado voluntario ofreciendo a las compañías adherirse a normas más estrictas y recibir una etiqueta o sello que los usuarios puedan reconocer fácilmente y que otorguen el beneficio a las compañías de estar ofreciendo productos fiables en el mercado. Aunque este sistema de etiquetado es totalmente voluntario, una vez la compañía decide adherirse, todos los requisitos resultan vinculantes.

Otro de los temas que la Comisión aborda es la utilización de datos biométricos para la identificación remota, y pese a que en la actualidad su aplicación –salvo algunas excepciones– no está generalmente permitida, la Comisión, por medio de este documento, abre el debate para que se discuta sobre las condiciones de esas excepciones y se intente identificar aquellas circunstancias, si las hubiera, que puedan llegar a justificar el uso de la IA con dicho fin.

Para concluir, aunque todavía es pronto para saber si estos principios serán suficientes para garantizar el liderazgo de Europa en IA, lo que sí podemos afirmar es que, a partir de este texto, Bruselas ha dado un paso más para adaptarse al disruptivo panorama digital al que a día de hoy se enfrenta la UE, donde la IA jugará un papel fundamental.