PUBLICACIONES

Artículos escritos por nuestro equipo e información de actualidad relevante para nuestro sector.

Inteligencia Artificial: Riesgos y Regulación

Publicado el 24 Oct, 2023

Que la Inteligencia Artificial ha llegado para quedarse es una realidad innegable. El auge de su uso en los últimos tiempos no ha parado de incrementarse, y la previsión de su evolución y utilidades en los próximos años es incalculable. No obstante, a pesar de ser un gran avance, como toda nueva tecnología, conlleva una gran variedad de riesgos que no podemos obviar.

Si hablamos de modelos generativos, nos podemos encontrar ante graves riesgos relacionados con la ciberseguridad, la privacidad, la fuga de información confidencial, el derecho de la competencia e información privilegiada, e incluso, la vulneración de Derechos Fundamentales como el honor, la intimidad y la propia imagen. Es por ello por lo que las empresas que desarrollen o decidan comenzar a implantar recursos que hagan uso de tecnologías basadas en Inteligencia Artificial, deberán ponderar los beneficios y riesgos que conlleva el uso de ésta, realizando un exhaustivo análisis de riesgos al respecto y ejecutando planes de mitigación.

Por su parte, la Unión Europea ya se ha hecho eco de estos riesgos, proponiendo un marco normativo para el uso responsable de la Inteligencia Artificial que verá la luz próximamente. Este Reglamento, será la primera norma de muchas que surgirán en los próximos años con el objetivo de garantizar que el uso de la Inteligencia Artificial sea lícito y ético.

El citado Reglamento, será de aplicación proveedores y usuarios de Inteligencia Artificial que se encuentren en la Unión Europea, o que se encuentren en un tercer país, cuando la información de salida generada por el sistema se utilice en un país perteneciente a la Unión Europea. El enfoque estará basado en el riesgo, clasificando los sistemas de Inteligencia Artificial en:

  • Riesgo inaceptable: Aquellas que transgredan los Derechos Fundamentales de los ciudadanos y que, por ende, no podrán ser utilizadas.
  • Riesgo elevado: Son aquellas, que por sus características implican un alto riesgo para los usuarios, pero que cumpliendo determinados requisitos obligatorios y realizando las evaluaciones pertinentes podrán ser utilizados.
  • Riesgo limitado: Podrán ser utilizadas cuando cumplan una serie de requisitos menos estrictos que los anteriores.
  • Riesgo bajo o mínimo: Su uso estará permitido sin regulaciones especiales.

La nueva regulación de la Unión Europea supondrá la consolidación de un nuevo marco de cumplimiento normativo que obligará a proveedores, fabricantes y usuarios de tecnologías basadas en Inteligencia Artificial a contar con un sistema de gestión de riesgos, que elimine la materialización de los riesgos asociados.

Este sistema, consistirá en un proceso que tendrá que desarrollarse durante todo el ciclo de vida del sistema de Inteligencia Artificial, y que al menos, deberá contar con cuatro etapas: (i) identificación y análisis de riesgos conocidos, (ii) evaluación de riesgos derivados del uso de la IA, (iii) evaluación de otros riesgos que pudieran surgir a partir del análisis de los datos recogidos con el sistema de seguimiento posterior a la comercialización y (iv) la gestión y mitigación de riesgos debidas.

En cuanto a la aplicación y supervisión de lo dispuesto en el Reglamento, cada Estado deberá nombrar una autoridad de control. A este respecto, España ha tomado la delantera al resto de Europa constituyendo la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA). Además de estas autoridades nacionales, el Reglamento propone la creación de un Consejo Europeo de Inteligencia Artificial que velará por armonizar las normas relativas a la IA y garantizar la cooperación entre las distintas autoridades de control.

Las sanciones por incumplir el Reglamento podrían ascender hasta los 30.000.000 de euros o, en caso de empresas, hasta el 6% del volumen de negocio total anual mundial del ejercicio financiero anterior, en el caso de que este sea mayor.

Es por ello, que debemos estar atentos a los nuevos usos de Inteligencia Artificial, y sobre todo a su próxima regulación, pues las infracciones de la inminente normativa podrían acarrear graves consecuencias a las empresas, desde una perspectiva tanto económica como social.

En Deloyers contamos con una gran experiencia en el desarrollo e implantación de Sistemas de Cumplimiento Normativo, con una eficacia contrastada en la identificación de los riesgos asociados a la actividad de las compañías y en establecimiento de medidas internas de control y seguimiento, que den cumplimiento a los marcos legales aplicables.

Cristina FRAILE JIMÉNEZ
cristina.fraile@deloyers.com

También te puede interesar…