Según el informe Sociedad Digital en España 2023 de Fundación Telefónica, Castilla-La Mancha lideró el crecimiento en el uso de tecnologías de inteligencia artificial en España durante 2022. El porcentaje de empresas que utilizan IA en la región pasó del 3,2% en 2021 al 9,4% en 2022. Por su parte, el Instituto Nacional de Estadística (INE) sitúa este porcentaje en el 9,19%.
Dejando de lado que, obviamente, los resultados pueden variar en mayor o menor medida en función de la muestra y de quién realice el estudio, de las cifras se pueden extraer varias conclusiones. Una, que dado que las cifras se remontan a dos años atrás y no existen estudios más recientes, lo más probable es que estos porcentajes hayan aumentado significativamente. Y dos, que Castilla La Mancha está apostando fuerte por la inteligencia artificial.
Y todo esto se da en un momento en que la inteligencia artificial está en boca de todos ya que, entre otras cuestiones, se ha aprobado el Reglamento (UE) 2024/1689 de la Unión Europea o AI Act, y que más pronto que tarde España aprobará su Ley para el buen uso y la gobernanza de la inteligencia artificial, la cual aún está en fase de anteproyecto.
Es decir, que aprovechar las oportunidades que brinda la IA está muy bien pero lo que algunos todavía no saben es que hay una regulación acerca de esta tecnología y que es obligatorio cumplirla.
Para aclararlo hemos consultado a Grupo Atico34, referentes en protección de datos y asesoramiento legal sobre inteligencia artificial, quienes de primeras nos dan una respuesta tajante: “Lo primero es saber qué obligaciones establecidas en la Ley de IA estás obligado a cumplir”. ¿Y esto a qué se debe? Desde la legaltech nos explican que “las exigencias para las empresas varían según el nivel de riesgo de los sistemas de IA que utilizan, en función de si este riesgo es mínimo, limitado, alto o directamente inaceptable”.
Dejando de lado los sistemas IA de riesgo inaceptable, ya que representan una amenaza clara para los derechos fundamentales o la seguridad y están totalmente prohibidos en la Unión Europea (caso de los sistemas de puntuación social por parte de gobiernos o el reconocimiento facial en espacios públicos sin base legal), pasamos a centrarnos en aquellas empresas que manejan sistemas de IA de alto riesgo.
¿Qué obligaciones establece la Ley de Inteligencia Artificial para las empresas manchegas que usen sistemas de alto riesgo? La consultora Atico34 las resume de la siguiente manera:
Entre los incluidos en esta clasificación estarían los sistemas de selección de personal, la IA para diagnósticos médicos, los algoritmos de evaluación crediticia o la IA en infraestructuras críticas como el transporte o el sector energético.
En el caso de niveles de riesgo limitado se trataría de sistemas de IA que interactúan con humanos y pueden influir en sus decisiones, pero con un impacto limitado, por ejemplo chatbots de atención al cliente o filtros de contenidos generados por IA.
“Las empresas que utilicen este tipo de herramientas deben informar claramente a los usuarios que están interactuando con un sistema de IA, además de proporcionar opciones para contactar con una persona física si lo desean” remarcan desde Atico34.
Por último hay que citar a los sistemas con nivel de riesgo mínimo, aquellos que presentan un riesgo muy reducido o nulo para los derechos o la seguridad de las personas, como es el caso de los filtros de spam en correos electrónicos o los sistemas de recomendación de productos.
Atico34 explica que “la normativa de inteligencia artificial no impone requisitos específicos a los sistemas de bajo riesgo, sin embargo, sí es obligatorio que cumplan con las exigencias del Reglamento General de Protección de Datos (RGPD) y la Ley de Protección de Datos y Garantía de los Derechos Digitales”.
Cabe recordar que el Ministerio para la Transformación Digital y de la Función Pública ha creado la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA), que será el organismo público encargado de garantizar el uso ético y seguro de la inteligencia artificial en España.
La AESIA tiene la capacidad de inspeccionar prácticas prohibidas de IA a partir del 2 de febrero de 2025 y, seis meses después, el 2 de agosto, asumirá la plena potestad sancionadora y otras competencias de gobernanza establecidas por la normativa comunitaria. Dicho de otro modo, no tardarán en empezar las sanciones por incumplimiento de la ley de IA.
Y qué sanciones. “La normativa europea de inteligencia artificial aumenta el monto de las sanciones en un 60% respecto a la ley de protección de datos, por ejemplo, las máximas sanciones pueden llegar a 35 millones de euros o el 7% de facturación anual, por los 20 millones y 4% de facturación que establece como tope el RGPD”, apuntan desde Atico34.
En definitiva, si las empresas manchegas están pensando incluir o ya usan la inteligencia artificial en sus procesos, deben tener en cuenta que existe una ley que hay que cumplir. Y más aún, que esta ley irá cambiando con el tiempo y será necesario adaptarse a ella de forma continua. Un reto para el que muchas organizaciones van a necesitar ayuda externa.