Las sanciones previstas en el Reglamento Europeo conocido como Ley de AI están vigentes hoy, sábado 2 de agosto. Para aquellos que utilizan sistemas de inteligencia artificial considerados en alto riesgo, significa tener en la cabeza una espada de Damocle que puede alcanzar hasta 35 millones de euros (o 7% de la facturación) como una multa.
Sanciones de este alcance “puede determinar el fin de cualquier empresa incluso de gran tamaño”, advierte el abogado Roberto Sammarchi, especialista en derecho de información y comunicación digital, consultor de la empresa Bolognese Ex Machina Italia. Por esta razón, Sammarchi señala hablando con el ‘Dire’, “hay un tema de gran preocupación, pero también confianza en un sentido gradual y prudencial en la aplicación de controles y sanciones”.
Con la ley europea de inteligencia artificial, aprobada en la primavera 2024, la UE fue la primera en el mundo en aprobar legislación sobre este tema. Un texto bastante complejo, de 145 páginas, que entre otras cosas « rompe el principio de la neutralidad tecnológica», dice Sammarchi. Es decir, “no sólo gobernar, sino que también define las tecnologías: entra en el mérito de lo que es la inteligencia artificial y lo que no es”.
El mismo Reglamento Europeo establece los sistemas para los que se aplica. Por ejemplo, las tecnologías de identificación biométrica están prohibidas en espacios públicos, ya que se consideran inaceptables “sistemas que ejercen el control subliminal y que pueden ser destinados a la puntuación social, por lo tanto para actividades discriminatorias”, dice Sammarchi. También hay distorsiones.
“La inteligencia artificial también puede salvar vidas humanas – las líneas juristas – pero el estándar europeo considera que estos sistemas son un riesgo y no una herramienta de gestión de riesgos”.
Por ejemplo, los sistemas de seguridad ocupacional que utilizan el Ia “se identifican como de alto riesgo, por lo que son sometidos a una fuerte regulación y tienen altos costos”, informa Sammarchi.
Como resume María Grazia Argentieri de Ex Machina, sobre la base de las reglas contenidas en la Ley de AI “es un momento para pasar de un riesgo limitado a un alto riesgo. Un sistema de recursos humanos también puede considerarse en riesgo si evalúa reanudar y seleccionar a las personas, excluyendo algunas.
Pero si quiero usar inteligencia artificial para clasificar a las personas en base a sus habilidades, esto se considera en riesgo limitado”. En pocas palabras, Argentieri dice, “necesita entender el objetivo y tener cuidado con la narrativa”, porque el uso de ciertas palabras en la definición de un proyecto o modelo de Ia desencadena diferentes categorías de riesgo. Por lo tanto, para las empresas, que según el derecho europeo también tienen la obligación de la alfabetización, “hay también una tarea fundamental de los expertos en comunicación”.
Una primera parte de la Ley de inteligencia artificial entró en vigor en Italia el 2 de febrero, por lo que las organizaciones y empresas que utilizan inteligencia artificial ya deberían haber tenido procedimientos para evaluar el riesgo e identificar qué prácticas no pueden iniciarse o continuar. “Estos cumplimientos, sin embargo, han pasado un poco en silencio, no hay tanta charla sobre ello – notas Sammarchi – y ahora hay el segundo pasaje de la regulación.”.
Desde el 2 de agosto, con la entrada en vigor de las sanciones, las autoridades nacionales están obligadas a activar los controles. En Italia el proyecto de ley delega al Gobierno en esta materia, actualmente en el Senado, debe ser aprobado a mediados de septiembre. Pero ya se ha identificado la Agencia Nacional de Seguridad Cibernética y la Agencia Digital Italiana.
Otros temas también se basarán en aquellos que tienen un papel de supervisión en sectores específicos, como el CONSOB, que también extenderá su experiencia en el IA. En este contexto, sin embargo, el Responsable conservará un papel central, debido a las implicaciones de la inteligencia artificial con respecto a datos sensibles. Es por lo tanto "un escenario de enorme complejidad - subraya Sammarchi - una nueva autoridad dedicada no se crea, pero esta constelación de sujetos hará difícil la actividad de control".
In addition to the sanctions, the documentation, transparency and monitoring obligations for all those using or developing GPAI systems, i.e. artificial intelligence for general purposes (such as language models).
Y aquí viene otro “gran problema”, advierte el jurista, porque estos sistemas se crean “principalmente en el extranjero”, donde por supuesto las reglas europeas no se aplican. Y por lo tanto, pronostica Sammarchi, será liberado “una documentación gradual y limitada por los grandes jugadores, y tendremos que hacerlo suficiente.
Pero con este infierno regulatorio - dice el jurista- todavía estamos expuestos y será nuestra carga para los clientes y como usuarios europeos para tener información completa. Este será el gran desafío”.
También porque la alternativa es “para evitar que los proveedores estadounidenses funcionen en Europa- informa Sammarchi- pero esta tecnología que necesitamos y todavía parece complicada en la negociación de aranceles y acuerdos comerciales” entre EE.UU. y la UE. El riesgo, sin embargo, es que terminamos “teniendo regulaciones en Europa sobre tecnología no europea. Y es una paradoja”, explica el experto.
Por lo tanto, sería útil tener a nivel europeo “una capa de temas que desarrollen habilidades en Ia y crean valor en Europa. No sólo grandes jugadores europeos, incluso medianos y pequeños. Sirve de una cadena de valor real que asegura la soberanía tecnológica, la única manera de tener control”. Y a esto, por supuesto, también hay un “gran problema político con respecto al gobierno de esta tecnología”, señala el jurista.
En el fondo, Sammarchi señala, “es un gran sentido de preocupación” también con respecto a la seguridad de los datos. “Hay un grave problema de confianza – explica el experto – porque una empresa que inicia sus propios proyectos que contienen secretos industriales, utilizando tecnologías en las que no hay control, tiene mucha precaución. Por eso los jugadores intermedios a nivel europeo son fundamentales”.
El problema de la gobernanza de los datos “es el más sentido por las empresas- confirma Argentieri- es la mayor preocupación”. Por esta razón, “más empresas están interesadas en soluciones que limiten el riesgo de datos”. Por ejemplo, “necesitan sistemas LLM que permanezcan en la casa para mantener los datos protegidos: los compran, los instalan y por lo tanto ya no cuestionan a los grandes proveedores”. En pocas palabras, el mago Argentieri, “las empresas no quieren bloquear, pero los problemas regulatorios permanecen”.
Las nuevas reglas sobre inteligencia artificial parecen complicadas y pueden conducir a confusión. Muchas empresas se preguntarán cómo adaptarse a estas reglas y cuáles serán las consecuencias reales. Es importante que haya claridad.