El pasado 8 de marzo, el Parlamento Europeo sentó un precedente histórico con la aprobación de la primera ley de Inteligencia Artificial del mundo. Esta nueva regulación, que entrará en vigor en 2025, tiene por objetivo “proporcionar los requisitos y obligaciones claros con respecto a los usos específicos de la IA” y proteger los derechos de los ciudadanos, tal como indica el órgano europeo.

La normativa lleva años cocinándose. Ya en 2021, la Comisión Europea propuso crear un marco legal en torno a esta tecnología, alegando que, “aunque la legislación vigente proporciona cierta protección, no es suficiente para hacer frente a los desafíos específicos que pueden plantear los sistemas de IA”.

Así, la ley pone el foco en los derechos humanos, y tiene dos objetivos principales:

• Por una parte, garantizar la seguridad y la ética de los sistemas de IA que se usan en la UE.

• Por otra parte, impulsar la inversión, excelencia e innovación en el sector en Europa.

 

Para velar por la salud, seguridad y derechos fundamentales de los ciudadanos europeos, la ley establece unos criterios específicos que categorizan los programas y aplicaciones de IA en base a su riesgo: mínimo, limitado, alto o inadmisible.

• Riesgo mínimo: los softwares calificados como de riesgo mínimo, como por ejemplo filtros de spam o videojuegos, pueden usarse libremente y no tienen obligaciones jurídicas adicionales. En esta clasificación entran la mayoría de los sistemas de IA que se usan en la Unión Europea.

• Riesgo limitado: se refiere a los sistemas que no son lo suficientemente transparentes con el uso que hacen de la IA. En estos casos, las plataformas afectadas deberán someterse a obligaciones específicas de transparencia, para garantizar que los ciudadanos sepan que están tratando con una máquina, y no con una persona. Sería el caso, por ejemplo, de los chatbots. En este sentido, los proveedores también deberán indicar de forma clara el contenido que esté generado con IA (ya sea texto, audio o vídeo).

• Riesgo alto: se trata de softwares que se entiende que pueden tener un impacto negativo para la seguridad y derechos de los ciudadanos, como por ejemplo plataformas de formación educativa o profesional, infraestructuras críticas (transporte), seguridad de productos o servicios públicos, entre otros. En estos casos, los sistemas deberán cumplir un listado de requisitos estrictos marcados por la Comisión, como la alta calidad de los datos, la trazabilidad o la supervisión humana, entre otros.

• Riesgo inaceptable: en este caso, se trata de sistemas que vulneran los derechos fundamentales de la ciudadanía, como por ejemplo los sistemas de puntuación social o el reconocimiento de emociones en el entorno laboral o educativo (se excluyen contextos médicos o de seguridad). En este caso, la ley propone prohibir estas prácticas de IA.

 

La nueva ley de IA llega en pleno boom de esta tecnología, cada vez más extendida en todos los sectores y canales. Tendrá un impacto significativo para muchos actores, especialmente aquellos que desarrollan, venden o trabajan día a día con la IA, que deberán adaptarse y aprender a aplicar las consideraciones de este nuevo marco legal.

Navegar esta nueva hoja de ruta no es tarea fácil; por ello, es de vital importancia para las empresas mantenerse informadas y actualizadas sobre las novedades del sector. 

¡No pierdas la oportunidad de asistir a Big Data & Artificial Intelligence World! El evento de referencia en el sector en el que podrás escuchar a expertos en IA, descubrir las últimas novedades de la industria, conectar con otros profesionales y crear nuevas sinergias y oportunidades de negocio.

Regístrate y reserva tu entrada ahora