[go: nahoru, domu]
Ir al contenido

Ley de Inteligencia Artificial

De Wikipedia, la enciclopedia libre
Reglamento COM/2021/206 final
Título "Propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial (Ley de Inteligencia Artificial) y se modifican determinados actos legislativos de la Unión"
Hecho por Comisión Europea
Referencia del DOUE COM/2021/206 final
Cronología
Fecha de aprobación 13 de marzo de 2024
Entrada en vigor 1 de agosto de 2024
Fecha de aplicación 24 meses posteriores a la entrada en vigor
Textos preparatorios
Propuesta de la Comisión COM(2021) 206 final 2021/0106(COD)
Opinión del Comité Económico y Social CESE 2021/02482
Opinión del Comité de las Regiones CDR 2021/02682
Opinión del Parlamento Resolución 2020/2012 (INL) [2]​
Informes Informe A9-0188/2023
Estatus legislativo Tercera lectura
Legislación relacionada
Modifica Reglamentos:
(CE) nº 300/2008
(UE) nº 167/2013
(UE) nº 168/2013
(UE) nº 2018/858
(UE) nº 2018/1139
(UE) nº 2019/2144
Directivas:
2014/90/UE
2016/797/UE
2020/1828/UE
Legislación en proyecto
[editar datos en Wikidata]

La Ley de Inteligencia Artificial es un reglamento[3]​ en proceso de aprobación y entrada en vigor,[4]​ propuesto el 21 de abril de 2021 por la Comisión Europea cuyo objetivo es introducir un marco normativo y jurídico único para los sistemas de inteligencia artificial que operen en la Unión Europea.[5]​ Se trata de la primera ley en el mundo sobre inteligencia artificial, que pretende mitigar los riesgos que supone para la seguridad europea, y los derechos fundamentales de los ciudadanos de la Unión. Su ámbito de aplicación abarca todos los sectores (excepto el militar) y todos los tipos de inteligencia artificial. Como reglamento de productos, la propuesta no confiere derechos a los particulares, sino que regula y supervisa a los proveedores de sistemas de inteligencia artificial y a las entidades que hacen uso de ellos a título profesional.

El reglamento propuesto clasifica las aplicaciones de inteligencia artificial en función de su riesgo y las regula en consecuencia. Las aplicaciones de bajo riesgo no se regulan en absoluto, ya que los Estados miembros, gracias a la armonización máxima, no pueden regularlas en mayor medida y no se aplican las leyes nacionales vigentes relativas a la regulación del diseño o el uso de tales sistemas.[6]​ Se prevé un código de conducta voluntario para estos sistemas de bajo riesgo, aunque no estará presente desde el principio. Los sistemas de riesgo medio y alto requerirían una evaluación obligatoria de la conformidad, realizada como autoevaluación por el proveedor, antes de su comercialización. En el caso de algunas aplicaciones especialmente críticas que ya requieren una evaluación de la conformidad supervisada en virtud de la legislación comunitaria vigente, por ejemplo en el caso de los productos sanitarios, la autoevaluación del proveedor con arreglo a los requisitos de la Ley AI sería examinada por el organismo notificado que realice la evaluación en virtud de esa normativa, como el reglamento sobre los productos sanitarios.

La propuesta también impondría prohibiciones a determinados tipos de aplicaciones, a saber, el reconocimiento biométrico a distancia, las aplicaciones que manipulan subliminalmente a las personas, las aplicaciones que explotan vulnerabilidades de determinados grupos de forma perjudicial y la evaluación social. Para las tres primeras se propone un régimen de autorización en el contexto de la aplicación de la ley, pero la evaluación social se prohibiría por completo.[7]​

La ley también propone la introducción de una Junta Europea de Inteligencia Artificial que fomentará la cooperación nacional y garantizará que se respete la regulación.[8]​

Al igual que el Reglamento General de Protección de Datos (RGPD), la Ley de IA podría convertirse en una referencia mundial para otros países que quieran legislar sobre la inteligencia artificial.[9]​ Ya está teniendo impacto más allá de Europa; en septiembre de 2021, el Congreso de Brasil aprobó un proyecto de ley que crea un marco legal para la inteligencia artificial.[10]​

El Consejo de la Unión Europea adoptó su orientación general sobre la Ley de IA el 6 de diciembre de 2022.[11]​ Alemania apoya la posición del Consejo, pero sigue considerando que es necesario introducir algunas mejoras, tal como se formula en una declaración adjunta del Estado miembro.[12]​

Exenciones

[editar]

Los artículos 2.3 y 2.6 eximen de la ley a los sistemas de IA utilizados con fines militares o de seguridad nacional o para investigación y desarrollo puramente científicos. [13]​

El artículo 5.2 prohíbe la videovigilancia algorítmica únicamente si se realiza en tiempo real. Las excepciones que permiten la videovigilancia algorítmica en tiempo real incluyen objetivos policiales que incluyen "una amenaza real y presente o real y previsible de ataque terrorista". [13]​

El considerando 31 de la ley establece que su objetivo es prohibir "los sistemas de inteligencia artificial que proporcionen puntuación social a personas físicas por parte de actores públicos o privados", pero permite "prácticas legales de evaluación de personas físicas que se lleven a cabo para un propósito específico de conformidad con las normas de la Unión y ley Nacional." [14]​ La Quadrature du Net interpreta que esta exención permite sistemas de puntuación social específicos del sector, [13]​ como la puntuación de sospecha utilizada por la agencia francesa de pagos familiares. [15]​ [13]​

Gobernancia

[editar]

La ley establece diversos órganos nuevos en el artículo 64 y siguientes. Estos órganos tienen la tarea de implementar y hacer cumplir la ley. El enfoque combina la coordinación a nivel de la UE con la implementación nacional, involucrando tanto a las autoridades públicas como a la participación del sector privado.

Se crearán los siguientes nuevos órganos: [16]​ [17]​

  1. Oficina de IA: adscrita a la Comisión Europea, esta autoridad coordinará la implementación de la ley en todos los Estados miembros y supervisará el cumplimiento de los proveedores de IA de propósito general.
  2. Junta Europea de Inteligencia Artificial: compuesta por un representante de cada Estado miembro, la Junta asesorará y ayudará a la Comisión y a los Estados miembros para facilitar la aplicación coherente y eficaz de la ley. Sus tareas incluyen recopilar e intercambiar experiencia técnica y regulatoria, brindar recomendaciones, opiniones escritas y otros consejos.
  3. Foro Asesor: establecido para asesorar y proporcionar experiencia técnica a la Junta y a la Comisión, este foro representará una selección equilibrada de partes interesadas, incluida la industria, las empresas emergentes, las pequeñas y medianas empresas, la sociedad civil y el mundo académico, asegurando que un Un amplio espectro de opiniones está representado durante el proceso de implementación y solicitud.
  4. Panel científico de expertos independientes: este panel brindará asesoramiento técnico y aportes a la Oficina de IA y a las autoridades nacionales, hará cumplir las reglas para los modelos de IA de uso general (en particular, mediante el lanzamiento de alertas calificadas de posibles riesgos para la Oficina de IA) y garantizará que las reglas y las implementaciones de la ley corresponden a los últimos descubrimientos científicos.

Si bien está previsto el establecimiento de nuevos organismos a nivel de la UE, los Estados miembros tendrán que designar "autoridades nacionales competentes". [18]​ Estas autoridades serán responsables de garantizar la aplicación e implementación de la ley y de realizar la "vigilancia del mercado". [19]​ Verificarán que los sistemas de IA cumplan con las regulaciones, en particular verificando el correcto desempeño de las evaluaciones de conformidad y designando a terceros para llevar a cabo evaluaciones de conformidad externas.

Aplicación

[editar]

La Ley regula la entrada al mercado interior de la UE utilizando el Nuevo Marco Legislativo. Contiene requisitos esenciales que todos los sistemas de IA deben cumplir para acceder al mercado de la UE. Estos requisitos esenciales se transmiten a las organizaciones europeas de normalización, que desarrollan normas técnicas que detallan más estos requisitos. [20]​

Exige que los estados miembros establezcan sus propios organismos notificantes. Se realizan evaluaciones de conformidad para verificar si los sistemas de IA cumplen con los estándares establecidos en la ley. [21]​ Esta evaluación se puede realizar de dos maneras: mediante una autoevaluación, en la que el proveedor del sistema de IA verifica la conformidad, o mediante una evaluación de la conformidad de un tercero, en la que el organismo notificante realiza la evaluación. [22]​ Los organismos notificantes también tienen autoridad para realizar auditorías para garantizar evaluaciones de conformidad adecuadas. [23]​

Han surgido críticas sobre el hecho de que muchos sistemas de IA de alto riesgo no requieren evaluaciones de conformidad de terceros. [24]​ [25]​ [26]​ Algunos comentaristas sostienen que se necesitan evaluaciones independientes de terceros para que los sistemas de IA de alto riesgo garanticen la seguridad antes de su despliegue. Los juristas han sugerido que los sistemas de inteligencia artificial capaces de generar deepfakes para desinformación política o crear imágenes íntimas no consensuadas deberían clasificarse como de alto riesgo y estar sujetos a una regulación más estricta. [27]​

Procedimiento legislativo

[editar]

En febrero de 2020, la Comisión Europea publicó el "Libro Blanco sobre la Inteligencia Artificial: un enfoque europeo hacia la excelencia y la confianza". [28]​ En octubre de 2020, tuvieron lugar debates entre líderes de la UE en el Consejo Europeo . El 21 de abril de 2021, la Comisión propuso oficialmente la ley. El 6 de diciembre de 2022, el Consejo Europeo adoptó la orientación general, permitiendo iniciar las negociaciones con el Parlamento Europeo . El 9 de diciembre de 2023, después de tres días de conversaciones "maratonianas", el Consejo y el Parlamento de la UE llegaron a un acuerdo. [29]​

La ley fue aprobada en el Parlamento Europeo el 13 de marzo de 2024, por 523 votos a favor, 46 en contra y 49 abstenciones. [30]​ Fue aprobado por el Consejo de la UE el 21 de mayo de 2024. [31]​ Entrará en vigor el 1 de agosto de 2024, 20 días después de su publicación en el Diario Oficial el 12 de julio de 2024. [32]​ [33]​ Después de su entrada en vigor, habrá un retraso antes de que sea aplicable, lo que depende del tipo de aplicación. Este retraso es de 6 meses para prohibiciones de sistemas de IA de "riesgo inaceptable", 9 meses para códigos de prácticas, 12 meses para sistemas de IA de uso general, 36 meses para algunas obligaciones relacionadas con sistemas de IA de "alto riesgo" y 24 meses para todo lo demas. [33]​ [30]​

Reacciones

[editar]

Los expertos han argumentado que aunque la jurisdicción de la ley es europea, podría tener implicaciones de largo alcance para las empresas internacionales que planean expandirse a Europa. [34]​ Anu Bradford, de Columbia, ha argumentado que la ley proporciona un impulso significativo al movimiento mundial para regular las tecnologías de inteligencia artificial. [34]​

Amnistía Internacional criticó la ley por no prohibir completamente el reconocimiento facial en tiempo real, lo que, según dijo, podría dañar "los derechos humanos, el espacio civil y el Estado de derecho" en la Unión Europea. También criticó la ausencia de una prohibición de exportar tecnologías de inteligencia artificial que puedan dañar los derechos humanos. [35]​

Algunos organismos de control de la tecnología han argumentado que había importantes lagunas en la ley que permitirían a los grandes monopolios tecnológicos afianzar su ventaja en la IA o ejercer presión para debilitar las reglas. [36]​ [37]​ Algunas startups acogieron con agrado la aclaración que proporciona la ley, mientras que otras argumentaron que la regulación adicional haría que las startups europeas no fueran competitivas en comparación con las estadounidenses y chinas. [37]​ La Quadrature du Net (LQDN) describió la ley como "hecha a medida para la industria tecnológica, las fuerzas policiales europeas y otras grandes burocracias ansiosas por automatizar el control social". LQDN describió el papel de la autorregulación y las exenciones en la ley para hacerla "en gran medida incapaz de obstaculizar el daño social, político y ambiental relacionado con la proliferación de la IA". [13]​

Véase también

[editar]

Referencias

[editar]
  1. ↑ «Primera lectura>Parlamento Europeo>Documentos». 
  2. ↑ Emitidas varias opiniones[1]​ de diferentes comisiones parlamentarias
  3. ↑ «EUR-Lex - 52021PC0206 - EN - EUR-Lex». eur-lex.europa.eu. Consultado el 7 de septiembre de 2021. 
  4. ↑ «Procedimiento ordinario (TERCERA LECTURA) | eur-lex.eu». 
  5. ↑ «Proposal for a Regulation laying down harmonised rules on artificial intelligence | Shaping Europe’s digital future». digital-strategy.ec.europa.eu (en inglés). Consultado el 9 de enero de 2023. 
  6. ↑ Veale, Michael (2021). «Demystifying the Draft EU Artificial Intelligence Act». Computer Law Review International 22 (4). S2CID 241559535. doi:10.31235/osf.io/38p5f. 
  7. ↑ Mueller, Benjamin (4 de mayo de 2021). «The Artificial Intelligence Act: A Quick Explainer». Center for Data Innovation (en inglés estadounidense). Consultado el 14 de noviembre de 2021. 
  8. ↑ Propp, Mark MacCarthy and Kenneth (4 de mayo de 2021). «Machines learn that Brussels writes the rules: The EU's new AI regulation». Brookings (en inglés estadounidense). Consultado el 7 de septiembre de 2021. 
  9. ↑ «Home». The Artificial Intelligence Act (en inglés estadounidense). 7 de septiembre de 2021. Consultado el 17 de febrero de 2022. 
  10. ↑ «Câmara aprova projeto que regulamenta uso da inteligência artificial - Notícias». Portal da Câmara dos Deputados (en portugués de Brasil). Consultado el 17 de febrero de 2022. 
  11. ↑ «Artificial Intelligence Act: Council calls for promoting safe AI that respects fundamental rights». www.consilium.europa.eu (en inglés). Consultado el 9 de enero de 2023. 
  12. ↑ «Proposal for a Regulation of the European Parliament and of the Council laying down harmonised rules on artificial intelligence (Artificial Intelligence Act) and amending certain Union legislative acts General approach - Statement by Germany». www.data.consilium.europa.eu. Consultado el 9 de enero de 2023. 
  13. ↑ a b c d e «With the AI Act adopted, the techno-solutionist gold-rush can continue». La Quadrature du Net (en inglés británico). 22 de mayo de 2024. Consultado el 31 de julio de 2024. 
  14. ↑ «European Parliament legislative resolution of 13 March 2024 on the proposal for a regulation of the European Parliament and of the Council on laying down harmonised rules on Artificial Intelligence (Artificial Intelligence Act) and amending certain Union Legislative Acts (COM(2021)0206 – C9-0146/2021 – 2021/0106(COD))». Archivado desde el original el 21 de mayo de 2024. Consultado el 24 de mayo de 2024. 
  15. ↑ Bertuzzi, Luca (7 de diciembre de 2023). «AI Act: EU policymakers nail down rules on AI models, butt heads on law enforcement». www.euractiv.com (en inglés británico). Consultado el 31 de julio de 2024. 
  16. ↑ Bertuzzi, Luca (November 21, 2023). «EU lawmakers to discuss AI rulebook's revised governance structure». Euractiv. Archivado desde el original el 22 de mayo de 2024. Consultado el 18 April 2024. 
  17. ↑ Friedl, Paul; Gasiola, Gustavo Gil (7 de febrero de 2024). «Examining the EU's Artificial Intelligence Act». Verfassungsblog (en inglés británico). Archivado desde el original el 22 de mayo de 2024. Consultado el 16 April 2024. 
  18. ↑ «Artificial Intelligence Act». European Parliament. 13 March 2024. Archivado desde el original el 18 April 2024. Consultado el 18 April 2024.  Article 3 – definitions. Excerpt: "'national competent authority' means the national supervisory authority, the notifying authority and the market surveillance authority;"
  19. ↑ «Artificial Intelligence – Questions and Answers». European Commission. 12 December 2023. Archivado desde el original el 6 April 2024. Consultado el 17 de abril de 2024. 
  20. ↑ Tartaro, Alessio (2023). «Regulating by standards: current progress and main challenges in the standardisation of Artificial Intelligence in support of the AI Act.». European Journal of Privacy Law and Technologies 1 (1). Archivado desde el original el 3 December 2023. Consultado el 10 December 2023. 
  21. ↑ «EUR-Lex – 52021SC0084 – EN – EUR-Lex». eur-lex.europa.eu (en inglés). Archivado desde el original el 17 April 2023. Consultado el 17 de abril de 2023. 
  22. ↑ Veale, Michael; Borgesius, Frederik Zuiderveen (1 de agosto de 2021). «Demystifying the Draft EU Artificial Intelligence Act — Analysing the good, the bad, and the unclear elements of the proposed approach». Computer Law Review International (en inglés) 22 (4): 97-112. ISSN 2194-4164. arXiv:2107.03721. doi:10.9785/cri-2021-220402. 
  23. ↑ Casarosa, Federica (1 de junio de 2022). «Cybersecurity certification of Artificial Intelligence: a missed opportunity to coordinate between the Artificial Intelligence Act and the Cybersecurity Act». International Cybersecurity Law Review (en inglés) 3 (1): 115-130. ISSN 2662-9739. doi:10.1365/s43439-021-00043-6. 
  24. ↑ Smuha, Nathalie A. (5 de agosto de 2021). «How the EU Can Achieve Legally Trustworthy AI: A Response to the European Commission's Proposal for an Artificial Intelligence Act». doi:10.2139/ssrn.3899991. Archivado desde el original el 26 February 2024. Consultado el 14 March 2024. 
  25. ↑ Ebers, Martin; Hoch, Veronica R. S.; Rosenkranz, Frank; Ruschemeier, Hannah; Steinrötter, Björn (December 2021). «The European Commission's Proposal for an Artificial Intelligence Act—A Critical Assessment by Members of the Robotics and AI Law Society (RAILS)». J (en inglés) 4 (4): 589-603. ISSN 2571-8800. doi:10.3390/j4040043. 
  26. ↑ Almada, Marco; Petit, Nicolas (27 October 2023). «The EU AI Act: Between Product Safety and Fundamental Rights». Robert Schuman Centre for Advanced Studies Research Paper No. 2023/59. doi:10.2139/ssrn.4308072. Archivado desde el original el 17 April 2023. Consultado el 14 March 2024. 
  27. ↑ Romero-Moreno, Felipe (29 March 2024). «Generative AI and deepfakes: a human rights approach to tackling harmful content». International Review of Law, Computers & Technology 39 (2): 1-30. ISSN 1360-0869. doi:10.1080/13600869.2024.2324540. 
  28. ↑ «White Paper on Artificial Intelligence – a European approach to excellence and trust» (en inglés). European Commission. 19 de febrero de 2020. Archivado desde el original el 5 January 2024. Consultado el 6 de enero de 2024. 
  29. ↑ «Timeline – Artificial intelligence». European Council. 9 December 2023. Archivado desde el original el 6 January 2024. Consultado el 6 January 2024. 
  30. ↑ a b «Artificial Intelligence Act: MEPs adopt landmark law». European Parliament (en inglés). 13 de marzo de 2024. Archivado desde el original el 15 March 2024. Consultado el 14 de marzo de 2024. 
  31. ↑ Browne, Ryan (21 de mayo de 2024). «World's first major law for artificial intelligence gets final EU green light». CNBC (en inglés). Archivado desde el original el 21 de mayo de 2024. Consultado el 22 de mayo de 2024. 
  32. ↑ «World's first major act to regulate AI passed by European lawmakers». CNBC. 14 March 2024. Archivado desde el original el 13 March 2024. Consultado el 13 March 2024. 
  33. ↑ a b David, Emilia (14 de diciembre de 2023). «The EU AI Act passed — now comes the waiting». The Verge (en inglés). Archivado desde el original el 10 January 2024. Consultado el 6 de enero de 2024. 
  34. ↑ a b «Europe agreed on world-leading AI rules. How do they work and will they affect people everywhere?». AP News (en inglés). 11 de diciembre de 2023. Consultado el 31 de mayo de 2024. 
  35. ↑ «Europe agreed on world-leading AI rules. How do they work and will they affect people everywhere?». AP News (en inglés). 11 de diciembre de 2023. Consultado el 31 de mayo de 2024. 
  36. ↑ «EU parliament greenlights landmark artificial intelligence regulations». Al Jazeera (en inglés). Consultado el 31 de mayo de 2024. 
  37. ↑ a b «The EU passed the first AI law. Tech experts say it’s ‘bittersweet’». euronews (en inglés). 16 de marzo de 2024. Consultado el 31 de mayo de 2024. 

Enlaces externos

[editar]
Obtenido de «https://es.wikipedia.org/w/index.php?title=Ley_de_Inteligencia_Artificial&oldid=161698377»