EE.UU., el Reino Unido y la UE firman el primer tratado mundial sobre IA

El mundo ha dado un paso importante para alinear sus objetivos y valores en materia de inteligencia artificial (IA) tras una reunión de ministros de Justicia del Consejo de Europa.

Se espera que Estados Unidos, la Unión Europea y el Reino Unido firmen el Convenio Marco sobre IA el 5 de septiembre.

Este tratado subraya la importancia de los derechos humanos y los valores democráticos a la hora de regular los modelos de IA utilizados tanto por el sector público como por el privado.

La Convención Marco sobre IA sería el primer tratado internacional jurídicamente vinculante sobre IA, que responsabilizaría a los signatarios de cualquier daño o discriminación causados por los sistemas de IA.

También exige que los resultados de estos sistemas respeten los derechos de los ciudadanos a la igualdad y a la privacidad, proporcionando recursos legales a los afectados por violaciones relacionadas con la IA.

Sin embargo, aún no se han establecido sanciones, como multas, para las violaciones.

En esta fase, el cumplimiento del tratado sólo se impone a través de la supervisión.

Peter Kyle, ministro británico de Ciencia, Innovación y Tecnología, describió la firma del tratado como un primer paso mundial "importante"

"El hecho de que esperemos que un grupo tan diverso de naciones vaya a firmar este tratado demuestra que, en realidad, nos estamos levantando como comunidad global ante los retos que plantea la IA", señaló Kyle.

El tratado se redactó inicialmente hace dos años con aportaciones de más de 50 países, entre ellos Canadá, Israel, Japón y Australia.

Aunque este tratado es el primer acuerdo internacional sobre IA, los distintos países han estado trabajando en sus propias normativas sobre IA.

Este pasado verano, la UE se convirtió en la primera jurisdicción en aplicar amplias normas que regulan el desarrollo y despliegue de modelos de IA, en particular los de alto nivel con una potencia de cálculo significativa.

La Ley de IA de la UE, que entró en vigor el 1 de agosto, introdujo normativas sustanciales sobre IA mediante una aplicación gradual y requisitos de cumplimiento clave.

Aunque la legislación se diseñó pensando en la seguridad, ha suscitado las críticas de los desarrolladores de IA, que argumentan que obstaculiza la innovación en la región.

Meta, la empresa matriz de Facebook, detuvo el despliegue de sus últimos productos de IA, incluido Llama2, en la UE debido a la normativa que restringe el acceso de los europeos a las herramientas de IA más avanzadas.

En agosto, varias empresas tecnológicas escribieron una carta a los líderes de la UE solicitando más tiempo para cumplir la nueva normativa.

En Estados Unidos, el Congreso aún no ha introducido un marco nacional para la regulación de la IA, pero la administración Biden ha creado comités y grupos de trabajo sobre seguridad de la IA.

Mientras tanto, California ha estado redactando y aprobando activamente normativas sobre IA. Recientemente, dos proyectos de ley han sido aprobados por la Asamblea del Estado y están a la espera de una decisión del gobernador Gavin Newsom.

Un proyecto de ley regula y penaliza la creación de réplicas digitales no autorizadas de personalidades fallecidas generadas por IA.

El segundo, un controvertido proyecto de ley al que se oponen muchos de los principales desarrolladores de IA, obliga a realizar pruebas de seguridad para los modelos de IA más avanzados y exige disposiciones para un "interruptor de desactivación" de dichos modelos.

La normativa sobre IA de California es especialmente significativa, ya que el estado es sede de importantes desarrolladores como OpenAI, Meta y Alphabet.

Fuentes:

https://cointelegraph.com/news/global-ai-treaty-human-rights-regulation

https://www.ft.com/content/4052e7fe-7b8a-4c42-baa2-b608ba858df5