El Alto Comisionado de las Naciones Unidas pide
una cumbre para debatir la gobernanza mundial de la inteligencia artificial.
Las empresas que desarrollan la tecnología piden que se
ralentice el desarrollo, los gobiernos, que deberían proteger a sus ciudadanos,
están postergando las medidas, y la opinión pública está perpleja: ¿podría la
inteligencia artificial realmente destruir a la humanidad? Y si es así, ¿por
qué nadie hace nada? La semana pasada, Volker Türk. Alto
Comisionado de las Naciones Unidas para los Derechos Humanos, escribió una
carta a los Estados y a las grandes empresas tecnológicas: advierte que la IA
podría suponer "riesgos existenciales" para la humanidad y que se
necesitan regulaciones, y con urgencia. Este será un tema crucial en la Asamblea
General de la ONU, que comienza la próxima semana en Nueva York.
La entrevista es de Gabriella Colarusso y
fue publicada por La
Repubblica / Italia.
Aquí está la entrevista.
¿Por qué la alarma ahora?
Durante años hemos defendido que el desarrollo, el diseño, el
uso y la implementación de herramientas de IA deben regirse
por un marco basado en los derechos humanos. Ahora, la IA
generativa de vanguardia se desarrolla a tal velocidad que los
modelos pueden incluso escapar al control de sus creadores. La industria tiene
responsabilidades; no puede eludirlas en nombre del lucro o la innovación. No
me refiero únicamente a la ética y las normas de seguridad: me refiero a los
derechos humanos. Y los Estados miembros, los gobiernos, tienen la obligación
de garantizar el cumplimiento de estas normas. Necesitamos transparencia y
supervisión independiente.
¿Cómo amenaza la inteligencia artificial los derechos humanos?
En primer lugar, en tiempos de guerra, donde el uso de drones
es cada vez más sofisticado, llevamos mucho tiempo abogando por la prohibición
de las armas autónomas letales.
El control humano sobre las armas es esencial.
Estados Unidos, China y Rusia no desean que se impongan
límites significativos al uso de los llamados robots asesinos.
Es cierto, pero se han logrado avances en la definición de un
marco regulatorio. Cuando aumenta la presión social, incluso estos países se
ven obligados a ceder. La amenaza a los derechos humanos también
existe en otros niveles. Nuestro sistema bancario, el transporte: el mundo
entero depende de tecnología cada vez más gestionada mediante inteligencia
artificial. Si los agentes de IA pudieran penetrar en estos sistemas con
decisiones y capacidades autónomas, la situación podría descontrolarse y
provocar el colapso de los sistemas bancario y alimentario.
¿Qué riesgos afrontan las democracias?
La tecnología, en general, refleja los prejuicios, la
discriminación y las desigualdades presentes en la sociedad. Los prejuicios de
género y raciales, e incluso la discriminación contra las
minorías y la infancia, pueden verse amplificados por la IA, que
puede afectar el espacio democrático y la cohesión social, utilizándose durante
las elecciones para manipular los hechos y la realidad. Los derechos humanos
están profundamente ligados a esto.
¿Aboga por una mayor supervisión pública de las grandes
empresas tecnológicas?
Cualquier concentración excesiva de poder es peligrosa.
Hablamos de empresas con presupuestos mayores que algunos estados y estructuras
de gobierno interno opacas. Es necesario un escrutinio independiente. He estado
en Silicon Valley, he hablado con algunas de estas personas y me
dio la impresión de que vivían en una burbuja. ¿Qué saben sobre cómo se usarán
las herramientas que están desarrollando en países que enfrentan pobreza
extrema, o donde hay guerra, o que tienen enfoques diferentes para este tipo de
tecnología? En Myanmar ,
una campaña de odio en las redes sociales se viralizó antes de la expulsión de
los rohingya. Lo mismo sucedió en Etiopía durante la guerra.
¿Cómo podemos construir un marco de gobernanza global para la
IA?
Es posible, incluso si algunos tienen interés en hacer creer
lo contrario, como ha sucedido en el pasado con otros sectores. En la década de
1960, la industria tabacalera financió anuncios que decían a las mujeres
embarazadas que fumar las calmaría. Hoy, eso sería impensable. Espero que la
próxima semana, en la Asamblea General de las Naciones Unidas, se
haga un llamado firme a una cumbre internacional para debatir un sistema de
gobernanza de la IA basado en la transparencia, medidas de mitigación de
riesgos y supervisión independiente.
¿Una Yalta con inteligencia artificial?
Exactamente.
China y Estados Unidos parecen estar yendo en direcciones
completamente diferentes: compiten por ser los primeros.
Durante la Guerra Fría, se dio una situación
similar con respecto a la energía nuclear entre la Unión Soviética y Estados
Unidos , pero fue posible llegar a un acuerdo. Esto solo ocurre si hay
presión por parte de las empresas.
¿Qué poder tienen realmente las Naciones Unidas para
facilitar este proceso?
Sé que atacar a la ONU se ha puesto de moda,
pero somos la única organización universal legítima. Tenemos una capacidad
increíble para reunir a las partes interesadas y experiencia en negociaciones
diplomáticas. Y, sobre todo, la sociedad está de nuestro lado.
Tomado de IHU / Brasil. Imagen: EFE.
