El fundador de Microsoft dijo que es necesario que las
fuerzas del orden y los políticos se sumen al debate por la seguridad de la
tecnología.
Gates se suma a los pedidos de regulación de otros
líderes tecnológicos como Dario Amodei y Sam Altman.
El cofundador de Microsoft, Bill Gates, advirtió que
la inteligencia artificial (IA) es una herramienta "lo
suficientemente potente" como para terminar con una parte considerable de
la humanidad.
"La IA es sin duda lo suficientemente potente como para
provocar acontecimientos que, ya sabes, causen mil millones de muertes",
afirmó Gates en un adelanto de una entrevista con NBC, que se emitirá este fin
de semana. "Nunca ha habido un arma tan poderosa como la combinación de
personas con malas intenciones que utilizan las últimas herramientas de IA",
agregó.
En un texto difundido en agosto, el empresario ya había afirmado que los malintencionados podrían utilizar herramientas de IA cada vez más potentes para llevar a cabo ciberataques, fraudes, desinformación y otras formas de daño a gran escala contra hospitales, instituciones financieras, redes eléctricas y sistemas gubernamentales.
Gates se suma así a un grupo de líderes
tecnológicos cada vez más grande -que incluyen a Dario Amodei (CEO de
Anthropic), Sam Altman (OpenAI), Elon Musk, entre otros- que
están avisando sobre los riesgos de la IA que ellos mismos ayudaron a
impulsar.
Pero el empresario fue aún más allá y afirmó: "Nadie
cree que la autorregulación sea suficiente".
"Es necesario que las fuerzas del orden y los políticos
se sumen al debate sobre cómo deben ser las medidas de seguridad y la
supervisión. Eso tiene que ser obligatorio", agregó.
El debate por la seguridad de la IA se instaló hace dos semanas cuando Jacob
Coxon acusó a sus dos exempleadores, Anthropic y OpenAI, de
"jugar con nuestras vidas" al "lanzarse a la carrera hacia una IA
superinteligente". Otro empleado de Anthropic, Evan Hubinger,
afirmó que cree que hay más de un 10% de probabilidades de que la IA elimine a
toda la humanidad en la próxima década.
La viralización de los tuits de Coxon y Hubinger generó
pedidos dentro de la propia industria para regular la tecnología. Amodei
ha instado a ralentizar el desarrollo de la IA, una propuesta que
rápidamente recibió el apoyo de figuras del sector como Altman y Musk.
En ese sentido, Gates dijo: "Sí creo que las
personas que dirigen los laboratorios, sobre todo a juzgar por sus últimas
declaraciones, son totalmente sinceras. Les gustaría reducir el ritmo".
Este miércoles, Amodei advirtió ante el Consejo de
Seguridad de la ONU que los riesgos asociados a los modelos más avanzados
de IA constituyen "el problema de seguridad global más importante
al que se enfrenta el mundo hoy" y reclamó una respuesta internacional
coordinada.
"Ningún líder, ninguna empresa y ninguna nación puede
gestionar esto solo. Nos comprometemos a trabajar con los Gobiernos en
esta sala en este objetivo crucial", subrayó.
Amodei planteó una serie de medidas que se podrían llevar a
cabo, como la prohibición del uso de la IA para la proliferación o fabricación
de armas biológicas; la implementación de sistemas de evaluación
avanzados; la adopción de estándares globales; y la creación de un protocolo
de notificación obligatoria ante "incidentes significativos para la
seguridad global".
Altman también se presentó ante el Consejo de Seguridad de
la ONU y advirtió: “Podríamos perder el control del futuro ante la IA”.
Del otro lado, el CEO de Meta, Mark Zuckerberg,
ha defendido el desarrollo de la IA para "empoderar a las personas" y
dijo que la mejor manera de un futuro seguro es no concentrar el control de esa
tecnología en pocas manos.
El presidente de los Estados Unidos, Donald Trump, ha
rechazado "cualquier intento de construir un proyecto globalista para
controlar la inteligencia artificial". "Cada nueva gran tecnología
trae desafíos, y la superinteligencia [como empezó a llamar en los
últimos días a la IA] no es la excepción", dijo el republicano.
Tomado de Clarín / Argentina. Foto: Reuters/ Denis Balibouse.
