El autor de ‘Sapiens’ destacó la urgente necesidad de
establecer mecanismos de control sobre las potentes entidades que creó el ser humano.
Es el tema de “Nexus”, su nuevo libro, que está por salir
>El historiador israelí Harari plantea
que hemos creado una entidad más inteligente y poderosa que el ser humano, y si
no establecemos mecanismos de control adecuados, las repercusiones podrían ser
devastadoras no solo para la humanidad, sino para todo el sistema ecológico. En
diálogo telefónico con el periodista Justo Barranco, el historiaador
expresó: “No porque la IA sea malvada, pero es extremadamente poderosa
y no le importamos, podría hacernos lo que hemos hecho nosotros a tantos otros
organismos”, destacó el historiador, añadiendo que los escenarios
catastróficos no son solo imaginarios, sino plausibles.
Además, enfatizó que, cada vez más, la IA está tomando un rol crucial en la creación y difusión de ideas. Contrario a lo que algunos suponen, la IA no se limita a replicar ideas, sino que es capaz de generar sus propias visiones y tomar decisiones sobre cómo y qué difundir. “En TikTok o Facebook es un algoritmo el que decide qué mensajes recibirán mucha atención. Y eso moldea la opinión pública”, puntualizó Harari en diálogo con La Vanguardia. Esto tiene implicaciones masivas para nuestras sociedades ya que, según él, se está empezando a ver cómo las decisiones de los algoritmos influyen en la política, la cultura y la comunidad internacional.
“Con la IA, parte del problema es
que hay cientos de escenarios muy peligrosos. Algunos fáciles de imaginar:
un dictador le da a la IA el control de las armas
nucleares y por error de cálculo hay una catástrofe”, dijo el
historiador.
El autor también reflexionó sobre
la influencia de la IA en el lenguaje y la política. “La clave de casi
todo lo que hemos creado es en última instancia el lenguaje. Hasta hoy, nadie
excepto los humanos podía entender o crear estas cosas”. Harari destacó que
la IA no solo es capaz de dominar el lenguaje similar a los humanos, sino que
puede hacerlo mejor en muchos aspectos. Sostuvo que, en un futuro cercano, la IA será
capaz de elaborar manifiestos políticos y textos religiosos, lo que podría
significar un cambio radical en cómo se desarrollan y estructuran las
sociedades.
“Algunos dicen -contó- que la IA es
como la imprenta o la radio, y que copia nuestras ideas y las difunde. No es
cierto. Es capaz de crear ideas propias y también toma decisiones sobre la
difusión de las ideas humanas. En TikTok o Facebook es
un algoritmo el que decide qué mensajes recibirán mucha atención. Y eso moldea
la opinión pública”.
La democracia no es un fenómeno
natural, se construye en condiciones determinadas. Explicaba el historiador:
“Las democracias antiguas eran pequeñas ciudades-Estado o tribus. Si millones
de personas intentan mantener un debate y no hay periódicos ni radio ni
televisión, no pueden. Y como la democracia se edifica sobre esas tecnologías
de la información, cualquier revolución importante en ellas está destinada
a crear conmoción en la democracia”.
¿Peligros? Harari cree
que la Inteligencia Artificial ya se cobró vidas humanas. “Lo vimos
hace casi diez años, con la campaña de limpieza étnica en Myanmar contra los
rohingya, en parte impulsada por algoritmos que, para aumentar
la participación de los usuarios en Facebook, difundieron teorías
conspirativas escandalosas, noticias falsas y odio contra esta minoría”, le
dijo al medio español. Esto llevó al asesinato de decenas de miles. Incluso si
los algoritmos tienen solo un 1% de responsabilidad es la primera vez en la
historia que las decisiones tomadas por una IA sobre qué información difundir
han contribuido a un importante cambio histórico. Los algoritmos ya han
matado a gente”.
Haciendo un paralelismo con
las divisiones ideológicas en Estados Unidos, Harari plantea
que el problema actual no es necesariamente mayor que en los años 60, pero la
tecnología de la información exacerba la situación al impedir conversaciones
razonadas. “Es difícil explicar lo que está sucediendo solo en términos de
ideología”, afirmó. Esta falta de diálogo racional, según él, agrava la
crisis social y política, transformando incluso a partidos conservadores en
entidades radicales.
Respecto a cómo mitigar
estos riesgos, Harari propone una regulación estricta sobre
la IA y la prohibición de bots que puedan hacerse pasar por humanos. Las redes
sociales, según aclaró, deben ser responsables de los contenidos que difunden a
través de sus algoritmos. “Una IA nunca debería hacerse pasar por un
ser humano”, enfatizó el historiador, instando a las autoridades a actuar
de manera firme para proteger la integridad de la conversación pública.
Finalmente, al referirse al conflicto en Israel, Harari
lamentó la situación actual y acusó a los extremistas de ambos bandos de
alimentar el conflicto por sus propias fantasías mesiánicas. “Lo que tenemos
que recordar es que la raíz del conflicto es que hay dos pueblos que
existen en esta tierra y que tienen derecho a existir aquí”, afirmó.
Harari aboga por una paz basada en el reconocimiento mutuo y
es crítico de las políticas del Primer Ministro Benjamin Netanyahu,
señalando que Israel no es simplemente su líder, sino una sociedad democrática
con una fuerte oposición interna.
Fuente: telam
