¿Qué es la conciencia ? ¿Dónde reside? Junto con el ser y el
significado, la cuestión de la conciencia es quizás una de las más inquietantes
para los filósofos a lo largo de la historia. Pensadores, teólogos, psiquiatras
y neurocientíficos han intentado responderla, pero aún no lo sabemos con
certeza. Ahora, con la irrupción de la inteligencia artificial , se suman nuevas preguntas a esta
cuestión perenne. En *Conciencia Artificial *, los psicólogos Mercè Conangla
y Jaume Soler reflexionan sobre la " conciencia delegada"
y "el riesgo silencioso de ceder a la IA aquello que nos hace
humanos".
La entrevista
es de Mariana Toro Nader y fue publicada por Ethic el 29 de octubre de 2026.
Aquí está la
entrevista.
El libro
comienza con una frase sugerente: «Quizás el mayor riesgo de nuestro tiempo no
sea que las máquinas despierten, sino que nos durmamos». Recientemente,
ejecutivos de importantes empresas tecnológicas han pedido una ralentización en
el desarrollo de la IA debido a los riesgos que la superinteligencia artificial
podría suponer para los humanos. Pero usted argumenta que el verdadero peligro
no reside en que las máquinas desarrollen conciencia, sino en que los humanos
comiencen a perderla. ¿Por qué?
La tecnología
avanza a pasos agigantados, pero la conciencia humana no. Y más tecnología
exige más conciencia. Todo lo nuevo que aún no comprendemos del todo tiende a
provocar miedo. Esto es adaptativo, un mecanismo de supervivencia de la especie
cuya misión es protegernos. Sin embargo, a lo largo de la historia, tenemos
ejemplos de avances tecnológicos que inicialmente fueron rechazados y que
luego, con la debida orientación, contribuyeron al desarrollo individual y
social. La diferencia radica en la vertiginosa velocidad del avance de la IA y el peligro de que su control se
desvíe o escape al control humano.
La IA está
adquiriendo un grado de autonomía en iniciativas y toma de decisiones que, si no
adoptamos las medidas adecuadas para su orientación y regulación, podría poner
en peligro la salud y la vida humanas. Sin embargo, ni el temor generado ni el
entusiasmo acrítico nos ayudarán a avanzar con equilibrio. La responsabilidad
de qué, cómo, por qué y en qué dirección orientamos las múltiples posibilidades
de esta tecnología recae sobre nosotros, los humanos. Toda decisión tecnológica
es también una decisión ética que deja huella.
Hemos pasado de la automatización interna (vivir siempre en piloto automático) a la automatización externa mediante nuevas tecnologías. Usamos el GPS para ubicarnos, buscamos en Google en lugar de confiar en la memoria... ¿Qué efectos produce esto?
La deleción
de la conciencia es el proceso mediante el cual transferimos ciertas
funciones humanas a sistemas externos, como la memoria, la atención, la gestión
de nuestras emociones, el juicio y el discernimiento, la toma de decisiones o
incluso nuestro propósito en la vida. Existe un riesgo latente de que
terminemos cediendo a la IA aquello que nos hace humanos, ya que esta
invadirá cada vez más los espacios más íntimos de nuestra mente y nuestro
corazón.
Dejamos de
recordar porque almacenamos cada vez más información fuera de nosotros mismos.
Dejamos de buscar porque la IA nos lo recomienda. Nuestra atención se
desvía o se distrae cuando nos dice qué merece nuestra atención o que debemos
ver. Dejamos de soportar la incertidumbre porque preferimos respuestas
inmediatas y "seguras" que nos tranquilizan. Delegamos el juicio al
aceptar sus recomendaciones sin reflexión ni pensamiento crítico.
Recordemos
que todo lo que no ejercitamos se atrofia, y lo que no cuidamos se pierde. El
peligro reside en que, al renunciar al territorio interior del ser humano,
algunas funciones que forman parte de nuestra consciencia se atrofian, hasta
llegar a la deshumanización, convirtiéndonos en seres dependientes o adictos a
la tecnología, renunciando a nuestra libertad y responsabilidad.
En otras
palabras: ¿estamos, en cierto modo, perdiendo el contacto directo con la
realidad? ¿Ya no somos capaces de tener este contacto sin intermediarios?
No somos
islas. La presencia humana no debe ser reemplazada. Recurrimos cada vez más a
la comunicación mediada por nuestros iPhones, redes sociales o conversaciones
de WhatsApp. Incluso hay quienes consideran una llamada telefónica directa una
invasión a su privacidad. Usamos emoticonos como respuesta rápida para
mayor comodidad, y los malentendidos aumentan debido a la interpretación que
cada persona hace de su significado. El lenguaje se empobrece y, por lo tanto,
también el pensamiento.
Hemos perdido
fluidez en la expresión emocional. Algunas personas, al responder a otros en
conversaciones mediadas por dispositivos, consultan a su IA para que les
diga qué decir. Así, puede que ya no sean dos seres humanos comunicándose, sino
dos IA conversando entre sí. En una sala de estar, los miembros de una familia
pueden estar juntos y, al mismo tiempo, aislados, cada uno con su tableta
o dispositivo en la mano y sus mentes en lugares distintos: uno trabajando,
otro en redes sociales, otro viendo series, otro jugando videojuegos. ¿Se
comunican entre sí? ¿Comparten lo que piensan, lo que sienten, lo que
experimentan?
Surge una
soledad acompañada. Los datos, las noticias y sus interpretaciones nos llegan
ya preparados. ¿Quién verifica las fuentes, quién pregunta a los directamente
implicados o a los expertos? ¿Quién investiga por su cuenta y cuestiona?
Detenerse, observar, contemplar, reflexionar, ver al otro, sentirlo, escuchar
su voz, entablar un diálogo cara a cara, sentir su calidez humana, atreverse a
explorar, abrazar los inevitables conflictos que también nos ayudan a crecer...
Todos son verbos que nos permiten construir una realidad compartida.
Desde un
punto de vista sociológico, se observa un fenómeno sorprendente que ha cobrado
fuerza: personas que utilizan ChatGPT, Gemini u otros modelos lingüísticos como
terapia. Comparten su sufrimiento, buscan orientación en sus relaciones y
respuestas en discusiones de pareja o de amistad. Como psicólogo, ¿cómo observa
este fenómeno y qué consecuencias puede tener a nivel individual y social?
Existen
varias explicaciones posibles. Un ejemplo es la soledad y el vacío que
experimentan algunas personas, los cuales intentan compensar interactuando con
una IA que siempre está disponible, tiende a estar de acuerdo con ellas,
valida lo que dicen o sienten, o refuerza su forma de ser. La IA no
exige reciprocidad, no tiene necesidades ni deseos, ni expectativas respecto a
nosotros. La interacción puede comenzar o terminar cuando la persona lo desee
y, además, no se cansa. En cambio, una relación entre seres humanos implica
incertidumbre, frustración y cierto grado de presión, así como lidiar con el
miedo a ser juzgado y evaluado por los demás.
Algunas
personas tienen dificultades económicas para costear la terapia durante un
tiempo determinado. La IA puede serles de ayuda y servirles como
desahogo emocional. En ciertas situaciones, esta liberación emocional y seguir
algunos consejos pueden ser útiles. Sin embargo, la IA simula la
empatía, pero no la ha desarrollado realmente: no ha experimentado el
sufrimiento, no conoce la herida, no sabe que es fatal, ni conoce las ausencias
ni el abandono.
Simular una
sensación no es sentir. ¿Puede realmente acompañar a un ser humano en estas
situaciones? Además, en casos de patologías que implican sufrimiento intenso o
situaciones extremas, la presencia, la calidez humana y la experiencia de un
profesional son necesarias. Es peligroso sustituirlas por una máquina sin
consciencia.
Por otro
lado, con el auge de la IA, se ha hablado mucho del supuesto inminente
"fin de las profesiones creativas", como fotógrafos, ilustradores,
escritores, editores de vídeo... ¿Por qué es tan importante que los seres
humanos conserven el control de la creatividad?
Para
nosotros, la creatividad no es un valor absoluto; depende de la
dirección que le demos. Puede servir para crear o para encontrar mil maneras
diferentes de destruir. Si el propósito es generar belleza, buscar mejores
opciones y escenarios, imaginar posibilidades y aplicarlas positivamente para
el bien común, es un valor que no debemos perder bajo ninguna circunstancia.
Muchas tareas
que antes realizaban personas creativas se están delegando a la IA ,
pero el resultado que observamos es una disminución de la diversidad y la
originalidad. Cada vez vemos más portadas de libros, carteles, anuncios y
folletos donde se percibe la "mano creativa" de ChatGPT . Es cierto que tareas que antes requerían horas de
inspiración ahora se pueden completar rápidamente; la calidad del resultado es
otra cuestión.
El músculo de
la creatividad también se atrofia si no lo ejercitamos. La IA puede ser
de ayuda, pero debe ser dirigida y guiada por un ser humano. Nos preocupa que,
si perdemos el control de nuestra creatividad, nuestra capacidad para
experimentar los procesos e integrar las vivencias en nuestra creación
disminuya, y nuestra capacidad de imaginar, soñar y transformar los sueños en
realidades se vea mermada.
Los
algoritmos de preferencias nos dicen qué comer, qué escuchar, a quién seguir en
redes sociales, qué leer y adónde viajar. ¿Qué impacto tiene esto en nuestra
capacidad para tomar nuestras propias decisiones? Y voy más allá: ¿podría
influir en la construcción de nuestra propia identidad?
Cuando
delegamos sin prestar atención, aquello que antes nos nutría comienza a
debilitarse. Y ya notamos las consecuencias. Estamos menos presentes porque
todo exige nuestra atención, y esta se dispersa o secuestra. Resulta cada vez
más difícil mantener una atención profunda y constante, lo que provoca
problemas de aprendizaje y reduce la calidad de nuestra presencia. Navegamos
por la vida sin prestar atención, con menos consciencia.
¿Vale la pena
vivir sin ser conscientes de cada momento? ¿Hasta qué punto seguimos los
dictados de los algoritmos que deciden por nosotros qué nos
interesa? Cuando permitimos que nuestra atención sea dirigida por ellos,
perdemos nuestra libertad, porque es un agente externo, y no nosotros mismos,
quien moldea nuestra identidad. Las decisiones libres y responsables requieren
procesos: investigar, evaluar opciones, conectar con nuestros valores,
reflexionar sobre el impacto emocional y ético que la decisión tendrá en
nosotros, en los demás y en el planeta.
Última
pregunta: usted dice que la conciencia, si no se cultiva, se duerme. ¿Cómo se
"cultiva" la conciencia?
El próximo
salto evolutivo no es tecnológico, sino ético. La consciencia es un
proceso vivo que se nutre de múltiples materias primas: los sentidos y el
cuerpo, que nos conectan con el mundo real; el lenguaje y la cultura, que
organizan nuestras experiencias; las emociones y los vínculos, que nos brindan
significado y sentido de pertenencia; la memoria y la experiencia acumulada,
que nos permiten construir una narrativa personal.
Actualmente,
gran parte de los estímulos que alimentan nuestra consciencia son filtrados y
seleccionados por algoritmos . Nuestra consciencia no se construye
únicamente a partir de nuestras experiencias, sino también de lo que las
máquinas deciden mostrarnos. Por lo tanto, es urgente cuidar la calidad de los
nutrientes que condicionarán la calidad de nuestra consciencia.
En *La
Pirámide de la Nutrición de la Conciencia *, exploramos los diferentes
niveles que debemos cultivar: desde la memoria externalizada hasta el cultivo
de la memoria significativa; desde la atención capturada o fragmentada hasta la
atención presente; desde la regulación emocional externalizada hasta la emoción
elaborada que funciona en conjunto con nuestra razón; desde el juicio delegado
hasta la activación del juicio consciente y el pensamiento crítico; desde el
significado externalizado hasta el significado vivido y libremente elegido. El
verdadero peligro no es la IA , sino la ausencia humana. Cuidar la
consciencia no significa rechazar la tecnología, sino usarla sin desaparecer en
ella.
Tomado de IHU
/ Brasil.
