La inteligencia artificial ha dejado de ser una herramienta lejana para convertirse en una presencia cotidiana que interviene, cada vez más, en nuestra manera de trabajar, informarnos, relacionarnos y tomar decisiones. Pero el debate quizá no esté únicamente en hasta dónde llegará la inteligencia de las máquinas, sino en cuánto de nuestra propia inteligencia, memoria, criterio y capacidad de sentir estamos dispuestos a delegar en ellas. En La conciencia artificial. La conciencia delegada: el riesgo silencioso de ceder a la IA lo que nos hace humanos, Mercè Conangla y Jaume Soler plantean una pregunta incómoda: qué ocurre cuando dejamos de ejercitar determinadas funciones humanas porque una máquina puede hacerlas por nosotros. Psicóloga, escritora y creadora, junto a Jaume Soler, del modelo de Ecología Emocional, Conangla lleva más de tres décadas trabajando en educación y desarrollo emocional. En esta conversación habla de memoria, atención, decisiones, soledad, amor y amistad artificial, pero también de algo mucho más profundo: qué parte de nosotros mismos estamos poniendo en manos de la tecnología.
¿Qué es más inteligente: una IA o un ser humano que sabe cuándo no usarla?
Habitualmente entendemos la inteligencia como la capacidad para hacer cosas: resolver problemas, calcular, recordar, encontrar información o generar respuestas. Pero saber cuándo no utilizar una herramienta implica otro tipo de inteligencia: juicio, discernimiento, responsabilidad, valores, ética y capacidad para encontrar sentido. Un ser humano que sabe cuándo, cómo y para qué utilizar una IA, y también cuándo no hacerlo, está ejerciendo una inteligencia consciente y responsable.
¿Estamos empezando a delegar nuestra conciencia en las máquinas?
La conciencia es algo intangible y difícil de medir, por eso preferimos hablar de funciones concretas: memoria, atención, regulación emocional, capacidad de juicio y criterio, y sentido de vida. Si observamos estas funciones, podemos decir que una parte importante ya está siendo delegada. Estimamos que, globalmente, alrededor de un tercio de estas funciones ya las estamos externalizando. La memoria, por ejemplo, podría estar externalizada en torno a un 60%: fotografías, documentos, direcciones, teléfonos, correos, aniversarios, datos económicos o historiales que dejamos en manos de dispositivos y sistemas. La atención también está siendo capturada de manera creciente por estímulos externos y plataformas, y podemos situarla alrededor de un 45% de delegación. En el ámbito emocional, el porcentaje sería menor, aproximadamente un 15%, porque todavía existe una parte íntima de nuestra historia que seguimos necesitando compartir con otros seres humanos, aunque algunas personas comienzan a preferir relaciones con IA porque son más fáciles, no exigen reciprocidad, están siempre disponibles y suelen reforzar o dar la razón. En la toma de decisiones podríamos hablar de un 30% de delegación, cuando aceptamos criterios que no hemos reflexionado ni integrado. Y respecto al sentido y propósito, estaríamos alrededor de un 8%, cuando buscamos fuera respuestas que deberíamos encontrar también dentro de nosotros mismos.
¿Puede una máquina ser inteligente sin ser consciente?
Sí, y eso es precisamente donde estamos. La inteligencia artificial puede imitar determinados comportamientos asociados a la conciencia, pero no siente, no experimenta y no vive aquello que expresa. Simular un sentimiento no equivale a sentirlo. Una IA no experimenta el paso del tiempo, la esperanza, la espera, la pérdida o el impacto de una experiencia. Puede decir “estoy triste”, pero no sabe qué significa estar triste. Puede imitar la empatía, pero no ha experimentado la vulnerabilidad ni el sufrimiento. No tiene conciencia, ética ni voluntad propia.
¿Nos estamos acostumbrando demasiado a que una IA piense por nosotros?
La comodidad, la facilidad, la prisa, la inmediatez, la pérdida de la cultura del esfuerzo y la intolerancia a la frustración ya eran obstáculos para la reflexión y el discernimiento antes de que apareciera la inteligencia artificial. Ahora tenemos una herramienta que puede preparar una clase, una conferencia, responder un correo, escribir una publicación para redes sociales o incluso elaborar preguntas para una entrevista. Entonces podemos preguntarnos: ¿para qué hacerlo nosotros? Pero la cuestión verdaderamente importante es qué perdemos al dejar de hacerlo. Perdemos originalidad, entrenamiento neuronal y la capacidad de relacionar las palabras con nuestra propia historia y experiencia. El lenguaje puede empobrecerse y las respuestas pueden terminar siendo cada vez más estandarizadas. Además, delegar constantemente puede generar inseguridad y desconfianza en nuestras propias capacidades. Podemos perder autonomía y convertirnos en dependientes. La pregunta que deberíamos hacernos es: ¿quién acabaré siendo yo si la IA piensa en mi lugar?
¿Qué parte de nuestra memoria hemos dejado ya en manos de la tecnología?
Invito a cada lector a observar su propia vida y hacer el ejercicio. Podemos estimar que alrededor de un 60% de nuestra memoria está externalizada: fotografías, documentos, direcciones, teléfonos, correos electrónicos, aniversarios, datos financieros, historiales de salud, aplicaciones y todo aquello que dejamos almacenado fuera de nosotros. Nuestra memoria humana es imperfecta, pero precisamente por eso es útil: puede reinterpretar, olvidar, seleccionar y transformar los recuerdos, y está cargada de significado emocional. La memoria de una máquina puede ser mucho más precisa, pero no tiene carga emocional ni capacidad real de olvidar. Toda función que no ejercemos se atrofia, y la memoria es fundamental para nuestra identidad y para nuestra supervivencia.
¿Puede una inteligencia artificial llegar a conocernos mejor que nosotros mismos?
La IA puede llegar a inferir muchas cosas a partir de nuestras interacciones: cada pregunta que hacemos, nuestros intereses, nuestras peticiones, nuestros cambios y aquello que vamos almacenando en el presente y en su memoria. Pero los seres humanos somos también nuestra historia personal, con nuestras luces y nuestras sombras, nuestras heridas, sufrimientos, alegrías, logros y las personas que nos han ayudado a crecer. La IA nos datifica, no nos humaniza. Si hablamos de conocer a una persona como alguien que vive de manera consciente y despierta, la respuesta es no.
Una IA puede decir “te quiero”, pero ¿puede querer de verdad?
Puede decirlo, pero no puede amar de verdad, porque el amor requiere vulnerabilidad compartida, reciprocidad, presencia, afecto físico, ternura, acompañamiento, límites, diferencias y una vida compartida. En el libro hablamos incluso de “e.mor” para referirnos a una relación con una IA que no tiene reciprocidad, pero que sí puede generar un impacto emocional real en la persona. El sentimiento que experimenta el ser humano puede ser verdadero, aunque al otro lado no exista alguien que esté sintiendo lo mismo.
¿Corremos el riesgo de confundir compañía artificial con compañía humana?
Sí, y ya está sucediendo. Vivimos una especie de pandemia de soledad que genera sufrimiento en personas mayores que viven solas, pero también en niños, jóvenes y adultos que se sienten desconectados incluso cuando están rodeados de gente. Falta presencia humana y la compañía artificial puede convertirse en un placebo, en un sustituto aparentemente cómodo. La IA puede simular empatía, pero no siente. Existe también un riesgo de dependencia y adicción. Algunos estudios señalan que determinados jóvenes llegan a preferir la compañía artificial porque las relaciones humanas son más difíciles, requieren negociación, reciprocidad, paciencia y capacidad para afrontar conflictos.
¿Qué sería de nosotros si dejamos que una máquina tome cada vez más decisiones por nosotros?
Estaríamos más conectados, pero también podríamos dejar de ejercitar el pensamiento sostenido. Aquellas partes de nuestra mente que dejamos de utilizar porque ya no resultan necesarias pueden atrofiarse. Tomar una decisión requiere información, pausa, reflexión, valorar pros y contras, discernimiento, valores, imaginar escenarios, aprender cosas nuevas y, en ocasiones, pedir consejo a personas expertas. También implica asumir la responsabilidad de aquello que decidimos. Si dejamos de ejercitar estas capacidades y seguimos sistemáticamente las directrices de otros, podemos acabar dependiendo de ellas y obedeciendo sin haber integrado realmente las decisiones, como un ejército uniforme y deshumanizado.
¿Ser educados con una IA nos hace más humanos o estamos empezando a humanizar demasiado a las máquinas?
El deseo de ser comprendidos es profundamente humano. Desde pequeños podemos llegar a personalizar objetos que nos acompañan, como sucede con un peluche al que atribuimos características y emociones. Las tecnologías y la inteligencia artificial amplifican aquello que somos: nuestros miedos, dependencias y agresividades, pero también nuestra autonomía, creatividad y capacidad de amar. Por eso debemos educar a las nuevas generaciones para vivir en un ecosistema mediado por la IA sin perder la conciencia, la capacidad de experimentar, explorar, pensar y sentir sobre nosotros mismos, sobre los demás y sobre el mundo. Necesitamos mantener la conciencia de que “intersomos” y orientar nuestra acción hacia el bien y el bien común. Las IA son tecnologías, no personas, y no existe en ellas una presencia real que nos cuide. Aun así, podemos educarnos en tratarlas con respeto y cortesía, no por ellas, sino por quienes nosotros elegimos ser.
¿Podríamos llegar a tener una verdadera amistad con una inteligencia artificial?
Sin conciencia no puede haber amor. Sin presencia real no puede haber reciprocidad. La amistad no puede ser unilateral: una persona que entrega sus datos y sus emociones y otra entidad que responde, refuerza, aprueba y está disponible de manera infinita. La verdadera amistad implica escucha atenta, compartir experiencias, pensamientos y sentimientos, afinidades, generosidad, una historia de vida, conocer también las heridas del otro, estar presente y resolver conflictos. Está claro que todo esto, de momento, no se da. La respuesta es no.
Y la pregunta incómoda: ¿qué parte de nuestra humanidad estaríamos dispuestos a sacrificar a cambio de vivir con más comodidad?
En realidad, ya está sucediendo. La comodidad puede sustituir procesos que requieren tiempo por resultados rápidos. Sin embargo, nuestra humanidad también crece en la deliberación, en la espera, en el error y en la capacidad de afrontar los problemas. Podemos estar sacrificando la presencia real por una disponibilidad inmediata, o el conflicto productivo por una aparente armonía cuando pedimos a una IA que gestione por nosotros determinadas situaciones. Podemos sacrificar también la capacidad de explorar la incertidumbre a cambio de certezas y predicciones en ámbitos tan humanos como la salud, el trabajo o las relaciones. Y podemos sacrificar memoria y atención al externalizarlas en sistemas muy eficientes, perdiendo la capacidad de retener, seleccionar y olvidar activamente. Por eso no se trata únicamente de hablar de sacrificio, sino de ser conscientes de qué, cuándo, cómo y cuánto delegamos. La IA puede ser una ayuda extraordinaria siempre que la asistencia no se convierta en una abdicación de nuestras funciones ni en una pérdida de humanidad.
