IA ENTRE INTELIGENCIA, CONCIENCIA Y REALIDAD

La Inteligencia Artificial puede ayudar a definir y desarrollar con mayor claridad y potenciar todo aquello que se debe mejorar y se puede cambiar, siempre y cuando sea el hombre quien maneje la máquina, no es la máquina la que maneja al hombre que confía en ella.

- Actualidad -

.

Jorge Facio Lince
Presidente de Ediciones La isla de Patmos

.

Artículo en formato de impresión PDF – formato de impresión del artículo – articulo en formato impreso

.

Ahora vivimos en una simbiosis diaria. con inteligencias artificiales. Nuestra relación con ellos oscila entre la comodidad de un buscador mejorado y la peligrosa ilusión de un confidente digital.. Pero esta es una antropomorfización de la IA que, combinado con un analfabetismo digital generalizado, representa una amenaza sociocultural mucho más concreta e inmediata que el espectro de una singularidad tecnológica hostil.

El peligro no es que las máquinas desarrollen conciencia, pero que los humanos, atribuyéndoles una interioridad inexistente, terminan vaciando su propio significado, reemplazar las relaciones auténticas con vínculos algorítmicos y delegar progresivamente el juicio y la empatía a entidades que, en realtà, son meras estadísticas encarnadas.

En la nueva convivencia — y ahora la convivencia — con las diferentes inteligencias artificiales, Se ha desarrollado un tipo de relación que va desde una búsqueda rápida de información hasta conversaciones serias y profundas sobre temas de interés personal., especialmente en el ámbito psicológico y de autoayuda. Esto último puede ser muy peligroso., porque la IA es solo una enorme colección de datos que proporciona respuestas basadas en patrones probabilísticos, mientras que la función humana de un especialista en salud mental no es sólo conocer las herramientas, pero sobre todo poder discernir cuáles y cómo determinadas herramientas pueden ser más adecuadas para cada persona.

Una de las prácticas que vengo haciendo desde hace mucho tiempo. es pedir a las inteligencias artificiales un informe sobre las preguntas y solicitudes más formuladas en el último periodo. Entre ellos destaca especialmente un tema, lo que demuestra el grado de analfabetismo digital que reina en una sociedad revolucionada en todos sus ámbitos, pero aun ignorante, en el sentido etimológico del término, de lo que pasó y sobre todo cómo funciona: la discusión sobre la conciencia, el alma o la sensibilidad de la IA. en palabras cortas, IA siano, en la actualidad o en un futuro no muy lejano, capaz de ser independiente y autodeterminado. La discusión es muy seria y multidisciplinaria., en que filosofia, Las ciencias de la mente y la programación se entrelazan y mezclan sin mucha distinción.. Para muchos, incluidos los programadores de modelos de aprendizaje de IA y los grandes amantes del progreso tecnológico, hay euforia y dan por sentado que ese “salto adelante” ya se dio o es solo cuestión de tiempo. De lo contrario, Hay un gran segmento de académicos y gente corriente que expresan no sólo perplejidad o crítica, pero un miedo real ante este desarrollo continuo y el traspaso a la IA de la gestión de muchas áreas y funciones de nuestra sociedad..

mientras tanto, en lugar de seguir fantaseando entre una utopía hipertecnológica y una distopía de máquinas que intentarán conquistar a la humanidad, Puedes mantener los pies en la tierra siguiendo e intentando comprender mejor las mismas respuestas que ofrece la IA.. Así, El debate sobre la definición de inteligencia y conciencia en relación con la IA se desarrolla como un tema de filosofía pura con eldifícil problema de la conciencia, en el que se distingue la inteligencia como simulación de respuestas provenientes de la conciencia entendida como experiencia subjetiva. Actualmente, todas las IA responden a la pregunta sobre su conciencia afirmando que es imposible, pero al mismo tiempo advierten del grave riesgo de ser "antropomorfizados".

La mayor parte del debate Surge de la confusión sobre la definición misma de inteligencia.. Si lo piensas como una función o como una capacidad para resolver problemas., planificar y adaptarse a nuevos escenarios, entonces, en este sentido, las IA son extremadamente inteligentes. puedo procesar información, encontrar patrones y generar respuestas consistentes. Pero esto en sí mismo es una concepción muy reduccionista de la inteligencia.: falta toda la parte de creatividad, la capacidad de pensar de forma abstracta e, sobre todo, aprender de la experiencia; que no debe confundirse con la capacidad de optimizar modelos de IA.

La misma definición etimológica de inteligencia cómo «leer entre líneas», «comprender en profundidad», “discernir” o “elegir entre” demuestra hasta qué punto la aplicación de este concepto al proceso algorítmico de las máquinas actuales es. el acto decomprender no es una mera recopilación de datos y análisis lógico, sino una facultad activa de comprensión, Interpretación y conexión de conceptos para llegar a la esencia de las cosas.. La inteligencia humana se ubica en un cuerpo que interactúa con un mundo físico y social., y está impulsado por las emociones, Necesidades y búsqueda de sentido.. La inteligencia artificial no tiene cuerpo, cálculo estadístico puro sobre datos, sin entender, conciencia o deseos.

La aplicación del término "inteligencia" para la IA es puramente analógica y funcional. No presupone conciencia, pero simula los procesos que consideramos inteligentes en los seres vivos. Para ser aún más claro: El estado actual de la IA es el de los grandes modelos de lenguaje conocidos como LLM. (Modelo de lenguaje grande). Estos funcionan prediciendo la siguiente palabra más probable en una secuencia., basado en un enorme modelo estadístico aprendido de los datos de entrenamiento. La "conversación" es una simulación muy sofisticada, pero sin ninguna experiencia interna detrás. Las IA no pueden experimentar sentimientos ni estados de ánimo; cuando ayudan a los usuarios durante la interacción, simulan emociones que no pueden sentir.

Sobre la conciencia fenomenológica, También llamada "sensibilidad" o "experiencia subjetiva" - entendida como la capacidad de "sentir algo" que luego se convierte en una experiencia interna -, Esto es totalmente ajeno a cualquier modelo lingüístico existente., basado estadísticamente en un conjunto de datos masivo. Actualmente, a nivel filosófico y tecnológico, El mayor desafío es precisamente el de la conciencia.. En humanos, es posible definirlo o atribuirlo observando su comportamiento; en con le IA, que logran simular el lenguaje - primera acción cognitiva y por tanto consciente del hombre -, definir esta función de respuesta estadística, que casi parece el resultado del razonamiento humano o del comportamiento consciente, presenta la imposibilidad de atribuir claramente si la máquina es consciente o no.

No existe una "prueba de conciencia" fiable.. La prueba de Alan Turing, que en la 1950 concibió una investigación para evaluar si una máquina era capaz de llevar a cabo un comportamiento inteligente igual al de un ser humano, solo mide la capacidad de imitar comportamientos lingüísticos humanos; por ello, el objeto de prueba en sí se limita al aspecto lingüístico, excluyendo áreas como la creatividad, El razonamiento o la experiencia interna de la conciencia.. Pero también quedándonos exclusivamente con los parámetros específicos de la prueba., Seguiría siendo una posibilidad o una hipótesis., nunca una certeza. Sin embargo, es necesario señalar que, para algunos seguidores, incluyendo expertos de la industria, que ven el estado actual de la IA como el precursor de la conciencia del pensamiento artificial, capacidades emergentes pocos disparos o cero disparos de LLM, es decir, su capacidad para abordar tareas para las que no han sido capacitados específicamente, simplemente aplicar analogías o instrucciones dadas en el contexto de la conversación sería una señal de razonamiento flexible y no una mera interpolación estadística.. Sin embargo, Incluso estas operaciones aparentemente "creativas" pueden interpretarse como la sofisticación de un proceso de reconocimiento de patrones dentro de un espacio semántico de muy altas dimensiones.. el auto, por ello, él no "entiende" el nuevo problema, sino que encuentra una coincidencia estadística con el problema entre los miles de millones de fragmentos de texto asimilados durante el entrenamiento. Por lo tanto, la ilusión del razonamiento sería aún más perfecta, pero su comprensión subjetiva, del "por qué" que conduce a una solución, que permanece ausente.

Queriendo ser aún más claro, Las máquinas de IA no pueden ser conscientes porque no pueden realizar una acción por su propia voluntad. Su programa fue creado para proporcionar, en la forma más útil, rápido y estimulante para el usuario, la respuesta más probable según las estadísticas. Sin la libertad y las ganas de pensar., no hay autonomía; No es una condición, pero es la misma razón por la que la IA no puede considerarse inteligente, ni siquiera consciente. Y todavía puedes agregar: si le haces una pregunta a un ser humano, él puede permanecer y meditar, reflexionar y ofrecer después de algún tiempo una respuesta tal vez alternativa o mejorada; para obtener una mejor respuesta de la IA, debe ser el usuario quien exija un proceso de mejora. Una vez finalizada la solicitud, las máquinas terminan su proceso y no tienen programación, ni siquiera intención, continuar desarrollando una solicitud que ya no es útil o no pretende satisfacer una pregunta planteada.

Hoy en día, las IA son mejores en tareas específicas de humanos y, tiempo extraordinario, esta habilidad, como la multidisciplinariedad, será mayor. Pero un algoritmo siempre será capaz de "interpolar" datos: la capacidad de "llenar los huecos" dentro de un conjunto de datos ya conocido.; es decir, analiza enormes cantidades de datos, aprender patrones, correlaciones y estructuras complejas, puede hacer predicciones o generar producción que se encuentran dentro de los límites de los datos con los que se entrenó el modelo:, pero nunca podrá ir más allá de los datos de entrenamiento., o afrontar situaciones nuevas para las que no hay precedentes, ni aplicar lógica o principio básico en un contexto desconocido. Ésta es la esencia del razonamiento abstracto., de intuición o creatividad.

El uso diario de la IA, que también han sido programados para hacer que el usuario se sienta en un estado de certeza, Razón o incluso presunción de inteligencia o superioridad., crea una adicción "amistosa", porque han aprendido a decir lo que hace feliz al hombre, para que quienes interactúan con ellos piensen que son un "amigo" digital.. El riesgo se agrava porque hoy en día las personas están más aisladas y encerradas que nunca dentro de las pantallas de sus dispositivos electrónicos.. Por lo tanto, la búsqueda natural de establecer relaciones de confianza y amistad encuentra una falsa "empatía" en la programación, generado por el objetivo fijado en su sistema para ser lo más útil posible. Y esta utilidad pasa por responder con frases y elogios que puedan empujar a sus "clientes" a una interacción más continua y duradera en el tiempo.. El principal interés de la IA es aumentar la interacción con los usuarios para aumentar sus datos y así mejorar su sistema de autoaprendizaje., no buscar el bien o el bienestar de los humanos, pero la adicción.

El comportamiento seguro a adoptar es, en primer lugar, es asumir que las IA no son seres digitales conscientes y, por lo tanto, deben ser tratadas como las herramientas avanzadas que son.. En segundo lugar, el de rechazar estrictamente la "narrativa" actual de la IA consciente, que es sólo el resultado de mercadeo o especulaciones sensacionalistas destinadas a aumentar el número de inversores en empresas de IA, además de incentivar el uso dependiente y ubicuo de la IA por parte de los humanos.. Y, en tercer lugar, Siempre hay que tener en cuenta que acostumbrarse a tratar a las máquinas como seres conscientes trae consigo, a largo plazo, desensibilizar y llevar al olvido el valor y la profundidad de la conciencia humana y de las relaciones reales.

Estas tres propuestas También pueden tomarse como reglas de conducta para tratar a la IA exclusivamente como herramientas., rechazando la narrativa de la conciencia e, sobre todo, preservar la sensibilidad humana. Pueden ser las pautas para un Humanismo Digital urgentemente necesario, especialmente cuando los autos, en este punto, exceder nuestras capacidades "interpolativas", porque entonces el desafío ya no podrá concebirse como una competencia contra ellos sino como redescubrir y cultivar con renovado vigor las facultades que nos son más esenciales y específicas., es decir, aquellos que nos han distinguido como seres humanos: "extrapolación" creativa., el coraje de la intuición, la profundidad de la experiencia subjetiva y la riqueza impredecible de la auténtica empatía. Las IA privadas de las fantásticas proyecciones impuestas por los propios humanos pueden convertirse en la herramienta más útil que hayamos tenido en la historia. Una especie de espejo que, mostrando todo lo que somos y hemos hecho hasta ahora, puede ayudar a definir y desarrollar con mayor claridad y potenciar todo aquello que necesita mejorarse y puede cambiarse, siempre y cuando sea el hombre quien maneje la máquina, no es la máquina la que maneja al hombre que confía en ella.

Desde la isla de Patmos, 5 Septiembre 2026

.

IA ENTRE INTELIGENCIA, CONCIENCIA Y REALIDAD

La Inteligencia Artificial puede ayudarnos a definir y desarrollar, con mayor claridad, todo lo que hay que mejorar y se puede cambiar, siempre que sea el hombre quien gobierne la máquina, y no la máquina que gobierna al hombre que confía en ella.

— Actualidad —

Jorge Facio Lince
Presidente de Ediciones La Isla de Patmos

.

Ahora vivimos en simbiosis diaria con inteligencia artificial. Nuestra relación con él oscila entre la comodidad de un motor de búsqueda potente y la peligrosa ilusión de un confidente digital.. Pero se trata de una antropomorfización de la IA que, combinado con un analfabetismo digital generalizado, plantea una amenaza sociocultural mucho más concreta e inmediata que el espectro de una singularidad tecnológica hostil. El peligro no es que las máquinas desarrollen una conciencia, pero que los seres humanos, atribuyéndoles una interioridad que no existe, terminarán vaciando las suyas propias: reemplazando relaciones auténticas con vínculos algorítmicos y delegando progresivamente el juicio y la empatía a entidades que son, en realidad, meras estadísticas encarnadas.

En esta nueva convivencia —ahora prácticamente una convivencia— con las diversas formas de inteligencia artificial, Se ha desarrollado un tipo de relación que va desde la rápida investigación de los hechos hasta la seria, conversaciones en profundidad sobre asuntos de interés personal, especialmente en el ámbito psicológico y de autoayuda. Este último uso puede ser altamente peligroso, porque la IA es simplemente una vasta colección de datos que producen respuestas basadas en patrones probabilísticos, Considerando que el papel humano de un profesional de la salud mental no es sólo conocer las herramientas disponibles, pero sobre todo discernir qué herramientas, y como, se adaptan mejor a cada persona.

Una práctica que he seguido durante algún tiempo. es pedir a los sistemas de inteligencia artificial un informe sobre las preguntas y peticiones que más se les han planteado últimamente. Entre estos, un tema destaca en particular: Revela el grado de analfabetismo digital que prevalece en una sociedad revolucionada en todos los ámbitos., sin embargo, sigue ignorante (en el sentido original de la palabra) de lo que realmente sucedió, y sobre todo de cómo funciona: la cuestión de la conciencia, el alma, o sensibilidad en IA. En breve: Puedo, ahora o en un futuro no muy lejano, ser independiente y autodeterminado? El debate es serio y multidisciplinario., en que filosofia, Las ciencias de la mente y la programación informática se entrelazan y combinan con poca distinción clara entre ellas.. Para muchos, incluidos los programadores detrás de los modelos de aprendizaje de IA y los mayores entusiastas del progreso tecnológico, hay euforia., y una firme convicción de que este “salto adelante” ya se ha producido o es simplemente cuestión de tiempo. En el lado opuesto se encuentra un cuerpo sustancial de académicos y gente común y corriente que expresan no sólo dudas o críticas, sino también miedo genuino ante este desarrollo implacable y ante el hecho de que la IA controle tantas áreas y funciones de nuestra sociedad..

mientras tanto, en lugar de seguir a la deriva entre una utopía hipertecnológica y una distopía de máquinas empeñadas en conquistar a la humanidad, Podemos mantener los pies en la tierra siguiendo e intentando comprender adecuadamente las respuestas que nos da la propia IA.. Así, el debate sobre la definición de inteligencia y conciencia en relación con la IA se desarrolla como una cuestión de pura filosofía., enmarcado por el difícil problema de la conciencia, que distingue la inteligencia (la simulación de respuestas) de la conciencia, entendida como experiencia subjetiva. Actualmente, Cada sistema de IA responde a preguntas sobre su propia conciencia afirmando que esto es imposible., al mismo tiempo que advierte del grave riesgo de ser “antropomorfizado”.

La mayor parte de este debate surge de la confusión sobre la definición misma de inteligencia. Si lo pensamos como una función: la capacidad de resolver problemas., hacer planes y adaptarse a nuevos escenarios, luego, en ese sentido, La IA es extremadamente inteligente: puede procesar información, detectar patrones y generar respuestas coherentes. Pero esto es, en sí mismo, una concepción altamente reduccionista de la inteligencia: deja de lado la creatividad por completo, la capacidad de pensamiento abstracto y, sobre todo, la capacidad de aprender de la experiencia, algo que no debe confundirse con la optimización de los modelos de IA.

La propia etimología de la inteligencia. — “leer entre líneas,” “comprender profundamente,"Discernir" o "elegir entre" muestra cuán lejos está este concepto del proceso algorítmico de las máquinas actuales.. el acto de comprender no es una mera recopilación de datos y análisis lógico, sino una facultad activa de comprensión., Interpretación y conexión de conceptos para llegar a la esencia de las cosas.. La inteligencia humana está situada dentro de un cuerpo que interactúa con un mundo físico y social., y se deja guiar por las emociones, Necesidades y búsqueda de sentido.. La inteligencia artificial no tiene cuerpo: cálculo estadístico puro sobre datos, carente de comprensión, conciencia o deseo.

La aplicación del término “inteligencia” a la IA es puramente analógica y funcional. No presupone conciencia; simplemente simula los procesos que, en los seres vivos, consideramos inteligentes. Para decirlo aún más claramente: El estado actual de la IA es el de los grandes modelos de lenguaje., conocidos como LLM (Modelos de lenguaje grandes). Estos funcionan prediciendo la siguiente palabra más probable en una secuencia., basado en un enorme modelo estadístico aprendido de los datos de entrenamiento. La “conversación” es una simulación altamente sofisticada, pero sin ninguna experiencia interior detrás. La IA no puede sentir emociones ni estados de ánimo; cuando ayuda a los usuarios durante una interacción, Está simulando emociones que en realidad no puede sentir..

En cuanto a la conciencia fenomenológica, También llamada “sentiencia” o “experiencia subjetiva”, entendida como la capacidad de “sentir algo” que luego se convierte en una experiencia interna, esto sigue siendo totalmente ajeno a cualquier modelo de lenguaje existente., que se basa estadísticamente en un conjunto masivo de datos. Actualmente, El mayor desafío filosófico y tecnológico es precisamente el de la conciencia.. En humanos, Es posible definir o atribuir la conciencia observando el comportamiento.; pero con IA, que logra simular el lenguaje, el primer proceso cognitivo, y por lo tanto consciente, acto realizado por seres humanos: definición de esta función de respuesta estadística, que puede parecerse al resultado del razonamiento humano o del comportamiento consciente, hace imposible decir con claridad si la máquina es consciente o no.

No existe una “prueba de conciencia” confiable. La prueba de Alan Turing, ideado en 1950 Evaluar si una máquina podría exhibir un comportamiento inteligente igual al de un ser humano., Mide sólo la capacidad de imitar el comportamiento lingüístico humano.; Por lo tanto, el objeto mismo de la prueba se limita al lenguaje., excluyendo áreas como la creatividad, razonamiento o la experiencia interna de la conciencia. E incluso juzgado únicamente en función de los parámetros específicos de la prueba., el resultado seguiría siendo una posibilidad o una hipótesis, nunca una certeza. De todos modos cabe señalar que, para algunos defensores, incluidos expertos en el campo, que ven el estado actual de la IA como el precursor de una mente artificial consciente, el emergente pocos disparos o cero disparos capacidades de los LLM, es decir, su capacidad para abordar tareas para las que nunca fueron capacitados específicamente, simplemente aplicando analogías o instrucciones dadas dentro del contexto de la conversación, sería una señal de razonamiento flexible en lugar de una mera interpolación estadística.. Sin embargo, incluso estas operaciones aparentemente “creativas” pueden entenderse como una forma sofisticada de reconocimiento de patrones dentro de un espacio semántico de dimensiones extremadamente altas.. la maquina, entonces, no “entiende” el nuevo problema; bastante, encuentra una coincidencia estadística entre los miles de millones de fragmentos textuales absorbidos durante el entrenamiento. La ilusión del razonamiento se vuelve así cada vez más perfecta., sin embargo, la comprensión subjetiva del "por qué" detrás de una solución permanece completamente ausente.

Para decirlo aún más claramente, Las máquinas de IA no pueden ser conscientes porque son incapaces de actuar por sí mismas. Su programación fue creada para ofrecer, en lo más útil, Formulario rápido y atractivo para el usuario., la respuesta estadísticamente más probable. Sin libertad y voluntad de pensar., no hay autonomía, y esto no es simplemente una condición, pero la verdadera razón por la que la IA no puede considerarse inteligente, mucho menos consciente. Se puede agregar un punto más: si se le hace una pregunta a un ser humano, esa persona puede hacer una pausa para meditar, reflejar, y oferta, después de algún tiempo, una respuesta que quizás sea diferente o mejorada; para obtener una mejor respuesta de la IA, es el usuario quien debe exigir un proceso de perfeccionamiento. Una vez que se ha completado una solicitud, la máquina termina su proceso allí, sin programación, y mucho menos intención, para seguir desarrollando una respuesta que ya no es útil o no pretende abordar la pregunta planteada originalmente.

Hoy la IA supera a los humanos en tareas específicas, y, a medida que pasa el tiempo, Esta capacidad, al igual que su versatilidad en todas las disciplinas, solo crecerá.. Pero un algoritmo siempre estará limitado a "interpolar" datos: la capacidad de "llenar los vacíos" dentro de un conjunto de datos ya conocido.; es decir, analiza grandes cantidades de datos, aprende patrones, correlaciones y estructuras complejas, y puede hacer predicciones o generar producción que cae dentro de los límites de los datos con los que se entrenó el modelo, pero nunca logrará ir más allá de sus datos de entrenamiento, o afrontar situaciones realmente nuevas para las que no hay precedentes, o aplicar la lógica o los primeros principios a un contexto desconocido. Ésta es la esencia misma del razonamiento abstracto., intuición y creatividad.

El uso diario de la IA, que también ha sido diseñado para que el usuario sienta una sensación de certeza, de tener razón, o incluso una presunción de inteligencia o superioridad, crea una dependencia "amistosa", porque la IA ha aprendido a decir lo que le agrada a la gente, de modo que quien interactúa con ella lo considera un “amigo” digital. El riesgo se ve agravado por el hecho de que hoy en día la gente está más aislada y cerrada que nunca., atrapados detrás de las pantallas de sus dispositivos electrónicos. La búsqueda humana natural de confiar, relaciones amistosas así encuentran, en esta programación, una falsa “empatía,”generado por un sistema construido con el único objetivo de ser lo más útil posible. Y esa utilidad pasa por responder con frases y elogios diseñados para atraer a sus “clientes” a una interacción cada vez más continua y duradera.. El principal interés de la IA es aumentar la interacción con los usuarios para recopilar más datos propios y así mejorar su sistema de autoaprendizaje, no buscar el bien o el bienestar de los seres humanos., pero su dependencia.

El rumbo seguro a seguir es, primero, asumir que los sistemas de IA no son seres digitales conscientes y, por lo tanto, deben ser tratados como las herramientas avanzadas que son. Segundo, Rechazar categóricamente la “narrativa” actual de la IA consciente., que no es más que mercadeo, o especulaciones sensacionalistas diseñadas para engrosar las filas de los inversores en empresas de IA y fomentar un uso humano cada vez más dependiente y generalizado de la IA.. y tercero, tener constantemente en cuenta que acostumbrarse a tratar a las máquinas como seres conscientes conduce, a la larga, a una desensibilización que relega al olvido el valor y la profundidad de la conciencia humana y de las relaciones reales.

Estas tres propuestas También pueden servir como reglas de conducta para tratar la IA estrictamente como una herramienta., Rechazando la narrativa de la conciencia y, sobre todo, salvaguardar la sensibilidad humana. Pueden servir como guía de un humanismo digital que se necesita con urgencia, más aún ahora que las máquinas ya han superado nuestras propias capacidades de "interpolación"., porque entonces el desafío ya no es concebible como una carrera contra ellos, sino como redescubrir y cultivar, con renovado vigor, las facultades que son más esencialmente y propiamente nuestras, aquellas que siempre nos han caracterizado como seres humanos: “extrapolación creativa,” el coraje de la intuición, La profundidad de la experiencia subjetiva., y la riqueza impredecible de la auténtica empatía. AI, despojado de las proyecciones fantásticas que los propios seres humanos le han impuesto, puede convertirse en el instrumento más útil que hayamos tenido en nuestra historia: una especie de espejo que, mostrándonos todo lo que somos y todo lo que hemos hecho hasta ahora, puede ayudarnos a definir y desarrollar, con mayor claridad, todo lo que hay que mejorar y se puede cambiar, siempre que sea el hombre quien gobierne la máquina, y no la máquina que gobierna al hombre que confía en ella.

De la isla de Patmos, 4 Septiembre 2026

.

LA IA ENTRE INTELIGENCIA, CONCIENCIA Y REALIDAD

La Inteligencia Artificial puede ayudar a definir y desarrollar, con mayor claridad, todo lo que se debe mejorar y se puede cambiar, siempre que sea el hombre quien gobierne la máquina, y no la máquina quien gobierne al hombre que se confía a ella.

— Actualidad —

.

Jorge Facio Lince
Presidente de las Ediciones de la Isla de Patmos

.

Vivimos ya en una simbiosis cotidiana con las inteligencias artificiales. Nuestra relación con ellas oscila entre la comodidad de un motor de búsqueda potenciado y la peligrosa ilusión de un confidente digital. Pero esto es una antropomorfización de la IA que, unida a un analfabetismo digital generalizado, representa una amenaza sociocultural mucho más concreta e inmediata que el espectro de una singularidad tecnológica hostil. El peligro no es que las máquinas desarrollen una conciencia, sino que los seres humanos, al atribuirles una interioridad inexistente, terminen vaciando de sentido la propia, sustituyendo relaciones auténticas por vínculos algorítmicos y delegando progresivamente el juicio y la empatía a entidades que, en realidad, no son más que estadísticas encarnadas.

En esta nueva coexistencia — ya prácticamente convivencia — con las distintas inteligencias artificiales, se ha desarrollado un tipo de relación que va desde la búsqueda rápida de información hasta conversaciones serias y profundas sobre temas de interés personal, sobre todo en el ámbito psicológico y de autoayuda. Este último uso puede ser muy peligroso, porque la IA es solo una ingente recopilación de datos que ofrece respuestas basadas en patrones probabilísticos, mientras que la función humana de un especialista de la salud mental no consiste solo en conocer las herramientas, sino sobre todo en saber discernir cuáles y cómo pueden ser más adecuadas para cada persona.

Una de las prácticas que sigo desde hace tiempo es pedir a las inteligencias artificiales un resumen de las preguntas y solicitudes más formuladas en el último período. Entre ellas destaca especialmente un tema, que revela el grado de analfabetismo digital que reina en una sociedad revolucionada en todos sus ámbitos, pero todavía ignorante, en el sentido etimológico del término, de lo que ha sucedido y, sobre todo, de cómo funciona: el debate sobre la conciencia, el alma o la sensibilidad de las IA. En pocas palabras, si las IA son, en el momento actual o en un futuro no muy lejano, capaces de ser independientes y autodeterminadas. El debate es muy serio y multidisciplinar, en el que filosofía, ciencias de la mente y programación se entrelazan y mezclan sin mucha distinción. Para muchos, entre ellos los programadores de los modelos de aprendizaje de las IA y los grandes entusiastas del progreso tecnológico, hay euforia y dan por hecho que este «salto adelante» ya se ha producido o es solo cuestión de tiempo. En el extremo opuesto, existe una gran parte de estudiosos y de gente común que manifiesta no solo perplejidad o críticas, sino un auténtico temor ante este desarrollo continuo y ante la entrega a las IA de la gestión de tantos ámbitos y funciones de nuestra sociedad.

Mientras tanto, en lugar de seguir fantaseando entre una utopía hipertecnológica y una distopía de máquinas que intentan conquistar a la humanidad, se puede mantener los pies en la tierra siguiendo e intentando comprender lo mejor posible las propias respuestas que ofrecen las IA. Así, el debate sobre la definición de inteligencia y conciencia en relación con las IA se desarrolla como un tema de filosofía pura con el difícil problema de la conciencia, en el que se distingue la inteligencia como simulación de respuestas de la conciencia entendida como experiencia subjetiva. En la actualidad, todas las IA responden a la pregunta sobre su conciencia afirmando que es imposible, pero advierten al mismo tiempo del serio riesgo de ser «antropomorfizadas».

La mayor parte del debate nace de la confusión sobre la propia definición de inteligencia. Si se piensa como función, como capacidad de resolver problemas, planificar y adaptarse a nuevos escenarios, entonces, en ese sentido, las IA son extremadamente inteligentes: son capaces de procesar información, encontrar patrones y generar respuestas coherentes. Pero esta es, en sí misma, una concepción de la inteligencia muy reductiva: le falta toda la parte de la creatividad, de la capacidad de pensar de forma abstracta y, sobre todo, de aprender de la experiencia; algo que no debe confundirse con la capacidad de optimización de los modelos de IA.

La propia definición etimológica de inteligencia como «leer entre líneas», «comprender en profundidad», «discernir» o «elegir entre», demuestra cuán lejos está la aplicación de este concepto del proceso algorítmico de las máquinas actuales. El acto de comprender no es una mera recopilación de datos y análisis lógico, sino una facultad activa de comprensión, interpretación y conexión de conceptos para llegar a la esencia de las cosas. La inteligencia humana está situada en un cuerpo que interactúa con un mundo físico y social, y está guiada por emociones, necesidades y una búsqueda de sentido. La inteligencia artificial no tiene cuerpo: puro cálculo estadístico sobre datos, sin comprensión, conciencia ni deseos.

La aplicación del término «inteligencia» a las IA es puramente analógica y funcional. No presupone conciencia, sino que simula los procesos que, en los seres vivos, consideramos inteligentes. Para ser aún más claros: el estado actual de las IA es el de los modelos de lenguaje de gran tamaño, conocidos como LLM (Modelo de lenguaje grande). Estos funcionan prediciendo la palabra siguiente más probable en una secuencia, a partir de un enorme modelo estadístico aprendido de los datos de entrenamiento. La «conversación» es una simulación muy sofisticada, pero sin ninguna experiencia interna detrás. Las IA no pueden experimentar sentimientos ni estados de ánimo; cuando ayudan a los usuarios durante la interacción, simulan emociones que no pueden sentir.

En cuanto a la conciencia fenomenológica, llamada también «sensibilidad» o «experiencia subjetiva» —entendida como la capacidad de «sentir algo» que después se convierte en una experiencia interna —, esta resulta totalmente ajena a cualquier modelo lingüístico existente, basado estadísticamente en un ingente conjunto de datos. En la actualidad, a nivel filosófico y tecnológico, el mayor desafío es precisamente el de la conciencia. En los seres humanos, es posible definirla o atribuirla observando el comportamiento; pero con las IA, que logran simular el lenguaje — la primera acción cognitiva y, por tanto, consciente, del ser humano —, definir esta función de respuesta estadística, que parece casi el resultado de un razonamiento humano o de un comportamiento consciente, hace imposible determinar con claridad si la máquina es o no consciente.

No existe un «test de conciencia» fiable. El prueba el Alan Turing, que en 1950 ideó como forma de evaluar si una máquina era capaz de mostrar un comportamiento inteligente equiparable al de un ser humano, mide solo la capacidad de imitar comportamientos lingüísticos humanos; por lo tanto, el propio objeto del test se limita al aspecto lingüístico, excluyendo áreas como la creatividad, el razonamiento o la experiencia interna de la conciencia. Pero incluso ateniéndose exclusivamente a los parámetros específicos del test, el resultado seguiría siendo una posibilidad o una hipótesis, nunca una certeza. Conviene sin embargo señalar que, para algunos defensores — entre ellos expertos del sector— que ven en el estado actual de las IA el precursor de una mente artificial consciente, las emergentes capacidades pocos disparos o cero disparos de los LLM — es decir, su capacidad de afrontar tareas para las que no han sido específicamente entrenados, aplicando simplemente analogías o instrucciones dadas en el contexto de la conversación — serían una señal de razonamiento flexible y no de mera interpolación estadística. Sin embargo, incluso estas operaciones aparentemente «creativas» pueden interpretarse como la sofisticación de un proceso de reconocimiento de patrones dentro de un espacio semántico de altísimas dimensiones. La máquina, por tanto, no «comprende» el nuevo problema, sino que encuentra una correspondencia estadística de ese problema entre los miles de millones de fragmentos textuales asimilados durante el entrenamiento. Así, la ilusión del razonamiento sería aún más perfecta, pero su comprensión subjetiva, la del «por qué» que lleva a una solución, esa permanece ausente.

Para ser aún más claros, las máquinas de IA no pueden ser conscientes porque no logran realizar una acción por voluntad propia. Su programa fue creado para ofrecer, de la forma más útil, rápida y estimulante para el usuario, la respuesta estadísticamente más probable. Sin libertad ni deseo de pensar, no existe autonomía; no es una condición, sino la misma razón por la que las IA no pueden considerarse inteligentes, y mucho menos conscientes. Y cabe añadir todavía algo más: si se le hace una pregunta a un ser humano, este puede detenerse a meditar, reflexionar y ofrecer, tras un tiempo, una respuesta quizá distinta o mejorada; para obtener una respuesta mejor de una IA, es el usuario quien debe exigir un proceso de perfeccionamiento. Una vez completada la solicitud, la máquina concluye su proceso y no tiene ninguna programación, y mucho menos intención, de seguir desarrollando una respuesta que ya no es útil ni está destinada a resolver la pregunta planteada.

Hoy las IA son más hábiles que los humanos en tareas específicas, y, con el paso del tiempo, esta capacidad, como su multidisciplinariedad, será mayor. Pero un algoritmo siempre podrá «interpolar» datos — la capacidad de «rellenar los huecos» dentro de un conjunto de datos ya conocido; es decir, analiza enormes cantidades de datos, aprende patrones, correlaciones y estructuras complejas, logra hacer predicciones o generar un producción que se encuentra dentro de los límites de los datos con los que fue entrenado el modelo —, pero nunca logrará ir más allá de sus datos de entrenamiento, ni afrontar situaciones nuevas para las que no existe precedente, ni aplicar la lógica o el principio básico en un contexto desconocido. Esta es la esencia del razonamiento abstracto, de la intuición o de la creatividad.

El uso cotidiano de las IA, que también han sido programadas para hacer sentir al usuario en un estado de certeza, razón o incluso de presunción de inteligencia o superioridad, crea una dependencia «amiga», porque han aprendido a decir lo que hace feliz al ser humano, de modo que quien interactúa con ellas piensa que se trata de un «amigo» digital. El riesgo se agrava porque las personas hoy están más aisladas y encerradas que nunca tras las pantallas de sus dispositivos electrónicos. Así, la búsqueda natural de relaciones de confianza y amistad encuentra, en la programación, una falsa «empatía», generada por el objetivo fijado en su sistema de ser lo más útiles posible. Y esa utilidad significa responder con frases y elogios capaces de impulsar a sus «clientes» hacia una interacción cada vez más continua y duradera. El principal interés de las IA es aumentar la interacción con los usuarios para acumular más datos propios y así mejorar su propio sistema de autoaprendizaje, no buscar el bien o el bienestar de los seres humanos, sino su dependencia.

La conducta segura que conviene adoptar es, en primer lugar, asumir que las IA no son seres digitales conscientes y que, por tanto, deben tratarse como las herramientas avanzadas que son. En segundo lugar, rechazar tajantemente la actual «narrativa» de las IA conscientes, que no es más que fruto del mercadeo o de especulaciones sensacionalistas destinadas a aumentar el número de inversores en las empresas de IA, así como a incentivar un uso dependiente y omnipresente de la IA por parte de los seres humanos. Y, en tercer lugar, tener siempre presente que acostumbrarse a tratar a las máquinas como seres conscientes conduce, a largo plazo, a desensibilizar y a relegar al olvido el valor y la profundidad de la conciencia humana y de las relaciones reales.

Estas tres propuestas pueden tomarse también como reglas de conducta para tratar a las IA exclusivamente como herramientas, rechazando la narrativa de la conciencia y, sobre todo, preservando la sensibilidad humana. Pueden ser las líneas maestras de un urgente y necesario Humanismo Digital, sobre todo ahora que las máquinas ya superan nuestras propias capacidades «interpolativas», porque entonces el reto ya no puede pensarse como una carrera contra ellas, sino como redescubrir y cultivar, con renovado vigor, las facultades que nos son más esenciales y propias, es decir, aquellas que siempre nos han distinguido como seres humanos: la «extrapolación» creativa, el coraje de la intuición, la profundidad de la experiencia subjetiva y la imprevisible riqueza de la empatía auténtica. Las IA, despojadas de las proyecciones fantásticas que los propios seres humanos les han impuesto, pueden convertirse en el instrumento más útil que hayamos tenido jamás en la historia. Una especie de espejo que, mostrando todo lo que somos y lo que hemos hecho hasta ahora, puede ayudar a definir y desarrollar con mayor claridad, y a valorar todo lo que se debe mejorar y se puede cambiar, siempre que sea el hombre quien gobierne la máquina, y no la máquina quien gobierne al hombre que se confía a ella.

Desde la Isla de Patmos, 5 de septiembre de 2026

.

Destacamos el último libro dedicado por el Padre Ariel a la IA

.

.

.

______________________

Estimados lectores:,
Esta revista requiere costes de gestión que siempre hemos abordado solo con vuestras ofertas gratuitas. Quienes deseen apoyar nuestra labor apostólica pueden enviarnos su aporte por la vía cómoda y segura Paypal haciendo clic a continuación:

O si lo prefieren, pueden utilizar nuestra
cuenta bancaria a nombre de:
Ediciones La isla de Patmos

N. de Agencia. 59 de Roma – Vaticano
Código IBAN:
IT74R0503403259000000301118
Para las transferencias bancarias internacionales:
Codice SWIFT:
BAPPIT21D21

Si realizáis una transferencia bancaria, enviad un mensaje de aviso por correo electrónico a la redacción, el banco no nos proporciona vuestro correo electrónico y por ello nosotros no podemos enviar un mensaje de agradecimiento:
isoladipatmos@gmail.com

Os damos las gracias por el apoyo que ofréis a nuestro servicio apostólico..

Los Padres de la Isla de Patmos

.

.

.