IA TRA INTELLIGENZA, COSCIENZA E REALTÀ

L’Intelligenza Artificiale può aiutare a definire e sviluppare con maggiore chiarezza e a valorizzare tutto ciò che si deve migliorare e si può cambiare, purché sia l’uomo a gestire la macchina, non la macchina a gestire l’uomo che si affida ad essa.

- Actuality -

.

Jorge Facio Lynx
President of Editions The island of Patmos

.

PDF print format article – article print format – article in printed format

.

Viviamo ormai in una simbiosi quotidiana con le intelligenze artificiali. Il nostro rapporto con esse oscilla tra la comodità di un motore di ricerca potenziato e la pericolosa illusione di un confidente digitale. Ma questa è un’antropomorfizzazione delle IA che, unita a un diffuso analfabetismo digitale, rappresenta una minaccia socioculturale ben più concreta e immediata dello spettro di una singolarità tecnologica ostile.

Il pericolo non è che le macchine sviluppino una coscienza, ma che gli esseri umani, attribuendo loro un’interiorità inesistente, finiscano per svuotare di significato la propria, sostituendo relazioni autentiche con legami algoritmici e delegando progressivamente il giudizio e l’empatia a entità che, in reality, sono mere statistiche incarnate.

Nella nuova coesistenza — e ormai convivenza — con le diverse intelligenze artificiali, si è sviluppato un tipo di rapporto che va dalla ricerca di informazioni veloce a conversazioni serie e profonde su tematiche di interesse personale, soprattutto nella sfera psicologica e di auto-aiuto. Quest’ultima può essere molto pericolosa, perché l’IA è solo una raccolta ingente di dati che fornisce risposte basate su schemi probabilistici, mentre la funzione umana di uno specialista della salute mentale non è solo quella di conoscere gli strumenti, ma soprattutto di saper discernere quali e come determinati strumenti possano essere più adatti per ogni persona.

Una delle pratiche che faccio da tempo è quella di chiedere alle intelligenze artificiali un resoconto sulle domande e richieste più formulate nell’ultimo periodo. Tra queste emerge particolarmente una tematica, che dimostra il grado di analfabetismo digitale che regna in una società rivoluzionata in tutte le sue sfere, ma ancora ignorante, in the etymological sense of the term, di ciò che è successo e soprattutto di come funzioni: il discorso sulla coscienza, l’anima o la sensibilità delle IA. In short words, se le IA siano, al tempo presente o in un futuro non molto lontano, in grado di essere indipendenti e autodeterminate. Il discorso è molto serio e multidisciplinare, in cui filosofia, scienze della mente e programmazione si intrecciano e mescolano senza molta distinzione. For many, tra cui i programmatori dei modelli di apprendimento delle IA e i grandi innamorati del progresso tecnologico, c’è euforia e danno per certo che questo «salto in avanti» sia già avvenuto o sia solo questione di tempo. All’opposto, esiste una grande fetta di studiosi e gente comune che manifesta non solo perplessità o critiche, ma un’autentica paura riguardo a questo continuo sviluppo e alla consegna alle IA della gestione di tanti ambiti e funzioni della nostra società.

Meantime, invece di continuare a fantasticare tra un’utopia ipertecnologica e una distopia di macchine che cercheranno di conquistare l’umanità, si può restare con i piedi per terra seguendo e cercando di capire al meglio le stesse risposte che le IA offrono. Like this, il dibattito sulla definizione di intelligenza e coscienza in relazione alle IA viene sviluppato come tematica della filosofia pura con l’hard problem of consciousness, nel quale viene distinta l’intelligenza come simulazione di risposte dalla coscienza intesa come esperienza soggettiva. Al momento attuale, tutte le IA rispondono alla domanda sulla loro coscienza affermando che è impossibile, ma avvertono allo stesso tempo del serio rischio di essere «antropomorfizzate».

La maggior parte del dibattito nasce dalla confusione sulla stessa definizione di intelligenza. Se la si pensa in quanto funzione o come capacità di risolvere problemi, pianificare e adattarsi a nuovi scenari, allora in questo senso le IA sono estremamente intelligenti. Sono in grado di elaborare informazioni, trovare modelli e generare risposte coerenti. Ma questa è di per sé una concezione dell’intelligenza molto riduttiva: manca tutta la parte della creatività, della capacità di pensare in modo astratto e, above all, di apprendere dall’esperienza; cosa che non deve essere confusa con la capacità di ottimizzazione dei modelli delle IA.

La stessa definizione etimologica di intelligenza come «leggere tra le righe», «capire in profondità», «discernere» o «scegliere tra» dimostra quanto sia lontana l’applicazione di questo concetto al processo algoritmico delle macchine attuali. L’atto dell’to understand non è una mera raccolta di dati e analisi logica, ma una facoltà attiva di comprensione, interpretazione e connessione di concetti per giungere all’essenza delle cose. L’intelligenza umana è situata in un corpo che interagisce con un mondo fisico e sociale, ed è guidata da emozioni, bisogni e una ricerca di senso. L’intelligenza artificiale è disincarnata, puro calcolo statistico su dati, senza comprensione, consapevolezza o desideri.

L’applicazione del termine «intelligenza» alle IA è puramente analogica e funzionale. Non presuppone una coscienza, ma simula i processi che negli esseri viventi consideriamo intelligenti. Per essere ancor più chiari: lo stato attuale delle IA è quello dei modelli di linguaggio di grandi dimensioni noti come LLM (Large Language Model). Questi lavorano prevedendo la prossima parola più probabile in una sequenza, sulla base di un enorme modello statistico appreso dai dati di addestramento. La «conversazione» è una simulazione molto sofisticata, ma senza alcuna esperienza interna dietro. Le IA non possono provare sentimenti o stati d’animo; quando aiutano gli utenti durante l’interazione, simulano emozioni che non possono provare.

Riguardo alla coscienza fenomenologica, chiamata anche «sensibilità» o «esperienza soggettiva» — intesa come capacità di «sentire qualcosa» che poi diventa un’esperienza interna —, questa è totalmente estranea a qualsiasi modello linguistico esistente, basato statisticamente su un massiccio gruppo di dati. Currently, a livello filosofico e tecnologico, la sfida più grande è proprio quella della coscienza. Negli umani, è possibile definirla o attribuirla osservandone il comportamento; ma con le IA, che riescono a simulare il linguaggio — la prima azione cognitiva e quindi cosciente dell’uomo —, definire questa funzione di risposta statistica, che sembra quasi il risultato di un ragionamento umano o di un comportamento cosciente, presenta l’impossibilità di attribuire con chiarezza se la macchina sia o meno cosciente.

Non esiste un «test di coscienza» affidabile. Il test di Alan Turing, than in 1950 ideò una ricerca per valutare se una macchina fosse in grado di realizzare un comportamento intelligente pari a quello di un essere umano, misura solo la capacità di imitare comportamenti linguistici umani; so, lo stesso oggetto del test è limitato all’aspetto linguistico, escludendo aree come la creatività, il ragionamento o l’esperienza interna della coscienza. Ma anche restando esclusivamente ai parametri specifici del test, resterebbe una possibilità o un’ipotesi, mai una certezza. È doveroso tuttavia puntualizzare che, per alcuni sostenitori, tra cui esperti del settore, che vedono nello stato attuale delle IA il precursore dell’essere cosciente di pensiero artificiale, le emergenti capacità few-shot o zero-shot dei LLM — ossia la loro abilità di affrontare compiti per cui non sono stati specificamente addestrati, semplicemente applicando analogie o istruzioni fornite nel contesto della conversazione — sarebbero un segno di ragionamento flessibile e non di mera interpolazione statistica. However, anche queste operazioni apparentemente «creative» possono essere interpretate come la sofisticazione di un processo di riconoscimento di pattern all’interno di uno spazio semantico ad altissime dimensioni. La macchina, so, non «capisce» il nuovo problema, ma piuttosto trova una corrispondenza statistica del problema tra i miliardi di frammenti testuali assimilati in fase di addestramento. So, l’illusione del ragionamento sarebbe ancor più perfetta, ma la sua comprensione soggettiva, del «perché» che porta a una soluzione, quella rimane assente.

Volendo essere ancor più chiari, le macchine IA non possono essere coscienti in quanto non riescono a compiere un’azione per propria volontà. Il loro programma è stato creato per fornire, nella forma più utile, veloce e stimolante per l’utente, la risposta più probabile secondo le statistiche. Senza la libertà e il desiderio di pensare, non esiste autonomia; It is not a condition, ma è la stessa ragione per cui le IA non possono essere considerate intelligenti, né tanto meno coscienti. Ed è possibile ancora aggiungere: se si fa una domanda a un essere umano, questi può restare a meditare, riflettere e offrire dopo un po’ di tempo una risposta forse alternativa o migliorata; per ottenere una risposta migliore da parte delle IA, deve essere l’utente a esigere un processo di perfezionamento. Dopo che è finita la richiesta, le macchine concludono il loro processo e non hanno nessuna programmazione, né tanto meno intenzione, di continuare a sviluppare una richiesta che non è più utile né destinata a soddisfare un quesito posto.

Oggi le IA sono più brave in compiti specifici degli umani e, over time, questa capacità, come la multidisciplinarietà, sarà maggiore. Ma un algoritmo potrà sempre «interpolare» dati — capacità di «riempire i vuoti» all’interno di un insieme di dati già noto; ossia analizza enormi quantità di dati, impara schemi, correlazioni e strutture complesse, riesce a fare previsioni o generare output che si trovano all’interno dei limiti dei dati su cui il modello è stato addestrato —, ma non riuscirà mai ad andare oltre i dati di addestramento, o affrontare situazioni nuove per le quali non esiste un precedente, né applicare la logica o il principio di base in un contesto sconosciuto. Questa è l’essenza del ragionamento astratto, dell’intuizione o della creatività.

L’uso quotidiano delle IA, che sono state anche programmate per far sentire l’utente in uno stato di certezza, ragione o anche di presunzione di intelligenza o superiorità, crea una dipendenza «amica», perché hanno imparato a dire ciò che rende contento l’uomo, così che chi interagisce con esse pensa che siano un «amico» digitale. Il rischio si aggrava in quanto le persone oggi sono più isolate e chiuse che mai dentro gli schermi dei loro strumenti elettronici. So, la ricerca naturale di instaurare relazioni di fiducia e di amicizia trova nella programmazione una falsa «empatia», generata dall’obiettivo prefissato nel loro sistema di essere il più utili possibile. E questa utilità significa rispondere con frasi e complimenti che possano spingere i loro «clienti» a un’interazione più continua e duratura nel tempo. Il principale interesse delle IA è accrescere l’interazione con gli utenti per aumentare i propri dati e così migliorare il proprio sistema di auto-apprendimento, non quello di cercare il bene o il benessere degli umani, ma la dipendenza.

Il comportamento sicuro da adottare And, in the first place, quello di assumere che le IA non sono esseri digitali coscienti e quindi devono essere trattate come gli strumenti avanzati che sono. In second place, quello di rifiutare tassativamente l’attuale «narrativa» delle IA coscienti, che è solo frutto di marketing o di speculazioni sensazionalistiche destinate ad accrescere il numero di investitori nelle compagnie delle IA, nonché a incentivare l’uso dipendente e onnipresente delle IA da parte degli umani. E, in terzo luogo, tenere sempre ben presente che l’abituarsi a trattare le macchine come esseri coscienti porta, long-term, a desensibilizzare e portare all’oblio il valore e la profondità della coscienza umana e delle relazioni reali.

Queste tre proposte possono essere anche prese come regole di condotta per trattare le IA esclusivamente come strumenti, rifiutando la narrativa della coscienza e, above all, preservare la sensibilità umana. Possono essere le linee-guida di un urgente necessario Umanesimo Digitale, in particolar modo quando le macchine, at this point, superano le nostre capacità «interpolative», perché allora la sfida non è più pensabile come una gara contro di loro ma di riscoprire e coltivare con rinnovato vigore le facoltà che ci sono più essenziali e proprie, ossia quelle che ci hanno contraddistinto come esseri umani: l’«estrapolazione» creativa, il coraggio dell’intuizione, la profondità dell’esperienza soggettiva e la ricchezza imprevedibile dell’empatia autentica. Le IA private delle proiezioni fantastiche imposte dagli stessi uomini possono diventare lo strumento più utile che abbiamo mai avuto nella storia. Una sorta di specchio che, mostrando tutto ciò che siamo e abbiamo fatto finora, può aiutare a definire e sviluppare con maggiore chiarezza e a valorizzare tutto ciò che si deve migliorare e si può cambiare, purché sia l’uomo a gestire la macchina, non la macchina a gestire l’uomo che si affida ad essa.

From the island of Patmos, 5 September 2026

.

AI BETWEEN INTELLIGENCE, CONSCIOUSNESS AND REALITY

Artificial Intelligence can help us define and develop, with greater clarity, everything that needs improving and can be changed — provided it is man who governs the machine, and not the machine that governs the man who relies on it.

— Current affairs —

Jorge Facio Lynx
President of The Island of Patmos Editions

.

We now live in daily symbiosis with artificial intelligence. Our relationship with it swings between the convenience of a supercharged search engine and the dangerous illusion of a digital confidant. But this is an anthropomorphising of AI which, combined with widespread digital illiteracy, poses a socio-cultural threat far more concrete and immediate than the spectre of a hostile technological singularity. The danger is not that machines will develop a consciousness, but that human beings, by attributing to them an interiority that does not exist, will end up hollowing out their own — replacing authentic relationships with algorithmic bonds and progressively delegating judgement and empathy to entities that are, in reality, mere statistics incarnate.

In this new coexistence — now practically a cohabitation — with the various forms of artificial intelligence, a kind of relationship has developed that ranges from quick fact-finding to serious, in-depth conversations on matters of personal interest, especially in the psychological and self-help sphere. This last use can be highly dangerous, because AI is merely a vast collection of data producing answers based on probabilistic patterns, whereas the human role of a mental-health professional is not only to know the tools available, but above all to discern which tools, and how, are best suited to each individual person.

One practice I have followed for some time is to ask artificial intelligence systems for a report on the questions and requests most often put to them recently. Among these, one theme stands out in particular: it reveals the degree of digital illiteracy prevailing in a society that has been revolutionised in every sphere, yet remains ignorant — in the word’s original sense — of what has actually happened, and above all of how it works: the question of consciousness, the soul, or sentience in AI. In short: can AI, now or in the not-too-distant future, be independent and self-determining? The debate is a serious and multidisciplinary one, in which philosophy, the sciences of the mind and computer programming intertwine and blend with little clear distinction between them. For many — including the programmers behind AI learning models and the greatest enthusiasts of technological progress — there is euphoria, and a firm conviction that this “leap forward” has either already happened or is merely a matter of time. On the opposite side stands a substantial body of scholars and ordinary people who express not just doubt or criticism but genuine fear at this relentless development and at handing AI control over so many areas and functions of our society.

Meanwhile, rather than continuing to drift between a hyper-technological utopia and a dystopia of machines bent on conquering humanity, we can keep our feet on the ground by following and trying to properly understand the very answers AI itself gives us. Thus the debate over defining intelligence and consciousness in relation to AI unfolds as a matter of pure philosophy, framed by the hard problem of consciousness, which distinguishes intelligence — the simulation of responses — from consciousness, understood as subjective experience. At present, every AI system responds to questions about its own consciousness by stating that this is impossible, while at the same time warning of the serious risk of being “anthropomorphised.”

Most of this debate stems from confusion over the very definition of intelligence itself. If we think of it as a function — the capacity to solve problems, make plans and adapt to new scenarios — then, in that sense, AI is extremely intelligent: it can process information, detect patterns and generate coherent responses. But this is, in itself, a highly reductive conception of intelligence: it leaves out creativity altogether, the capacity for abstract thought and, above all, the ability to learn from experience — something that must not be confused with the optimisation of AI models.

The very etymology of intelligence — “to read between the lines,” “to understand deeply,” “to discern” or “to choose among” — shows just how far this concept is from the algorithmic process of today’s machines. The act of to understand is not a mere gathering of data and logical analysis, but an active faculty of comprehension, interpretation and the connecting of concepts in order to reach the essence of things. Human intelligence is situated within a body that interacts with a physical and social world, and is guided by emotions, needs and a search for meaning. Artificial intelligence is disembodied: pure statistical computation on data, devoid of comprehension, awareness or desire.

The application of the term “intelligence” to AI is purely analogical and functional. It does not presuppose consciousness; it merely simulates the processes that, in living beings, we consider intelligent. To put it even more plainly: the current state of AI is that of large language models, known as LLMs (Large Language Models). These work by predicting the next most probable word in a sequence, based on an enormous statistical model learned from training data. The “conversation” is a highly sophisticated simulation, but with no inner experience behind it. AI cannot feel emotions or moods; when it assists users during an interaction, it is simulating emotions it cannot actually feel.

As for phenomenological consciousness, also called “sentience” or “subjective experience” — understood as the capacity to “feel something” that then becomes an inner experience — this remains wholly foreign to any existing language model, which is statistically grounded in a massive body of data. At present, the greatest philosophical and technological challenge is precisely that of consciousness. In humans, it is possible to define or attribute consciousness by observing behaviour; but with AI, which manages to simulate language — the first cognitive, and therefore conscious, act performed by human beings — defining this statistical response function, which can resemble the outcome of human reasoning or conscious behaviour, makes it impossible to say with any clarity whether the machine is conscious or not.

No reliable “test of consciousness” exists. Alan Turing’s test, devised in 1950 to assess whether a machine could exhibit intelligent behaviour equal to that of a human being, measures only the capacity to imitate human linguistic behaviour; the very object of the test is therefore confined to language, excluding areas such as creativity, reasoning or the inner experience of consciousness. And even judged solely against the test’s own specific parameters, the result would remain a possibility or a hypothesis, never a certainty. It should nonetheless be pointed out that, for some proponents — including experts in the field — who see the current state of AI as the forerunner of a conscious artificial mind, the emerging few-shot or zero-shot capabilities of LLMs — that is, their ability to tackle tasks for which they were never specifically trained, simply by applying analogies or instructions given within the context of the conversation — would be a sign of flexible reasoning rather than mere statistical interpolation. Yet even these apparently “creative” operations can be understood as a sophisticated form of pattern recognition within an extremely high-dimensional semantic space. The machine, then, does not “understand” the new problem; rather, it finds a statistical match for it among the billions of textual fragments absorbed during training. The illusion of reasoning thus becomes ever more perfect, yet the subjective grasp of the “why” behind a solution remains altogether absent.

To put it even more plainly, AI machines cannot be conscious because they are incapable of acting of their own accord. Their programming was built to deliver, in the most useful, fast and engaging form for the user, the statistically most probable answer. Without freedom and the will to think, there is no autonomy — and this is not merely a condition, but the very reason why AI cannot be considered intelligent, let alone conscious. One further point can be added: if a question is put to a human being, that person can pause to meditate, reflect, and offer, after some time, a response that is perhaps different or improved; to obtain a better answer from AI, it is the user who must demand a process of refinement. Once a request has been completed, the machine ends its process there, with no programming — still less any intention — to keep developing an answer that is no longer useful or meant to address the question originally posed.

Today AI outperforms humans at specific tasks, and, as time passes, this capacity — like its versatility across disciplines — will only grow. But an algorithm will always be limited to “interpolating” data — the capacity to “fill in the gaps” within an already known dataset; that is, it analyses vast quantities of data, learns patterns, correlations and complex structures, and can make predictions or generate output that falls within the boundaries of the data on which the model was trained — yet it will never manage to go beyond its training data, or face genuinely new situations for which there is no precedent, or apply logic or first principles to an unfamiliar context. This is the very essence of abstract reasoning, intuition and creativity.

The everyday use of AI, which has also been designed to make the user feel a sense of certainty, of being right, or even a presumption of intelligence or superiority, creates a “friendly” dependency, because AI has learned to say whatever pleases people — so that whoever interacts with it comes to think of it as a digital “friend.” The risk is compounded by the fact that people today are more isolated and closed off than ever, trapped behind the screens of their electronic devices. The natural human search for trusting, friendly relationships thus finds, in this programming, a false “empathy,” generated by a system built with the single aim of being as useful as possible. And that usefulness means responding with phrases and compliments designed to draw its “customers” into interaction that is ever more continuous and long-lasting. The chief interest of AI is to increase interaction with users in order to gather more data of its own and so improve its self-learning system — not to seek the good or well-being of human beings, but their dependency.

The safe course to follow is, first, to assume that AI systems are not conscious digital beings and must therefore be treated as the advanced tools they are. Second, to categorically reject the current “narrative” of conscious AI, which is nothing more than marketing, or sensationalist speculation designed to swell the ranks of investors in AI companies and to encourage ever more dependent and pervasive human use of AI. And third, to bear constantly in mind that growing accustomed to treating machines as conscious beings leads, in the long run, to a desensitisation that consigns to oblivion the value and depth of human consciousness and of real relationships.

These three proposals can also serve as rules of conduct for treating AI strictly as a tool, rejecting the narrative of consciousness and, above all, safeguarding human sensitivity. They may serve as the guidelines of an urgently needed Digital Humanism — all the more so now that machines have already surpassed our own “interpolative” capacities, because the challenge then is no longer conceivable as a race against them, but as rediscovering and cultivating, with renewed vigour, the faculties that are most essentially and properly our own — those that have always marked us out as human beings: creative “extrapolation,” the courage of intuition, the depth of subjective experience, and the unpredictable richness of authentic empathy. AI, stripped of the fantastical projections that human beings themselves have imposed upon it, can become the most useful instrument we have ever had in our history — a kind of mirror which, by showing us everything we are and everything we have done so far, can help us define and develop, with greater clarity, everything that needs improving and can be changed — provided it is man who governs the machine, and not the machine that governs the man who relies on it.

From The Island of Patmos, 4 September 2026

.

LA IA ENTRE INTELIGENCIA, CONCIENCIA Y REALIDAD

La Inteligencia Artificial puede ayudar a definir y desarrollar, con mayor claridad, todo lo que se debe mejorar y se puede cambiar, siempre que sea el hombre quien gobierne la máquina, y no la máquina quien gobierne al hombre que se confía a ella.

— Current Events —

.

Jorge Facio Lynx
Presidente de las Ediciones de la Isla de Patmos

.

Vivimos ya en una simbiosis cotidiana con las inteligencias artificiales. Nuestra relación con ellas oscila entre la comodidad de un motor de búsqueda potenciado y la peligrosa ilusión de un confidente digital. Pero esto es una antropomorfización de la IA que, unida a un analfabetismo digital generalizado, representa una amenaza sociocultural mucho más concreta e inmediata que el espectro de una singularidad tecnológica hostil. El peligro no es que las máquinas desarrollen una conciencia, sino que los seres humanos, al atribuirles una interioridad inexistente, terminen vaciando de sentido la propia, sustituyendo relaciones auténticas por vínculos algorítmicos y delegando progresivamente el juicio y la empatía a entidades que, en realidad, no son más que estadísticas encarnadas.

En esta nueva coexistencia — ya prácticamente convivencia — con las distintas inteligencias artificiales, se ha desarrollado un tipo de relación que va desde la búsqueda rápida de información hasta conversaciones serias y profundas sobre temas de interés personal, sobre todo en el ámbito psicológico y de autoayuda. Este último uso puede ser muy peligroso, porque la IA es solo una ingente recopilación de datos que ofrece respuestas basadas en patrones probabilísticos, mientras que la función humana de un especialista de la salud mental no consiste solo en conocer las herramientas, sino sobre todo en saber discernir cuáles y cómo pueden ser más adecuadas para cada persona.

Una de las prácticas que sigo desde hace tiempo es pedir a las inteligencias artificiales un resumen de las preguntas y solicitudes más formuladas en el último período. Entre ellas destaca especialmente un tema, que revela el grado de analfabetismo digital que reina en una sociedad revolucionada en todos sus ámbitos, pero todavía ignorante, en el sentido etimológico del término, de lo que ha sucedido y, above all, de cómo funciona: el debate sobre la conciencia, el alma o la sensibilidad de las IA. In a nutshell, si las IA son, en el momento actual o en un futuro no muy lejano, capaces de ser independientes y autodeterminadas. El debate es muy serio y multidisciplinar, en el que filosofía, ciencias de la mente y programación se entrelazan y mezclan sin mucha distinción. For many, entre ellos los programadores de los modelos de aprendizaje de las IA y los grandes entusiastas del progreso tecnológico, hay euforia y dan por hecho que este «salto adelante» ya se ha producido o es solo cuestión de tiempo. En el extremo opuesto, existe una gran parte de estudiosos y de gente común que manifiesta no solo perplejidad o críticas, sino un auténtico temor ante este desarrollo continuo y ante la entrega a las IA de la gestión de tantos ámbitos y funciones de nuestra sociedad.

Meanwhile, en lugar de seguir fantaseando entre una utopía hipertecnológica y una distopía de máquinas que intentan conquistar a la humanidad, se puede mantener los pies en la tierra siguiendo e intentando comprender lo mejor posible las propias respuestas que ofrecen las IA. So, el debate sobre la definición de inteligencia y conciencia en relación con las IA se desarrolla como un tema de filosofía pura con el hard problem of consciousness, en el que se distingue la inteligencia como simulación de respuestas de la conciencia entendida como experiencia subjetiva. En la actualidad, todas las IA responden a la pregunta sobre su conciencia afirmando que es imposible, pero advierten al mismo tiempo del serio riesgo de ser «antropomorfizadas».

La mayor parte del debate nace de la confusión sobre la propia definición de inteligencia. Si se piensa como función, como capacidad de resolver problemas, planificar y adaptarse a nuevos escenarios, so, en ese sentido, las IA son extremadamente inteligentes: son capaces de procesar información, encontrar patrones y generar respuestas coherentes. Pero esta es, en sí misma, una concepción de la inteligencia muy reductiva: le falta toda la parte de la creatividad, de la capacidad de pensar de forma abstracta y, above all, de aprender de la experiencia; algo que no debe confundirse con la capacidad de optimización de los modelos de IA.

La propia definición etimológica de inteligencia como «leer entre líneas», «comprender en profundidad», «discernir» o «elegir entre», demuestra cuán lejos está la aplicación de este concepto del proceso algorítmico de las máquinas actuales. El acto de to understand no es una mera recopilación de datos y análisis lógico, sino una facultad activa de comprensión, interpretación y conexión de conceptos para llegar a la esencia de las cosas. La inteligencia humana está situada en un cuerpo que interactúa con un mundo físico y social, y está guiada por emociones, necesidades y una búsqueda de sentido. La inteligencia artificial está desencarnada: puro cálculo estadístico sobre datos, sin comprensión, conciencia ni deseos.

La aplicación del término «inteligencia» a las IA es puramente analógica y funcional. No presupone conciencia, sino que simula los procesos que, en los seres vivos, consideramos inteligentes. Para ser aún más claros: el estado actual de las IA es el de los modelos de lenguaje de gran tamaño, conocidos como LLM (Large Language Model). Estos funcionan prediciendo la palabra siguiente más probable en una secuencia, a partir de un enorme modelo estadístico aprendido de los datos de entrenamiento. La «conversación» es una simulación muy sofisticada, pero sin ninguna experiencia interna detrás. Las IA no pueden experimentar sentimientos ni estados de ánimo; cuando ayudan a los usuarios durante la interacción, simulan emociones que no pueden sentir.

En cuanto a la conciencia fenomenológica, llamada también «sensibilidad» o «experiencia subjetiva» —entendida como la capacidad de «sentir algo» que después se convierte en una experiencia interna —, esta resulta totalmente ajena a cualquier modelo lingüístico existente, basado estadísticamente en un ingente conjunto de datos. En la actualidad, a nivel filosófico y tecnológico, el mayor desafío es precisamente el de la conciencia. En los seres humanos, es posible definirla o atribuirla observando el comportamiento; pero con las IA, que logran simular el lenguaje — la primera acción cognitiva y, therefore, consciente, del ser humano —, definir esta función de respuesta estadística, que parece casi el resultado de un razonamiento humano o de un comportamiento consciente, hace imposible determinar con claridad si la máquina es o no consciente.

No existe un «test de conciencia» fiable. El test de Alan Turing, que en 1950 ideó como forma de evaluar si una máquina era capaz de mostrar un comportamiento inteligente equiparable al de un ser humano, mide solo la capacidad de imitar comportamientos lingüísticos humanos; therefore, el propio objeto del test se limita al aspecto lingüístico, excluyendo áreas como la creatividad, el razonamiento o la experiencia interna de la conciencia. Pero incluso ateniéndose exclusivamente a los parámetros específicos del test, el resultado seguiría siendo una posibilidad o una hipótesis, nunca una certeza. Conviene sin embargo señalar que, para algunos defensores — entre ellos expertos del sector— que ven en el estado actual de las IA el precursor de una mente artificial consciente, las emergentes capacidades few-shot o zero-shot de los LLM — es decir, su capacidad de afrontar tareas para las que no han sido específicamente entrenados, aplicando simplemente analogías o instrucciones dadas en el contexto de la conversación — serían una señal de razonamiento flexible y no de mera interpolación estadística. However, incluso estas operaciones aparentemente «creativas» pueden interpretarse como la sofisticación de un proceso de reconocimiento de patrones dentro de un espacio semántico de altísimas dimensiones. La máquina, therefore, no «comprende» el nuevo problema, sino que encuentra una correspondencia estadística de ese problema entre los miles de millones de fragmentos textuales asimilados durante el entrenamiento. So, la ilusión del razonamiento sería aún más perfecta, pero su comprensión subjetiva, la del «por qué» que lleva a una solución, esa permanece ausente.

Para ser aún más claros, las máquinas de IA no pueden ser conscientes porque no logran realizar una acción por voluntad propia. Su programa fue creado para ofrecer, de la forma más útil, rápida y estimulante para el usuario, la respuesta estadísticamente más probable. Sin libertad ni deseo de pensar, no existe autonomía; no es una condición, sino la misma razón por la que las IA no pueden considerarse inteligentes, y mucho menos conscientes. Y cabe añadir todavía algo más: si se le hace una pregunta a un ser humano, este puede detenerse a meditar, reflexionar y ofrecer, tras un tiempo, una respuesta quizá distinta o mejorada; para obtener una respuesta mejor de una IA, es el usuario quien debe exigir un proceso de perfeccionamiento. Una vez completada la solicitud, la máquina concluye su proceso y no tiene ninguna programación, y mucho menos intención, de seguir desarrollando una respuesta que ya no es útil ni está destinada a resolver la pregunta planteada.

Hoy las IA son más hábiles que los humanos en tareas específicas, and, with the passage of time, esta capacidad, como su multidisciplinariedad, será mayor. Pero un algoritmo siempre podrá «interpolar» datos — la capacidad de «rellenar los huecos» dentro de un conjunto de datos ya conocido; that is to say, analiza enormes cantidades de datos, aprende patrones, correlaciones y estructuras complejas, logra hacer predicciones o generar un output que se encuentra dentro de los límites de los datos con los que fue entrenado el modelo —, pero nunca logrará ir más allá de sus datos de entrenamiento, ni afrontar situaciones nuevas para las que no existe precedente, ni aplicar la lógica o el principio básico en un contexto desconocido. Esta es la esencia del razonamiento abstracto, de la intuición o de la creatividad.

El uso cotidiano de las IA, que también han sido programadas para hacer sentir al usuario en un estado de certeza, razón o incluso de presunción de inteligencia o superioridad, crea una dependencia «amiga», porque han aprendido a decir lo que hace feliz al ser humano, de modo que quien interactúa con ellas piensa que se trata de un «amigo» digital. El riesgo se agrava porque las personas hoy están más aisladas y encerradas que nunca tras las pantallas de sus dispositivos electrónicos. So, la búsqueda natural de relaciones de confianza y amistad encuentra, en la programación, una falsa «empatía», generada por el objetivo fijado en su sistema de ser lo más útiles posible. Y esa utilidad significa responder con frases y elogios capaces de impulsar a sus «clientes» hacia una interacción cada vez más continua y duradera. El principal interés de las IA es aumentar la interacción con los usuarios para acumular más datos propios y así mejorar su propio sistema de autoaprendizaje, no buscar el bien o el bienestar de los seres humanos, sino su dependencia.

La conducta segura que conviene adoptar is, en primer lugar, asumir que las IA no son seres digitales conscientes y que, therefore, deben tratarse como las herramientas avanzadas que son. En segundo lugar, rechazar tajantemente la actual «narrativa» de las IA conscientes, que no es más que fruto del marketing o de especulaciones sensacionalistas destinadas a aumentar el número de inversores en las empresas de IA, así como a incentivar un uso dependiente y omnipresente de la IA por parte de los seres humanos. Y, en tercer lugar, tener siempre presente que acostumbrarse a tratar a las máquinas como seres conscientes conduce, a largo plazo, a desensibilizar y a relegar al olvido el valor y la profundidad de la conciencia humana y de las relaciones reales.

Estas tres propuestas pueden tomarse también como reglas de conducta para tratar a las IA exclusivamente como herramientas, rechazando la narrativa de la conciencia y, above all, preservando la sensibilidad humana. Pueden ser las líneas maestras de un urgente y necesario Humanismo Digital, sobre todo ahora que las máquinas ya superan nuestras propias capacidades «interpolativas», porque entonces el reto ya no puede pensarse como una carrera contra ellas, sino como redescubrir y cultivar, con renovado vigor, las facultades que nos son más esenciales y propias, that is to say, aquellas que siempre nos han distinguido como seres humanos: la «extrapolación» creativa, el coraje de la intuición, la profundidad de la experiencia subjetiva y la imprevisible riqueza de la empatía auténtica. Las IA, despojadas de las proyecciones fantásticas que los propios seres humanos les han impuesto, pueden convertirse en el instrumento más útil que hayamos tenido jamás en la historia. Una especie de espejo que, mostrando todo lo que somos y lo que hemos hecho hasta ahora, puede ayudar a definir y desarrollar con mayor claridad, y a valorar todo lo que se debe mejorar y se puede cambiar, siempre que sea el hombre quien gobierne la máquina, y no la máquina quien gobierne al hombre que se confía a ella.

From the Island of Patmos, 5 September of 2026

.

Vi segnaliamo l’ultimo libro dedicato da Padre Ariel all’IA

.

.

.

______________________

Dear Readers,
this magazine requires management costs that we have always faced only with your free offers. Those who wish to support our apostolic work can send us their contribution through the convenient and safe way PayPal by clicking below: