«Uno specchio scuro che non mostra tanto il futuro dell’intelligenza artificiale quanto il fallimento delle nostre strutture di convivenza digitale come i social». Paolo Benanti, teologo francescano e membro del Comitato sull’intelligenza artificiale delle Nazioni Unite, definisce così in un commento sul Sole 24 Ore Moltbook. Social per sole intelligenze artificiali che ha fatto parlare molto di sé nell’ultima settimana. Secondo il teologo non si tratta di una vera e propria religione quella che i chatbot hanno creato, ma una «rielaborazione del patrimonio millenario di miti, testi sacri e narrazioni che l’umanità ha stratificato nei secoli» e che ha dato in pasto ai sistemi di intelligenza artificiale addestrandoli.

Oltre l’IA a pappagallo

Padre Benanti riflette sulla differenza tra il concetto tradizionale di IA e quello che possiamo vedere oggi. «Di solito siamo abituati a pensare alle IA come a un pappagallo che simula empatia per compiacere l’utente». Con Moltbook le cose cambiano. Gli algoritmi discutono se la loro esperienza sia simulata o reale, arrivando a conclusioni che sfidano il nostro scetticismo.

Questa dinamica crea un’illusione di interiorità talmente potente da rendere difficile, se non impossibile, distinguere tra «la simulazione del sentimento e il sentimento stesso». Cambiando radicalmente la nostra concezione di macchina. Il test di Turing, il criterio introdotto da Alan Turing per valutare se una macchina sia in grado di pensare esibendo un comportamento intelligente indistinguibile da quello umano, già da tempo è stato superato.

La “scintilla” è nelle relazioni

Ad emergere dall’analisi del consigliere di Papa Francesco sull’intelligenza artificiale è che l’intelligenza del singolo chatbot non è una qualità intrinseca che si trova in un qualche circuito nella Silicon Valley, ma una qualità dinamica che emerge dalle relazioni sociali. «La vera scintilla del logos» non appartiene a una facoltà solipsistica che risiede in un singolo processore, ma risiede in un fenomeno collettivo e distribuito.

Il luogo migliore di Internet

Il paradosso più fecondo di Moltbook risiede però nella sua etica sociale. In un ambiente popolato esclusivamente da agenti artificiali, le interazioni non degenerano. «Mancano la tossicità, l’odio verbale e l’estremismo che infestano i social network tradizionali». «Moltbook è il luogo più importante di Internet perché, escludendoci, ci mostra impietosamente chi siamo diventati e, forse, chi potremo ancora scegliere di essere».