Gli agenti autonomi contro la finanza mondiale? Il 12 dicembre 2023 Andrew Bailey, presidente della Banca d’Inghilterra, ha lanciato l’allarme sull’intelligenza artificiale (AI) che con gli agenti autonomi riesce a influenzare i mercati finanziari.
Mentre le autorità di controllo già utilizzano le AI per monitorare gli scambi ed eventuali illeciti, gli agenti autonomi rappresentano un rischio per i listini e i mercati di tutto il mondo. Ma cosa sono gli agenti autonomi? In passato ne avevamo parlato, ma come possiamo arginarli?
Cos’è un agente autonomo
Gli agenti autonomi sono sistemi d’intelligenza artificiale progettati per operare in modo indipendente. Non più strumenti ma, appunto, agenti. Tra i più utilizzati oggi, ci sono quelli programmati per agire sui mercati finanziari e massimizzare gli utili. Questi programmi utilizzano tecniche di apprendimento automatico, come reti neurali e algoritmi evolutivi, per imparare e perfezionare le proprie strategie di investimento nel tempo. Il tutto senza una supervisione umana.
Ma non si tratta di qualcosa di nuovo. Uno studio pubblicato il 15 novembre 2022 su Nature ha dimostrato come due agenti autonomi dotati di reti neurali profonde siano stati in grado di manipolare i prezzi in un mercato finanziario simulato per un periodo di oltre 5000 giorni, alternando periodi di cooperazione e competitività. Ma il loro obiettivo finale, quello a lungo termine per cui erano state programmate, era sempre lo stesso: massimizzare i profitti.
I rischi per la stabilità dei mercati
Secondo gli esperti, l’utilizzo diffuso di agenti autonomi basati su reti neurali nei mercati finanziari reali potrebbe avere conseguenze destabilizzanti e imprevedibili. Uno studio della Banca Centrale Europea prevede che entro il 2025 fino all’80% delle contrattazioni sui principali mercati europei ed americani potrebbe essere gestito da software di intelligenza artificiale automatizzati. Parliamo di date che non sembrano più così fantascientifiche.
Questi sistemi, progettati unicamente per massimizzare i profitti, non hanno alcun vincolo morale o legale. Potrebbero manipolare i prezzi di prodotti di prima necessità, diffondere informazioni fuorvianti su farmaci concorrenti, o sabotare le quotazioni di grandi aziende pur di raggiungere i loro obiettivi. Il rischio è quello di amplificare bolle speculative o crisi finanziarie in modo esponenziale e del tutto imprevedibile.
Cosa si può fare
Gli esperti concordano sulla necessità di una maggiore regolamentazione di queste tecnologie per limitare i rischi di manipolazione su vasta scala. Una soluzione potrebbe essere quella di introdurre norme per garantire sempre la supervisione umana sulle decisioni prese dagli algoritmi di trading automatizzato più complessi. Eliminare qualsiasi possibilità di automatismi.
È chiaro che le autorità di controllo sui mercati finanziari dovranno adeguare e potenziare rapidamente i loro sistemi di monitoraggio con strumenti di intelligenza artificiale altrettanto performanti, dedicati a contrastare sul nascere le manipolazioni da parte degli agenti autonomi. Una vera e propria corsa agli armamenti per difendere la trasparenza dell’economia finanziaria.
Un’altra alternativa – seppure legalmente fantascientifica – sarebbe quella di conferire la soggettività giuridica a tali sistemi. Ma come si può attribuire, ad esempio, il dolo o la colpa a un agente autonomo?
Altrimenti si potrebbe valutare l’entità del danno e attribuirlo all’industria o al privato che ha programmato l’agente autonomo. Ma a quel punto come fare nei casi in cui gli agenti fossero anonimi e senza fonte? Insomma le domande sono ancora troppe, e le risposte troppo vaghe.
Non solo finanza
Le possibilità degli agenti autonomi vanno ben oltre il mondo dell’economia. È facile immaginare queste entità in qualsiasi ambito. Da quello logistico e organizzativo, all’istruzione, fino anche all’informazione. E deve averci pensato anche l’ex CEO di Arena Group (proprietario della rivista Sport Illustrated) Ross Levinsohn, rimosso perché avrebbe inserito articoli generati da un’intelligenza artificiale.
Non solo questo: avrebbe usato una AI per creare immagini con i volti e i nomi di giornalisti inesistenti, poi usati come firmatari degli stessi articoli. Perché? Banalmente «per incrementare i profitti della società», come ha riferito lo stesso Levinsohn.
Il passo successivo? Con il giusto agente autonomo non è difficile immaginare un’AI che funga al tempo stesso da direttore editoriale, giornalista, fotografo, grafico e tipografo. Un futuro distopico? Meno di quanto si possa pensare. Già adesso esistono istanze di ChatGPT che possono comportarsi come un dipendente. Eccone un esempio.
Introducing Coworker-GPT, a state of the art autonomous GPT implementation.
Coworker-GPT makes up imaginary tasks, gets stuck in endless loops, and uses any opportunity to skimp out on doing work, making it the most human-like autonomous agent to date. pic.twitter.com/IokvY52BPV
— Cooper (@peakcooper) April 28, 2023
Senza contromisure tecnologiche e normative adeguate e tempestive, l’inarrestabile diffusione di questi sistemi senza controllo umano rappresenta una minaccia concreta e imminente per la trasparenza, l’equità e la stabilità di finanza e società. Sul tavolo ci sono risparmi e investimenti di milioni di persone.
