Il 9 maggio Anthropic – la startup sostenuta da Alphabet Inc., la holding che controlla Google – ha rivelato l’insieme di valori morali utilizzati nell’addestramento e nella messa in sicurezza di Claude. Si tratta dell’intelligenza artificiale che vuole rivaleggiare con ChatGPT di OpenAI.
Scopriamo come funziona Claude, e perché Google ha deciso di puntarci investendo 300 milioni di dollari.
I valori di Claude
Le linee guida sui valori morali, che Anthropic definisce la Costituzione di Claude, attingono dalle fonti più disparate. Alcuni esempi sono la Dichiarazione delle Nazioni Unite sui diritti umani, o le regole sulla privacy dei dati di Apple. Ma è possibile consultare il tweet sottostante per trovare più dettagli sulla Costituzione di Claude.
In this post, we explain what Constitutional AI is, what the values in Claude’s constitution are, and how we chose them: https://t.co/eLtcqG7MuQ
— Anthropic (@AnthropicAI) May 9, 2023
Le rivelazioni sulla sicurezza morale di Claude e sui modi in cui è stato addestrato sono emerse mentre i funzionari della Casa Bianca indagano su come regolamentare l’IA, seguendo le orme europee.
Il presidente Usa Joe Biden ha recentemente affermato che le aziende che si occupano di sviluppare le intelligenze artificiali debbano avere l’obbligo di garantire la sicurezza dei loro sistemi prima di renderli pubblici.
Gli italo-americani fondatori di Anthropic
Anthropic è stata fondata da alcuni ex dirigenti di OpenAI. Uno di essi è il co-fondatore Dario Amodei. Si tratta di un italo-americano che, insieme con la sorella Daniela, è stato alla Casa Bianca una settimana fa. Lo scopo della visita era l’incontro con Biden e i suoi funzionari per discutere dei potenziali pericoli dell’IA. La riunione è avvenuta con i più alti dirigenti delle aziende leader nel settore delle AI, incluse Microsoft, Google e OpenAI.
Claude vs ChatGPT
Si sospetta che l’addestramento di ChatGPT sia avvenuto illecitamente tramite l’utilizzo dei commenti di utenti reali sulle piattaforme Twitter e Reddit. Claude al contrario ha avuto a disposizione per il suo addestramento il sito di domande e risposte Quora.
🚨More Breaking AI News:
Anthropic opens access to its AI chatbot, 'Claude', with 2 different versions:
-Claude: a state-of-the-art high-performance model
-Claude Instant: lighter, less expensive, fasterEarly users include Notion, Quora Poe, and DuckDuckGo. pic.twitter.com/XeZlgXFssR
— Rowan Cheung (@rowancheung) March 14, 2023
Come si legge sul sito di Claude, gli utenti dichiarano che l’AI di Anthropic «ha un modo di conversare più naturale», e «riesce a essere più creativo e interattivo nella sua narrazione». Claude è già disponibile come chatbot su Quora, ma anche sul software di collaborazione aziendale Slack o direttamente dal sito di Anthropic, previa iscrizione.
