Il Dipartimento dell’Istruzione di New York ha ristretto l’accesso a ChatGPT per tutti gli studenti e i professori del distretto. La decisione è stata presa dopo le tante segnalazioni arrivate da presidi e docenti che denunciano l’utilizzo dell’AI da parte degli alunni nello svolgimento dei compiti scritti.
Il comunicato del Dipartimento
«A causa delle preoccupazioni sugli impatti negativi sull’apprendimento degli studenti e sulla sicurezza e l’accuratezza dei contenuti, l’accesso a ChatGPT è limitato sulle reti e sui dispositivi delle scuole pubbliche di New York City». Queste le parole della portavoce del New York State Education Department Jenna Lyle. «Sebbene lo strumento possa essere in grado di fornire risposte rapide e semplici alle domande – ha aggiunto -, non sviluppa capacità di pensiero critico e di risoluzione dei problemi, che sono essenziali per il successo accademico e per tutta la vita».
Le università contro ChatGPT
3d printer does homework that ChatGPT wrote … 🔥
Kids in school have it so easy these days.😂 pic.twitter.com/bckljf74SP
— Wall Street Silver (@WallStreetSilv) February 3, 2023
«Cerchiamo di istituire politiche generali – ha affermato Joe Glover, rettore dell’Università della Florida – che sostengano l’autorità del corpo docente nel gestire la classe. Questa non sarà l’ultima innovazione con cui avremo a che fare». Ma la polemica prevarica i confini degli Stati Uniti.
Leslie Loble, professoressa in Tecnologia industriale all’Università di Sidney, sostiene: «Che sia ChatGPT o un’altra tecnologia, il settore dell’educazione (in Australia) al momento sta andando alla cieca». La necessità di politiche chiare che limitino l’azione delle AI nel settore dell’istruzione si fa sempre più evidente e non potrà essere ignorata a lungo.
L’istruzione italiana si schiera contro le AI
«Quando ci vorrà prima di ipotizzare che almeno delle parti di lezione vengano demandate all’intelligenza artificiale?», si chiede in tono provocatorio Francesco Greco, il Presidente dell’Associazione Nazionale Docenti. «Se si va a vedere le statistiche si capisce con che rapidità si sta diffondendo questo strumento. Non ci vorrà molto prima che diventi un problema serio.
Fanno eco le parole di Antonello Giannelli, Presidente dell’Associazione Nazionale Presidi: «Siamo d’accordo che l’uso dei sistemi di IA possa essere applicato in tutti gli aspetti dell’attività scolastica, occorre essere consapevoli delle opportunità e dei rischi connessi al loro uso».
Ci pensa OpenAI
La casa madre di ChatGPT sta già correndo ai ripari. La società ha infatti creato un classificatore di testi scritti per riconoscere quelli generati da un’intelligenza artificiale. Lo abbiamo testato.
Il classificatore ha ancora alcune lacune: può solo smascherare testi AI di almeno mille caratteri, ha difficoltà con i testi scritti dai bambini e – come vedremo – è molto semplice da ingannare. Esistono altri software, ognuno con i punti deboli: “GPTZero”, “DetectGPT” e “OpenAI Detector”. Nessuno di essi è performante quanto il classificatore di OpenAI. Ciononostante si tratta di armi a disposizione di ogni professore per verificare il lavoro degli studenti.
Scott Aaronson, professore dell’Università pubblica del Texas, si è preso un anno sabbatico per lavorare nel team di OpenAI «nello sforzo di garantire che l’AI sia impiegata in modi che non danneggino l’umanità». A questo proposito ha tenuto a Austin – in Texas – una lectio magistralis.
Fatta la legge, trovato l’inganno
Ancora una volta le nuove generazioni si dimostrano un passo avanti. Il modo più efficace d’ingannare un classificatore è, banalmente chiedere a un altro software d’intelligenza artificiale di parafrasare il testo. Esistono moltissime alternative gratuite: “QuillBot AI”, “ReText.Ai” o “Wordai” sono solo alcuni esempi che riescono a eludere i controlli.
Quello che abbiamo visto finora è solo un assaggio. La versione di ChatGpt attualmente disponibile è “ChatGpt-3.5”. Nel primo quadrimestre del 2023 ci sarà il lancio di “ChatGPT-4” che, secondo Sam Altman, sarà “multimodale”, quindi interattiva. Considerando che sarà esponenzialmente più performante della versione precedente, potrebbe essere un ulteriore passo in avanti verso la singolarità.
