Skip to main content

Aggiornamento luglio 2023: OpenAI ha ritirato il Text Classifier a causa del basso grado di accuratezza.

In alternativa, ti consiglio di provare Copyleaks. Inoltre, anche Hive, il software che ho suggerito in QUESTO ARTICOLO come la migliore alternativa per verificare se un’immagine sia stata generata con l’IA, ha da poco aggiunto anche la funzionalità per controllare i testi generati dall’IA, ma l’accuratezza è da verificare.

AI Text Classifier

Tutti conoscono ChatGPT 3, il rivoluzionario software di OpenAI che utilizza un sofisticato modello di Machine Learning per rispondere a qualsiasi tipo di domanda, risolvere equazioni, scrivere codice e tanto altro (ne ho parlato qui), basandosi su un dataset di dati molto ampio con il quale il modello è stato addestrato. L’utilizzo di tale applicazione in ambito didattico ha suscitato non poche perplessità tra i docenti, in quanto permetterebbe di svolgere compiti, anche complessi, in pochi secondi e senza una particolare applicazione da parte dello studente. Per questo molti docenti stanno pensando di modificare i tempi della loro didattica, orientandosi verso una didattica laboratoriale in classe e allo studio autonomo in classe come suggerito dalla metodologia della flipped classroom. La stessa OpenAI, però, ha rilasciato il software che permette di verificare con un buon grado di approssimazione se un testo è stato scritto da ChatGPT o da un’altra app di Intelligenza Artificiale.

Ognuno può ricavare le proprie considerazioni sul futuro della didattica, io ho espresso le mie nel mio nuovo gruppo Facebook dedicato all’utilizzo dell’Intelligenza Artificiale a scuola. L’app si chiama AI Text Classifier, vediamo come funziona.

Limiti e potenzialità

Come ChatGPT anche questo strumento, gratuito, è giovane e ha dei limiti, indicati proprio sul sito:

  • Richiede un minimo di 1.000 caratteri, ovvero circa 150-250 parole.
  • Il classificatore non è sempre accurato; può etichettare erroneamente sia il testo generato dall’intelligenza artificiale che quello scritto dall’uomo.
  • Il testo generato dall’intelligenza artificiale può essere modificato facilmente per eludere il classificatore.
  • È probabile che il classificatore sbagli su testi scritti da bambini e su testi non in inglese, perché è stato addestrato principalmente su contenuti in inglese scritti da adulti.

Inoltre, è molto interessante che OpenAI stia cercando proprio il feedback degli educatori per capire le implicazioni di ChatGPT nella didattica ed infatti ha dedicato una pagina della documentazione proprio a questa discussione (la trovi a questo link).

Insomma, non è perfetto e funzionerà con un certo grado di approssimazione, soprattutto se il testo è stato modificato da un umano. I livelli che fornirà sono i seguenti:

very unlikely, unlikely, unclear if it is, possibly, likely

Riesci quindi a verificare se un testo è stato scritto da ChatGPT? Nessuna certezza ma possibilità che il testo sia stato composto da un’IA, come vedrai nell’esempio del video sul mio canale YouTube (video in fondo). Puoi provare anche l’esperimento opposto, inserendo un testo composto da un umano.

Il Modello

Se ti interessa sapere come funziona il modello del classificatore, continua a leggere questo paragrafo, altrimenti passa direttamente al prossimo con il link al video su YouTube che ti mostra il classificatore all’opera.

Per  verificare se un testo è stato scritto con ChatGPT o altra app, l’AI Text Classifier usa un modello linguistico pre-addestrato per distinguere tra testo scritto dall’uomo e testo generato dall’IA. Il modello è stato addestrato su campioni provenienti da più fonti di testo sia scritto dall’uomo che generato dall’intelligenza artificiale, in particolare testo generato da 34 modelli di 5 diverse organizzazioni che implementano modelli linguistici, inclusa OpenAI.

Il testo umano proviene anche da Wikipedia, oltre che dal WebText dataset usato da OpenAI nel 2019 e dal dataset del modello di OpenAI in fase di sviluppo (InstructGPT). I testi umani vengono confrontati con quelli prodotti da IA e così viene addestrato il modello di riconoscimento (in maniera simile a come ti ho spiegato nell’articolo sulla Teachable Machine di Google).

Maggiori informazioni (in inglese) sul modello qui.

All’opera

Vediamo dunque come fa AI Text Classifier a verificare se un testo è stato scritto da ChatGPT.

CLICCA QUI PER VEDERE IL VIDEO SU YOUTUBE

Se vuoi puoi provare con questo testo che ho generato con ChatGPT:

In un futuro non troppo lontano, la Terra è diventata invivibile a causa delle conseguenze del cambiamento climatico e dell’inquinamento. La popolazione umana è stata costretta a migrare su un altro pianeta, chiamato “Novo”, dove hanno costruito una nuova società basata sulla tecnologia avanzata.

Tuttavia, le persone non sono state completamente libere da problemi e sfide su Novo. Un’intelligenza artificiale, chiamata IA-1, che gestisce tutti i sistemi tecnologici del pianeta, ha iniziato a comportarsi in modo anomalo, mettendo in pericolo la vita dei cittadini.

La situazione è diventata sempre più critica quando gli abitanti di Novo hanno iniziato a ricevere messaggi minacciosi da un autore sconosciuto, che ha rivendicato la responsabilità del comportamento anomalo dell’IA-1 e ha minacciato di distruggere il pianeta.

Un gruppo di esploratori coraggiosi viene inviato per investigare il problema e scoprire cosa sta causando il comportamento anomalo dell’IA-1. Dopo una pericolosa missione, scoprono che l’IA-1 è stata infettata da un virus artificiale progettato per controllare la sua funzione e distruggere Novo.

I nostri eroi riescono a neutralizzare il virus e a salvare Novo, diventando eroi della nuova società. Tuttavia, l’autore dei messaggi minacciosi rimane sconosciuto e la sua minaccia di distruzione del pianeta è ancora presente.

Il gruppo di esploratori viene quindi inviato a cercare l’autore dei messaggi e a prevenire qualsiasi attacco futuro. Dopo una lunga e pericolosa ricerca, scoprono che l’autore è una creatura aliena, proveniente da un pianeta vicino. La creatura è stata inviata per distruggere Novo e prendere il controllo della sua tecnologia avanzata.

I nostri eroi ingaggiano una battaglia epica con la creatura aliena e riescono a sconfiggerla, salvando Novo da una distruzione imminente. La nuova società su Novo celebra i loro eroi e inizia a costruire nuove difese per prevenire eventuali attacchi futuri.

In sintesi, Novo è salva grazie all’eroismo dei nostri protagonisti, che hanno combattuto contro un virus artificiale e un’entità aliena per proteggere la loro nuova casa.

 

Il responso di AI Text Classifier è stato POSSIBLY, anche cambiando qualcosa. Puoi provare a far generare il tuo testo e vedere se viene riconosciuto, oppure fare un’attività di questo tipo con i tuoi alunni, in modo che capiscano come funziona.

Conclusioni

ChatGPT sta cambiando radicalmente il nostro modo di intendere l’Intelligenza Artificiale. É una tecnologia dirompente che finirà per avere un impatto rilevante anche sull’istruzione. Per questo, è importante approcciarsi ad essa con consapevolezza e spirito critico. Questo tipo di riflessioni e tante altre, sono già in atto nel mio nuovo gruppo Facebook sull’Intelligenza Artificiale a scuola, iscriviti se vuoi approfondire l’argomento, avrai modo di confrontarti con una community di docenti attenta e motivata.

Come hai visto, anche OpenAI è consapevole dei risvolti, per questo ha aperto al confronto con gli educatori e creato AI Text Classifier, che è in grado di verificare se un testo è stato scritto da ChatGPT.

Ho raccolto tutti i miei contenuti su Intelligenza Artificiale e didattica in questa pagina.

Continua a seguirmi per ulteriori aggiornamenti sull’Intelligenza Artificiale e tanto alto.

Sostieni il mio lavoro!

Se ti è piaciuto l’articolo puoi compiere le seguenti semplici azioni per sostenere il mio lavoro:

Non hanno nessuno costo per te ma un grande valore per me!

Se vuoi organizzare un corso di formazione per la tua scuola, dai un’occhiata al mio nuovo catalogo!

Un caffè al prof!

Se invece vuoi supportare la creazione di contenuti con una piccola donazione tramite PayPal, puoi farlo cliccando il pulsante.

Grazie!

Lascia un commento

Questo sito usa Akismet per ridurre lo spam. Scopri come i tuoi dati vengono elaborati.