arXiv, uno dei più importanti repository di preprint scientifici, a seguito delle crescenti preoccupazioni della comunità scientifica riguardo all’uso incontrollato di modelli di intelligenza artificiale generativa ha rilevato dei fatti inquietanti.

La piattaforma, gestita dalla Cornell University e ampiamente utilizzata da scienziati in tutto il mondo, ha smesso di accettare due tipologie specifiche di pubblicazioni informatiche: articoli di revisione e articoli programmatici. La ragione di ciò è il forte aumento del numero di articoli generati automaticamente utilizzando modelli linguistici che non apportano alcun reale contributo scientifico.

Per decenni, arXiv ha svolto il ruolo di piattaforma per la pubblicazione di articoli scientifici prima che venissero sottoposti a revisione paritaria completa su riviste accademiche. Questo è particolarmente importante per settori in rapida evoluzione come l’intelligenza artificiale e l’apprendimento automatico , dove i ritardi nella pubblicazione possono sminuire la novità dei risultati.

Tuttavia, negli ultimi anni, il campo dell’informatica è stato letteralmente inondato di opere che non rappresentano né ricerche originali né revisioni analitiche che discutono problemi scientifici attuali. Molte di esse, come sottolinea la dichiarazione ufficiale della piattaforma, assomigliano a bibliografie annotate che non fanno altro che rielaborare dati esistenti.

Sebbene non vengano formalmente introdotte nuove regole, l’amministrazione di arXiv precisa che d’ora in poi aderirà rigorosamente agli attuali criteri di moderazione. Gli autori di articoli di revisione e di programma saranno ora tenuti a dimostrare di aver completato con successo la revisione paritaria esterna ; in caso contrario, la pubblicazione non sarà approvata. Si precisa che queste misure si applicano esclusivamente agli articoli che non contengono risultati originali e non si estendono alla ricerca completa.

Secondo i rappresentanti di arXiv, attualmente ricevono centinaia di pubblicazioni di questo tipo ogni mese. L’avvento dei modelli linguistici non ha fatto altro che accelerare questo processo, semplificando la generazione di massa di testi. Ciò ha aumentato la pressione sui moderatori, costretti a impiegare risorse per filtrare materiale riciclato e duplicato a scapito dell’analisi di ricerche veramente significative. Per alleviare questo onere, è stata presa la decisione di interrompere completamente l’accettazione di pubblicazioni di revisione e programmatiche nella categoria informatica.

Se una situazione simile dovesse verificarsi in altre discipline, a causa dell’aumento dei testi basati sull’intelligenza artificiale, arXiv potrebbe estendere restrizioni simili anche a queste sezioni. L’amministrazione del servizio ritiene che tali misure siano necessarie per dare priorità a ricerche serie e di interesse per la comunità scientifica.

L’uso di modelli generativi è già diventato fonte di diversi problemi in ambito scientifico. Oltre al flusso di testi ripetitivi, la crescente dipendenza dall’intelligenza artificiale sta influenzando anche il processo di revisione paritaria: sono noti casi di revisori scientifici che utilizzano ChatGPT per preparare le proprie conclusioni.

Inoltre, l’anno scorso, un articolo pubblicato su una prestigiosa rivista contenente un’immagine generata dall’intelligenza artificiale è stato ritirato perché non conforme agli standard accademici. Tutto ciò evidenzia la necessità di rivedere i criteri di pubblicazione e rafforzare il controllo di qualità per gli articoli scientifici nell’era dell’uso diffuso dei modelli linguistici.

L'articolo ArXiv blocca gli articoli generati con l’Intelligenza Artificiale proviene da Red Hot Cyber.