Figura 1 – Distribuzione per ambito disciplinare degli autori estremamente produttivi27.
Maurizio Lana
Nel 2018 «Nature» pubblicò un articolo di John Ioannidis, Richard Klavans e Kevin Boyac intitolato Thousands of scientists publish a paper every five days1 il cui senso si riassumeva nella frase di apertura: «Authorship is the coin of scholarship - and some researchers are minting a lot».
Gli autori riferivano gli esiti di una complessa ricerca bibliometrica2 di cui occorre menzionare i criteri per comprendere i risultati:
We searched Scopus for authors who had published more than 72 papers (the equivalent of one paper every 5 days) in any one calendar year between 2000 and 2016, a figure that many would consider implausibly prolific. We found more than 9,000 individuals, and made every effort to count only ‘full papers’ - articles, conference papers, substantive comments and reviews.
Il focus erano dunque gli autori che avevano pubblicato più di 72 articoli in almeno un anno tra il 2000 e il 2026. La maggior parte degli autori iperprolifici si collocava nell’ambito della medicina e della scienze della vita:
About half of the hyperprolific authors were in medical and life sciences (medicine n = 101, health sciences n = 11, brain n = 17, biology n = 6, infectious diseases n =3). When we excluded conference papers, almost two thirds belonged to medical and life sciences (86/131)3.
Contattati dagli autori della ricerca in merito alle ragioni che spiegassero una produzione scientifica così intensa, 81 dei 256 autori iperprolifici risposero portando una varietà di motivazioni:
Hard work; love of research; mentorship of very many young researchers; leadership of a research team, or even of many teams; extensive collaboration; working on multiple research areas or in core services; availability of suitable extensive resources and data; culmination of a large project; personal values such as generosity and sharing; experiences growing up; and sleeping only a few hours per day4.
Le zone d’ombra, per così dire, sono molteplici e a parte quelle scotomizzanti («hard work» e «love of research» sono espressioni generiche) hanno tutte quante a che fare con il fatto che l’autore può non aver messo la penna sulla carta o le mani sulla tastiera e che la posizione di autore gli viene data, offerta, concessa nel quadro di un sistema di potere: esemplare la motivazione «mentorship of very many young researchers».
La distribuzione per paese degli autori iperprolifici corrispondeva solo in parte alla produzione scientifica globale del medesimo paese:
The proportion [of hyperprolific authors] from the United States (19%) is roughly similar to its share of published science. Germany and Japan are over-represented. There were disproportionally more hyperprolific authors in Malaysia (n = 13) and Saudi Arabia (n = 7), countries both known to incentivize publication with cash rewards5.
Compare così in evidenza la questione della relazione problematica in ambito scientifico tra autorialità e scrittura (essere indicato come autore significa aver scritto?), la cui esistenza è confermata per il contesto italiano dalla necessità di indicare nelle pubblicazioni con autori multipli sottoposte a valutazione scientifica quale autore ha scritto quali parti.
Successivamente6 Ioannidis, con altri, ha pubblicato altre ricerche di portata generale sulla produttività scientifica7. In settembre 2021 esce l’articolo The rapid, massive growth of COVID-19 authors in the scientific literature8. L’interesse di individuare se vi siano stati autori iperprolifici nelle pubblicazioni sul COVID-19 si affianca a quello di individuare se vi siano stati autori che «may have lacked proper background expertise»; e quali aree e tipi di scienziate/i «have been most mobilized by the pandemic»9. Nello specifico l’iperproduzione, sei anni dopo l’articolo del 2018, viene descritta come
A complex phenomenon and may be generated by true productivity and excellence, but also by misconduct (e.g. gift and honorary authorship), and publication of trivialities or salami-slicing where one body of work is cut into multiple least publishable units10.
All’autorialità ‘onoraria’, di deferenza, s’aggiungono la pubblicazione di banalità e la parcellizzazione della pubblicazione dei risultati.
Per ogni autore molto produttivo individuato nel database Scopus di articoli pertinenti al COVID-19 pubblicati nel periodo 1 gennaio 2020 - 1 agosto 2021 l’intento era di calcolare un impact factor,
That combines information on six indices: total citations, Hirsch h-index, Schreiber hm-index, citations to single-authored papers, citations to first- or single-authored papers, and citations to first-, single- or last-authored papers. This avoids focusing simply on a single traditional metric such as citations, where it is expected that the authors of the earliest highly cited papers would monopolize the top of the list, even if they had published a single paper and they were co-authors among many other authors11.
Il motivo è chiaro: si voleva vedere se l’iperproduzione comportasse il rilascio di prodotti editoriali di livello medio-basso o se fosse invece compatibile con un alto livello qualitativo; ma questo interrogativo vale per un’autorialità almeno principalmente, anche se non esclusivamente, individuale; mentre dove l’autorialità è un omaggio offerto al ruolo c’è probabilmente meno difficoltà a conservare un alto livello qualitativo anche nell’iperproduzione perché si sfrutta la capacità scientifica dei coautori.
Il database Scopus sul periodo esaminato indicizza 210.863 pubblicazioni e risulta che 54 autori hanno pubblicato almeno 60 articoli che vengono perciò indicati in questa ricerca come extremely prolific authors. Di essi, 21 hanno pubblicato più di 72 articoli e vengono indicati come hyper-prolific authors. Gli autori della ricerca non danno indicazioni precise di impact factor perché, dicono, è difficile misurarlo in quanto alla data di effettuazione dell’analisi circa 1/3 degli articoli pubblicati non era ancora indicizzato in quanto la letteratura COVID-19 è sostanzialmente più ampia di quella indicizzata in Scopus; e infatti sul medesimo periodo il database COVID-19 global literature on coronavirus disease dell'Organizzazione mondiale della sanità comprendeva 318.173 articoli pubblicati12 contro i 210863 di Scopus. Ma Ioannidis e gli altri scrivono:
Although existing surveys of the quality of COVID-19 research do not cover all subfields of investigation and quality is often difficult to measure precisely, the consistent finding of the high prevalence of low-quality studies across very different types of study designs suggests that a large portion (perhaps even the large majority) of the immense and rapidly growing COVID-19 literature may be of low quality. Moreover, massive productivity has been described in the pre-COVID era, as affecting researchers across many fields13 and may be a particular feature for COVID-19 research. Extreme productivity would be worrisome if it sacrifices quality14.
Il tema dell’autorialità, già presente nelle righe appena citate, viene ripreso verso la fine dell’articolo in queste affermazioni:
The concentration of hyper-prolific authors in countries like China, Hong Kong and Italy may be related to the early outbreak of the pandemic in these locations, as well as prevalent co-authorship practices in these countries. Some of the unethical and questionable practices surrounding authorship may cluster in specific countries and specific research environments that overtly game and manipulate authorship, through practices such as a gift or honorary authorship. Importantly, meritorious productivity versus sloppiness is difficult to disentangle without examining each case in depth. A large share of the hyper-prolific authors capitalized mostly on copious publishing of editorializing items rather than full papers (articles, reviews or conference proceeding papers)15.
In sostanza sono richiamate le linee essenziali di quanto era stato detto nell’articolo del 2018, ma con molto più dettaglio. Insomma, da questo punto di vista nella situazione delle pubblicazioni sul COVID-19 gli autori della ricerca vedono una sostanziale continuità con i fenomeni già analizzati in precedenza, a cui si aggiunge un decadimento della qualità complessiva delle pubblicazioni:
Very different types of study designs suggests that a large portion (perhaps even the large majority) of the immense and rapidly growing COVID-19 literature may be of low quality […]. A large share of the hyper-prolific authors capitalized mostly on copious publishing of editorializing items rather than full papers16.
Recentemente, novembre 2023, Ioannidis e altri coautori hanno depositato in bioRxiv un preprint intitolato Evolving patterns of extremely productive publishing behavior across science17 il cui dataset viene pubblicato con medesimo titolo in Elsevier data repository18. Di questo preprint tra dicembre 2023 e febbraio 2024 si è scritto in «Nature»19, e si è parlato anche su un quotidiano come «il manifesto»20, sul bollettino «ROARS»21 e su blog scientifici come InfoData del «Sole24Ore»22, For better science23 e ScienceNet24.
L'articolo di commento di «Nature», intitolato Surge in number of extremely productive authors concerns scientists, si apre con queste parole: «In less than a decade the number of researchers pumping out more than 60 papers a year has almost quadrupled». La quadruplicazione si riferisce all’analoga ricerca del 2018. Anche in questo caso la ricerca assume come riferimento gli articoli indicizzati in Scopus, dal 2000 al 202225. Ioannidis e gli altri autori definiscono hyper-prolific authors (HP) quelli capaci di pubblicare 73 e più articoli all’anno; almost hyper-prolific authors (AHP) quelli che producono da 61 a 74 articoli anno. La somma di almost hyper-prolific authors (AHP) e hyper-prolific authors (HP) costituisce il gruppo degli extremely productive authors (EP)26. Esclusa la fisica, il campo che ha il maggior numero di questi autori è quello della medicina clinica come si vede nella figura 1. Ma in termini di incremento, in agricoltura, pesca e silvicoltura gli EP sono cresciuti di 14.6 volte, in biologia di 13, in matematica e statistica di 6.
Figura 1 – Distribuzione per ambito disciplinare degli autori estremamente produttivi27.
Quanto ai paesi con il massimo numero di autori estremamente produttivi, il tasso di incremento più forte come si vede nella figura 2 è quello della Thailandia (cresciuto di 19 volte dal 2000 al 2022), del quale Gemma Conroy, l’autrice dell’articolo di «Nature», scrive:
Thailand is beginning to investigate researchers who have a suspiciously high number of published papers. In January 2023, the Ministry of Higher Education, Science, Research and Innovation investigated whether misconduct was taking place at Thailand’s universities by examining researchers with unusually prolific publication records or several papers outside their expertise. The probe found that 33 researchers at 8 universities had paid for authorship, with dozens of others suspected of doing the same28.
Figura 2 – I paesi con il più alto numero di extremely productive authors29.
In numeri assoluti invece l’Italia è seconda dietro l’Arabia Saudita e precede l’India.
Il database di Scopus contiene solo marginalmente pubblicazioni di area SSH, che è suddivisa nelle sottocategorie filosofia e teologia, studi storici, comunicazione e studi testuali, arte e scienze umane e sociali, ma in nessuna di esse sono presenti extremely o hyper productive authors. È evidente che le modalità di scrittura in ambito SSH sono differenti, e influisce certamente il fatto che la valutazione accademica delle pubblicazioni in questo ambito sia non-bibliometrica. Dal punto di vista dell’ambito medico ne ha scritto Luca De Fiore in un piccolo e denso saggio recente intitolato Sul pubblicare in medicina30.
Appare evidente che la situazione descritta da Ioannidis tocca le tre componenti della pubblicazione scientifica: l’autorialità, la scrittura e la review. In termini fattuali, la scrittura cambia a seconda di come si concepisce l’autorialità: uno o più coautori possono aver scritto, o possono non aver scritto l’articolo e ciò può derivare o da deferenza (autorialità ad honorem) o da intervento di sistemi di intelligenza artificiale generativa, che producono testi sintatticamente perfetti. Dopo che l’articolo è stato scritto, un reviewer legge e valuta. In generale il reviewer fino a oggi valutava (era abituato a valutare, sapeva di dover valutare) la qualità del contenuto, non l’autorialità e di conseguenza la scrittura che essa avesse espresso. Ma in una situazione più complessa il reviewer è corrispondentemente chiamato a un’azione più complessa.
Molteplici linee guida e policy editoriali indicano che cosa ci si aspetta che sia, e che faccia, un autore. In una prospettiva generale ampia il Discussion document: authorship del Committee on Publication Ethics (COPE)31 afferma:
The term authorship can refer to the creator or originator of an idea (eg, the author of the theory of relativity) or the individual or individuals who develop and bring to fruition the product that disseminates intellectual or creative works (eg, the author of a poem or a scholarly article). Authorship conveys significant privileges, responsibilities, and legal rights; in the scholarly arena, it also forms the basis for rewards and career advancement. Various disciplines have norms, guidelines, and rules governing authorship; some of those rules preserve the lineage of ideas or works, assign credit for the conception, implementation and analysis of studies or experiments to validate theory or explain hypotheses, and the actual writing of work to disseminate knowledge. Authors are accountable for following discipline-specific guidelines when they engage in authorship activities; journal editors and publishers are accountable for making author guidelines transparent and appropriate for the medium and genre (scholarly books, journal articles, creative writing). At a minimum, authors should guarantee that they have participated in creating the work as presented and that they have not violated any other author’s legal rights (eg, copyright) in the process.
Si notino le righe iniziali: «The term authorship can refer to the creator or originator of an idea or the individual or individuals who develop and bring to fruition the product that disseminates intellectual or creative works». La scrittura non è menzionata esplicitamente e la nota in parentesi «eg, the author of a poem or a scholarly article» può far pensare che la lunga perifrasi riportata qui sopra indichi l’attività di scrittura. Ma le righe conclusive: «At a minimum, authors should guarantee that they have participated in creating the work as presented and that they have not violated any other author’s legal rights (eg, copyright) in the process» delineano una concezione complessa di autorialità nella quale «the actual writing of work to disseminate knowledge» è solo uno dei molteplici elementi costitutivi accanto al preservare la linea di continuità delle idee o delle opere, e al riconoscere un ruolo nella concezione, l'implementazione e l'analisi di studi o esperimenti per convalidare una teoria o spiegare ipotesi.
Per l’ambito medico si possono almeno menzionare le raccomandazioni dell’International Committee of Medical Journal Editors (ICMJE) per le quali l’attività autoriale implica:
Substantial contributions to the conception or design of the work; or the acquisition, analysis, or interpretation of data for the work;
AND
drafting the work or reviewing it critically for important intellectual content;
AND
final approval of the version to be published;
AND
agreement to be accountable for all aspects of the work in ensuring that questions related to the accuracy or integrity of any part of the work are appropriately investigated and resolved32.
Risulta chiaro che per ICMJE come per COPE l’autorialità è sfaccettata e non si riduce al mettere le mani sulla tastiera, ma qui con grande differenza rispetto a COPE molteplici criteri devono essere tutti soddisfatti perché vi sia autorialità, sia la dimensione ideativa («conception or design of the work») sia la dimensione produttiva («drafting the work […] final approval»). La vera e propria scrittura è sussunta in «drafting the work».
Le General guidelines for authorship contributions dei National Institutes of Health statunitensi (figura 3, componenti dell'autorialità secondo i NIH) prospettano un quadro complesso in cui 5 ambiti differenti comprendono da 3 a 4 elementi la cui rilevanza per l’autorialità si colloca in modo sfumato su una scala da 0 a 1.
Figura 3 – Componenti dell'autorialità secondo i National Institutes of Health33.
Gli elementi irrinunciabili che delineano l’autorialità sono «original experimental work» e «drafting of manuscript» dalle quali Ioannidis e coautori estraggono questo livello minimo di indicazione di ruolo autoriale: «actively supervising, designing and doing experiments, and data acquisition and analysis outside very basic work plus drafting the manuscript»34.
Emerge dalla ricerca di Ioannidis che la produttività cresce con l’avanzare della carriera e con il raggiungimento di ruoli apicali e ciò comporta variazioni nel modo in cui l’autorialità viene definita e viene riconosciuta:
Some authors seemed to become hyperprolific on becoming full professors, department chairs or both. It is common and perhaps expected for scientists who assume leadership roles in large centres to accelerate their productivity. For example, clinical cardiologists publish more papers after they assume director roles (despite heavy clinical and administrative duties). Occasionally, the acceleration is stunning: at the peak of their productivity, some cardiologists publish 10 to 80 times more papers in one year compared with their average annual productivity when they were 35–42 years old. There was also often a sharp decrease after passing the chair to a successor35.
Se al posizionamento e al ruolo si associano le motivazioni (menzionate sopra) con le quali questo tipo di autori spiega l’altissima produttività, si ha la conferma che sul campo l’autorialità è un concetto complesso, sfumato, contrattabile, multifattoriale. Sul tema dell’autorialità Foucault ha scritto:
Qu’est-ce que c’est qu’un nom d’auteur? Et comment fonctionne-t-il? Bien éloigné de vous donner une solution, j’indiquerai seulement quelques-unes des difficultés qu’il présente. […] Un nom d’auteur exerce par rapport aux discours un certain rôle : il assure une fonction classificatoire […] elle n’est pas définie par l’attribution spontanée d’un discours à son producteur, mais par une série d’opérations spécifiques et complexes; elle ne renvoie pas purement et simplement à un individu réel, elle peut donner lieu simultanément à plusieurs ego, à plusieurs positions-sujets que des classes différentes d’individus peuvent venir occuper36.
«Una funzione classificatoria», «diverse posizioni-soggetto che diverse classi di individui possono occupare»: pensare che l’autore sia chi scrive/ha scritto si rivela - forse paradossalmente - più rivoluzionario e destabilizzante di quanto Foucault pensava nel 1969.
Quando nei contesti di studio e ricerca l’autorialità non si definisce in modo netto ed esclusivo sull’aver costruito la ricerca e sull’aver scritto il testo, si delinea un implicito “liberi tutti” in merito alla scrittura: anche se si è costruita la ricerca si può far scrivere da altri, per esempio da un sistema di intelligenza artificiale generativa. Che i sistemi di intelligenza artificiale siano ormai in uso e abbiano dato luogo - non dichiarati - alla produzione di articoli arrivati alla pubblicazione in riviste peer-reviewed è assodato. Gary Marcus nel suo recente post The exponential enshittification of science37 parla della presenza di frammenti di scrittura di GPT in articoli scientifici di recente pubblicazione. Cioè articoli i cui autori hanno usato GPT per scrivere l’articolo e nel testo sono rimaste le tracce testuali come
“I’m very sorry, but I don’t have access to real-time information or patient-specific data, as I am an AI language model. I can provide general information about managing […]”.
“Certainly, here is a list of […]”.
“Certainly, here is information about the process of a clinical trial application presented in a point-wise format”.
“Certainly, here is a concise summary of the provided sections: […]”.
Le tracce sono rimaste perché gli autori di quegli articoli non li hanno riletti dopo aver prodotto il testo con GPT: ingenuità? trascuratezza? altro? Se questi autori fossero stati più attenti sarebbe stato agevole cancellare le tracce visibili dell’uso di un sistema di IA generativa nella scrittura di parti dell’articolo (non si può sapere se per scrivere l’articolo nella sua interezza). Altri certamente questa accortezza l’avranno avuta, sicché è ragionevole pensare che in tutti gli ambiti disciplinari circolino articoli scritti con, o da, un sistema di IA senza che tale intervento sia dichiarato. Molti esempi di questi relitti testuali sono menzionati anche nell’articolo di E. Maiberg Scientific journals are publishing papers with AI-generated text38 e provengono principalmente da «published journals that are small, not well known, and appear to be paper mills», ma non mancano casi di riviste autorevoli39 che almeno in linea di principio sono soggette a peer review.
L’utilizzo di sistemi di intelligenza artificiale nella scrittura di articoli scientifici non è irrilevante dal punto di vista deontologico. In gennaio 2023 infatti si erano espresse sul tema almeno due riviste di grande autorevolezza e prestigio. «Nature» aveva pubblicato un articolo dal titolo chiarissimo: ChatGPT listed as author on research papers: many scientists disapprove40; «Science» aveva aggiornato la sua policy con un editoriale intitolato ChatGPT is fun, but not an author41 dichiarando che «text written by ChatGPT is not acceptable» e che non avrebbe accettato articoli che riportassero menzione di GPT come autore:
For years, authors at the Science family of journals have signed a license certifying that “the Work is an original” (italics added). For the Science journals, the word “original” is enough to signal that text written by ChatGPT is not acceptable: It is, after all, plagiarized from ChatGPT. Further, our authors certify that they themselves are accountable for the research in the paper. […]
We are now updating our license and editorial policies to specify that text generated by ChatGPT (or any other AI tools) cannot be used in the work, nor can figures, images, or graphics be the products of such tools. And an AI program cannot be an author. A violation of these policies will constitute scientific misconduct no different from altered images or plagiarism of existing works.
In ICJME si trova una posizione più sfumata: si ammette l’uso di tecnologie di intelligenza artificiale ma esse devono essere dichiarate:
At submission, the journal should require authors to disclose whether they used artificial intelligence (AI)– assisted technologies (such as large language models [LLMs], chatbots, or image creators) in the production of submitted work. Authors who use such technology should describe, in both the cover letter and the submitted work in the appropriate section if applicable, how they used it42.
E ancora «Authors should not list AI and AI-assisted technologies as an author or co-author, nor cite AI as an author»43.
Peraltro alcuni mesi dopo, in settembre 2023, «Science» aveva pubblicato un articolo intitolato AI and science: what 1,600 researchers think44 da cui emergevano posizioni sfaccettate e complesse. La rivista aveva invitato sia i 40.000 autori che avevano pubblicato articoli negli ultimi 4 mesi del 2022, sia i lettori del Nature Briefing, a partecipare a un sondaggio che tra l’altro chiedeva: «What do you use generative AI tools (such as ChatGPT and other large language models) for?». Molte risposte riguardavano l’impiego di sistemi di intelligenza artificiale nella scrittura e nell’attività creativa a essa connessa:
To help write code
to help write research manuscripts
to help do research
to conduct literature reviews
to help fill out work-related administrative e-mails
to help write presentations
to help write grant applications
to help review research manuscripts
to help write coursework or exam questions.
Quindi l’uso di sistemi di intelligenza artificiale nella produzione di scrittura scientifica era confermato nella pratica. Probabilmente anche in seguito agli esiti di tale sondaggio «Science» ha aggiornato la sua policy editoriale ammettendo che si possano usare sistemi di intelligenza artificiale nella produzione degli articoli e stabilendo che tale uso deve essere dichiarato:
Authors who use AI-assisted technologies as components of their research study or as aids in the writing or presentation of the manuscript should note this in the cover letter and in the acknowledgments section of the manuscript. Detailed information should be provided in the methods section: The full prompt used in the production of the work, as well as the AI tool and its version, should be disclosed.
La responsabilità autoriale, si sottolineava, rimane intatta di fronte a problemi come plagio, citazioni inesistenti, bias, che possono derivare dall’uso di sistemi di intelligenza artificiale:
Authors are accountable for the accuracy of the work and for ensuring that there is no plagiarism. They must also ensure that all sources are appropriately cited and should carefully review the work to guard against bias that may be introduced by AI. Editors may decline to move forward with manuscripts if AI is used inappropriately45.
Ma per «Science» rimane il principio per cui non si può menzionare un sistema di intelligenza artificiale tra gli autori di un articolo:
Artificial intelligence (AI). AI-assisted technologies [such as large language models (LLMs), chatbots, and image creators] do not meet the Science journals’ criteria for authorship and therefore may not be listed as authors or coauthors, nor may sources cited in Science journal content be authored or coauthored by AI tools. Authors who use AI-assisted technologies as components of their research study or as aids in the writing or presentation of the manuscript should note this in the cover letter and in the acknowledgments section of the manuscript46.
L’unico vero esperimento provocatoriamente dichiarato in questo ambito pare essere ancora quello descritto da Almira Thunström in We asked GPT-3 to write an academic paper about itself – then we tried to get it published47 su cui poi gli autori hanno riflettuto in Does GPT-3 qualify as a co-author of a scientific paper publishable in peer-review journals according to the ICMJE criteria? A case study48.
L’impiego non dichiarato di sistemi di intelligenza artificiale nella scrittura, come è noto, si sta estendendo anche al di fuori dell’ambito scientifico:
I was able to find the AI-generated books with the same method we've previously used to find AI-generated Amazon product reviews, papers published in academic journals, and online articles. Searching Google Books for the term "As of my last knowledge update," which is associated with ChatGPT-generated answers, returns dozens of books that include that phrase. Some of the books are about ChatGPT, machine learning, AI, and other related subjects and include the phrase because they are discussing ChatGPT and its outputs. These books appear to be written by humans. However, most of the books in the first eight pages of results turned up by the search appear to be AI-generated and are not about AI49.
La stessa cosa accade per le notizie50. I risultati di questa produzione sono quantitativamente abbondanti e scadenti e il problema è che chi non ha precedenti conoscenze e/o esperienza non se ne accorge.
Il contesto complessivo di queste questioni è quello dell’autorialità: che cosa significa essere autore di una pubblicazione scientifica? Conta aver scritto? Emergono due componenti. La prima già ricordata qui sopra è che gli autori ai quali Ioannidis aveva chiesto come facessero a essere estremamente produttivi avevano menzionato, fra l’altro,
Mentorship of very many young researchers
leadership of a research team, or even of many teams
extensive collaboration
working on multiple research areas or in core services
culmination of a large project;
personal values such as generosity and sharing51.
Sono varie espressioni di concezioni che tendono ad ammettere che l’essere autore non richieda necessariamente di aver concepito la ricerca e aver scritto il testo che ne espone gli esiti. Inoltre, come è già stato ricordato sopra, Ioannidis segnala che
Some authors seemed to become hyperprolific on becoming full professors, department chairs or both. It is common and perhaps expected for scientists who assume leadership roles in large centres to accelerate their productivity52.
Cioè vi sono situazioni in cui l’autorialità estesa non è attivamente richiesta o imposta dalla persona ma è pensata come intrinseca al ruolo apicale/organizzativo ricoperto e viene per così dire riconosciuta. In sostanza in queste concezioni e situazioni il concetto di autorialità si estende, si potrebbe dire etimologicamente53, a «chi è causa o origine di una cosa, artefice, promotore»54: se la direttrice del progetto non avesse procurato i fondi, il ricercatore non avrebbe avuto modo di fare la ricerca e di scriverne, dunque senza la direttrice del progetto quell’articolo non sarebbe esistito. Sicché risponde certamente a una logica il fatto di menzionare fra gli autori chi ha fatto esistere la ricerca, una logica di autorità. Ma l’autorialità della ricerca è il principale (unico) criterio di costruzione della carriera accademica perché essa mira a individuare non degli organizzatori ma delle persone che possiedono le capacità scientifiche: e se le capacità scientifiche implicano anche una certa dose di capacità organizzativa, non è vero il contrario. E chi è autore esteso gioca sull’equivoco per cui se anche un articolo arriva a esistere perché c’è stato tutto un percorso creativo/produttivo che lo ha reso possibile (ma a questo punto perché non risalire fino al maestro/maestra che ha insegnato a scrivere?), la concezione di autore su cui si basa il sistema scientifico è invece che è autore solo chi opera nell’ultimo passaggio del percorso produttivo che ha portato il testo a esistere: cioè chi lo ha scritto.
La seconda è che la scrittura umana può essere assistita da, o sostituita da, sistemi di intelligenza artificiale. Da tempo utilizziamo sistemi tecnologici nel lavoro di scrittura scientifica ma c’è una differenza sottile eppure chiara tra sistemi che potenziano le nostre capacità intellettuali, per cui siamo grati a Douglas Engelbart55, cioè i sistemi informatici, digitali, informativi personali che oggi conosciamo nelle forme dei notebook, tablet, desktop, smartphone, smartwatch; e sistemi che si sostituiscono all’autore nella sua capacità produttiva di scrittura scientifica.
Ci si trova qui di fronte a due domande di portata generale:
L’uso di sistemi di intelligenza artificiale nella scrittura degli articoli scientifici permette di produrre nettamente di più, e più velocemente, in modi fino a oggi impensabili sollecitando a riflettere se l’uso di sistemi di intelligenza artificiale nella scrittura scientifica migliora la qualità del contenuto prodotto. L’uso di sistemi di intelligenza artificiale potrebbe probabilmente aiutare un autore in una fase preliminare della scrittura in cui si raccolgono le informazioni e si progetta lo scritto, ma a oggi non nella fase di elaborazione critica. Luca De Fiore nel suo Sul pubblicare in medicina ha un capitolo57 sull’uso di specifici sistemi di intelligenza artificiale nella preparazione della scrittura, con riferimenti a metodi e gestione dell’informazione appropriati in ambito STEM. E Pascale Elbaz, ricercatrice e traduttrice, nell’articolo De la traduction à la post-édition58 riflette non solo sui problemi creati ma anche sulle prospettive aperte dall’impiego di Deepl nel lavoro di traduzione.
I relitti ricordati sopra di interventi di ChatGPT nella scrittura di articoli scientifici parlano quanto meno e in primo luogo di trascuratezza degli autori. Ma se è ben noto che quello del reviewer è un compito difficile e ingrato, i relitti proclamano anche la trascuratezza dei reviewer, la quale probabilmente è anche più grave, per il sistema della scienza, di quella degli autori perché i relitti sembrano indizi del fatto che il reviewer non ha esaminato il contenuto dell’articolo. Ma se i reviewer prima avevano solo il compito di valutare l’originalità e qualità del contenuto, ora si devono confrontare con la presenza crescente dei sistemi di intelligenza artificiale nella scrittura, in due prospettive differenti.
Da un lato i sistemi di intelligenza artificiale possono essere utilizzati nella scrittura e dunque in riferimento a ciò i revisori dovranno (dovrebbero) valutare se vi è un impiego non dichiarato. Il reviewer, da questo punto di vista, è garante verso l’editore e il lettore che le condizioni preliminari di validità dell’articolo sono esplicitate (si indicano le fonti usate, i metodi impiegati, dove sono consultabili i dati utilizzati e in quali fasi sono stati impiegati sistemi di intelligenza artificiale). Si tratta di un compito per nulla semplice e che implica un commitment altissimo. Esistono molteplici programmi e sistemi orientati ad aiutare nel riconoscimento di testi scritti da sistemi di intelligenza artificiale59, che sono oggetto di un dettagliato confronto nell’articolo Testing of detection tools for AI-generated text60, molto citato, le cui conclusioni non sono incoraggianti:
This paper exposes serious limitations of the state-of-the-art AI-generated text detection tools and their unsuitability for use as evidence of academic misconduct. Our findings do not confirm the claims presented by the systems. They too often present false positives and false negatives. Moreover, it is too easy to game the systems by using paraphrasing tools or machine translation. Therefore, our conclusion is that the systems we tested should not be used in academic settings61.
Peraltro Desaire e altri in Distinguishing academic science writing from humans or ChatGPT with over 99% accuracy using off-the-shelf machine learning tools62, consapevoli dei problemi del riconoscimento di testo prodotto da sistemi di intelligenza artificiale, delineano un percorso sperimentale che presenta ottime percentuali di riconoscimento:
With a set of 20 features, we built a model that assigns the author, as human or AI, at over 99% accuracy. This strategy could be further adapted and developed by others with basic skills in supervised classification, enabling access to many highly accurate and targeted models for detecting AI usage in academic writing and beyond63.
Quindi sono possibili sviluppi interessanti.
Dall’altro lato, sistemi talora basati su software di intelligenza artificiale possono aiutare il revisore nella valutazione di appropriatezza, correttezza formale, pertinenza, ampiezza di letteratura scientifica utilizzata, dell’articolo in esame64.
Verificati questi aspetti formali, rimane ancora da valutare il contenuto (!) e continua a essere valido ciò che scriveva Henning Schönenberger nella prefazione a Lithium-ion batteries. A machine-generated summary of current research:
Though peer-review is also in the course of being continuously re-defined (and in the future we expect to see substantial progress in machine-support also in this regard) we still think that for the foreseeable future we will need a robust human review process for machine-generated text. Especially in the area of deep learning it becomes increasingly difficult to understand how a result has been actually derived. While concepts such as Explainable Artificial Intelligence (XAI) become more and more crucial, also the review process on machine-generated research content needs refinement, if not a complete re-definition65.
Ammesso, come molte policy prevedono, che si utilizzino sistemi di intelligenza artificiale per elaborare il contenuto, «in the area of deep learning it becomes increasingly difficult to understand how a result has been actually derived»66. Il compito del reviewer si fa ancor più difficile e necessario, e occorre dargli un riconoscimento appropriato quando viene fatto in modo corretto.
A queste problematiche si aggiunge l’opacità dell’uso dei materiali testuali dati in lettura ai sistemi di intelligenza artificiale. La policy editoriale di «Science» ricorda infatti che il ricorso di sistemi di IA nella review rompe l’accordo di riservatezza che l’autore stipula con l’editore: «Reviewers may not use AI technology in generating or writing their reviews because this could breach the confidentiality of the manuscript»67 in quanto il sistema di intelligenza artificiale riusa i contenuti al di fuori di qualsiasi controllo o rispetto di norme e policy di riservatezza, di proprietà intellettuale, e così via. Analoghe riflessioni sono formulate da Kousha e Thelwall:
Reviewers normally agree to keep the manuscripts assessed confidential; as such, papers under assessment should not be uploaded to LLMs because they may be saved and incorporated into responses to future questions for other users […], or may even grant the LLM owner the right to repurpose the content. Similarly, some authors may wish to avoid using LLMs to protect their ideas68.
Gli studi di Ioannidis e gli altri sollevano una grande varietà di problemi. Benché l’Italia sia uno dei paesi che hanno il più alto numero di hyper productive authors, in area SSH (scienze umane e sociali) si potrebbe pensare di guardare con un certo distacco questi dati, perché il fenomeno riguarda essenzialmente solo l’area STEM. Ma questi studi sollecitano riflessioni sull’autorialità, sulla scrittura e sulla peer review sia a prescindere, sia alla luce della disponibilità di sistemi di intelligenza artificiale conversazionali, capaci di produrre testo sintatticamente perfetto. Vedendo i numeri citati da Ioannidis, la domanda iniziale che riguarda tutti, è: come si fa a produrre ogni 5 giorni, o ogni 6, un articolo indicizzato? Cioè non uno scritto collocato di propria iniziativa in uno spazio pubblico, ma un articolo capace di superare una peer review. Conroy riporta queste parole di Ioannidis: «I suspect that questionable research practices and fraud may underlie some of the most extreme behaviors»69 che in certa misura, unite al fatto che esistono campi disciplinari in cui sono frequenti articoli con decine di autori (il che potrebbe parzialmente spiegare l’alta produttività), sembrerebbero concludere il discorso. I sistemi conversazionali di IA potrebbero però in tutti i campi disciplinari aiutare qualsiasi studiosa/o a essere molto più produttiva/o.
Il problema di fondo rispetto all’uso di sistemi di intelligenza artificiale nella scrittura è che
The feedback the tools provide will replicate existing knowledge of the world. The purpose of scholarly work is to advance human knowledge, rather than to perpetuate existing knowledge. To that end, it is quite difficult to see the kinds of information that AI tools could produce that a learned scholar cannot.70
E lo stesso vale per la peer review:
Indeed, an AI-generated peer review would arguably be limited to comparing a paper to existing knowledge – or a check to see if the knowledge is already known and hidden away somewhere the human reader has not yet found.71
Ovviamente chi ritiene che i sistemi di intelligenza artificiale siano in grado di produrre contenuti originali dissentirà da queste affermazioni ma la discussione è aperta e per certi versi è filosofica, in quanto riguarda che cos’è la conoscenza e come essa prende forma, si costruisce, inestricabilmente connessa con l’essere situati nel tempo e nello spazio (e) in relazione ad altri individui: situatedness e relazione che non esisterebbero senza corporeità. Forma estrema di conferma ne sono situazioni limite come quelle nelle quali un soggetto giudica che è appropriato agire contro la conoscenza (esplicita) posseduta72. Forma ordinaria di conferma ne sono tutte le situazioni in cui una studiosa decide di dedicarsi a un nuovo argomento di ricerca: lo fa non come se fosse un cervello sospeso in un liquido amniotico ‘alla Matrix’, ma perché una serie continua e infinita di stimoli ambientali e di relazioni creano a un certo punto una differenza73 che si impone all’attenzione e alla scelta.
Articolo proposto il 20 maggio 2024 e accettato l’11 giugno 2024.
MAURIZIO LANA, Università degli studi del Piemonte orientale Amedeo Avogadro, Dipartimento di Studi umanistici, Vercelli, e-mail: maurizio.lana@uniupo.it.
Ultima consultazione siti web: 30 aprile 2024.