Bien sûr, ce n’est pas parce que la recherche est publiée dans une revue au lieu d’un serveur de prépublication qu’elle est intrinsèquement sans risque. Mais cela signifie que tout danger flagrant est plus susceptible d’être détecté lors du processus d’examen. “La principale différence, en réalité, entre les revues et le serveur de prépublication est le niveau de profondeur de l’examen, et le processus de publication de la revue peut être plus susceptible d’identifier les risques”, déclare Smith.
Les risques de la publication ouverte ne s’arrêtent pas à la recherche biologique. Dans le domaine de l’IA, un mouvement similaire vers le partage ouvert du code et des données signifie qu’il existe un potentiel d’utilisation abusive. En novembre 2019, OpenAI a annoncé qu’il ne publierait pas ouvertement l’intégralité de son nouveau modèle de langage GPT-2, qui peut générer indépendamment du texte et répondre à des questions, par crainte d'”applications malveillantes de la technologie”, c’est-à-dire de son potentiel à diffuser de fausses nouvelles et désinformation. Au lieu de cela, OpenAI publierait une version beaucoup plus petite du modèle que les chercheurs pourraient bricoler, une décision qui avait suscité des critiques à l’époque. (Il a ensuite publié le modèle complet en novembre de la même année.) Son successeur, GPT-3, publié en 2020, s’est avéré capable d’écrire de la pédopornographie.
Deux des plus grands serveurs de préimpression, medRxiv, fondé en 2019 pour publier des recherches médicales, et bioRxiv, fondé en 2013 pour la recherche biologique, déclarent publiquement sur leurs sites Web qu’ils vérifient que la “recherche à double usage préoccupante” n’est pas publiée sur leur des sites. “Tous les manuscrits sont examinés lors de la soumission pour plagiat, contenu non scientifique, types d’articles inappropriés et matériel susceptible de mettre en danger la santé de patients individuels ou du public”, indique une déclaration sur medRxiv. “Ce dernier peut inclure, mais sans s’y limiter, des études décrivant la recherche et les travaux à double usage qui remettent en question ou pourraient compromettre les mesures de santé publique acceptées et les conseils concernant la transmission des maladies infectieuses, la vaccination et la thérapie.”
Depuis le début de bioRxiv, les risques de biosécurité ont toujours été une préoccupation, explique Richard Sever, l’un des cofondateurs de bioRxiv et directeur adjoint de Cold Spring Harbor Laboratory Press. (Sever était un pair examinateur de l’article de Smith et Sandbrink.) Il plaisante en disant qu’aux débuts d’arXiv, un serveur de préimpression pour les sciences physiques lancé en 1991, il y avait des inquiétudes au sujet des armes nucléaires ; avec bioRxiv aujourd’hui, les inquiétudes concernent les armes biologiques.
Sever estime que bioRxiv et medRxiv reçoivent environ 200 soumissions par jour, et chacune d’entre elles est examinée par plus d’une paire d’yeux. Ils reçoivent « beaucoup de conneries » qui sont immédiatement rejetées, mais le reste des soumissions va dans un pool pour être examiné par des scientifiques en exercice. Si quelqu’un dans ce processus de sélection initial signale un article qui peut poser problème, il est transmis à la chaîne pour être pris en compte par l’équipe de direction avant qu’un appel final ne soit effectué. “Nous essayons toujours de pécher par excès de prudence”, déclare Sever. Jusqu’à présent, rien n’a été publié qui s’est avéré dangereux, estime-t-il.
Quelques articles ont été refusés au fil des ans parce que l’équipe pensait qu’ils appartenaient à la catégorie des recherches à double usage préoccupantes. Lorsque la pandémie est arrivée, la question est devenue d’autant plus urgente. Les deux serveurs ont publié plus de 15 000 prépublications sur Covid-19 en avril 2021. C’est devenu une querelle interne : les enjeux élevés de vie ou de mort d’une pandémie signifient-ils qu’ils sont moralement tenus de publier des articles sur ce qu’ils appellent « les agents pathogènes de la pandémie ». potentiel » – comme le Sars-CoV-2 – qu’ils auraient traditionnellement refusé dans le passé ? “Le calcul du rapport bénéfice/risque change”, déclare Sever.
