Les articles de recherche générés par IA inondent les revues académiques
L’afflux d’articles générés par IA
Le système de publication académique est confronté à un défi important avec l’augmentation du nombre d’articles de recherche générés par IA soumis aux revues. Ces articles sont souvent difficiles à détecter et à filtrer, mettant à rude épreuve le système d’évaluation par les pairs.
L’été dernier, un chercheur postdoctoral au Centre de recherche et de synthèse reproductibles de l’Université de Zurich, Peter Degen, a remarqué que l’un de ses articles était cité de manière excessive. Après enquête, il a constaté que les articles citant son travail utilisaient tous un modèle similaire, analysant un jeu de données disponible publiquement pour produire des prédictions sur divers sujets. Il a découvert une société basée à Guangzhou offrant des tutoriels sur la façon de produire des recherches publiables en moins de deux heures à l’aide d’une assistance à l’écriture par IA.
Le phénomène a suscité des inquiétudes parmi les éditeurs de revues et les évaluateurs par les pairs, qui sont inondés d’articles générés par IA presque impossibles à détecter. Plus la technologie devient performante pour produire des articles compétents, plus la crise s’aggrave. Les optimistes à propos de l’IA générative ont de grands espoirs pour sa capacité à produire des percées scientifiques futures, mais la technologie sape actuellement l’un des piliers de la recherche scientifique.
L’essor des usines à papiers
L’essor des usines à papiers, sociétés du marché noir qui produisent en masse des articles et vendent des places d’auteur à des universitaires, a alimenté l’afflux d’articles générés par IA. L’IA générative a rendu plus facile pour ces usines de contourner les détecteurs de plagiat en créant des images et du texte entièrement nouveaux. Cependant, les hallucinations caractéristiques de la technologie ont permis aux éditeurs de détecter et de rétracter des articles frauduleux.
Les conséquences de la fraude académique
Le cas de David Cox, un professeur du MIT qui a trouvé son nom listed comme co-auteur sur deux articles qu’il n’avait pas rédigés, met en évidence les faiblesses de la publication académique. Les articles ont été rétractés par la suite, mais Cox était en colère contre les revues pour avoir publié quelque chose d’aussi évidemment faux en premier lieu. L’incident reflète un manque plus large de règles autour de la publication d’articles en IA et en informatique, où de nombreux articles sont publiés en ligne sans évaluation préalable.
L’avenir de la publication académique
L’utilisation croissante d’articles générés par IA met à rude épreuve le système d’évaluation par les pairs, qui est déjà à la limite. Si la tendance actuelle se poursuit, elle atteindra un point de rupture. La communauté académique doit trouver un moyen de résoudre ce problème et de garantir que le système de publication ne soit pas sapé par les articles générés par IA.
Un changement vers la transparence
Une solution potentielle est un changement vers la transparence dans le processus de publication. Cela pourrait inclure de rendre clair lorsque les outils d’IA sont utilisés dans le processus de recherche et de fournir plus d’informations sur les méthodes utilisées pour générer les articles. En étant plus ouverts et transparents, les chercheurs et les éditeurs peuvent travailler ensemble pour maintenir l’intégrité du système de publication académique.
Contexte industriel
Le problème des articles générés par IA n’est pas limité à la publication académique. Il a des implications pour la communauté de recherche plus large et la façon dont la recherche est menée et diffusée. L’utilisation croissante de l’IA dans la recherche a le potentiel de transformer la façon dont nous menons des recherches, mais elle soulève également des questions importantes sur le rôle de l’IA dans le processus de recherche.
L’utilisation de l’IA dans la recherche devient de plus en plus répandue, de nombreux chercheurs utilisant des outils d’IA pour analyser des données, générer des hypothèses et même écrire des articles. Cependant, l’utilisation de l’IA dans la recherche soulève également des inquiétudes quant à la validité et à la fiabilité des résultats de recherche. À mesure que les articles générés par IA deviennent plus sophistiqués, il devient de plus en plus difficile de distinguer les articles écrits par des humains de ceux écrits par IA.
Histoire des articles générés par IA
L’essor des articles générés par IA est un phénomène récent, mais il a ses racines dans l’utilisation croissante de l’IA dans la recherche au cours de la dernière décennie. À mesure que la technologie de l’IA s’est améliorée, il est devenu plus facile pour les chercheurs d’utiliser des outils d’IA pour générer des articles. Cependant, l’utilisation d’articles générés par IA n’est devenue répandue que récemment.
Les premiers articles générés par IA ont probablement été générés à l’aide d’algorithmes d’apprentissage automatique simples et étaient probablement de mauvaise qualité. Cependant, à mesure que la technologie de l’IA s’est améliorée, la qualité des articles générés par IA s’est également améliorée. Aujourd’hui, les articles générés par IA sont souvent indiscernables des articles écrits par des humains.
Mécaniques techniques
Les mécaniques techniques des articles générés par IA sont complexes et multiformes. Elles impliquent l’utilisation d’algorithmes d’apprentissage automatique et de traitement du langage naturel pour générer du texte et des images. Les articles utilisent souvent des jeux de données disponibles publiquement et peuvent être adaptés à des sujets ou à des thèmes spécifiques. Comprendre les mécaniques techniques des articles générés par IA est essentiel pour développer des stratégies efficaces pour les détecter et les filtrer.
L’utilisation d’articles générés par IA implique plusieurs étapes, notamment la collecte de données, l’analyse de données et la génération d’articles. L’étape de collecte de données consiste à rassembler des données à partir de sources disponibles publiquement, telles que des bases de données académiques et des référentiels en ligne. L’étape d’analyse de données consiste à analyser les données à l’aide d’algorithmes d’apprentissage automatique pour identifier des modèles et des tendances. L’étape de génération d’articles consiste à utiliser les modèles et les tendances identifiés dans l’étape d’analyse de données pour générer un article.
Implications en aval
L’utilisation croissante d’articles générés par IA a des implications importantes pour la communauté de recherche. Elle soulève des questions quant à la validité et à la fiabilité des résultats de recherche et au rôle de l’IA dans le processus de recherche. Elle met également en évidence la nécessité d’une plus grande transparence et d’une plus grande responsabilité dans le processus de publication.
L’utilisation d’articles générés par IA soulève également des inquiétudes quant au potentiel de fraude académique. Si les articles générés par IA ne sont pas correctement étiquetés comme tels, ils pourraient être confondus avec des articles écrits par des humains. Cela pourrait entraîner une perte de confiance dans le système de publication académique et saper la validité des résultats de recherche.
Qu’est-ce qui suit
La communauté académique doit s’adapter au paysage changeant des soumissions d’articles de recherche. Les revues et les éditeurs doivent développer de nouvelles stratégies pour détecter et filtrer les articles générés par IA. Les chercheurs et les évaluateurs doivent également être vigilants pour identifier et signaler les soumissions suspectes. L’avenir de la publication académique en dépend.
Le développement de nouvelles stratégies pour détecter et filtrer les articles générés par IA nécessitera un effort collaboratif de la part des chercheurs, des éditeurs et des directeurs de revues. Cela nécessitera également le développement de nouvelles technologies et de nouveaux outils pour soutenir la détection et le filtrage des articles générés par IA.