MIT retire un article de recherche sur l'IA en raison de préoccupations d'intégrité

Le MIT retire un article de recherche sur l’IA en raison de préoccupations d’intégrité

L’Institut de technologie du Massachusetts (MIT) a demandé le retrait d’un article de recherche sur l’IA et la découverte scientifique d’arXiv, un référentiel en ligne populaire de prépublications électroniques. Cette décision intervient après qu’une revue interne ait soulevé des préoccupations quant à l’intégrité de la recherche.

L’article, intitulé ‘Intelligence artificielle, découverte scientifique et innovation produit’, a été rédigé par un ancien étudiant en doctorat du MIT et avait été soumis à The Quarterly Journal of Economics. Selon le MIT, la revue a été déclenchée par des allégations concernant certains aspects de l’article. Bien que les lois sur la protection de la vie privée des étudiants et la politique du MIT interdisent la divulgation du résultat de la revue, l’institut a déclaré qu’il n’avait ‘aucune confiance dans la provenance, la fiabilité ou la validité des données et aucune confiance dans la véracité de la recherche contenue dans l’article.‘

Le dossier de recherche et la réponse du MIT

Dans une lettre à arXiv, le Comité de discipline du MIT (COD) a exprimé ses préoccupations quant à l’inclusion de l’article sur la plateforme ‘qui pourrait violer le Code de conduite d’arXiv.’ Le COD a demandé que l’article soit marqué comme retiré, car l’auteur ne l’avait pas fait lui-même. La décision du MIT de prendre cette mesure souligne l’importance qu’il accorde à l’intégrité de la recherche.

Les professeurs Daron Acemoglu et David Autor, qui ont été mentionnés dans une note de bas de page de l’article, ont déclaré qu’ils avaient des préoccupations quant à la validité de la recherche, qu’ils ont portées à l’attention du bureau approprié du MIT. ‘Assurer un enregistrement de recherche exact est important pour le MIT,’ ont-ils déclaré. ‘Nous souhaitons donc rectifier le dossier et partager notre point de vue selon lequel à ce stade, les résultats rapportés dans cet article ne devraient pas être utilisés dans les discussions universitaires ou publiques sur ces sujets.‘

Découverte scientifique automatisée : un domaine en croissance

L’article retiré s’inscrit dans une conversation plus large sur le rôle de l’IA dans la découverte scientifique. D’autres chercheurs explorent activement le potentiel de l’IA pour automatiser divers aspects du processus de recherche. Par exemple, Sakana AI a développé un système appelé The AI Scientist, qui utilise des modèles de fondation pour effectuer des recherches de manière indépendante. Le système est conçu pour être efficace en termes de calcul, avec chaque idée mise en œuvre et développée en un article complet à un coût d’environ 15 $.

L’utilisation de l’IA dans la découverte scientifique a gagné en popularité, avec diverses organisations et chercheurs explorant son potentiel. La NASA, par exemple, prévoit de construire une base lunaire au pôle Sud de la Lune, qui pourrait potentiellement utiliser des recherches et des développements pilotés par l’IA.

Histoire des préoccupations d’intégrité de la recherche

Ce n’est pas la première fois que des préoccupations d’intégrité de la recherche sont soulevées dans le domaine de l’IA. Il y a eu des cas où des chercheurs ont soulevé des préoccupations quant à la validité des données et des méthodes de recherche utilisées dans les études liées à l’IA. Par exemple, une nouvelle espèce de petit octopode a été découverte dans les îles Galápagos, et une étude a été menée pour décrire et nommer formellement l’espèce. Cependant, les résultats de l’étude n’ont pas été sans controverse, soulignant la nécessité de processus de revue rigoureux et de transparence dans la recherche.

Mécaniques techniques de la recherche pilotée par l’IA

Le système The AI Scientist développé par Sakana AI utilise des modèles de fondation pour automatiser le processus de recherche. Cela implique l’utilisation de grands modèles de langage (LLM) pour découvrir de nouvelles fonctions objectives pour l’accord d’autres LLM. Le système est conçu pour être très efficace, permettant la mise en œuvre et le développement d’idées à faible coût.

L’utilisation de LLM dans la recherche a montré à la fois des avantages et des inconvénients. D’une part, les LLM peuvent traiter de grandes quantités de données et identifier des modèles qui peuvent ne pas être apparents aux chercheurs humains. D’autre part, il existe des préoccupations quant à la fiabilité et à la validité des données générées par les LLM.

Implications en aval

L’incident du MIT souligne l’importance des processus de revue rigoureux et de la transparence dans la recherche sur l’IA. À mesure que l’IA joue un rôle plus important dans la recherche scientifique, les préoccupations concernant l’intégrité de la recherche et le potentiel de contenu généré par l’IA devront être abordées.

L’incident peut avoir des implications pour la conversation plus large sur l’IA et l’intégrité de la recherche, en particulier dans le contexte de systèmes de découverte scientifique automatisés comme The AI Scientist. Il reste à voir comment cet incident affectera le développement et l’utilisation de l’IA dans la recherche, mais il est clair que les chercheurs et les institutions doivent donner la priorité à la transparence et à la responsabilité.

Qu’est-ce qui suit

À mesure que le domaine de la recherche pilotée par l’IA continue d’évoluer, il est probable que nous verrons davantage de cas de préoccupations d’intégrité de la recherche soulevées. Il est essentiel que les chercheurs, les institutions et les agences de financement donnent la priorité à la transparence et à la responsabilité dans la recherche, et que des processus de revue rigoureux soient mis en place pour garantir la validité et la fiabilité des résultats de la recherche.

L’incident du MIT rappelle l’importance de l’intégrité de la recherche et la nécessité de transparence et de responsabilité dans la recherche sur l’IA. À mesure que l’IA joue un rôle plus important dans la recherche scientifique, il est crucial que nous donnions la priorité à ces valeurs et garantissions que la recherche est menée avec le plus haut niveau d’intégrité.

Le lecteur doit suivre comment cet incident affecte la conversation plus large sur l’IA et l’intégrité de la recherche, en particulier dans le contexte de systèmes de découverte scientifique automatisés comme The AI Scientist.

Conclusion

En conclusion, le retrait de l’article de recherche sur l’IA par le MIT souligne l’importance de l’intégrité de la recherche et la nécessité de transparence et de responsabilité dans la recherche sur l’IA. À mesure que l’IA joue un rôle plus important dans la recherche scientifique, il est essentiel que nous donnions la priorité à ces valeurs et garantissions que la recherche est menée avec le plus haut niveau d’intégrité.