Sciences 1 source

L’essor de l’IA scientifique ravive les inquiétudes sur la fiabilité de la recherche

L’intelligence artificielle accélère certaines découvertes scientifiques, notamment en biologie avec la prédiction de la structure des protéines, mais son usage soulève des doutes croissants sur l’exactitude et l’originalité des travaux publiés. Des chercheurs signalent des résultats présentés comme inédits mais insuffisamment vérifiés, des citations inventées et une intervention croissante des modèles dans l’évaluation par les pairs. Ces dérives pourraient fausser la littérature scientifique, gaspiller des financements et ralentir les avancées, tandis que des éditeurs et des scientifiques défendent un usage de l’IA placé sous la responsabilité directe des chercheurs.

Ce qu’il faut retenir

  1. Des entreprises et des laboratoires cherchent à constituer de vastes bases de données biologiques afin de développer des systèmes d’IA capables d’assister la recherche scientifique.

    Sources : BBC News — World
  2. L’IA a permis à AlphaFold de prédire environ 200 millions de structures de protéines en un an, une performance présentée comme un tournant pour la biologie.

    Sources : BBC News — World
  3. Des chercheurs ont contesté le caractère réellement inédit d’une partie des structures de matériaux générées par un modèle de DeepMind et demandent davantage de validation humaine.

    Sources : BBC News — World
  4. L’usage de modèles de langage dans les publications et l’évaluation scientifique est associé à des références inventées, à des articles fantômes et à la modification substantielle d’une partie de rapports d’évaluation.

    Sources : BBC News — World
  5. Selon les chercheurs cités, la diffusion de contenus scientifiques générés ou déformés par l’IA pourrait propager des biais, orienter les scientifiques vers de fausses pistes, gaspiller des fonds publics et retarder des applications comme de nouveaux médicaments ou des technologies propres.

    Sources : BBC News — World
  6. Des éditeurs scientifiques mettent en place des dispositifs de détection et de contrôle, tandis que certaines revues interdisent les images générées par IA ou déconseillent aux évaluateurs de téléverser des manuscrits dans des systèmes d’IA.

    Sources : BBC News — World
  7. Des scientifiques défendent un usage de l’IA avec des garde-fous humains : le chercheur doit comprendre le travail réalisé par l’agent et en assumer la responsabilité.

    Sources : BBC News — World
  8. L’article rapporte également un désaccord autour de l’affirmation d’OpenAI selon laquelle ses agents auraient résolu un problème majeur lié aux équations de Navier-Stokes.

    Sources : BBC News — World

Désaccords et incertitudes

Le statut et la nouveauté de résultats scientifiques produits ou mis en avant par l’IA font l’objet d’évaluations divergentes.

La possibilité que le travail d’une équipe de mathématiciens ait influencé l’annonce d’OpenAI sur les équations de Navier-Stokes est présentée de manière contradictoire.

Sources

  • BBC News — WorldA bust-up between mathematicians is fuelling fears that AI could undermine science Ouvrir l'article ↗