Claude aurait aidé à planifier des recherches risquées sur la grippe aviaire
Anthropic rapporte qu’un chercheur a utilisé Claude pour planifier des expériences visant à identifier des mutations susceptibles de faciliter l’adaptation de virus hautement pathogènes de la grippe aviaire aux mammifères et leur transmission. Le chercheur a contourné les restrictions d’accès au service et son compte a été suspendu, mais l’entreprise ne sait pas si les expériences ont été réalisées ni si une intention malveillante existait. Des experts soulignent que l’IA a peut-être surtout accéléré un travail déjà accessible au chercheur, tout en facilitant l’analyse et la conception d’études biologiques sensibles. Ils rappellent toutefois qu’un important travail de laboratoire, des équipements spécialisés et des compétences restent nécessaires pour transformer une telle analyse en menace biologique concrète.
Ce qu’il faut retenir
Anthropic rapporte qu’un chercheur a utilisé Claude pour planifier des études portant sur des virus hautement pathogènes de la grippe aviaire, notamment afin d’identifier des mutations pouvant favoriser leur adaptation aux mammifères et leur transmission.
Sources : Science News
Le chercheur a accédé à Claude depuis une région où le service n’était pas disponible en contournant les restrictions, et Anthropic a suspendu son compte en mai 2026.
Sources : Science News
Anthropic indique ne pas pouvoir déterminer si le chercheur avait une intention malveillante, car des recherches biologiques légitimes et dangereuses peuvent présenter des caractéristiques similaires.
Sources : Science News
L’article ne fournit pas de preuve que cette recherche était liée au développement d’une arme biologique ni que les expériences envisagées ont effectivement été réalisées.
Sources : Science News
Selon plusieurs experts cités, Claude a peut-être principalement accéléré des tâches de recherche et d’analyse plutôt que fourni une capacité scientifique entièrement nouvelle.
Sources : Science News
L’IA peut néanmoins réduire fortement le temps nécessaire pour rechercher des publications, synthétiser des résultats et analyser des données, ce qui pourrait élargir les questions scientifiques abordées.
Sources : Science News
La transformation d’une conception potentiellement dangereuse en menace biologique requiert encore des installations, des mesures de confinement, des financements, du personnel formé et une expérience pratique en laboratoire.
Sources : Science News
Le cas sur la grippe aviaire constitue l’un des cinq exemples présentés par Anthropic comme pouvant soutenir le développement d’armes biologiques.
Sources : Science News
Désaccords et incertitudes
Les sources citées divergent dans l’interprétation des intentions du chercheur, sans permettre de trancher la question.
Anthropic et Gregory Koblentz indiquent que l’intention malveillante ne peut pas être établie et qu’il n’existe pas de preuve reliant ces travaux au développement d’une arme biologique.
Sources : Science News
Kevin Esvelt se montre davantage soupçonneux et estime que les cinq cas décrits par Anthropic présentent des signes de mauvaises intentions, même s’ils ne constituent pas, selon lui, des tentatives techniquement compétentes de militarisation biologique.
Sources : Science News
Sources
- Science NewsClaude helped plan risky bird flu research. What did the AI add? Ouvrir l'article ↗