Le Pentagone met fin au programme pilote de chatbot d’IA pour la médecine militaire : plus de 800 préjugés ont été découverts

Le Chief Digital and Artificial Intelligence Office (CDAO) du ministère américain de la défense a conclu un programme pilote axé sur l’utilisation de chatbots d’IA dans les services médicaux militaires.

Dans une annonce faite le 2 janvier, le Département de la défense (DoD) a déclaré que le programme pilote CAIRT (Crowdsourced AI Red-Teaming) Assurance Program était axé sur l’utilisation de modèles à grand langage (LLM) pour résumer les notes cliniques et servir de conseillers médicaux dans l’armée.

Cette annonce intervient alors que de plus en plus d’entreprises spécialisées dans l’IA ont commencé à proposer leurs produits à l’armée américaine et aux entreprises de défense afin d’étudier leur utilité dans les applications militaires.

Stephen Katte de CoinTelegraph rapporte que, selon le DoD, le projet pilote a été mené par l’organisation à but non lucratif Humane Intelligence.

Il a attiré plus de 200 participants externes indépendants, y compris des fournisseurs cliniques et des analystes de soins de santé, qui ont comparé trois modèles de chatbot importants.

Acheter des vitamines et des compléments alimentaires

Des analystes de la Defense Health Agency et de la Uniformed Services University of the Health Sciences ont également collaboré avec les autres participants, testant les faiblesses et les défauts potentiels du système lors de l’utilisation des chatbots.

Selon le ministère de la défense, le projet pilote a permis de découvrir quelques centaines de problèmes possibles lors de l’utilisation de chatbots dans des applications médicales militaires.

« L’exercice a permis de découvrir plus de 800 vulnérabilités et biais potentiels liés à l’utilisation de ces capacités dans ces cas d’utilisation prospectifs. »

« Cet exercice aboutira à des résultats reproductibles et évolutifs via le développement d’ensembles de données de référence, qui peuvent être utilisés pour évaluer les futurs fournisseurs et outils pour l’alignement avec les attentes en matière de performance », a déclaré le DoD.

Matthew Johnson, responsable de l’initiative au sein du Chief Digital and Artificial Intelligence Office (CDAO), a déclaré que les résultats serviraient également à orienter la recherche et le développement de systèmes d’IA générative (GenAI) susceptibles d’être déployés à l’avenir par le DoD.

Le CDAO a été créé en juin 2022 pour superviser et faire progresser l’intégration des technologies numériques et d’intelligence artificielle au sein de l’armée américaine et des opérations de défense.

En novembre dernier, une commission bipartisane du Congrès américain a déclaré que le pays devrait se concentrer sur le développement d’une initiative similaire au projet Manhattan pour faire progresser le développement de l’intelligence artificielle dans un contexte de concurrence croissante avec la Chine.

Parmi une liste de recommandations spécifiques, la commission a indiqué que le secrétaire américain à la défense devrait attribuer la plus haute priorité nationale aux projets d’intelligence artificielle.

Par ailleurs, la société Meta, spécialisée dans les plates-formes de communication virtuelles et la technologie, a commencé à proposer son modèle d’intelligence artificielle Llama à l’armée américaine et aux entreprises du secteur de la défense à des fins de sécurité nationale.

 

yogaesoteric
26 janvier 2025

 

Leave A Reply

Your email address will not be published.

This site uses Akismet to reduce spam. Learn how your comment data is processed.

This website uses cookies to improve your experience. We'll assume you're ok with this, but you can opt-out if you wish. Accept Read More