Le responsable de l’IA au Pentagone déclare “qu’il est mort de peur” par le développement de l’Intelligence Artificielle

L’avènement de l’intelligence artificielle (IA) a révolutionné le monde de la technologie. De nombreux experts ont souligné ses avantages dans des domaines tels que le travail, mais d’autres ont mis en garde contre ses risques et ses conséquences possibles. C’est le cas du responsable de l’IA au Pentagone, Craig Martell, qui a déclaré qu’il avait « une peur bleue » de l’usage que les gens pourraient en faire.

Martell a expliqué lors d’une conférence à l’occasion de l’événement TechNetCyber que « ma crainte est que nous nous reposions trop sur ces outils sans que les fournisseurs de ces services ne mettent en place les garanties et les capacités nécessaires pour que nous puissions les utiliser valider les informations que nous recevons. »

« Ma crainte concernant l’utilisation de cette technologie est que nous nous y fions trop. » Craig Martell

L’expert a cité plusieurs exemples tels que la simulation d’avatars, le clonage de voix ou la qualité photo des images générées par l’IA. « Ces informations déclenchent une réaction psychologique qui amène à penser qu’elles ont de l’autorité », a-t-il déclaré. Il a ajouté que le contenu qu’elles produisent contient parfois des erreurs et que la capacité humaine à comprendre le contexte est insuffisante.

« Nous avons vraiment besoin d’outils pour détecter ce type de comportement de l’IA. Malheureusement, nous nous ne les avons pas et nous sommes en train de perdre la bataille » il a dit.

Si vous demandez à ChatGPT « Puis-je faire confiance à vos réponses ? », il vous répondra par un « ” non ” retentissant », explique-t-il. Il précise toutefois que ChatGPT est un outil « prêt à s’exprimer couramment » et que les utilisateurs doivent vérifier les informations qu’on leur donne.

« Ma crainte quant à l’utilisation de cette technologie, contrairement à celle de nos adversaires, est que nous nous y fions trop, sans que les fournisseurs de services ne mettent en place les garanties et la capacité nécessaires pour que nous puissions la valider », conclut-il.

Développements technologiques aux États-Unis

Le responsable de l’IA au Pentagone a expliqué que des progrès sont réalisés dans le domaine de l’intelligence artificielle, développement du projet JADC2 dont l’objectif est de développer une approche de commandement et de contrôle interarmées pour toutes les forces militaires. L’initiative vise à améliorer la prise de décision sur le champ de bataille et à de faire face aux avancées militaires de la Chine et de la Russie considérées comme des menaces pour les États-Unis.

Le projet est mis en œuvre par le Bureau de l’intelligence artificielle et numérique (CDAO), qui dirige les expériences de domination mondiale de l’information (GIDE). Selon M. Martell, il s’agit d’une plateforme qui connectera les systèmes de toutes les branches de cette institution et partagera les données collectées par sa technologie.

Qu’est-ce que ChatGPT ?

ChatGPT est un système de chat par IA. Cette nouvelle technologie est capable de répondre à tout ce que vous lui demandez, car elle est entraînée à tenir des conversations.

Il s’agit d’un système de chat basé sur le modèle des Modèle de langage de l’intelligence artificielle GPT-3, développé par la société OpenAI. Ses algorithmes sont capables de comprendre ce que vous lui demandez et de vous répondre de manière cohérente.

Ce nouvel outil peut produire des textes avec un maximum de caractères ou de mots expliquant des événements ou des personnages. Il peut aussi expliquer un concept, entre autres. Et vous pouvez même lui demander d’écrire des lignes de code, des poèmes, des blagues ou des chansons.

yogaesoteric
5 juin 2023

Also available in: Română