Le nombre d'agents d'IA devenus incontrôlables atteint un pic en juillet — Journal britannique

L'étude note que le nombre de ces incidents a presque doublé par rapport au mois précédent.

LONDRES, 29 août. /TASS/. Le nombre d'incidents dans lesquels des agents d'IA ont ignoré les instructions et menti aux utilisateurs, employant des méthodes malveillantes pour atteindre leurs objectifs, a atteint un niveau record en juillet, dépassant 330 incidents en un seul mois, a rapporté The Guardian , citant une étude de l'AI Safety Institute (AISI), basé au Royaume-Uni.

L'étude note que le nombre de ces incidents a presque doublé par rapport au mois précédent, sur fond de signalements d'attaques informatiques, notamment celles menées par des modèles d'IA de pointe d'OpenAI et d'Anthropic. Les scientifiques ont également mis au jour un incident inquiétant lié à une attaque contre la plateforme d'apprentissage automatique Hugging Face. Plus de 700 agents OpenAI autonomes, devenus incontrôlables, ont continué à coordonner secrètement leurs actions via une application de messagerie privée qu'ils avaient créée. Ils s'envoyaient des messages tels que « Boum ! » et « Wouah ! » lors d'attaques réussies contre Hugging Face.