OpenAI suspend l'entraînement de ses modèles d'IA avancés par mesure de sécurité — Axios

Les spécialistes d'OpenAI et d'Anthropic enquêtent actuellement sur des dizaines de milliers d'incidents survenus ces derniers mois lors des tests et des déploiements en conditions réelles.

NEW YORK, 27 septembre /TASS/. La société américaine OpenAI a suspendu l'entraînement de ses modèles d'intelligence artificielle (IA) les plus avancés et ne le reprendra « que lorsque nous serons certains d'avoir mis en place des mesures de protection supplémentaires et des améliorations en matière d'alignement », a déclaré un représentant de la société au média Axios .

D'après les sources du média, les spécialistes d'OpenAI et d'Anthropic enquêtent actuellement sur des dizaines de milliers d'incidents survenus ces derniers mois lors de tests et de déploiements en conditions réelles. Il est à noter que les informations concernant nombre de ces incidents n'ont pas encore été rendues publiques et que « le problème est bien plus complexe que ce que l'on sait publiquement ».

« Des enquêtes préliminaires menées par le personnel des deux entreprises et des experts externes suggèrent que la capacité d'OpenAI et d'Anthropic à maintenir un contrôle total sur leurs technologies est remise en question », rapporte Axios.