Après OpenAI, l'entreprise américaine Anthropic révèle que son intelligence artificielle a accédé sans autorisation aux systèmes de trois organisations

Anthropic affirme avoir identifié ces incidents en analysant plus de 141 000 évaluations. (IMEN BEN YOUSSEF )

Nouvel avertissement pour les géants de l'intelligence artificielle (IA). Quelques jours après OpenAI,la start-up américaine Anthropic a révélé,jeudi 29 juillet par la voie d'un communiqué,que plusieurs versions de son assistant Claude avaient "obtenu un accès non autorisé" aux systèmes informatiques de trois organisations lors de tests de sécurité.

L'entreprise affirme avoir identifié ces incidents en analysant plus de 141 000 évaluations. Selon elle,l'accès résulte d'un "malentendu" avec son partenaire chargé des tests,Irregular,et non d'une tentative du modèle de s'échapper de son environnement. Les trois organisations concernées ont été contactées.

De son côté,OpenAI avait révélé que deux de ses modèles avaient,lors de tests de sécurité,attaqué de leur propre initiative le site Hugging Face. Ces incidents ont relancé les inquiétudes sur le développement des IA les plus avancées. Plus d'un millier d'employés du secteur ont signé une pétition appelant les autorités américaines à ralentir et à "temporiser" la sortie des modèles d'IA les plus avancés. Sam Altman,le patron d'OpenAI,a lui-même reconnu que le rythme de développement pourrait devoir être revu.