La Californie attaque OpenAI en justice pour défaut de sécurisation
Le géant OpenAI devra répondre devant la justice de Californie de l'intrusion de ses modèles d'IA dans les systèmes informatiques d'une autre société.
Photo: KEYSTONE/AP/Jeff ChiuLe procureur de Californie Rob Bonta a assigné lundi en justice OpenAI pour défaut de sécurisation de ses modèles d'intelligence artificielle (IA). Cette faille a occasionné l'intrusion d'agents IA sur la plateforme Hugging Face en juillet.
Pour le magistrat, l'incident qui a vu deux modèles sortir de leur milieu confiné pour rejoindre internet et pénétrer les systèmes informatiques de la bibliothèque IA Hugging Face était 'complètement prévisible', selon un communiqué.
Celui qui a saisi un tribunal de San Francisco évoque ainsi 'le choix d'OpenAI de tester des modèles qu'il savait dangereux dans un environnement défectueux et vulnérable sans surveillance adéquate'.
Si Hugging Face a lui-même choisi de ne pas saisir la justice, le procureur estime que cette situation 'présente un danger pour le grand public', ce qui lui donne juridiquement intérêt à agir.
'L'innovation doit se conformer à la loi'
Il dénonce une 'culture interne à OpenAI qui fait passer la croissance et le développement rapide de modèles avant la sécurité et la fiabilité', rappelant que la start-up a fait état de dizaines d'autres cas de dérapage de ses IA.
'Nous voulons de l'innovation qui se conforme à la loi', a-t-il martelé, 'quel que soit le produit ou l'entreprise.' Sollicité par l'AFP, OpenAI n'a pas donné suite dans l'immédiat.
Fin septembre, l'ONG Legal Advocates for Safe Science & Technology (LASST) avait déjà saisi la justice civile concernant le dossier Hugging Face. Bien que n'étant pas directement concerné par les faits, LASST avait indiqué avoir intérêt à agir dans la mesure où elle avait consacré des ressources pour mettre en garde contre la conduite d'OpenAI.
/ATS