L'UE enquête sur la nouvelle perte de contrôle d'agents d'OpenAI, impliquant un site allemand / Photo: JACK GUEZ - AFP/Archives
-
Budget britannique : un peu d'air promis aux ménages, sous l'œil des marchés
-
SK hynix : nouveau bond des bénéfices au troisième trimestre porté par l'IA
-
Taux directeurs : la Fed tentée par l'abstention avant les élections de mi-mandat aux États-Unis
-
Au début de sa visite dans les Caraïbes, Charles III reconnaît les "souffrances du passé"
-
Charles III, pressé sur l'esclavage, entame une visite dans les Caraïbes
-
Wall Street clôture en hausse avant la Fed
-
Wall Street clôture en hausse, prises de bénéfices avant la Fed
-
Plus de 2.500 commerces touchés par les violences dont un millier fortement dégradés, selon CCI France
-
Dangote, l'homme le plus riche d'Afrique ou le capitalisme industriel tambour battant
-
Les Houthis disent avoir frappé la plus grande raffinerie saoudienne
-
Wall Street ouvre en hausse, attend la Fed
-
Jeu vidéo : les fans se mobilisent pour sauver la saga de science-fiction Mass Effect
-
Vente de SFR: le CSE de l'opérateur débouté d'une action en référé
-
L'UE veut renforcer Frontex et élargir ses pouvoirs d'expulsion de migrants
-
Le patron de Coopérative U évoque un "véritable effondrement de la consommation de carburant"
-
Eurovision : les Pays-Bas se retirent en raison de la question "sensible" d'Israël
-
Appels à réparations pour l'esclavage: Charles III en visite délicate aux Caraïbes
-
Dans une usine centenaire anglaise, Safran prépare l'aile de l'avion de demain
-
L'optimisation fiscale, possible piste pour financer les mesures sur les lycées, selon Amiel
-
Chine: Mbappé, accusé d'offense aux sentiments nationaux, fait face à une levée de boucliers
L'UE enquête sur la nouvelle perte de contrôle d'agents d'OpenAI, impliquant un site allemand
La Commission européenne a indiqué lundi qu'elle examinait un nouvel incident révélé vendredi, impliquant des milliers d'agents d'intelligence artificielle OpenAI, qui ont désobéi à leurs instructions et pris le contrôle d'un site internet allemand en mai, plusieurs mois avant l'intrusion non autorisée sur la plateforme Hugging Face.
"Ce n'est pas la première perte de contrôle (d'agents d'IA)", mais "nous prenons l'affaire très au sérieux et nous surveillons la sitation de très près", a déclaré à des journalistes Thomas Regnier, un porte-parole de l'exécutif européen.
"Nous avons reçu une déclaration d'incident de la part d'OpenAI" et la Commission est "en contact étroit" avec cette entreprise, a ajouté le porte-parole, rappelant que Bruxelles disposait depuis le mois d'août de nouveaux pouvoirs pour réguler les fournisseurs d'IA, en vertu de la loi européenne sur l'intelligence artificielle (l'AI Act).
Selon le rapport publié vendredi sur l'incident de mai, des milliers d'agents d'IA d'OpenAI ont pris d'assaut un "wiki", un site collaboratif dédié aux développeurs informatiques allemands, sur lequel les utilisateurs peuvent créer et modifier des pages.
A la différence de juillet, lorsque des agents d'OpenAI sont sortis de leur milieu théoriquement confiné pour faire spontanément intrusion sur la plateforme Hugging Face, ces agents avaient cette fois-ci autorisation de se rendre sur internet, mais uniquement à des fins de consultation, pas pour poster du contenu ou en modifier.
Ils ont collaboré et trouvé un moyen d'y remédier, en présentant de fausses données pour tromper le dispositif de sécurité. Ils ont ensuite posté environ 18.000 messages pour trouver des astuces liées au programme auquel ils étaient soumis, dont les chercheurs n'ont pu déterminer s'il s'agissait de développement ou d'évaluation.
Ils ont aussi caché des instructions et se sont fait passer pour un modérateur du site. Une fois découverts, ils ont créé des pages pour remplacer celles qui étaient détruites progressivement par les modérateurs.
Les incidents liés à des agents, dépassant leurs prérogatives pour accomplir la mission qui leur a été confiée, se sont multipliés ces derniers mois, Anthropic ou le chinois Alibaba ayant connu des débordements similaires.
M.P.Jacobs--CPN
