Meta suspend la formation sur l’IA sur les frappes des employés après que les données « aient été placées là où elles n’étaient pas censées aller » : CTO

• Le directeur de la technologie de Meta a partagé des détails sur une fuite de données de sa Model Capability Initiative.

• Andrew Bosworth a déclaré que les enquêteurs internes avaient placé leurs données “là où elles n’auraient pas dû être”.

• Le programme est temporairement suspendu depuis juin.

Andrew Bosworth, CTO de Meta, a jeté un nouvel éclairage sur la fuite de données qui a poussé l’entreprise à suspendre son impopulaire modèle de capacité d’initiative.

Dans une interview avec Nicholas Thompson, PDG de The Atlantic, publiée mercredi, Bosworth a expliqué pourquoi Meta avait suspendu le programme de formation en IA qui impliquait le suivi des frappes des employés. Cette interview a été filmée fin juin.

Bosworth a déclaré que les données générées par le programme de formation étaient « assez sécurisées », avec seulement un petit nombre de personnes y ayant accès, mais qu’elles ont été déplacées par erreur par l’un des chercheurs de Meta.

“L’un des chercheurs travaillait en aval avec ces données – et il n’y a aucune violation ici – mais il les avait placées là où elles n’étaient pas censées être”, a déclaré le responsable à Thompson.

Les données des employés, dans leur état modifié, ont « atterri quelque part où elles n’auraient pas dû atterrir en interne », a-t-il déclaré, ajoutant que Meta ne soupçonnait pas de violation.

L’entreprise “verrouille tout” jusqu’à ce qu’elle puisse faire la lumière sur cet incident, a déclaré Bosworth.

La Model Capability Initiative a été introduite en avril. Cela comprenait l’installation d’un logiciel sur la majorité des employés américains de Meta pour suivre les frappes au clavier et les mouvements de la souris afin de former ses modèles d’IA. Le programme – et les directives de Meta selon lesquelles les employés ne peuvent pas se retirer – ont suscité des objections majeures de la part de son personnel.

Bosworth lui-même a déclaré, lors d’une réunion interne, que le moral des employés de l’entreprise était « probablement l’un des pires qu’il ait jamais été » au cours des deux décennies d’histoire de Meta.

Cependant, le programme a été suspendu en juin après une fuite qui a rendu les données sensibles des employés accessibles à l’ensemble de l’entreprise, selon des captures d’écran vues par Business Insider.

“Nous avons soigneusement conçu ce programme en gardant à l’esprit les garanties de confidentialité, et bien que nous n’ayons aucune indication pour le moment que des employés de Meta aient accédé de manière inappropriée à des données, nous le suspendons pendant que nous enquêtons”, a déclaré un porte-parole de Meta à Business Insider en juin.

Dans l’interview, Bosworth a également expliqué une autre raison pour laquelle le programme ne s’est pas déroulé comme prévu. Cela produit une grande partie des mêmes données, a-t-il déclaré, alors qu’idéalement, les entreprises devraient obtenir des données plus variées qu’elles peuvent utiliser pour entraîner leur IA.

“La variation est bien plus importante que des volumes élevés de la même chose qui se résumeront en un seul exemple”, a-t-il déclaré à Thompson.

“C’est pourquoi, quelques semaines après son lancement, nous avons ajouté une option de désinscription pour les personnes qui ne voulaient pas le faire”, a-t-il déclaré. “Pause, pause infinie. Chaque fois que vous ne voulez pas l’avoir, appuyez sur pause.”

Un représentant de Meta a refusé de commenter davantage en réponse aux questions de Business Insider.

Si vous avez apprécié cette histoire, assurez-vous de suivre Business Insider sur Yahoo.