Toutes les grandes entreprises ont au moins un projet lié à l’intelligence artificielle. Malheureusement, il est possible que ceux-ci aillent à l’encontre des utilisateurs. La dernière initiative de Meta en est un exemple flagrant puisque l’entreprise veut utiliser les données privées de ses usagers pour entraîner des modèles d’IA inédits.
Meta (anciennement Facebook), le maître incontesté des réseaux sociaux, s’est récemment lancé dans plusieurs initiatives. Parmi ses nombreux projets, l’intelligence artificielle commence à prendre de l’ampleur. Il semblerait même que l’un de ses modèles d’IA soit capable de lire les pensées.
Lors d’un appel aux résultats financiers, le PDG de Meta, Mark Zuckerberg, a révélé un plan visant à exploiter les données privées des utilisateurs. Le but étant d’entraîner de nouveaux modèles d’intelligence artificielle.
Zuckerberg a souligné l’énorme quantité de données disponibles sur les plateformes de Meta. C’est le cas notamment sur Facebook et Instagram. Les deux réseaux comprenant des milliards d’images et de vidéos publiques, ainsi que des quantités massives de publications textuelles. A ça vient également s’ajouter Threads, le Twitter alternatif de Meta, sorti récemment en France.
Meta va se servir sans vous demander votre avis
Selon le PDG, les données seraient utilisées sans possibilité pour les utilisateurs de signaler un quelconque refus. Une approche qui permettrait à Meta de collecter et d’utiliser les informations confidentielles des usagers sans leur consentement explicite. Une philosophie prédatrice qui pourrait bien susciter de vives critiques.
En effet, il y a de quoi s’inquiéter. La protection de la vie privée des utilisateurs n’est pas une simple marchandise. La possibilité que des données sensibles, telles que des photos de famille ou des messages personnels, soient exploitées pour entraîner une IA, représente une violation flagrante de la vie privée.
De plus, des préoccupations ont été soulevées quant à la possibilité de partialité et de discrimination. Un problème qui peut très bien affecter les modèles d’IA entraînés de cette façon. Étant donné la quantité massive de données utilisées, il est peu probable que l’IA fasse un tri convenable. Malheureusement il est possible que celle-ci finisse par s’imprégner pas de contenu haineux ou explicite.
Après tout, l’une des premières intelligences artificielles entraînées de cette façon a été une véritable catastrophe. Tay, l’IA de Microsoft avait fait scandale, en puisant dans Twitter pour apprendre et elle avait fini par devenir incroyablement raciste.
Faut-il s’inquiéter du projet IA de Meta ?
Pour éviter un accident similaire, il faudrait que Meta intègre des mesures de sécurité. Sans parler de surveiller son IA comme le lait sur le feu. Cependant, au vu des dérives régulières de l’intelligence artificielle, il est peu probable que tout se passe comme prévu.
Heureusement, des précédents juridiques existent et ils pourraient bien empêcher Meta de réussir. L’année dernière, Google avait été poursuivi pour avoir utilisé des données en ligne pour former son IA sans le consentement des utilisateurs.
Les législateurs, notamment dans l’Union européenne, suivent de près ces développements et pourraient intervenir pour protéger les droits des utilisateurs à la vie privée. En espérant que les mesures prises pour défendre les usagers soient suffisantes pour empêcher Meta de mettre en marche ses plans.
- Meta, l’entreprise derrière Facebook, a une nouvelle stratégie pour entraîner ses IA.
- L’entreprise souhaite collecter les données personnelles de ses utilisateurs sans leur consentement.
- Ce projet représenterait une violation de la vie privée des usagers et pourrait avoir des conséquences néfastes.
Source : Bloomberg
Eh oui, quand c’est gratuit c’est nous le “produit”