L’intelligence artificielle remporte véritablement un grand succès et les outils de génération de texte ou d’image prolifèrent sur Internet. Malheureusement, ces outils sont enclins aux dérapages, comme le démontre Q, l’IA d’Amazon qui serait en train d’halluciner et de divulguer des données confidentielles.
Il semblerait que l’intégralité des GAFAM ait adopté l’IA. Google a Bard, Apple travaille sur “Apple GPT”, Meta (ancien Facebook) intègre l’IA dans WhatsApp et Microsoft démocratise Copilot dans tous ses produits.
Il ne restait qu’Amazon et désormais l’entreprise de Jeff Bezos a elle aussi son projet centré sur l’intelligence artificielle : Q. Le nouveau chatbot qui doit concurrencer Copilot ne doit pas être confondu avec Q* (Q star), le projet IA d’Open AI qui serait dangereux pour l’humanité.
En revanche, l’IA d’Amazon semble également être dangereuse. Comme toute intelligence artificielle, elle n’est pas entièrement maîtrisée et cette fois-ci, les problèmes de Q sont bien plus importants que l’IA de Microsoft qui résout des CAPTCHA.
En effet, l’intelligence artificielle d’Amazon serait actuellement en pleine crise d’hallucinations très sérieuse et aurait divulgué énormément d’informations confidentielles. Le problème serait tellement important que les ingénieurs d’Amazon auraient dû revenir travailler pendant leur week-end pour réparer l’erreur appelée “sev 2”.
Amazon dément, son IA n’a rien fait
Amazon aurait tenté de minimiser la situation en prétendant que l’intelligence artificielle n’aurait pas divulgué d’informations confidentielles importantes. Une assertion démentie, semble-t-il, par des employés de la firme mais aussi par le journal Platformer.
“Certains employés partagent des retours via les canaux internes et le système de gestion des tickets, une pratique standard chez Amazon. […] Aucun problème de sécurité n’a été identifié suite à ces retours.”
Que ces informations soient véridiques ou non, l’affaire risque de poser problème à Amazon. Q est principalement conçu pour les entreprises et une potentielle faille de sécurité permettant à des informations confidentielles de se retrouver dans la nature est très préoccupante.
Nul doute que la confiance des entreprises dans le projet d’intelligence artificielle d’Amazon risque de baisser drastiquement suite aux prétendues “hallucinations” de l’IA Q. Les entreprises aiment généralement que leurs informations importantes restent privées et le fait que Q ait déjà fuité est certainement un “drapeau rouge” pour celles qui pourraient s’y intéresser.
Quoi qu’il en soit, ce n’est pas la première fois qu’une intelligence artificielle dérape de la sorte. L’IA peut être très facilement détournée et utilisée à des fins malveillantes. Si cela peut paraître anodin, comme ChatGPT et Bing qui dépeignent Mickey en terroriste, les dérapages potentiels de l’IA peuvent être nombreux mais également très dangereux.
Finalement, Amazon a fait comme toutes les autres GAFAM. Elle a profité de l’engouement autour de l’intelligence artificielle pour lancer de nouveaux projets que l’entreprise ne maîtrise absolument pas au détriment des utilisateurs.
Source : Platformer
