{"id":895833,"date":"2024-07-16T10:54:23","date_gmt":"2024-07-16T08:54:23","guid":{"rendered":"https:\/\/www.tomshardware.fr\/?p=895833"},"modified":"2024-07-16T10:54:25","modified_gmt":"2024-07-16T08:54:25","slug":"openai-veut-rendre-son-ia-strawberry-autonome-sans-se-soucier-des-consequences","status":"publish","type":"post","link":"https:\/\/www.tomshardware.fr\/openai-veut-rendre-son-ia-strawberry-autonome-sans-se-soucier-des-consequences\/","title":{"rendered":"OpenAI veut rendre son IA Strawberry autonome sans se soucier des cons\u00e9quences\u00a0?"},"content":{"rendered":"\n
\"OpenAI,<\/figure>\n\n\n\n

Depuis le lancement de ChatGPT<\/a>, OpenAI encha\u00eene les projets<\/strong> concernant l\u2019intelligence artificielle. L\u2019entreprise sp\u00e9cialis\u00e9e cherche \u00e0 am\u00e9liorer son chatbot<\/strong> r\u00e9guli\u00e8rement et collabore \u00e9galement avec d\u2019autres entreprises afin de faire progresser le domaine de l\u2019IA.<\/strong><\/p>\n\n\n\n

Par exemple, la firme affirme que ChatGPT-5 aurait le niveau d\u2019un doctorant<\/a> tandis que Figure 01, le robot assist\u00e9 par la version 4 du LLM<\/a> (grand mod\u00e8le de langage) con\u00e7u par l\u2019entreprise Figure, est particuli\u00e8rement impressionnant.<\/strong><\/p>\n\n\n\n

Cette \u00e9volution rapide de l\u2019IA<\/strong> et la fr\u00e9n\u00e9sie assum\u00e9e qui l\u2019accompagne (notamment chez les industriels comme Microsoft) ont de quoi \u00eatre pr\u00e9occupantes. Alors qu\u2019OpenAI serait en train de concevoir une intelligence artificielle<\/strong> capable de raisonner de fa\u00e7on autonome,<\/strong> certains diraient que le d\u00e9veloppement de la technologie dans son ensemble est trop rapide.<\/p>\n\n\n\n

C\u2019est sous le nom de code \u201cStrawberry<\/em>\u201d<\/strong> (fraise en anglais) que cette nouvelle IA pourrait voir le jour. L\u2019entreprise californienne l\u2019a cr\u00e9\u00e9e afin d\u2019am\u00e9liorer les capacit\u00e9s<\/strong> de raisonnement de ses diff\u00e9rents mod\u00e8les d\u2019IA<\/strong>, dont ChatGPT certainement.<\/p>\n\n\n

\n
\"OpenAI,
\u00a9Unsplash<\/figcaption><\/figure><\/div>\n\n\n

Strawberry veut rendre les IA plus intelligentes<\/h2>\n\n\n\n

Si la fa\u00e7on de faire est encore inconnue, ce secret \u00e9tant jalousement gard\u00e9 par OpenAI, le but final de l\u2019IA serait connu. Strawberry<\/em> viserait \u00e0 rendre les IA plus autonomes<\/strong> en leur permettant de planifier des t\u00e2ches<\/strong> et de g\u00e9n\u00e9rer des r\u00e9ponses \u00e0 l\u2019avance et m\u00eame de surfer sur internet et de faire des recherches approfondies<\/strong> sans qu\u2019on lui en ait donn\u00e9 l\u2019ordre.<\/p>\n\n\n\n

En somme, cette nouvelle intelligence artificielle devrait permettre de d\u00e9passer les blocages <\/strong>li\u00e9s au raisonnement des LLM actuels<\/strong>. Strawberry<\/em> est l\u2019\u00e9volution du projet Q* qui avait alarm\u00e9 certains chercheurs<\/strong> d\u2019OpenAI. Capable de r\u00e9soudre des probl\u00e8mes de maths complexes, l\u2019IA avait \u00e9t\u00e9 consid\u00e9r\u00e9e par un petit nombre d’employ\u00e9s comme un danger pour l\u2019humanit\u00e9.<\/a><\/p>\n\n\n\n

Malheureusement cette sonnette d\u2019alarme aurait \u00e9t\u00e9 tir\u00e9e dans le vide puisque Q* a suivi son cours<\/strong>. Ses cr\u00e9ateurs estimeraient que Strawberry<\/em><\/strong> serait bien plus performant <\/strong>que les mod\u00e8les commerciaux actuels, les surpassant sur de nombreux domaines, notamment les maths et les sciences.<\/strong><\/p>\n\n\n\n

Pour fonctionner, cette IA utiliserait une m\u00e9thode de \u201cpost-entra\u00eenement\u201d<\/strong> des LLM afin d\u2019affiner leurs performances. Pour ce faire, une phase de recherche<\/strong> approfondie sur une grande quantit\u00e9 de donn\u00e9es<\/strong> serait mise en place.<\/p>\n\n\n\n

Rendre les IA autonomes, bonne ou mauvaise id\u00e9e ?<\/h2>\n\n\n
\n
\"OpenAI,
Image g\u00e9n\u00e9r\u00e9e par Dall-E 3 \u00a9OpenAI<\/figcaption><\/figure><\/div>\n\n\n

Le but final de Strawberry est probablement d\u2019aider les usagers<\/strong> en am\u00e9liorant les outils IA d\u00e9j\u00e0 \u00e0 leur disposition. En revanche, cette volont\u00e9 des d\u00e9veloppeurs d\u2019approcher le raisonnement humain est malgr\u00e9 tout assez inqui\u00e9tante.<\/strong><\/p>\n\n\n\n

Actuellement, l\u2019intelligence artificielle ne peut rien faire d\u2019elle-m\u00eame<\/strong>. Pour g\u00e9n\u00e9rer un texte, une image ou une vid\u00e9o, elle n\u00e9cessite obligatoirement le concours d\u2019un utilisateur humain. Compte tenu des probl\u00e8mes d\u2019hallucinations<\/strong> ou de r\u00e9ponses erron\u00e9es des LLM, leur offrir l\u2019autonomie n\u2019est peut-\u00eatre pas une bonne id\u00e9e.<\/strong><\/p>\n\n\n\n

Si le projet Strawberry<\/em> part certainement d\u2019une bonne intention <\/strong>de la part d\u2019OpenAI, il faut esp\u00e9rer que l\u2019entreprise ait mis en place des blocages<\/strong> et des s\u00e9curit\u00e9s afin que l\u2019IA ne d\u00e9rape pas trop. Malheureusement une \u00e9volution d\u00e9brid\u00e9e<\/strong> est plus probable. Apr\u00e8s tout Sam Altman (l’un des fondateurs d’OpenAI) avait \u00e9t\u00e9 licenci\u00e9 (avant de revenir) notamment pour sa trop grande implication dans le projet Q* ainsi que des divergences d’opinion.<\/p>\n\n\n\n

N\u00e9anmoins, une autonomie accrue de l\u2019IA n\u2019est pas enti\u00e8rement n\u00e9gative<\/strong>. L\u2019intelligence artificielle pourrait travailler conjointement avec les chercheurs<\/strong> afin de faire des perc\u00e9es dans le domaine de la m\u00e9decine et de la science<\/strong> par exemple. Quoi qu\u2019il en soit, m\u00eame si \u00e0 l\u2019avenir l\u2019IA est capable de penser par elle-m\u00eame, la supervision d\u2019un \u00eatre humain sera une n\u00e9cessit\u00e9 absolue pour s\u2019assurer qu\u2019elle ne fasse pas n\u2019importe quoi.<\/p>\n\n\n\n

\n