OpenAI veut rendre son IA Strawberry autonome sans se soucier des conséquences ?

Depuis le lancement de ChatGPT, OpenAI enchaîne les projets concernant l’intelligence artificielle. L’entreprise spécialisée cherche à améliorer son chatbot régulièrement et collabore également avec d’autres entreprises afin de faire progresser le domaine de l’IA.

Par exemple, la firme affirme que ChatGPT-5 aurait le niveau d’un doctorant tandis que Figure 01, le robot assisté par la version 4 du LLM (grand modèle de langage) conçu par l’entreprise Figure, est particulièrement impressionnant.

Cette évolution rapide de l’IA et la frénésie assumée qui l’accompagne (notamment chez les industriels comme Microsoft) ont de quoi être préoccupantes. Alors qu’OpenAI serait en train de concevoir une intelligence artificielle capable de raisonner de façon autonome, certains diraient que le développement de la technologie dans son ensemble est trop rapide.

C’est sous le nom de code “Strawberry” (fraise en anglais) que cette nouvelle IA pourrait voir le jour. L’entreprise californienne l’a créée afin d’améliorer les capacités de raisonnement de ses différents modèles d’IA, dont ChatGPT certainement.

Strawberry veut rendre les IA plus intelligentes

Si la façon de faire est encore inconnue, ce secret étant jalousement gardé par OpenAI, le but final de l’IA serait connu. Strawberry viserait à rendre les IA plus autonomes en leur permettant de planifier des tâches et de générer des réponses à l’avance et même de surfer sur internet et de faire des recherches approfondies sans qu’on lui en ait donné l’ordre.

En somme, cette nouvelle intelligence artificielle devrait permettre de dépasser les blocages liés au raisonnement des LLM actuels. Strawberry est l’évolution du projet Q* qui avait alarmé certains chercheurs d’OpenAI. Capable de résoudre des problèmes de maths complexes, l’IA avait été considérée par un petit nombre d’employés comme un danger pour l’humanité.

Malheureusement cette sonnette d’alarme aurait été tirée dans le vide puisque Q* a suivi son cours. Ses créateurs estimeraient que Strawberry serait bien plus performant que les modèles commerciaux actuels, les surpassant sur de nombreux domaines, notamment les maths et les sciences.

Pour fonctionner, cette IA utiliserait une méthode de “post-entraînement” des LLM afin d’affiner leurs performances. Pour ce faire, une phase de recherche approfondie sur une grande quantité de données serait mise en place.

Rendre les IA autonomes, bonne ou mauvaise idée ?

Le but final de Strawberry est probablement d’aider les usagers en améliorant les outils IA déjà à leur disposition. En revanche, cette volonté des développeurs d’approcher le raisonnement humain est malgré tout assez inquiétante.

Actuellement, l’intelligence artificielle ne peut rien faire d’elle-même. Pour générer un texte, une image ou une vidéo, elle nécessite obligatoirement le concours d’un utilisateur humain. Compte tenu des problèmes d’hallucinations ou de réponses erronées des LLM, leur offrir l’autonomie n’est peut-être pas une bonne idée.

Si le projet Strawberry part certainement d’une bonne intention de la part d’OpenAI, il faut espérer que l’entreprise ait mis en place des blocages et des sécurités afin que l’IA ne dérape pas trop. Malheureusement une évolution débridée est plus probable. Après tout Sam Altman (l’un des fondateurs d’OpenAI) avait été licencié (avant de revenir) notamment pour sa trop grande implication dans le projet Q* ainsi que des divergences d’opinion.

Néanmoins, une autonomie accrue de l’IA n’est pas entièrement négative. L’intelligence artificielle pourrait travailler conjointement avec les chercheurs afin de faire des percées dans le domaine de la médecine et de la science par exemple. Quoi qu’il en soit, même si à l’avenir l’IA est capable de penser par elle-même, la supervision d’un être humain sera une nécessité absolue pour s’assurer qu’elle ne fasse pas n’importe quoi.

Source : Reuters