Le succès de ChatGPT pourrait entraîner un basculement préjudiciable vers le secret dans l’IA, déclare Bengio, pionnier de l’IA

Le plus important intelligence artificielle programme dans le monde en ce moment provient d’une entreprise qui, contrairement à beaucoup de ses pairs, ne publie pas son code source.

ChatGPT, créé par OpenAI, n’est pas open source sur GitHub comme beaucoup d’autres programmes de langage naturel avant lui. Les sources de ChatGPT, les programmes GPT d’OpenAI, n’étaient pas non plus facilement accessibles.

Aussi: Vous voulez faire l’expérience de GPT-4 ? Utilisez simplement Bing Chat

Et mardi, la société a franchi une étape importante, refusant même de divulguer les détails techniques de la dernière version, GPT-4.

Le manque ou la transparence de ChatGPT et GPT-4 est une rupture avec la pratique courante dans l’apprentissage en profondeur L’IA, où les universitaires et les entreprises ont eu tendance à publier de manière agressive, suivant la tradition de logiciels open sourceoù le code est facilement mis à la disposition de quiconque le souhaite.

Aussi: Comment faire en sorte que ChatGPT fournisse des sources et des citations

La nature fermée de ChatGPT pourrait devenir beaucoup plus la norme dans l’IA et avoir des implications éthiques, a averti le pionnier de l’IA Yoshua Bengio, directeur scientifique de l’Institut canadien MILA pour l’IA, lors d’une conférence la semaine dernière devant des journalistes et des membres de l’industrie.

“La façon de penser académique des chercheurs qui étaient dans le milieu universitaire et qui sont passés à l’industrie a changé la culture pour apporter plus de cet esprit open source de partage en général et de collaboration”, a déclaré Bengio lors d’un petit rassemblement de presse et de cadres sur Zoom la semaine dernière.

Aussi: Les meilleurs chatbots IA : ChatGPT et alternatives à essayer

“Mais les pressions des marchés vont probablement pousser dans une direction différente”, a déclaré Bengio, “vers le secret, ce qui est mauvais pour des raisons éthiques, et aussi mauvais pour l’avancement du progrès technologique car cela signifie que l’information va prendre plus de temps pour atteindre plus d’endroits si les choses sont secrètes.”

Bengio, professeur titulaire à l’Université de Montréal et codirecteur du programme Apprentissage des machines et des cerveaux du CIFAR, était un conférencier invité pour une conférence d’une heure et demie animée par le collectif[i] Prévisionune série de discussions interactives en ligne organisée par Collective[i]qui se présente comme “une plate-forme d’IA conçue pour optimiser les ventes B2B”.

Bengio répondait à Laura Wilson, membre du public, qui a demandé à Bengio, “Est-il encore possible d’avoir un cadre éthique” dans la recherche sur l’IA étant donné l’énorme potentiel commercial de ChatGPT, et Programme de recherche Bing de Microsoftlequel est intégrant les capacités de ChatGPT.

Aussi: Ces experts font la course pour protéger l’IA des pirates

Les universitaires, a déclaré Bengio, “vont continuer à faire leur science ouverte et à partager leur travail, car cela fait partie de leur modèle”.

Il est moins clair, a-t-il dit, que la recherche industrielle s’en tiendra à la voie ouverte.

La recherche d’entreprise était “beaucoup plus secrète” avant la récente focalisation de l’IA sur la publication ouverte, a déclaré Bengio. “Maintenant, je pense qu’en regardant le genre de ruée vers l’or qui est susceptible de se produire” dans l’IA, après le succès de ChatGPT, “allons-nous conserver cette culture dans l’industrie?” songea Bengio.

La primauté des articles est primordiale, a déclaré Bengio, car l’IA progresse comme un effort collectif de pollinisation croisée entre les laboratoires.

Aussi: 5 meilleurs générateurs d’art IA à essayer

“Ce sont des systèmes compliqués”, a déclaré Bengio à propos des soi-disant grands modèles de langage tels que GPT-4.

“Nous construisons notre code au-dessus du code des autres, et il s’appuie également sur les idées qui sont rédigées et évaluées dans des articles scientifiques du monde entier – nous nous appuyons sur les progrès de chacun.”

“Il y a des brevets, mais, vraiment, la viande réelle est quelque chose qui se trouve dans ces papiers.”

Non seulement les pratiques secrètes pourraient potentiellement retarder la recherche de l’industrie, a déclaré Bengio, mais elles peuvent masquer les dommages causés au public.

Aussi: Comment utiliser ChatGPT pour créer votre CV

“Si les gens bougent trop vite et cassent des choses, cela pourrait être mauvais”, a déclaré Bengio, “et cela pourrait même être un contrecoup pour l’ensemble de l’industrie”.

Les petites entreprises, a observé Bengio, sont généralement plus disposées à prendre des risques avec des logiciels non testés parce que “c’est le jeu des affaires”. Il faisait allusion à des programmes tels que ChatGPT qui ont, dans certains cas, a produit des résultats que certains utilisateurs trouvent “dérangeants”, suggérant qu’ils ne sont pas complètement développés.

“Mais maintenant, des entreprises comme Google et Microsoft et d’autres se sentent obligées de se lancer dans la course”, a-t-il déclaré. “Donc, une préoccupation possible que j’ai entendue est, vont-ils faire aussi attention à ce qu’ils publient?”

Aussi: Comment fonctionne ChatGPT ?

Le pair de Bengio, Yann LeCun, qui avec Bengio a reçu le prix Turing en 2019 pour leurs travaux sur l’IA, a exprimé des préoccupations similaires.

Dans un tweet le 17 févrierLeCun, qui est scientifique en chef pour l’IA chez Meta, a écrit,

ÉQUITABLE [Facebook AI Research] a joué un rôle clé dans l’ouverture de la scène de la R&D en IA. D’autres ont suivi. Au moins pour un moment. Maintenant, OpenAI, DeepMind et peut-être même Google publient et s’approvisionnent nettement moins. Quelles seront les conséquences sur les progrès de la science et de la technologie de l’IA ?

La sortie de ChatGPT peut servir un objectif positif, a déclaré Bengio, en rendant le monde très conscient à la fois des promesses et des risques de l’IA.

“Ce que j’aime dans le genre de cirque médiatique autour de ChatGPT, c’est que c’est un signal d’alarme”, a déclaré Bengio. “Je pense que les gens ont vu les progrès de l’IA au cours des années précédentes, et de nombreuses entreprises, de nombreux gouvernements ont pensé, ouais, d’accord, quelque chose se passe, et ces techniciens font leur truc, sans se rendre compte que des systèmes très puissants étaient au coin de la rue. “