OpenAI Q* : faut-il avoir peur de cette nouvelle IA surpuissante ?

La crise que traverse OpenAI avec Sam Altman a révélé l'existence du projet secret Q* : une IA superpuissante de nouvelle génération, capable de raisonner comme un cerveau humain, et, à terme, de "menacer l'humanité".

Les derniers jours ont été particulièrement mouvementés chez OpenAI, depuis que le PDG de l'entreprise, Sam Altman, a été licencié par le conseil d'administration, le vendredi 17 novembre. Un véritable choc auquel personne ne s'attendait et qui a plongé la firme dans la tourmente. Sans perdre de temps, Microsoft avait alors proposé de l'embaucher pour qu'il travaille, lui et son équipe, dans une nouvelle entreprise consacrée au développement de l'intelligence artificielle au sein du géant logiciel, dont Sam Altman serait le CEO. Toutefois, la majorité des 700 employés d'OpenAI ont menacé de démissionner si ce dernier n'était pas réintégré. Après des négociations serrées, OpenAI annonçait le 22 novembre que le co-fondateur de l'entreprise récupérait son poste de président-directeur général. Un véritable feuilleton !

Mais une question est sur toutes les lèvres : pourquoi ? Pourquoi se séparer du cerveau de l'entreprise – avec Greg Brockman –, celui derrière le succès et la révolution de ChatGPT ? De nombreuses théories n'ont pas tardé à fleurir sur X (anciennement Twitter), certaines accusant Ilya Sutskever, un membre du conseil d'administration et co-créateur d'OpenAI, d'être à l'origine de la fronde. Mais selon les sources de l'agence de presse Reuters, la pomme de discorde serait un mystérieux projet du nom de Q* (à prononcer "Q star").

OpenAI Q* : une intelligence artificielle générale en développement

Selon Reuters, des chercheurs auraient envoyé une lettre au conseil d'administration quelques jours avant la décision de licencier leur PDG, l'avertissant d'une puissante découverte en matière d'intelligence artificielle qui pourrait "menacer l'humanité", de par son extrême puissance : Q*. D'après la source de l'agence, cette missive et la mystérieuse intelligence artificielle feraient partie des causes du licenciement de Sam Altman. Le conseil d'administration serait en effet particulièrement préoccupé par la commercialisation trop hâtive d'IA surpuissantes, avant de vraiment en comprendre réellement les conséquences. Reuters a pu interroger deux sources concordantes sur le sujet, mais n'a pas pu lire la lettre en question ni recevoir de commentaire officiel de la part d'OpenAI.

De ce que l'on sait, Q* se rapprocherait d'une AGI, pour Artificial General Intelligence. Il s'agit d'une IA fonctionnant de manière similaire à un cerveau humain, ce qui lui permettrait, en théorie du moins, d'effectuer les mêmes tâches. Pour l'instant, Q* est capable de résoudre certains problèmes mathématiques du niveau d'un élève du primaire, ce qui est franchement impressionnant. On parle d'une IA qui serait capable d'apprendre et de comprendre de plus en plus de choses, en autonomie, et pas simplement de "piocher" dans les données, comme le fait ChatGPT. Si l'on s'inquiète déjà des conséquences de la montée de l'intelligence artificielle dans le monde du travail, les AGI bouleverseraient complètement notre modèle économique, puisque plus rien n'empêcherait les entreprises d'y avoir recours plutôt qu'à leurs employés humains. Il y a quelques mois, Ilya Sutskever publiait un article de blog sur la notion de "superintelligence", capable de survenir "cette décennie". Celle-ci est décrite comme "la technologie la plus percutante que l'humanité ait jamais inventée", mais en contrepartie, pourrait aussi "être très dangereuse et conduire à la marginalisation de l'humanité ou même à l'extinction humaine".

Toujours est-il que cette lettre, ajoutée au teasing public effectué par Sam Altman la veille de son licenciement, aurait conduit le conseil d'administration à se débarrasser de ce dernier. Cette information est d'autant plus probable que plusieurs membres du conseil appartiennent au mouvement Effective altruism, qui milite pour une limitation des capacités de l'intelligence artificielle. Il y aurait une division de nature éthique au sein d'OpenAI, qui se cristalliserait par l'opposition Sam Altman et Ilya Sutskever. Là où Ilya Sutskever veut avancer prudemment sur l'intelligence artificielle, afin d'éviter des dérives, Altman veut au contraire accélérer, bien aidé par le soutien de Microsoft.

Comme le soulignent certains observateurs, tout ce drama représente le triomphe de l'entrepreneur sur le scientifique, tout en relançant le débat sur la sécurité des intelligences artificielles : va-t-on trop vite ? Ces IA peuvent-elles profiter à toute l'humanité ou sont-elles dangereuses ? Autant de questions qui divisent actuellement la communauté. Reste qu'aujourd'hui, Sam Altman est de retour aux commandes d'OpenAI avec un nouveau conseil d'administration, qui est certainement plus favorable à sa vision de l'IA que l'ancien. De quoi inciter les gouvernements à encadrer de toute urgence le secteur de l'intelligence artificielle ?