JCA Bayonne

--------------------
INTELLIGENCE ARTIFICIELLE
Les vrais enjeux du limogeage de Sam Altman ( extraits du magazine "Le Point" ).
Un vrai Western. Le créateur de ChatGPT a été débarqué, à la surprise générale, de son poste chez OpenAI. 
Derrière ce coup de force, différentes conceptions de l'intelligence artificielle s'affrontent.

C'est un de ces psychodrames dont la Silicon Valley a le secret. Comparable au remake de l'éviction, en 1985, de Steve Jobs de la tête d'Apple, l'entreprise qu'il avait cocréée, par John Sculley, un ex de Pepsi qu'il avait lui-même recruté. Le soir où il avait appris sa mise à pied, Jobs avait passé la nuit recroquevillé sur son matelas, posé à même le sol de son gigantesque manoir de Jackling House, Woodside en en Californie, à quelques mètres de la maison de son ancien amour, Joan Baez. En Californie vient de se jouer un thriller du même genre, qui sera peut être un jour adapté au cinéma. 

Le pitch? La star du moment, le créateur de ChatGPT, Sam Altman, qui dirigeait OpenAI depuis huit ans, l'organisation qui a conçu le logiciel d'intelligence artificielle dont tout le monde parle, ChatGPT, et qui était valorisée cet automne 86 milliards de dollars, s'est fait débarquer violemment et sans sommation une veille de week-end par son conseil d'administration. Stupeur et tremblements dans la Silicon Valley. Derrière le coup d'État, il est question de luttes de pouvoir et de querelles d'ego entre des personnalités d'exception. Il est aussi question d'argent, de beaucoup d'argent.... Rien de très original jusque là. Mais l'enjeu politique, philosophique, social, qui se cache derrière ses querelles très humaines est d'une tout autre ampleur: il s'agit ni plus ni moins du destin de l'homme face à la machine, dans un nouvel environnement, plein d'opportunités et de risques, celui d'une intelligence artificielle incroyablement puissante.

Le protagoniste de l'histoire, Sam Altman, est un Américain de 38 ans aux yeux verts, adepte des baskets bleu électrique, membre éminent de l'establishment de la tech américaine. Invité régulier de la très sélecte conférence de Sun Valley (Californie), qui rassemble la crème de la crème du secteur, il côtoie aussi bien le PDG d'Apple, Tim Cook, que celui de Disney, Bob Iger, ou encore la présidente du géant des médias Viacom, Shari Redstone. Depuis quelques mois, on ne parle plus que de lui. Il a été reçu comme un chef d'Etat par les dirigeants de la planète, du Premier ministre indien, Narendra Modi, au président sud-coréen, Yoon Suk-yeol-, et on ne compte pas ses visites à la Maison-Blanche. 
En effet, après avoir avoir partic participé à la création du générateur d'images Dall-E, il a révolutionné le monde de l'intelligence artificielle en mettant au point et en rendant accessible au public le robot conversationnel ChatGPT depuis le mois de novembre 2022. Aujourd'hui utilisé par plus de 1oo millions de personnes dans le monde, ce robot sait tout faire ou presque : vous conseiller sur une recette de cuisine en fonction des aliments qui trainent dans. votre frigo, créer un site web à partir d'un croquis ou vous informer, à partir d'une simple photo, sur la pièce à changer dans le moteur de votre voiture en panne. 
Que de chemin parcouru depuis son enfance dans une banlieue tranquille de Saint-Louis, deuxième plus grande ville du Missouri, et depuis la découverte du Macintosh LC II, offert par sa mère dermatologue. Celui qui est crédité d'u 'une fortune de 700 millions de dollars fréquente alors l'école John-Burroughs, avant de rejoindre l'université californienne de Stanford, où il suit des cours d'informatique. Fan de poker, il fonde avec son compagnon de l'époque, Nick Sivo, Loopt, une entreprise qui propose de la publicité sur téléphone portable en fonction de la géolocalisation. Le duo revendra la société 43 millions de dollars en 2012. Cette jeune société avait bénéficié d'une bourse de l'accélérateur de start-up "Y Combinator". Le docteur en philosophie britannique Paul Graham, fondateur de cette couveuse de start-up, repère le talentueux Altman et décide de lui confier les rènes en 2014. Un an plus tard, Altman crée OpenAL, un laboratoire en intelligence artificielle dont le but est noble : rendre les recherches accessibles à tous. Dans l'aventure, il enrôle Peter Thiel, rencontré chez YC, Greg Brockman, un génial programmeur passé par Stripe, et un certain... Elon Musk. Au départ, tout le monde s'accorde sur la feuille de route. 
Mais, peu à peu, la petite équipe est rattrapée par la réalité. En 2019, OpenAI, créée au départ comme une entité à but non lucratif, a un cruel besoin d'argent. Sam Altman, qui a rencontré Satya Nadella, PDG de Microsoft, à Sun Valley, propose à Microsoft d'entrer au capital. 

La structure change de statut, devient une entité à but lucratif limité. Après un premier chèque d'un milliard de dollars, Microsoft aurait au total injecté près de 13 milliards de dollars dans le projet, en échange, notamment, d'un pourcentage sur la vente de la version professionnelle de ChatGPT. Cet investissement n'est pas du goût d'Elon Musk, qui quitte le projet en 2019. Le 17 février 2023, le PDG de Tesla va même jusqu'à partager sur son réseau social X: « Open AI a été créée en tant qu'entreprise à but non lucratif et à code source ouvert ( c'est pourquoi je l'ai baptisée "Open" AI) pour servir de contrepoids à Google, mais elle est devenue une entreprise à code source fermé et à but lucratif maximal, contrôlée de fait par Microsoft. » Depuis, Elon Musk a lancé xAI, sa propre société en intelligence artificielle, tout comme Grok, son propre robot conversationnel, qu'il veut "moins woke" que ChatGPT. Cette animosité a vraisemblablement pesé dans le limogeage de Sam Altman...

Greg Brockman, président du conseil d'administration d'Open AI, reçoit un appel: le directeur général Altman est out, l'intérim est assuré par la responsable technologique Mira Murati, ingénieure albanaise passionnée de mathématiques et formée au Canada. Heurté, Brockman raconte le lendemain dans un tweet écrit à la troisième personne:
"Sam et moi sommes choqués et attristés par ce que le conseil d'administration a fait aujourd'hui.

[...]Nous aussi, nous essayons toujours de comprendre exactement ce qui s'est passé. Voici ce que nous savons:
- Hier soir, Sam a reçu un texto d'Ilya demandant à lui parler vendredi midi. Sam a rejoint un Google Meet et tout le conseil d'administration, à l'exception de Greg, était là. Ilya a dit à Sam qu'il était licencié et que la nouvelle serait publiée très bientôt.
-A 12h 19, Greg a reçu un SMS d'Ilya demandant un appel rapide. A 12h 23, Ilya a envoyé un lien Google Meet. Greg a été informé qu'il était démis du conseil d'administration (mais qu'il était vital pour l'entreprise et qu'il conserverait son rôle) et que Sam avait été licencié. A peu près au même moment, OpenAI a publié un communiqué. »

Mira Murati sera nommée DG par intérim avant d'être remplacée deux jours plus tard par Emmett Shear, ancien dirigeant de Twitch. A la manœuvre dans le renversement d'Altman, on trouve Ilya Sutskever, qui a été le premier directeur de recherche d'OpenAI et en est devenu directeur scientifique en 2018. Né en 1985 à Nijni Novgorod, une ville alors située en Union soviétique, il émigre avec sa famille en Israël et obtient un doctorat en informatique à l'université de Toronto. Il participe notamment à la création d'AlphaGo, un logiciel connu pour avoir terrassé, en 2017, les meilleurs de la discipline au jeu de go en Corée du Sud. Sutskever a réussi à emporter avec lui les voix de la majorité des membres du conseil, qui compte également le directeur de Quora, Adam D'Angelo, l'entrepreneuse Tasha McCauley (épouse à la ville de l'acteur Joseph Gordon-Levitt) et Helen Toner, directrice de la stratégie au Center for Security and Emerging Technology.
Que s'est-il passé? Sam Altman a certes parfois agacé en interne. Son style était devenu, aux yeux de certains, un peu trop "perso", comme lors de la key note du 6 novembre, où il est apparu seul en scène pour présenter les dernières nouveautés d'OpenAI. Pourquoi une telle assurance alors que l'avance technologique d'OpenAI commence à s'effriter ? Google devrait faire une annonce en matière d'intelligence artificielle dans les prochaines semaines et les nouveautés se multiplient chez Anthropic, qui a créé son propre robot conversationnel, Claude, ou encore Inflection AI, avec son chatbot Pi. Sans parler des acteurs français très prometteurs comme "MistralAI", ou encore "Kyutai", centrés sur une transparence des logiciels (open source) digne des débuts d'OpenAI, dont certains en interne sont encore nostalgiques.

Pourtant, d'après les témoignages que Le Point a pu recueillir, ce licenciement a aussi été motivé par les craintes des dérives de l'intelligence artificielle générale (AGI, en anglais, pour Artificial General Intelligence). Ce concept suppose que l'IA sera, dans un futur assez proche, à même de dépasser l'homme dans toutes ses fonctions cognitives. Adam D'Angelo en est persuadé.: "L'AGI sera probablement l'événement le plus important de l'histoire du monde et il se produira de notre vivant. " Avant de poursuivre: « Nous (ou nos descendants artificiels) regarderons en arrière et diviserons l'histoire en époques pré-AGI et post-AGI, de la même manière que nous regardons aujourd'hui les temps préhistoriques et modernes. >> C'est le rapport de Sam Altman à cette intelligence artificielle générale qui a vraisemblablement motivé son limogeage par le conseil d'administration.g Ces derniers temps, Altman, qui avait multiplié les annonces fracassantes lors de sa dernière keynote, semblait embarqué dans une fuite en avant, et paraissait avoir perdu le recul et la prudence nécessaires au déploiement de ces nouvelles technologies. On lui reprochait aussi d'avoir fait entrer le loup Microsoft dans la bergerie associative d'OpenAI... Mais, sans argent, comment investir? Innover? Changer le monde? En juillet dernier, Ilya Sutskever a pris la direction d'une équipe consacrée au «superalignement», qui s'emploie à développer des solutions technologiques pour superviser une IA au cas où elle devienne un jour plusintelligente que les humains. Le trentenaire ne prend pas cette menace à la légère et explique que «l'immense pouvoir de la superintelligence pourrait aussi être très dangereux et conduire à la déresponsabilisation de l'humanité, voire à son extinction. Bien que la superintelligence semble encore loin, nous pensons qu'elle pourrait arriver au cours de cette décennie». Pour mener à bien ce projet, Sutskever a mobilisé 20% de la capacité de calcul d'OpenAI.

Ce qui a créé des tensions avec Sam Altman, la capacité de calcul étant décisive pour répondre aux requêtes des utilisateurs de ChatGPT. Cette peur de l'IA nourrit les discussions dans la Silicon Valley. Pour preuve, un diner sur ce thème, le 15 novembre, partagé par Steve Jurvetson, homme d'affaires milliardaire et capital risqueur, auquel a participé Reid Hoffman, un des compagnons de route d'OpenAl et créateur de LinkedIn, et d'autres grands noms de la tech. Ils ont notamment évoqué le «basilic de Roko»: un scénario décrivant un futur dans lequel une IA torture éternellement des copies de nous mêmes... Prévenu après la destitution d'Altman, Satya Nadella, le PDG de Microsoft, pourtant principal financeur d'OpenAI, a bataillé tout le week-end pour que le
trentenaire retrouve son poste de numéro un. En vain. Nadella a ensuite proposé à Sam Altman de rejoindre Microsoft, ce que ce dernier aurait accepté, tout comme Greg Brockman. Le duo, qui dirigerait une nouvelle unité de recherche clé, serait très précieux pour Microsoft, qui, avec son logiciel Copilot, a mis l'intelligence artificielle au cœur de sa stratégie. À l'issue de ce jeu de chaises musicales, Sam Altman sort paradoxalement renforcé. Car, en rejoignant Microsoft, il a signé chez la maison mère... d'OpenAI. «Il n'y aurait pas d'OpenAI sans Microsoft», s'est enthousiasmé le 21 novembre Satya Nadella. Selon le site spécialisé Wired, qui a publié la lettre, plus de 730 des 770 employés d'OpenAI, dont la plupart des cadres dirigeants, ont menacé de quitter le groupe en cas de refus des administrateurs de renoncer à leur mandat.... Ambiance. D'autres rebondissements sont prévisibles. Sam Altman, en attendant, ne sort pas indemne de cet épisode. Avec cette éviction surprise, il a expliqué vivre «une expérience étrange à bien des égards. Mais ce qui est inattendu, c'est que cela a été un peu comme lire votre propre éloge funèbre de votre vivant .