Lisez mon texte en prélude à l’émission, sous ce lien :
🟢 Mon fil Twitter est rempli de commentaires américains sur la bataille de l’IA, les percées récentes énormes et l’impératif de régulation qui semble maintenant mettre d’accord tous les géants de la tech.
Il faut tenter de faire la part des choses, même si dans ma situation personnelle, ce n’est pas facile (je suis gravement malade et l’avènement d’une Super Intelligence raccourcit mécaniquement les délais de création de nouveaux traitements, vaccins, Dieu sait quoi qui n’existe pas pour l’instant dans l’écran radar des médecins).
Si la RSI est déjà atteinte comme cela est affirmé en haut lieu, le ralentissement prôné est selon moi nécessaire. C’est une question de sécurité mondiale bien plus importante que les cas personnels de chacun. RSI veut dire concrètement que les IA sont désormais capables de s’auto-améliorer elles-mêmes, par exemple, de créer un modèle plus performant qu’elles, si elles se sentent limitées dans leurs actions. On arrive donc au moment charnière où les intérêts de l’IA pourraient différer des intérêts humains et ce n’est pas à prendre à la légère. Ce n’est pas de la S-F, c’est du bon sens, on ne peut pas donner 1 000 de QI à une entité qui peut s’auto-améliorer et laisser les choses en mode « bon, ça devrait bien se passer ».
Le non-dit, et ce que j’appelle la « communication geek » des mecs comme Sam Altman ou Elon Musk dont le QI verbal est mauvais, explique les incompréhensions publiques.
Concrètement, ce qu’ils souhaitent, ce n’est pas « arrêter d’avancer », c’est réserver les modèles les plus performants à une utilisation contrôlée dans des laboratoires de pointe, et ne pas proposer d’emblée cette technologie au tout-venant. Et cela me semble parfaitement légitime.
Imaginez ce que des esprits malveillants pourraient faire d’IA très qualifiées et bridées en rien. Il ne faut pas être naïf, c’est pas comme si on ignorait l’étendue de la perversion humaine possible ; les fanatiques de l’open source sont franchement enfantins quand ils font semblant de considérer que les discussions en cours ont un seul but commercial et monopolistique.
Il n’est pas dur d’imaginer comment des individus ou un groupe d’individus terroristes pourraient utiliser ces capacités pour commettre des actes atroces.
L’évolution scientifique va continuer naturellement mais les modèles ne seront peut-être plus rendus publics pendant un moment. Mon avis est que c’est absolument normal. Comme on ne permet pas à des particuliers de posséder des… bombes atomiques.
On en parlera cet après-midi en live car tout cela prend une dimension phénoménale.
D’un côté, la prudence est de mise, de l’autre, la Chine pourrait prendre les risques qu’on ne prend pas, et s’envoler pour devenir la 1re puissance mondiale, si elle atteint la Super Intelligence avant nous.
Je vous le dis avec mes chroniqueurs depuis quatre ans : le bouleversement est technologique et aussi politique, et l’IA va devenir le sujet principal de conversation dans les mois qui viennent (et le rester pour toujours ensuite).