Ilya Sutskever, ancien scientifique en chef d’OpenAI, lance une nouvelle société d’IA

Ilya Sutskever, l’un des cofondateurs d’OpenAI, a lancé une nouvelle société, Safe Superintelligence Inc. (SSI), un mois seulement après avoir officiellement quitté OpenAI. M. Sutskever, qui a longtemps été le scientifique en chef d’OpenAI, a fondé SSI avec Daniel Gross, ancien partenaire de Y Combinator, et Daniel Levy, ancien ingénieur d’OpenAI.
Chez OpenAI, M. Sutskever a joué un rôle essentiel dans les efforts déployés par l’entreprise pour améliorer la sécurité de l’IA face à l’essor des systèmes d’IA « superintelligents », un domaine sur lequel il a travaillé aux côtés de Jan Leike, qui a codirigé l’équipe « Superalignment » d’OpenAI. Cependant, Sutskever et Jan Leike ont tous deux quitté l’entreprise de manière spectaculaire en mai, après s’être brouillés avec la direction d’OpenAI sur la manière d’aborder la sécurité de l’IA. Leike dirige aujourd’hui une équipe chez Anthropic, une entreprise rivale spécialisée dans l’IA.

Cela fait longtemps que Sutskever met en lumière les aspects les plus épineux de la sécurité de l’IA. Dans un billet de blog publié en 2023, Sutskever, en collaboration avec Leike, prédit que l’IA dotée d’une intelligence supérieure à celle de l’homme pourrait arriver dans la décennie – et que lorsqu’elle arrivera, elle ne sera pas nécessairement bienveillante, ce qui nécessitera des recherches sur les moyens de la contrôler et de la restreindre

Aujourd’hui, il est manifestement plus engagé que jamais dans cette cause. Mercredi après-midi, un tweet annonçant la création de la nouvelle société de Sutskever indique que : « SSI est notre mission, notre nom et l’ensemble de notre feuille de route, car c’est notre seul objectif. Notre équipe, nos investisseurs et notre modèle d’entreprise sont tous alignés pour atteindre SSI. Nous abordons la sécurité et les capacités en tandem, comme des problèmes techniques à résoudre grâce à une ingénierie révolutionnaire et à des percées scientifiques ».

« Nous prévoyons de faire progresser les capacités aussi rapidement que possible tout en veillant à ce que notre sécurité reste toujours en tête. De cette manière, nous pouvons évoluer en toute sérénité. Notre objectif unique signifie que nous ne sommes pas distraits par les frais généraux de gestion ou les cycles de production, et notre modèle d’entreprise signifie que la sûreté, la sécurité et le progrès sont à l’abri des pressions commerciales à court terme ». M. Sutskever s’est entretenu plus en détail avec Bloomberg au sujet de la nouvelle entreprise, mais il a refusé de parler de sa situation financière ou de son évaluation.

Source