Le cofondateur et ancien scientifique en chef d’OpenAI, Ilya Sutskever, a levé 1 milliard de dollars pour sa nouvelle startup technologique qui prévoit de répondre aux problèmes de sécurité et d’éthique liés à l’intelligence artificielle (IA).

Sutskever a fondé sa nouvelle startup Safe Superintelligence Inc. (SSI) en juin, et les investissements initiaux obtenus auprès de sociétés de capital-risque renommées – notamment NFDG, a16z, Sequoia Capital, DST Global et SV Ange – révèlent à quel point l’inquiétude est grande quant aux risques associés aux avancées rapides de l’IA.

La forte demande en matière de sécurité et de garde-fous liés à l’IA est constatée dans toute la main-d’œuvre américaine. 75 % des travailleurs américains s’inquiètent toujours des effets néfastes de l’IA aux pertes d’emplois, et 77 % des adultes qui travaillent déclarent avoir un certain manque de confiance dans les entreprises pour utiliser l’IA de manière responsable – 44 % d’entre eux déclarant n’avoir « pas beaucoup confiance » et 33 % révélant n’avoir aucune confiance du tout.

Bien qu’aucun produit ne soit encore sur le marché et que l’entreprise n’existe que depuis trois mois et compte 10 employés, Reuters rapporte que l’investissement valorise la startup technologique à 5 milliards de dollars. Il semblerait que l’entreprise utilisera l’investissement initial pour recruter une équipe de chercheurs et d’ingénieurs talentueux.

Plusieurs les analystes estiment que le financement fournira à l’entreprise avec les moyens nécessaires pour rivaliser au plus haut niveau dans le domaine. Le financement et la valorisation ultérieure permettent à l’entreprise d’attirer les meilleurs talents dans le domaine de niche et en plein essor de la sécurité de l’IA. Cela montre également à quel point la concurrence pour les développeurs et chercheurs talentueux en IA est devenue intense depuis le lancement initial de ChatGPT en novembre 2022.

TL’accent particulier mis sur la sécurité et les considérations éthiques distingue SSI des autres développeurs d’IA, notamment OpenAI, Google AI, Meta AI et d’autres. rapporte que Sutskever il a cofondé SSI avec Daniel Gross, qui a supervisé les efforts d’Apple en matière d’IA et de recherche, et un autre ancien employé d’OpenAI, Daniel Levy.

Pour l’ensemble des salariés, la création d’entreprises comme SSI pourrait signifier que l’industrie mettrait davantage l’accent sur les mesures de protection de l’IA, qui auraient une influence directe sur l’avenir du travail. Cela pourrait apaiser certaines craintes concernant les suppressions d’emplois et l’utilisation abusive de la technologie.

Alors que d’autres entreprises d’IA privilégient les avancées de pointe, l’accent mis par SSI sur l’éthique pourrait influencer des pratiques industrielles plus larges et créer de nouveaux rôles centrés sur la gouvernance, la sécurité et la politique de l’IA.

Environnements réglementaires pour L’IA devient de plus en plus stricteet des entreprises comme SSI seront bien placées pour jouer un rôle majeur dans le développement futur de l’IA et de sa réglementation. L’engagement de la start-up en faveur d’un développement responsable de l’IA pourrait servir de modèle à d’autres entreprises du secteur, ouvrant potentiellement la voie à des technologies d’IA plus sûres et plus éthiques.

Sutskever a quitté le conseil d’administration d’OpenAI en novembre 2023 ainsi que les membres du conseil d’administration Helena Toner et Tasha McCauley. Tous trois avaient auparavant voté pour révoquer Sam Altman du conseil d’administration de la société. Le New York Times rapporte que les membres démissionnaires du conseil d’administration étaient préoccupés par le rythme rapide du développement de l’IA qui a conduit à la brève éviction d’Altman de l’entreprise.