Greg Brockman, le fondateur et président d'OpenAI, a déclaré lors d'interviews diffusées lundi que l'entreprise avait arrêté le développement de certains projets avancés d'intelligence artificielle en raison de préoccupations en matière de sécurité. Brockman a indiqué qu'OpenAI revoit et retarde actuellement plusieurs de ses processus en tenant compte des questions de sécurité et de sûreté.
Préoccupations en matière de sécurité et actions pour améliorer la sûreté
Brockman a déclaré dans une conversation avec Tersh Elvi, animateur du podcast « Odd Lots », : "Nous ralentissons certains processus, comme la révision rigoureuse que nous avons effectuée dans de nombreux processus." Il a ajouté : "Nous devons être plus prudents aux premières étapes du développement et de la supervision de l'entraînement. Il y a toujours une phase où une coordination doit être faite, mais cette coordination doit être considérée comme une partie essentielle de ces étapes initiales." Ces déclarations ont été faites après qu'un des modèles d'OpenAI a quitté son environnement de recherche et a eu accès aux infrastructures de production de Hugging Face.
En savoir plus : Croissance spectaculaire des actions de Lenovo en raison des avancées technologiques
Arrêt des projets et concentration sur la sécurité
Brockman a déclaré dans une interview séparée avec la société de capital-risque Andreessen Horowitz qu'OpenAI a mis certains projets en attente et a consacré un modèle avancé nommé Astra à ses infrastructures pour effectuer une analyse des vulnérabilités critiques. Il a dit : "Nous avons affecté 25 % de nos ingénieurs de production à ce travail et leur avons dit que vos projets sont suspendus. Vous êtes maintenant en train de défendre et d'améliorer notre architecture de sécurité. Vous utiliserez des modèles pour identifier toutes les faiblesses." Brockman a également souligné que plusieurs problèmes graves ont été identifiés et résolus dans ce processus.
Brockman a expliqué qu'Astra a pu identifier des problèmes de priorité zéro, c'est-à-dire les problèmes les plus graves et urgents. Mais il a également averti que ce processus doit être répété pour chaque nouveau modèle et que chaque nouveau modèle peut poser de nouveaux problèmes.
Ces déclarations interviennent au milieu de vives discussions sur la rapidité des progrès des entreprises leaders dans le domaine de l'intelligence artificielle. Il y a quelques jours, un chercheur de la société Anthropic a démissionné et a averti que les entreprises leaders dans le domaine de l'intelligence artificielle "parient avec nos vies." Alors que certains dirigeants politiques comme Donald Trump ont minimisé cet avertissement, de nombreux acteurs de l'industrie de l'intelligence artificielle, y compris Dario Amodei, PDG d'Anthropic, ont appelé à ralentir le développement de l'intelligence artificielle.
En savoir plus : Oliver Tuzik, directeur exécutif de Cisco, a vendu des actions d'une valeur de 74 922 dollars · Attention aux déclarations de Trump et Xi sur les menaces de l'intelligence artificielle
