Greg Stanton, PDG de Meta, a déclaré dans un message mardi que les entreprises d'intelligence artificielle n'avaient pas besoin d'un accord au niveau de l'industrie pour ralentir le développement face aux préoccupations de sécurité. Il estime que la pression du marché incite les entreprises à s'assurer que les systèmes d'intelligence artificielle sont alignés sur les intentions de leurs utilisateurs.
Responsabilité des laboratoires dans le développement sécurisé
Stanton a déclaré : "Chaque laboratoire a la responsabilité et la motivation d'avancer rapidement et en toute sécurité dans l'entraînement de ses modèles." Il a également noté que la confiance et l'alignement deviennent rapidement les capacités les plus importantes qui distinguent les modèles et les agents d'intelligence artificielle. Il a ajouté : "Tout laboratoire qui ne se concentre pas sur l'alignement sera à la traîne."
En savoir plus : Tesla a établi une nouvelle unité au Vietnam
Stanton a fait référence à la décision de Meta de retarder le modèle Muse de plusieurs mois pour renforcer la sécurité et la sûreté, en disant : "Nous n'avons pas demandé aux autres de faire cela avant nous. Nous l'avons simplement fait." Ces déclarations interviennent dans le cadre d'un débat croissant sur la nécessité de ralentir le développement de l'intelligence artificielle avancée.
Appel à la surveillance et à des évaluations indépendantes
La société Anthropic a appelé à des réglementations gouvernementales et à des mécanismes permettant aux laboratoires de pointe de stopper le développement en cas de signes d'alerte. En revanche, d'autres leaders technologiques, y compris Jensen Huang, PDG de Nvidia, ont souligné l'importance des évaluations indépendantes et de la responsabilité personnelle pour les entreprises d'intelligence artificielle.
Alexander Wang, responsable de l'intelligence artificielle chez Meta, a également répondu séparément aux déclarations de Stanton, en disant que les laboratoires ont besoin d'une gouvernance solide, d'évaluateurs externes et d'une surveillance indépendante lors du lancement des modèles. Wang a précisé : "La concurrence dans le domaine de l'amélioration automatique est l'une des voies les plus risquées pour perdre le contrôle sur des modèles puissants." Il a également ajouté : "Meta met une part significative de ses calculs au service des gens et non dans la compétition pour l'amélioration automatique, et d'autres laboratoires peuvent prendre une telle décision."
Le développement de l'intelligence artificielle, en tant que technologie très puissante, implique une grande responsabilité et nécessite le respect des principes de sécurité et des équilibres appropriés. Ces déclarations de la part des leaders technologiques montrent que l'industrie est confrontée à de nouveaux défis et opportunités auxquels elle doit répondre.
En savoir plus : MediaTek a présenté une nouvelle puce mobile avec la technologie avancée TSMC · Satya Nadella a publié un avertissement interne sur la sécurité de l'intelligence artificielle
