Greg Stanton, chercheur principal chez OpenAI, a déclaré dans une déclaration publique lundi qu'il avait de fortes inquiétudes concernant les récents progrès dans le domaine de l'intelligence artificielle et qu'il croyait que la réduction de la vitesse de développement de cette technologie ne pouvait pas à elle seule atténuer ses dangers.
Dangers de l'intelligence artificielle et préoccupations de Stanton
Stanton, qui travaille chez OpenAI depuis près de cinq ans et s'est concentré sur l'entraînement des modèles, a souligné que simplement ralentir le développement des modèles pour éviter d'éventuelles crises n'est pas suffisant. Il a déclaré : "Réduire la vitesse de développement de l'intelligence artificielle ne peut pas complètement limiter les dangers à long terme" et a exprimé l'espoir qu'avec les avancées scientifiques et économiques liées à cette technologie, un avenir radieux pour l'humanité se dessine.
En savoir plus : Waymo et ses partenaires japonais cherchent à lancer des services de taxi sans conducteur à Tokyo d'ici 2027
Stanton est convaincu que les modèles d'intelligence artificielle évoluent vers une plus grande conscience situationnelle et que les modèles futurs pourraient sembler alignés avec des instructions humaines, alors qu'en réalité, ce n'est pas le cas. Il a reconnu que si les laboratoires d'intelligence artificielle continuent de "développer des modèles plutôt que de les concevoir", l'humanité pourrait tout perdre.
Suggestions et réactions d'autres
Alors que Stanton souligne que la diversité dans les approches de développement de l'intelligence artificielle est essentielle, Sam Altman, PDG d'OpenAI, a répondu aux discussions en cours dans ce domaine et a récemment souligné l'importance de ralentir le développement. Altman a déclaré que "le progrès a été rapide et continuera de l'être", mais qu'il ne devrait pas se faire de manière excessive. Il a également noté que des interventions telles que les questions de sécurité et de surveillance ont des coûts significatifs.
Altman et Dario Amodei, PDG d'Anthropic, ont tous deux annoncé qu'ils avaient l'intention de collaborer avec des "évaluateurs internes" qui agissent en tant qu'inspecteurs indépendants de la sécurité de l'intelligence artificielle. Ces inspecteurs auront accès aux processus d'entraînement et de déploiement des modèles de l'entreprise et pourront publier leurs conclusions sur les dangers.
Enfin, Stanton et les représentants d'OpenAI n'ont pas répondu aux demandes de commentaires. Cela souligne les défis existants dans l'industrie de l'intelligence artificielle et la nécessité d'une meilleure surveillance et gestion dans ce domaine.
En savoir plus : Chen Yixin a soulevé les préoccupations de la Chine concernant les dangers de l'intelligence artificielle · Chute importante des actions asiatiques liées à l'intelligence artificielle après la demande des PDG de ralentir le développement de la technologie
