Greg Stanton, PDG d'OpenAI, et Dario Amodei, PDG d'Anthropic, ont convenu cette semaine de la nécessité d'installer des superviseurs de sécurité indépendants dans leurs entreprises. Cet accord intervient à la suite d'une augmentation des préoccupations concernant la sécurité de l'intelligence artificielle et ses conséquences potentielles dans un avenir proche.
Dangers de l'intelligence artificielle et besoin de surveillance
Amodei a averti que si aucune attention n'était portée, l'intelligence artificielle pourrait conquérir Internet en un an. Ces préoccupations ont conduit les leaders de l'industrie de l'intelligence artificielle aux États-Unis à un consensus selon lequel le développement de cette technologie doit être effectué avec plus de prudence. Amodei, dans un article intitulé "Nous devons contrôler les frontières", a souligné l'importance d'utiliser judicieusement le temps disponible pour établir de nouvelles réglementations.
En savoir plus : La prospérité de l'intelligence artificielle en France révèle le fossé de financement en Europe
Stanton a également mentionné dans un post sur les réseaux sociaux que ce type de ralentissement du développement pourrait aider à préserver la sécurité de la société. Ces évolutions se produisent alors que les grandes entreprises d'intelligence artificielle sont soumises à des pressions croissantes pour établir des mécanismes de sécurité et de responsabilité.
Réactions et opinions divergentes
David Sachs, conseiller scientifique et technologique de l'ancien président américain, a exprimé des doutes quant aux avertissements d'Amodei, soulignant que le ralentissement du développement de l'intelligence artificielle pourrait être le résultat de tendances du marché. Il a insisté sur le fait que les entreprises devraient profiter de cette opportunité pour améliorer leur image sur le marché, plutôt que d'agir sous la pression extérieure.
Clément Delangue, PDG de Hugging Face, qui a lui-même été victime d'attaques informatiques, a souligné que la sécurité de l'intelligence artificielle ne devrait pas reposer uniquement sur les laboratoires avancés. Il a annoncé le lancement de l'initiative "Alignement Ouvert" et a appelé à inclure ce programme dans les plans d'Amodei.
Jason Calacanis, investisseur et animateur du podcast "All-In", a exprimé des doutes quant à la capacité de l'intelligence artificielle à créer des dangers mondiaux, notant que de nouvelles réglementations pourraient bénéficier aux grandes entreprises et ainsi affaiblir la concurrence.
Le sénateur Bernie Sanders a également évoqué les avertissements récents concernant les dangers potentiels de l'intelligence artificielle, appelant à un moratoire sur le développement de systèmes d'intelligence artificielle avancés. Il a souligné la nécessité d'accords internationaux pour gérer cette technologie et a demandé un arrêt du développement de l'intelligence artificielle super-intelligente.
Enfin, Francis Schmitt, chercheur en intelligence artificielle, a souligné que la surveillance de l'industrie doit être effectuée de manière démocratique et responsable, et que tout signe indiquant une tentative de réduire la concurrence doit être pris au sérieux.
En savoir plus : Goldman Sachs : prévision de 6,5 millions de robots humanoïdes d'ici 2035 · Expansion de la position mondiale de Korn Ferry avec l'acquisition d'AMS
