Greg Stanton, CEO von OpenAI, und Dario Amodei, CEO von Anthropic, stimmten diese Woche darin überein, dass unabhängige Sicherheitsüberwacher in ihren Unternehmen installiert werden müssen. Diese Vereinbarung erfolgt vor dem Hintergrund wachsender Bedenken hinsichtlich der Sicherheit von Künstlicher Intelligenz und ihrer potenziellen Auswirkungen in naher Zukunft.
Gefahren der Künstlichen Intelligenz und die Notwendigkeit von Aufsicht
Amodei warnte, dass Künstliche Intelligenz das Internet innerhalb eines Jahres erobern könnte, wenn nicht darauf geachtet wird. Diese Bedenken haben dazu geführt, dass die Führungskräfte der KI-Industrie in den USA zu dem Konsens gekommen sind, dass die Entwicklung dieser Technologie mit mehr Vorsicht erfolgen sollte. Amodei betonte in einem Artikel mit dem Titel "Wir müssen die Grenzen kontrollieren", dass die vorhandene Zeit weise genutzt werden sollte, um neue Vorschriften zu schaffen.
Mehr lesen: Der Aufschwung der Künstlichen Intelligenz in Frankreich zeigt die Finanzierungslücke in Europa auf
Stanton wies ebenfalls in einem Beitrag in sozialen Medien darauf hin, dass diese Art der Verlangsamung der Entwicklung dazu beitragen kann, die Sicherheit der Gesellschaft zu gewährleisten. Diese Entwicklungen erfolgen, während große KI-Unternehmen unter zunehmendem Druck stehen, Sicherheits- und Verantwortungsmechanismen zu schaffen.
Reaktionen und unterschiedliche Meinungen
David Sachs, wissenschaftlicher Berater des ehemaligen US-Präsidenten, äußerte Zweifel an Amodeis Warnungen und wies darauf hin, dass die Verlangsamung der Entwicklung von Künstlicher Intelligenz möglicherweise aus Markttrends resultiert. Er betonte, dass Unternehmen diese Gelegenheit nutzen sollten, um ihr Image auf dem Markt zu verbessern, anstatt aufgrund äußerer Drucke zu handeln.
Klement Delang, CEO von Hugging Face, der selbst Opfer von Cyberangriffen war, betonte, dass die Sicherheit von Künstlicher Intelligenz nicht nur in der Verantwortung fortschrittlicher Labore liegen sollte. Er kündigte die Einführung der Initiative "Open Alignment" an und forderte, dieses Programm in Amodeis Pläne aufzunehmen.
Jason Calacanis, Investor und Gastgeber des Podcasts "All-In", äußerte Zweifel an der Fähigkeit von Künstlicher Intelligenz, globale Gefahren zu schaffen, und wies darauf hin, dass neue Vorschriften möglicherweise den großen Unternehmen zugutekommen und somit den Wettbewerb schwächen könnten.
Senator Bernie Sanders forderte ebenfalls, angesichts der jüngsten Warnungen vor den potenziellen Gefahren von Künstlicher Intelligenz, eine vorübergehende Aussetzung der Entwicklung fortschrittlicher KI-Systeme. Er betonte die Notwendigkeit internationaler Vereinbarungen zur Regulierung dieser Technologie und forderte ein Moratorium für die Entwicklung von superintelligenter Künstlicher Intelligenz.
Schließlich betonte Francis Schulte, ein KI-Forscher, dass die Überwachung der Branche demokratisch und verantwortungsbewusst erfolgen sollte und dass jedes Anzeichen, das auf einen Versuch hinweist, den Wettbewerb zu verringern, ernst genommen werden sollte.
Mehr lesen: Goldman Sachs: Vorhersage von 6,5 Millionen humanoiden Robotern bis 2035 · Erweiterung der globalen Position von Korn Ferry durch den Kauf von AMS
