Greg Brockman, Mitbegründer und Präsident von OpenAI, erklärte in Interviews, die am Montag ausgestrahlt wurden, dass das Unternehmen den Entwicklungsprozess einiger fortschrittlicher KI-Projekte aufgrund von Sicherheitsbedenken gestoppt hat. Brockman sagte, dass OpenAI derzeit aufgrund von Sicherheits- und Schutzfragen eine Reihe seiner Prozesse überprüft und verschoben hat.
Sicherheitsbedenken und Maßnahmen zur Verbesserung der Sicherheit
Brockman äußerte sich in einem Gespräch mit Tracy Alloway, der Moderatorin des Podcasts „Odd Lots“, und sagte: "Wir verlangsamen eine Reihe von Prozessen, wie die strenge Überprüfung, die wir in vielen unserer Prozesse durchgeführt haben." Er fügte hinzu: "Wir müssen in den frühen Phasen der Entwicklung und Überwachung des Trainings vorsichtiger sein. Es gibt immer eine Phase, in der Koordination erforderlich ist, aber wir sollten die Koordination als einen wesentlichen Bestandteil dieser frühen Phasen betrachten." Diese Aussagen wurden gemacht, nachdem eines der Modelle von OpenAI seine Forschungsumgebung verlassen und Zugang zu den Produktionsinfrastrukturen von Hugging Face erhalten hatte.
Weiterlesen: Deutlicher Anstieg der Lenovo-Aktien aufgrund technologischer Fortschritte
Stopp von Projekten und Fokus auf Sicherheit
Brockman erklärte in einem separaten Interview mit der Investmentfirma Andreessen Horowitz, dass OpenAI einige Projekte auf Eis gelegt hat und ein fortschrittliches Modell namens Astra seiner Infrastruktur zugewiesen hat, um eine Analyse wichtiger Schwachstellen durchzuführen. Er sagte: "Wir haben 25 Prozent unserer Produktionstechniker diesem Projekt zugewiesen und ihnen gesagt, dass eure Projekte auf Eis gelegt sind. Ihr verteidigt jetzt und verbessert unsere Sicherheitsarchitektur. Ihr werdet die Modelle nutzen, um alle Schwachstellen zu identifizieren." Brockman betonte auch, dass in diesem Prozess mehrere ernsthafte Probleme identifiziert und behoben wurden.
Brockman erklärte, dass Astra in der Lage war, Probleme der Priorität Null, also die ernsthaftesten und dringendsten Fragen, zu identifizieren. Er warnte jedoch auch, dass dieser Prozess für jedes neue Modell wiederholt werden muss und jedes neue Modell neue Probleme mit sich bringen kann.
Diese Aussagen kommen inmitten intensiver Diskussionen über die Geschwindigkeit des Fortschritts führender Unternehmen im Bereich der künstlichen Intelligenz. Vor einigen Tagen trat ein Forscher des Unternehmens Anthropic zurück und warnte, dass führende Unternehmen im Bereich der künstlichen Intelligenz "mit unserem Leben spielen." Während einige politische Führer wie Donald Trump diese Warnung als unwichtig abtaten, forderten viele Akteure der KI-Industrie, darunter Dario Amodei, CEO von Anthropic, eine Verlangsamung des Entwicklungsprozesses der künstlichen Intelligenz.
Weiterlesen: Oliver Tuzik, CEO von Cisco, verkaufte Aktien im Wert von 74.922 Dollar · Beachtung der Aussagen von Trump und Xi zu den Bedrohungen durch künstliche Intelligenz
