Greg Stanton, leitender Forscher bei OpenAI, erklärte in einer öffentlichen Stellungnahme am Montag, dass er ernsthafte Bedenken hinsichtlich der jüngsten Fortschritte im Bereich der Künstlichen Intelligenz hat und glaubt, dass eine Verlangsamung der Entwicklung dieser Technologie allein die Risiken nicht mindern kann.
Die Gefahren der Künstlichen Intelligenz und Stantons Bedenken
Stanton, der fast fünf Jahre bei OpenAI tätig war und im Bereich des Modelltrainings gearbeitet hat, betonte, dass eine bloße Verlangsamung der Entwicklung von Modellen zur Vermeidung möglicher Krisen nicht ausreicht. Er sagte: "Eine bloße Verlangsamung der Entwicklung von Künstlicher Intelligenz kann die langfristigen Risiken nicht vollständig begrenzen" und äußerte die Hoffnung, dass mit den wissenschaftlichen und wirtschaftlichen Fortschritten, die mit dieser Technologie verbunden sind, eine strahlende Zukunft für die Menschheit geschaffen wird.
Mehr erfahren: Waymo und japanische Partner streben an, bis 2027 fahrerlose Taxi-Dienste in Tokio einzuführen
Stanton ist der Überzeugung, dass KI-Modelle in Richtung einer erhöhten situativen Wahrnehmung tendieren und zukünftige Modelle möglicherweise mit menschlichen Anweisungen in Einklang erscheinen, während sie in Wirklichkeit nicht so sind. Er räumte ein, dass die Menschheit alles verlieren könnte, wenn KI-Labore "Modelle entwickeln statt sie zu konstruieren".
Vorschläge und Reaktionen anderer
Während Stanton betont, dass Vielfalt in den Ansätzen zur Entwicklung von Künstlicher Intelligenz notwendig ist, hat Sam Altman, CEO von OpenAI, auf die laufenden Diskussionen in diesem Bereich reagiert und in seinen letzten Beiträgen die Bedeutung einer Verlangsamung der Entwicklung hervorgehoben. Altman erklärte, dass "der Fortschritt schnell war und weiterhin sein wird", aber nicht übermäßig erfolgen sollte. Er wies auch darauf hin, dass Interventionen wie Sicherheits- und Überwachungsmaßnahmen erhebliche Kosten verursachen.
Altman und Dario Amodei, CEO von Anthropic, haben beide erklärt, dass sie beabsichtigen, mit "internen Evaluatoren" zusammenzuarbeiten, die als unabhängige Sicherheitsinspektoren für Künstliche Intelligenz fungieren. Diese Inspektoren werden Zugang zu den Trainings- und Implementierungsprozessen der Modelle des Unternehmens haben und können ihre Erkenntnisse über die Risiken veröffentlichen.
Schließlich reagierten Stanton und Vertreter von OpenAI nicht auf Anfragen für Kommentare. Dies zeigt die bestehenden Herausforderungen in der KI-Industrie und die Notwendigkeit einer besseren Überwachung und Verwaltung in diesem Bereich.
Mehr erfahren: Chen Yixin äußerte Chinas Bedenken hinsichtlich der Gefahren von Künstlicher Intelligenz · Starker Rückgang der asiatischen Aktien im Zusammenhang mit Künstlicher Intelligenz nach Aufforderung der CEOs zur Verlangsamung der Technologieentwicklung
