Axi · Сквозной — фон контента (skin) · 16 кат.Axi · Сквозной — фон контента (skin) · 16 кат.

OpenAI-Vorstandsmitglied schlägt vor, die Entwicklung von KI-Algorithmen zu stoppen

• Sliv Evgeniya (aktualisiert:)
OpenAI-Vorstandsmitglied schlägt vor, die Entwicklung von KI-Algorithmen zu stoppen

OpenAI-Vorstandsmitglied und Leiter des Alignment Research Center, Paul Christiano, hat vorgeschlagen, die Weiterentwicklung bestimmter Algorithmen der künstlichen Intelligenz vorübergehend zu stoppen. In einem Interview mit Dwarkesh Patel, das am 16. November veröffentlicht wurde, erklärte er die Initiative mit dem Hinweis auf die unzureichende Sicherheit führender KI-Labore und die Risiken von Lecks fortschrittlicher technologischer Entwicklungen.

Laut Christiano könnte die Fortsetzung der beschleunigten Entwicklung von Modellen ohne Verstärkung der Sicherheitsmaßnahmen zu einer Situation führen, in der neue Algorithmen und Trainingsmethoden Drittorganisationen zur Verfügung stehen, bevor Entwickler die notwendige Kontrolle über ihre eigenen Systeme sicherstellen können.

Warum Christiano vorschlägt, die KI-Entwicklung zu verlangsamen

Der Hauptvorschlag betrifft zwei Bereiche: das Vortraining von Modellen und das Reinforcement Learning (RL). Diese Methoden werden verwendet, um die Fähigkeiten moderner künstlicher Intelligenzsysteme zu verbessern.

Christiano ist der Meinung, dass Entwickler vorübergehend auf weitere algorithmische Verbesserungen in diesen Bereichen verzichten sollten, bis sie die Ergebnisse ihrer Forschung zuverlässig schützen können.

Der Experte legte besonderes Augenmerk auf die Risiken von Cyberangriffen auf Forschungslabore. Potenzielle Lecks von Modellgewichten, Quellcode oder Informationen über Trainingsmethoden könnten es anderen Marktteilnehmern ermöglichen, die Errungenschaften führender Entwickler schneller zu replizieren.

Gleichzeitig schlägt Christiano nicht vor, die Forschung im Bereich der künstlichen Intelligenz vollständig zu stoppen. Arbeiten zur Verbesserung der Sicherheit, zur Bewertung des Modellverhaltens und zur Verbesserung der Kontrollmechanismen sollten seiner Meinung nach fortgesetzt werden.

Bedingungen für die Wiederaufnahme der Entwicklung

Christiano verknüpft die Rückkehr zur beschleunigten Algorithmusverbesserung mit der Erfüllung mehrerer Bedingungen. KI-Unternehmen müssen die Sicherheit ihrer Forschungsinfrastruktur verbessern, die Bewahrung technologischer Entwicklungen sicherstellen und lernen, die Steuerbarkeit der von ihnen geschaffenen Systeme zuverlässiger zu bewerten.

Ein separates Problem ist, dass sich die Fähigkeiten von Modellen schneller entwickeln können als die Werkzeuge zu ihrer Sicherheitsüberprüfung. Unter solchen Bedingungen riskieren Entwickler, auf ein KI-Verhalten zu stoßen, das schwer zu erkennen oder rechtzeitig einzuschränken ist.

Christiano nannte kein genaues Datum für die mögliche Wiederaufnahme der Arbeit. Seiner Einschätzung nach könnte die signifikante Verbesserung des Schutzes mehrere Monate dauern, in einigen Fällen von sechs bis zwölf Monaten. Dieser Zeitrahmen ist eine vorläufige Schätzung, kein fester Zeitplan.

Vorschlag spiegelt nicht die offizielle Position von OpenAI wider

Während des Interviews betonte Christiano, dass er eine persönliche Ansicht äußerte und nicht im Namen des OpenAI-Vorstands sprach.

Seine Aussage bedeutet daher nicht, dass das Unternehmen bereits eine neue Aussetzung des Modelltrainings beschlossen hat oder solche Maßnahmen mit anderen Entwicklern vereinbart hat.

Christianos Vorschlag berührt das breitere Thema der Branchenentwicklung: wie schnell KI-Unternehmen ihre Technologien verbessern können, während sie die Kontrolle über Forschungsergebnisse behalten und den Schutz vor Lecks sicherstellen.

Der Experte ist der Meinung, dass die Diskussion dieser Risiken über einzelne Labore hinausgehen sollte. Gleichzeitig bleibt die Frage der praktischen Umsetzung einer vorübergehenden Pause und der Vereinbarung gemeinsamer Sicherheitsanforderungen offen.

Das Material dient ausschließlich zu Informationszwecken und stellt keinen finanziellen Rat oder Empfehlung dar.

Kommentare

Überprüfung der Autorisierung...
Lade Kommentare...