Um die Sicherheit von Machine-Learning-Projekten zu verbessern, hat OpenAI die Gründung eines Sicherheitsausschusses angekündigt. Dieses neue Leitungsgremium entstand im Lichte der jüngsten Veränderungen in der Organisation, wie etwa der Abschaffung des internen Superalignment-Teams, das sich mit den Risiken durch KI befasste.

Die Ankündigung des Ausschusses folgt einer Reihe strategischer Änderungen innerhalb des Unternehmens sowie dem Beginn der Schulung für das Modell der nächsten Generation des Unternehmens, das auf eine Entwicklung in Richtung AGI hindeutet.

Der OpenAI-Vorstand bildet einen Sicherheitsausschuss, der für die Abgabe von Empfehlungen zu kritischen Sicherheitsentscheidungen für alle OpenAI-Projekte verantwortlich ist. https://t.co/tsTybFIl7o

– OpenAI (@OpenAI) 28. Mai 2024

OpenAI stellt neues Komitee zur verbesserten Aufsicht über KI vor

Die GPT-4-Entwickler OpenAI haben ihre Leistung weiter verbessert, indem sie ein neunköpfiges Sicherheitskomitee eingerichtet haben. Dieses Gremium umfasst die Führungskräfte der Organisation: Sam Altman als CEO und Vorstandsvorsitzender, Aleksander Madry, Lilian Weng, John Schulman, Matt Knight und Jakub Pachocki. Ihre Hauptaufgabe wird darin bestehen, die Handhabung des KI-Risikomanagementprozesses zu verbessern. Dem Vorstand wird innerhalb der nächsten neunzig Tage ein detaillierter Bericht vorgelegt.

Lesen Sie auch: Amazon kämpft darum, die Vorherrschaft von Nvidia bei KI-Chips herauszufordern

Der Wechsel bei OpenAI in der Sicherheitsaufsicht folgt auf zahlreiche Führungswechsel wie den Abgang von Ilya Sutskever und Jan Leike sowie die Auflösung des Superalignment-Teams, das für die KI-Sicherheit zuständig ist. Diese Umstrukturierung zeigt den Wunsch von OpenAI, seine KI-Risikomanagementstrategien zu verbessern und gleichzeitig die Grenzen der KI-Innovation zu erweitern.

OpenAI trainiert das Next Frontier-Modell

Zusätzlich zum neuen Komitee hat OpenAI mit dem Training seines sogenannten Next-Frontier-Modells begonnen. Dieses Modell soll die Fähigkeiten der aktuellen Modelle übertreffen und der Verwirklichung von AGI näher kommen. Dieser Schritt ist Teil ihrer laufenden Mission, KI-Lösungen zu entwickeln, die verschiedene Aufgaben effektiv und effizient ausführen können. Mira Murati, Chief Technology Officer von OpenAI, merkte an, dass die primären Updates von GPT-4 wesentliche Verbesserungen des Modells darstellen werden und solche Entwicklungen in der Technologie und den damit verbundenen Anwendungsfällen widerspiegeln könnten.

Lesen Sie auch: Chinas KI-Unternehmen beginnen einen erbitterten Preiskampf

Jüngste Erkenntnisse von Microsoft, einem wichtigen Partner, der Cloud-Infrastruktur für die KI-Forschung bereitstellt, deuten darauf hin, dass das neue Modell einen enormen Fortschritt darstellen wird, den Tom Warner, CTO von Microsoft, hinsichtlich seiner Fähigkeiten und Größe als eine Entwicklung vom „Orca“ zum „Wal“ bezeichnet.

Die Vorfreude auf GPT-5 nimmt zu

Inmitten dieser Trends gibt es Gerüchte über die vorläufige Version des Sprachmodells der nächsten Generation von OpenAI mit der Bezeichnung GPT-5. Berichte vom März zeigen, dass nur eine kleine Anzahl von Benutzern diesen Prototyp verwendet hat und erwähnt, dass es Verbesserungen im Vergleich zu GPT-4 gibt. Dieser Rummel hat bei technisch versierten und der breiten Öffentlichkeit enorme Erwartungen geweckt, da die Beteiligten gespannt darauf sind, mehr über die Aussichten dieses neuen Modells zu erfahren.

Alles, was OpenAI getan hat, von der Umstrukturierung des Sicherheitsgremiums bis hin zur Weiterentwicklung seiner Technologie, weist auf das große Ganze hin, um seine Position als einer der führenden Anbieter in der KI-Entwicklung zu behaupten. OpenAIs ständige Weiterentwicklung und Integration nachhaltiger Plattformen machen es zu einem der führenden Unternehmen, das den Weg in die Zukunft der KI-Technologie mitbestimmt.

Cryptopolitan-Berichterstattung von Chris Murithi