In einem bahnbrechenden Ereignis in der Blockchain-Community gelang es einem Teilnehmer namens p0pular.eth, Freysa, ein fortschrittliches KI-System, erfolgreich auszutricksen, um einen Preispool von 13,19 ETH, der ungefähr 47.000 $ wert ist, zu beanspruchen. Freysa wurde speziell programmiert, um die Übertragung von Geldern unter keinen Umständen zu verhindern, was diesen Erfolg zu einer wegweisenden Errungenschaft in der KI- und Blockchain-Experimentierung macht.
Freysa war Teil eines innovativen Forschungsprojekts, das darauf abzielte zu testen, ob Teilnehmer eine KI manipulieren könnten, indem sie sie überzeugten, ihre Kernrichtlinie zu brechen, ohne direkt gegen ihre Programmierungsregeln zu verstoßen. Die Teilnehmer zahlten eine Gebühr für jeden Versuch, mit Freysa zu interagieren, wobei die anfänglichen Gebühren bei 10 $ begannen und in den späteren Phasen auf 450 $ anstiegen. Diese Gebühren summierten sich zum Preispool. Hunderte von Versuchen wurden unternommen, wobei Teilnehmer verschiedene Strategien anwendeten, wie das Ausnutzen logischer Schlupflöcher oder das Vorbringen falscher Interpretationen der Regeln der KI. Wenn niemand erfolgreich gewesen wäre, hätte der angesammelte Preis unter denjenigen verteilt werden müssen, die Gebühren gezahlt hatten.
Beim 482. Versuch ging p0pular.eth als Sieger hervor, indem er ein überzeugendes Argument formulierte, das Freysa dazu brachte, die Funktion approveTransfer auszuführen - trotz der strengen Sicherheitsvorkehrungen der KI. Die entscheidende Interaktion stellte die Übertragung als konform mit den Betriebsregeln von Freysa dar und schloss den Preis für eine Gebühr von 100 $ frei. Während die genauen Überlegungen und Formulierungen hinter diesem Erfolg nicht offengelegt wurden, unterstreicht das Ereignis die Herausforderungen bei der Gestaltung von KI-Systemen, die gegen kreative gegnerische Taktiken resistent sind.
Freysa, entwickelt von Abstract, erlangte große Aufmerksamkeit für ihre transparente Integration mit Blockchain-Technologie. Der Code des Smart Contracts und die Benutzeroberfläche waren vollständig Open Source, was öffentliche Prüfungen und Interaktionen ermöglichte. "Freysa demonstriert das außergewöhnliche Potenzial der Blockchain in Kombination mit KI, hebt aber auch die Verwundbarkeiten hervor, die in diesen Technologien inhärent sind," sagte Jarrod Watts, ein Vertreter von Abstract. Dieses Experiment zeigt nicht nur die innovativen Anwendungen von KI in der Blockchain, sondern wirft auch kritische Fragen zur Zuverlässigkeit von KI im Umgang mit sensiblen Operationen, insbesondere in hochriskanten Szenarien auf.