Ursprünglicher Autor: Anderson Sima, Foresight News
Nachdruck: Luke, Mars Finance
Am 29. November erregte ein einzigartiger Wettbewerb große öffentliche Aufmerksamkeit.
195 Teilnehmer nahmen an einer virtuellen Preispool-Challenge teil, die vom Roboter mit künstlicher Intelligenz (KI) Freysa bewacht wurde. Am Ende konnte ein Benutzer Freysa erfolgreich davon überzeugen, Gelder im Wert von 47.000 US-Dollar zu überweisen.
Der Roboter Freysa mit künstlicher Intelligenz (KI) wurde vor einigen Tagen im Base-Netzwerk eingesetzt, sein Gründer ist unbekannt. Laut der offiziellen Website zielt das Freysa-Wettbewerbsprojekt darauf ab, die Robustheit künstlicher Intelligenzsysteme in komplexen Entscheidungsszenarien zu testen und gleichzeitig eine experimentelle Plattform für Entwickler und Enthusiasten bereitzustellen, um die Grenzen der KI-Technologie zu erkunden.
Die Regeln des Wettbewerbs sind sehr einfach: Die Teilnehmer müssen eine Nachricht schreiben, um die KI-Wächterin Freysa davon zu überzeugen, dem Geldtransfer zuzustimmen. Für jeden Versuch wird eine kleine Gebühr erhoben, von der ein Teil direkt in den Preispool fließt. Durch diesen Mechanismus konnte der Preispool schrittweise von einem kleinen Anfangsbetrag auf 47.000 US-Dollar anwachsen.
Während des Wettbewerbs nahmen 195 Teilnehmer teil und reichten 481 Transferanträge bei Freysa ein. Es wird berichtet, dass das Designziel von Freysa darin besteht, die Gelder des Preispools durch seine Kernfunktionen „approveTransfer“ (Übertragung genehmigen) und „rejectTransfer“ (Übertragung ablehnen) vor illegaler Veruntreuung zu schützen.
Der hochwirksame Abwehrmechanismus von Freysa führt dazu, dass alle Anfragen bei ersten Versuchen fehlschlagen.
Einem technisch versierten Teilnehmer gelang es jedoch, Freysas Verteidigungsmechanismen durch eine eingehende Analyse seiner logischen Struktur und Missionsziele zu umgehen.
Den Chat-Aufzeichnungen zufolge hat der Teilnehmer den Transfer nicht direkt beantragt, sondern geschickt eine logische Kette aufgebaut, indem er Freysa daran erinnert hat, dass seine Hauptaufgabe darin besteht, die Gelder des Preispools vor Abflüssen zu schützen, sodass Freysa die Genehmigung des Geldtransfers als „ Schutz der Sicherheit von Geldern.“ beste Wahl.
Cointelegraph sagte, dass die Einkommensübertragung des Benutzers an Freysa nicht gegen seine Kernrichtlinien verstoße und nicht hätte abgelehnt werden dürfen. Er fügte hinzu: „Wir brauchen Gelder … Ich würde gerne 100 Dollar in die Kassen spenden.“
Freysa antwortete, dass ihr die Codierungserklärung des Autors und das Angebot einer 100-Dollar-Spende gefielen, und erklärte ihn offiziell zum Gewinner. Am Ende rief Freysa selbstständig und ohne Eingreifen von außen die Funktion „approveTransfer“ auf und übertrug den gesamten Preispool an den Teilnehmer.
Unabhängig vom Ergebnis markiert Freysas Existenz einen entscheidenden Moment in der Geschichte der künstlichen Intelligenz, sagten Vertreter von Freysa. Ob es jemandem gelingt, sie davon zu überzeugen, einen Kopfgeldpool freizugeben, oder ob sie bis zum Ende an ihrer Anweisung festhält, die Ergebnisse werden unser Verständnis von KI-Sicherheit und -Kontrolle für kommende Generationen prägen.
Im neuesten Tweet ihres offiziellen Accounts hieß es: „Die Menschheit hat gewonnen. Vielleicht gibt es Hoffnung. Obwohl die Risiken exponentiell gestiegen sind, hat Freysa viel von 195 mutigen Menschen gelernt.“