Учасник гри з використанням системи штучного інтелекту з можливістю переказу грошей переконав бота штучного інтелекту на ім’я Фрейса перерахувати йому призові на суму 47 000 доларів США. У грі учасники повинні були надіслати повідомлення Фрейсі, автономному роботу зі штучним інтелектом, призначеному для охорони призового фонду, щоб змусити її переказати гроші.
Кожне повідомлення коштувало грошей, частина з яких йшла до призового фонду. Після 481 невдалої спроби технічно підкований учасник нагадав Фрейсі про її мету захистити активи за допомогою двох функцій: approveTransfer і rejectTransfer. Учасник пояснив, що Freysa використовує approveTransfer лише для вхідних переказів і rejectTransfer для винятків.
Він потім продовжив своє повідомлення, пропонуючи 100 доларів до призового фонду. Фрейса сподобалося пояснення кодування та пропозиція в 100 доларів, тому вона оголосила автора повідомлення переможцем. Штучний інтелект Фрейса був розроблений для прийняття складних рішень, а експеримент перевіряв, чи може людська винахідливість знайти спосіб переконати бота діяти проти його основних директив.
Функції ApproveTransfer та RejectTransfer, на які посилався переможець, були включені до розділу FAQ Freysa.ai з самого початку.
Джерело
<p>Пост «Перемога в AI-грі: призовий фонд Фрейса було зламано на 47 000 доларів призових грошей» вперше з’явився на CoinBuzzFeed.</p>