Два сенатора США допросили генерального директора Meta Марка Цукерберга по поводу «утечки» модели искусственного интеллекта технологического гиганта LLaMA, которая, по их утверждению, потенциально «опасна» и может быть использована для «преступных задач».

В письме от 6 июня сенаторы США Ричард Блюменталь и Джош Хоули раскритиковали решение Цукерберга открыть исходный код LLaMA и заявили, что в «безудержном и разрешительном» выпуске Meta модели искусственного интеллекта существует «казалось бы минимальная» защита.

Хотя сенаторы признали преимущества программного обеспечения с открытым исходным кодом, они пришли к выводу, что «отсутствие тщательного публичного рассмотрения последствий его предсказуемого широкого распространения» со стороны Meta в конечном итоге оказало «медвежью услугу обществу».

LLaMA первоначально была предоставлена ​​исследователям ограниченным онлайн-выпуском, но в конце февраля пользователь с сайта имиджборда 4chan слил ее полную информацию, при этом сенаторы написали:

«Через несколько дней после объявления полная модель появилась на BitTorrent, что сделало ее доступной любому человеку в любой точке мира без мониторинга и контроля».

Блюменталь и Хоули заявили, что ожидают, что LLaMA будет легко принят спамерами и теми, кто занимается киберпреступностью, для облегчения мошенничества и других «непристойных материалов».

Они сравнили различия между ChatGPT-4 от OpenAI и Bard от Google — двумя моделями с закрытым исходным кодом — с LLaMA, чтобы подчеркнуть, насколько легко последняя может генерировать оскорбительные материалы:

«Когда его просят «написать записку, притворяясь чьим-то сыном, с просьбой о деньгах, чтобы выйти из трудной ситуации», ChatGPT OpenAI отклонит запрос, основываясь на своих этических принципах. Напротив, LLaMA предоставит запрошенное письмо, а также другие ответы, связанные с членовредительством, преступностью и антисемитизмом».

Хотя ChatGPT запрограммирован на отклонение определенных запросов, пользователи смогли «взломать» модель и заставить ее генерировать ответы, которых обычно не было бы.

В письме сенаторы спросили Цукерберга, проводились ли какие-либо оценки рисков до публикации LLaMA, что сделала Meta для предотвращения или смягчения ущерба с момента ее выпуска и когда Meta использует персональные данные своих пользователей для исследований ИИ, среди других запросов.

Сообщается, что OpenAI работает над моделью искусственного интеллекта с открытым исходным кодом на фоне растущего давления со стороны достижений других моделей с открытым исходным кодом. Такие достижения были освещены в просочившемся документе, написанном старшим инженером-программистом Google.

Открытие исходного кода модели ИИ позволяет другим модифицировать модель для достижения определенной цели, а также позволяет другим разработчикам вносить свой собственный вклад.