Нынешние и бывшие сотрудники OpenAI выразили серьезную обеспокоенность по поводу быстрого развития ИИ без достаточного контроля. Эти инсайдеры подчеркивают потенциальные опасности, связанные с бесконтрольным развитием ИИ. Они утверждают, что у компаний, занимающихся искусственным интеллектом, включая OpenAI, есть сильные финансовые стимулы избегать эффективного надзора, который может привести к значительным рискам.
В открытом письме этих сотрудников подчеркивается необходимость улучшения защиты информаторов. Они утверждают, что без такой защиты сотрудники не смогут эффективно привлекать свои компании к ответственности. В письме содержится призыв к компаниям, занимающимся искусственным интеллектом, разрешить анонимное сообщение о проблемах и поддерживать культуру открытой критики.
Роль Google и OpenAI в развитии ИИ
OpenAI, Google и другие технологические гиганты лидируют в разработке ИИ.
Эта генеративная гонка вооружений в области искусственного интеллекта должна принести значительный доход. По прогнозам, в течение десятилетия рынок может превысить 1 триллион долларов. Однако такое быстрое развитие сопряжено с существенными рисками. Инсайдеры подчеркивают, что эти компании обладают большим количеством закрытой информации о возможностях своих технологий. Они также подчеркивают обеспокоенность по поводу мер безопасности, о которой они не обязаны делиться.
В открытом письме подчеркивается, что эти компании в настоящее время несут минимальные обязательства по раскрытию важной информации о безопасности правительствам. У них также есть минимальные обязательства по раскрытию этой информации общественности. Отсутствие прозрачности вызывает обеспокоенность по поводу потенциального неправильного использования технологии искусственного интеллекта и связанных с этим рисков.
Опасности, отмеченные сотрудниками OpenAI
Опасности технологий искусственного интеллекта многогранны. Сотрудники OpenAI и Google DeepMind указали на риски, начиная от распространения дезинформации и заканчивая возможной потерей контроля над автономными системами. Существует также чрезвычайный риск того, что технологии искусственного интеллекта приведут к вымиранию человечества, если ими не управлять должным образом.
Петиция под названием «Право на предупреждение ИИ» призывает компании, занимающиеся ИИ, разрешить сотрудникам поднимать вопросы, связанные с рисками, как внутри компании, так и перед общественностью. Подписанты утверждают, что финансовые мотивы часто заставляют компании отдавать приоритет разработке продукции над безопасностью, что ставит под угрозу процессы надзора.
Группа нынешних и бывших сотрудников OpenAI (некоторые из них анонимны) вместе с Йошуа Бенджио, Джеффри Хинтоном и Стюартом Расселом опубликовали сегодня утром открытое письмо под названием «Право предупреждать о продвинутом искусственном интеллекте». https:// t.co/uQ3otSQyDA pic.twitter.com/QnhbUg8WsU
– Эндрю Карран (@AndrewCurran_) 4 июня 2024 г.
Призывы к внутренним изменениям в OpenAI
Сотрудники призывают OpenAI и другие компании, занимающиеся искусственным интеллектом, внедрить системы, позволяющие анонимно сообщать о проблемах безопасности. Они выступают за отмену ограничительных соглашений о неразглашении, которые не позволяют сотрудникам говорить о потенциальных опасностях. Эти изменения считаются важными для создания более безопасной среды разработки ИИ.
Бывший сотрудник OpenAI Уильям Сондерс подчеркнул, что те, кто лучше всех знает о потенциальных опасностях систем искусственного интеллекта, часто не могут поделиться своими мыслями из-за страха перед последствиями. Эта секретность не позволяет важной информации о рисках ИИ дойти до общественности и регулирующих органов.
Ответы и споры
OpenAI признала важность безопасности при разработке ИИ. Однако недавние действия, такие как роспуск группы безопасности Superalignment, вызвали сомнения в их приверженности этому принципу. С тех пор OpenAI учредила комитет по безопасности и защите для решения этих проблем.
Несмотря на эти усилия, споры вокруг управления OpenAI и подхода к безопасности продолжаются. Компания столкнулась с внутренними конфликтами, включая увольнение генерального директора Сэма Альтмана из-за вопросов прозрачности. Эти события подчеркивают текущие проблемы в обеспечении баланса между быстрыми инновациями в области искусственного интеллекта и необходимыми мерами безопасности.
В заключение отметим, что хотя технологии искусственного интеллекта обещают значительный прогресс, опасения, высказанные сотрудниками OpenAI и Google, подчеркивают острую необходимость улучшения контроля и прозрачности. Обеспечение безопасности систем искусственного интеллекта должно быть приоритетом для снижения потенциальных рисков и защиты будущего.
