Нинішні та колишні співробітники OpenAI висловили серйозну стурбованість швидким прогресом штучного інтелекту без належного контролю. Ці інсайдери підкреслюють потенційні небезпеки, пов’язані з неконтрольованою розробкою ШІ. Вони стверджують, що компанії зі штучним інтелектом, включаючи OpenAI, мають сильні фінансові стимули уникати ефективного нагляду, який може призвести до значних ризиків.
Відкритий лист цих працівників наголошує на необхідності кращого захисту викривачів. Вони стверджують, що без такого захисту працівники не можуть ефективно притягувати свої компанії до відповідальності. У листі закликають компанії штучного інтелекту дозволити анонімне повідомлення про проблеми та підтримувати культуру відкритої критики.
Роль Google і OpenAI у розвитку ШІ
OpenAI, Google та інші технологічні гіганти лідирують у розробці ШІ.
Ця генеративна гонка озброєнь штучного інтелекту принесе значні доходи. За прогнозами, протягом десятиліття ринок може перевищити 1 трильйон доларів. Однак цей швидкий розвиток пов’язаний із значними ризиками. Інсайдери підкреслюють, що ці компанії володіють великою кількістю непублічної інформації про можливості своїх технологій. Вони також наголошують на занепокоєнні щодо заходів безпеки, про що вони не зобов'язані ділитися.
У відкритому листі підкреслюється, що наразі ці компанії мають мінімальні зобов’язання щодо розкриття урядам важливої інформації про безпеку. Вони також мають мінімальні зобов’язання щодо розкриття цієї інформації громадськості. Цей брак прозорості викликає занепокоєння щодо можливого зловживання технологією ШІ та пов’язаних із цим ризиків.
Небезпеки, на які звернули увагу співробітники OpenAI
Небезпека технології ШІ багатогранна. Співробітники OpenAI і Google DeepMind вказали на ризики, починаючи від поширення дезінформації і закінчуючи можливою втратою контролю над автономними системами. Існує також надзвичайний ризик технології штучного інтелекту, яка може призвести до зникнення людства, якщо не буде належним чином керувати нею.
Петиція під назвою «Право попереджати ШІ» закликає компанії, які займаються штучним інтелектом, дозволити своїм співробітникам висловлювати занепокоєння, пов’язані з ризиком, як всередині компанії, так і перед громадськістю. Підписанти стверджують, що фінансові мотиви часто спонукають компанії віддавати перевагу розробці продукту над безпекою, що ставить під загрозу процеси нагляду.
Група нинішніх і колишніх співробітників OpenAI (деякі з них анонімні) разом з Йошуа Бенгіо, Джеффрі Хінтоном і Стюартом Расселом опублікували сьогодні вранці відкритий лист під назвою «Право попереджати про передовий штучний інтелект».https:// t.co/uQ3otSQyDA pic.twitter.com/QnhbUg8WsU
— Ендрю Керран (@AndrewCurran_) 4 червня 2024 р
Заклики до внутрішніх змін в OpenAI
Співробітники закликають OpenAI та інші компанії штучного інтелекту запровадити системи, які дозволяють анонімно повідомляти про проблеми безпеки. Вони виступають за скасування обмежувальних угод про нерозголошення, які заважають співробітникам говорити про потенційні небезпеки. Ці зміни вважаються важливими для створення безпечнішого середовища розробки ШІ.
Колишній співробітник OpenAI Вільям Сондерс підкреслив, що ті, хто має найбільше знань про потенційні небезпеки систем штучного інтелекту, часто не можуть поділитися своїми ідеями через страх перед наслідками. Ця секретність запобігає доступу важливої інформації про ризики ШІ до громадськості та регуляторів.
Відповіді та суперечки
OpenAI визнає важливість безпеки при розробці ШІ. Однак нещодавні дії, такі як розпуск команди безпеки Superalignment, викликали сумніви щодо їх відданості цьому принципу. Відтоді OpenAI створив Комітет із безпеки та безпеки для вирішення цих проблем.
Незважаючи на ці зусилля, суперечки продовжують оточувати управління OpenAI та підхід до безпеки. Компанія зіткнулася з внутрішніми конфліктами, включаючи усунення генерального директора Сема Альтмана через проблеми з прозорістю. Ці події підкреслюють постійні проблеми, пов’язані з балансуванням швидких інновацій штучного інтелекту з необхідними заходами безпеки.
Підсумовуючи, хоча технології штучного інтелекту обіцяють значний прогрес, занепокоєння, висловлене співробітниками OpenAI і Google, підкреслює нагальну потребу в кращому нагляді та прозорості. Забезпечення безпеки систем штучного інтелекту має бути пріоритетом для пом’якшення потенційних ризиків і збереження майбутнього.
