Google, Microsoft, Nvidia та OpenAI, серед інших, запустили CoSAI для створення надійних стандартів безпеки та безпеки штучного інтелекту на тлі зростаючої стурбованості.
CoSAI прагне створити безпечні за проектом системи ШІ з використанням фреймворків з відкритим кодом.
Окрім Google, членами-засновниками є Amazon, Anthropic, Cisco, Cohere, IBM, Intel, Microsoft, Nvidia, OpenAI, PayPal і Wiz.
Технологічні гіганти Google, Microsoft, Nvidia та OpenAI, серед інших, запустили Коаліцію за безпечний штучний інтелект (CoSAI) для вирішення проблем безпеки штучного інтелекту.
CoSAI, оголошений на Форумі безпеки в Аспені, прагне створити надійні рамки безпеки та стандарти для розробки та розгортання ШІ. Ця ініціатива з’явилася в критичний час, оскільки ландшафт штучного інтелекту продовжує швидко розвиватися.
Google оголошує про CoSAI для безпеки ШІ
CoSAI, очолювана Google, об’єднує провідні технологічні компанії та організації для вирішення проблем безпеки ШІ.
Згідно з оголошенням, членами-засновниками є Amazon, Anthropic, Cisco, Cohere, IBM, Intel, Microsoft, Nvidia, OpenAI, PayPal і Wiz.
Примітно, що ця коаліція прагне створити безпечні за проектом системи штучного інтелекту, використовуючи методології з відкритим кодом і стандартизовані рамки для сприяння довірі та безпеці штучного інтелекту.
Оголошення підкреслило важливість структури безпеки для штучного інтелекту (ШІ), яка базується на раніше представленій безпечній структурі ШІ (SAIF).
CoSAI прагне просувати комплексні заходи безпеки для штучного інтелекту, ураховуючи як поточні, так і нові ризики. Крім того, коаліція зосередиться на трьох початкових напрямках роботи: безпека ланцюжка постачання програмного забезпечення для систем ШІ, підготовка захисників до мінливого ландшафту кібербезпеки та управління безпекою ШІ.
Ці робочі потоки спрямовані на розробку найкращих практик, систем оцінки ризиків і стратегій пом’якшення для підвищення безпеки ШІ в усій галузі.
