Перше засідання Консультативної ради з штучного інтелекту Міністерства внутрішньої безпеки відбулося в понеділок цього тижня. Правління має на меті покращити роботу з розгортанням технологій штучного інтелекту та захистити технологію від зовнішніх загроз.

Боротьба з упередженнями ШІ та ризиками безпеки

Під час сесії запитань і відповідей із журналістами на конференції RSA та основної промови зі співробітниками Майоркас обговорив безпеку ШІ та результати обговорення першого засідання правління. Депутати говорили про питання безпеки ШІ на життєво важливих об’єктах. Вони також торкнулися наслідків впровадження штучного інтелекту в завдання DHS для прав людини, дехто підкреслив його потенціал для використання як розширення існуючого неявного упередження.

Системи штучного інтелекту, що працюють у кольоризмі та сексизмі, — це кілька давніх проблем, які експерти та федеральний уряд постійно вирішують, оскільки лідери думок та уряд — це меншини, які не потрудилися перевірити продукти, щоб перевірити, чи працюють системи з жінками та людьми колір. Крім того, Білий дім і Міністерство юстиції також почали проекти, спрямовані на усунення упереджень, викликаних системами ШІ.

Було оприлюднено правління DHS, яке збиратиметься щокварталу. До нього входять такі люди, як генеральний директор OpenAI Сем Альтман, урядовці, які займаються штучним інтелектом, а також власники критичної інфраструктури та пивоварні технології. Майоркас заявив, що існує понад 20 застосувань штучного інтелекту: від зосередження на страхових претензіях від ураганів до нещодавньої допомоги Федеральному агентству з управління надзвичайними ситуаціями (FEMA) у підготовці агентів з питань біженців.

Глобальна співпраця проти загроз ШІ

Представники DHS підкреслили у своїх звітах, що вони створили список порталів, де технологія штучного інтелекту була розгорнута або скасована через різні занепокоєння різних зацікавлених сторін. Представники DHS підкреслили, що департамент прагне розширити свою робочу силу в сферах, пов’язаних зі штучним інтелектом, і вже отримано 3000 заявок на посади в цій галузі.

Майоркас поділився, що рада ініціювала процес складання контурів стратегії та планів запобігання можливим загрозам ШІ та зниження ризиків небажаних наслідків під час застосування ШІ. Додаткова робота на Раді вже була задовільною. Той факт, що це склад міжнародних лідерів штучного інтелекту, також має вирішальне значення, оскільки він працюватиме на законодавчі шкоди іншим країнам.

Однак захисту систем штучного інтелекту неможливо досягти лише залученням глобальних гравців. Такий сценарій вимагає від партнерства створення міцного механізму захисту.