První zasedání poradního výboru pro AI ministerstva vnitřní bezpečnosti se konalo v pondělí tento týden. Rada si klade za cíl zlepšit své zacházení s nasazením technologie umělé inteligence a bránit technologii před vnějšími hrozbami.
Řešení předsudků AI a bezpečnostních rizik
Během setkání s reportéry na konferenci RSA a klíčového projevu se zaměstnanci Mayorkas diskutoval o bezpečnosti AI a o výsledcích diskuse na prvním zasedání představenstva. Členové hovořili o problematice bezpečnosti AI v nezbytných zařízeních. Dotkli se také důsledků implementace umělé inteligence v rámci úkolů DHS na lidská práva, přičemž několik z nich zdůraznilo její potenciál být použit jako rozšíření stávající implicitní zaujatosti.
Systémy umělé inteligence pracující v kolorismu a sexismu představují několik dlouhodobých problémů, které odborníci a federální vláda stále řeší, protože myšlenkoví vůdci a vláda jsou menšiny, které se neobtěžují testovat produkty, aby zjistili, zda systémy fungují s ženami a lidmi barva. Kromě toho také Bílý dům a ministerstvo spravedlnosti zahájily projekty zaměřené na odstranění předsudků, které přinesly systémy AI.
Rada DHS, která se bude scházet čtvrtletně, byla zveřejněna. Zahrnuje lidi, jako je generální ředitel OpenAI Sam Altman, vládní úředníci aktivní v AI a vlastníci kritické infrastruktury a technologických pivovarů. Mayorkas uvedl, že existuje více než 20 využití umělé inteligence, od zaměření na pojistné události způsobené hurikány až po nedávnou pomoc Federální agentuře pro mimořádné události (FEMA) při výcviku agentů pro případy uprchlíků.
Globální spolupráce proti hrozbám AI
Představitelé DHS ve svých zprávách zdůraznili, že vytvořili portál se seznamem, kde byla technologie AI nasazena nebo zrušena kvůli nesourodým obavám různých zúčastněných stran. Představitelé DHS zdůraznili, že oddělení se snaží rozšířit svou pracovní sílu v oblastech souvisejících s umělou inteligencí a již bylo přijato 3000 žádostí o pracovní pozice v této oblasti.
Mayorkas sdělil, že rada iniciovala proces vypracování nástin strategie a plánů prevence možných hrozeb pro AI a snížení rizik nežádoucích důsledků při aplikaci AI. Doplňková práce na palubě již byla uspokojivá. Skutečnost, že se jedná o složení mezinárodních vůdců umělé inteligence, je také zásadní, protože bude pracovat na legislativním poškozování s jinými zeměmi.
Obrana systémů umělé inteligence však nebude dosažena pouze tím, že na palubě budou globální hráči. Takový scénář vyžaduje, aby partnerství vybudovalo pevný obranný mechanismus.