AI Models Can Be Risky If Left to Rogue Elements

Cryptopolitan · 2024-05-10T12:03:07.000Z

The Commerce Department under the Biden administration is aiming for a new compliance initiative to further restrict the export of open or closed-source artificial intelligence models. The initiative is an effort to safeguard US interests and AI technology from Russia and China and will complement the steps taken over the past two years to block Chinese access to the latest advanced computer chips. The US effort is to put more strict protective barriers around the core software of large language models that power apps like ChatGPT, reported Reuters, citing three sources that are familiar with the matter. While the news provider has claimed that researchers in the private sector and government are worried about the fact that US adversaries may use the technology for aggressive cyber attacks and develop biological weapons, the Chinese Embassy has opposed the move and described it as unilateral bullying and economic coercion. Deepfakes are a lethal disinformation weapon The threats that the US dreads are many and can be used by non-state actors that are backed by states. Deepfakes can be used as an effective weapon for propaganda, as they involve realistic but fake videos created by AI tools. These types of videos are already emerging on social media. While such media content has been around for the past few years, developed with animation and rendering software, generative AI tools have made it easy to produce for anyone, and rogue actors can leverage them more easily than ever before to manipulate public opinions on sensitive issues, especially during election campaigns. Social media platforms like YouTube, Facebook, and Twitter have already taken steps to curtail deepfakes, but tactics to develop and publish them are also changing with the development of technology. At the moment, tools from companies like Microsoft and OpenAI can be used to create content for spreading disinformation. A much bigger concern is that AI models can leak information for developing biological weapons, according to researchers at Rand Corporation and Gryphon Scientific, and US intelligence agencies, academic experts, and think tanks are worried about the possibility of AI going into the hands of rogue elements. The Gryphon study identified how LLMs can churn out expert knowledge and that of a doctoral level that can aid in developing viruses that have pandemic capabilities, and this can be used by non-state actors as biological weapons. Amplified cyberattacks with AI models The Department of Homeland Security has also expressed concerns that cyber attacks on crucial infrastructure like railways and pipelines could be executed with AI by developing new tools that will be capable of larger-scale and more complex cyber attacks and more rapidly. The agency also said that China is developing artificial intelligence software that can be used for malware attacks, and it is also working on AI technologies that could potentially sabotage the cyber defenses of the country. Functions and entities forming Chinese Communist Party’s ecosystem. Source: Microsoft. Back in February, Microsoft issued a report in which it noted that it has identified cyber groups involved in hacking activities that are perfecting their hacking campaigns by utilizing LLMs, and they have affiliations with the military intelligence of Russia, the North Korean and Chinese governments, and the Revolutionary Guards of Iran. The company announced a ban on state-funded cyber groups that are using its AI products and services. On Wednesday, a group of statesmen proposed a bill that will help the Biden government enforce controls on the export of AI models to prevent their exposure to potential adversaries. Experts on the subject have said that Washington is trying to avoid overbearing regulations that could suppress innovation as they are trying to foster innovation along with possible solutions for risks associated with AI. They also highlighted that enforcing strict regulations by strictly regulating AI advancement will create a vacuum for overseas competitors and negatively impact the fields of infrastructure, national security, and drug discovery.

Le département du Commerce sous l’administration Biden vise une nouvelle initiative de conformité pour restreindre davantage l’exportation de modèles d’intelligence artificielle à source ouverte ou fermée. Cette initiative vise à protéger les intérêts américains et la technologie de l'IA de la Russie et de la Chine et complétera les mesures prises au cours des deux dernières années pour bloquer l'accès de la Chine aux dernières puces informatiques avancées.
L'effort américain consiste à imposer des barrières de protection plus strictes autour du logiciel de base des grands modèles de langage qui alimentent des applications comme ChatGPT, a rapporté Reuters, citant trois sources proches du dossier. Alors que le fournisseur d'informations a affirmé que les chercheurs du secteur privé et du gouvernement s'inquiétaient du fait que les adversaires américains pourraient utiliser cette technologie pour mener des cyberattaques agressives et développer des armes biologiques, l'ambassade de Chine s'est opposée à cette décision et l'a qualifiée d'intimidation unilatérale et de menace économique. coercition.
Les deepfakes sont une arme mortelle de désinformation
Les menaces que redoutent les États-Unis sont nombreuses et peuvent être utilisées par des acteurs non étatiques soutenus par les États. Les deepfakes peuvent être utilisés comme une arme de propagande efficace, car ils impliquent des vidéos réalistes mais fausses créées par des outils d’IA.
Ce type de vidéos fait déjà son apparition sur les réseaux sociaux. Même si ce type de contenu médiatique existe depuis quelques années, développé avec des logiciels d'animation et de rendu, les outils d'IA générative ont facilité la production pour tout le monde, et les acteurs voyous peuvent les exploiter plus facilement que jamais pour manipuler l'opinion publique sur des questions sensibles. , notamment lors des campagnes électorales.
Les plateformes de médias sociaux comme YouTube, Facebook et Twitter ont déjà pris des mesures pour réduire les deepfakes, mais les tactiques pour les développer et les publier évoluent également avec le développement de la technologie. À l’heure actuelle, des outils d’entreprises comme Microsoft et OpenAI peuvent être utilisés pour créer du contenu destiné à diffuser de la désinformation.
Selon des chercheurs de Rand Corporation et de Gryphon Scientific, les modèles d'IA pourraient divulguer des informations nécessaires au développement d'armes biologiques. Les agences de renseignement américaines, les experts universitaires et les groupes de réflexion s'inquiètent de la possibilité que l'IA tombe entre les mains de voyous. éléments.
L’étude Gryphon a identifié comment les LLM peuvent produire des connaissances d’experts et celles d’un niveau doctoral qui peuvent aider au développement de virus dotés de capacités pandémiques, et celles-ci peuvent être utilisées par des acteurs non étatiques comme armes biologiques.
Cyberattaques amplifiées avec des modèles d’IA
Le ministère de la Sécurité intérieure a également exprimé ses inquiétudes quant au fait que des cyberattaques contre des infrastructures cruciales telles que les chemins de fer et les pipelines pourraient être exécutées avec l'IA en développant de nouveaux outils capables de mener des cyberattaques à plus grande échelle et plus complexes et plus rapidement.
L'agence a également déclaré que la Chine développait un logiciel d'intelligence artificielle pouvant être utilisé pour des attaques de logiciels malveillants, et qu'elle travaillait également sur des technologies d'IA qui pourraient potentiellement saboter les cyberdéfenses du pays.
 Fonctions et entités formant l’écosystème du Parti communiste chinois. Source : Microsoft.
En février dernier, Microsoft a publié un rapport dans lequel il indiquait avoir identifié des cybergroupes impliqués dans des activités de piratage informatique qui perfectionnent leurs campagnes de piratage en utilisant des LLM, et qui ont des affiliations avec les renseignements militaires de la Russie, des gouvernements nord-coréen et chinois. et les Gardiens de la révolution iraniens.
La société a annoncé l’interdiction des cybergroupes financés par l’État qui utilisent ses produits et services d’IA. Mercredi, un groupe d’hommes d’État a proposé un projet de loi qui aidera le gouvernement Biden à appliquer des contrôles sur l’exportation de modèles d’IA afin d’éviter leur exposition à des adversaires potentiels.
Les experts en la matière ont déclaré que Washington essayait d'éviter des réglementations autoritaires qui pourraient supprimer l'innovation, tout en essayant de favoriser l'innovation ainsi que des solutions possibles aux risques associés à l'IA. Ils ont également souligné que l’application de réglementations strictes en réglementant strictement les progrès de l’IA créerait un vide pour les concurrents étrangers et aurait un impact négatif sur les domaines des infrastructures, de la sécurité nationale et de la découverte de médicaments.

Découvrez-en plus sur le créateur

Dernières actualités