AI Models Can Be Risky If Left to Rogue Elements

Cryptopolitan · 2024-05-10T12:03:07.000Z

The Commerce Department under the Biden administration is aiming for a new compliance initiative to further restrict the export of open or closed-source artificial intelligence models. The initiative is an effort to safeguard US interests and AI technology from Russia and China and will complement the steps taken over the past two years to block Chinese access to the latest advanced computer chips. The US effort is to put more strict protective barriers around the core software of large language models that power apps like ChatGPT, reported Reuters, citing three sources that are familiar with the matter. While the news provider has claimed that researchers in the private sector and government are worried about the fact that US adversaries may use the technology for aggressive cyber attacks and develop biological weapons, the Chinese Embassy has opposed the move and described it as unilateral bullying and economic coercion. Deepfakes are a lethal disinformation weapon The threats that the US dreads are many and can be used by non-state actors that are backed by states. Deepfakes can be used as an effective weapon for propaganda, as they involve realistic but fake videos created by AI tools. These types of videos are already emerging on social media. While such media content has been around for the past few years, developed with animation and rendering software, generative AI tools have made it easy to produce for anyone, and rogue actors can leverage them more easily than ever before to manipulate public opinions on sensitive issues, especially during election campaigns. Social media platforms like YouTube, Facebook, and Twitter have already taken steps to curtail deepfakes, but tactics to develop and publish them are also changing with the development of technology. At the moment, tools from companies like Microsoft and OpenAI can be used to create content for spreading disinformation. A much bigger concern is that AI models can leak information for developing biological weapons, according to researchers at Rand Corporation and Gryphon Scientific, and US intelligence agencies, academic experts, and think tanks are worried about the possibility of AI going into the hands of rogue elements. The Gryphon study identified how LLMs can churn out expert knowledge and that of a doctoral level that can aid in developing viruses that have pandemic capabilities, and this can be used by non-state actors as biological weapons. Amplified cyberattacks with AI models The Department of Homeland Security has also expressed concerns that cyber attacks on crucial infrastructure like railways and pipelines could be executed with AI by developing new tools that will be capable of larger-scale and more complex cyber attacks and more rapidly. The agency also said that China is developing artificial intelligence software that can be used for malware attacks, and it is also working on AI technologies that could potentially sabotage the cyber defenses of the country. Functions and entities forming Chinese Communist Party’s ecosystem. Source: Microsoft. Back in February, Microsoft issued a report in which it noted that it has identified cyber groups involved in hacking activities that are perfecting their hacking campaigns by utilizing LLMs, and they have affiliations with the military intelligence of Russia, the North Korean and Chinese governments, and the Revolutionary Guards of Iran. The company announced a ban on state-funded cyber groups that are using its AI products and services. On Wednesday, a group of statesmen proposed a bill that will help the Biden government enforce controls on the export of AI models to prevent their exposure to potential adversaries. Experts on the subject have said that Washington is trying to avoid overbearing regulations that could suppress innovation as they are trying to foster innovation along with possible solutions for risks associated with AI. They also highlighted that enforcing strict regulations by strictly regulating AI advancement will create a vacuum for overseas competitors and negatively impact the fields of infrastructure, national security, and drug discovery.

Das Handelsministerium unter der Biden-Regierung strebt eine neue Compliance-Initiative an, um den Export von Open- oder Closed-Source-Modellen der künstlichen Intelligenz weiter einzuschränken. Die Initiative ist ein Versuch, US-Interessen und KI-Technologie vor Russland und China zu schützen und wird die in den letzten zwei Jahren unternommenen Schritte ergänzen, um China den Zugang zu den neuesten fortschrittlichen Computerchips zu verwehren.
Die USA wollen strengere Schutzbarrieren um die Kernsoftware großer Sprachmodelle errichten, die Apps wie ChatGPT antreiben, berichtete Reuters unter Berufung auf drei mit der Angelegenheit vertraute Quellen. Während der Nachrichtenanbieter behauptet, Forscher im privaten Sektor und in der Regierung seien besorgt darüber, dass US-Gegner die Technologie für aggressive Cyberangriffe und die Entwicklung biologischer Waffen nutzen könnten, hat sich die chinesische Botschaft gegen den Schritt ausgesprochen und ihn als einseitiges Mobbing und wirtschaftlichen Zwang bezeichnet.
Deepfakes sind eine tödliche Desinformationswaffe
Die Bedrohungen, die die USA fürchten, sind vielfältig und können von nichtstaatlichen Akteuren ausgenutzt werden, die von Staaten unterstützt werden. Deepfakes können als wirksame Propagandawaffe eingesetzt werden, da es sich dabei um realistische, aber gefälschte Videos handelt, die von KI-Tools erstellt wurden.
Solche Videos tauchen bereits in den sozialen Medien auf. Zwar gibt es solche Medieninhalte schon seit einigen Jahren, entwickelt mit Animations- und Rendering-Software, doch dank generativer KI-Tools ist ihre Produktion für jedermann leicht geworden. Betrüger können sie leichter als je zuvor nutzen, um die öffentliche Meinung zu sensiblen Themen zu manipulieren, insbesondere während des Wahlkampfs.
Social-Media-Plattformen wie YouTube, Facebook und Twitter haben bereits Maßnahmen ergriffen, um Deepfakes einzudämmen, doch mit der Entwicklung der Technologie ändern sich auch die Taktiken zu ihrer Entwicklung und Veröffentlichung. Derzeit können Tools von Unternehmen wie Microsoft und OpenAI verwendet werden, um Inhalte zur Verbreitung von Desinformationen zu erstellen.
Eine weitaus größere Sorge besteht laut Forschern der Rand Corporation und Gryphon Scientific darin, dass KI-Modelle Informationen für die Entwicklung biologischer Waffen weitergeben könnten. Auch US-Geheimdienste, wissenschaftliche Experten und Think Tanks sind besorgt, dass KI in die Hände abtrünniger Elemente geraten könnte.
Die Gryphon-Studie hat aufgezeigt, wie LLMs Expertenwissen und Wissen auf Doktoratsniveau hervorbringen können, das bei der Entwicklung von Viren mit Pandemiepotenzial hilfreich sein kann, welche wiederum von nichtstaatlichen Akteuren als biologische Waffen eingesetzt werden können.
Verstärkte Cyberangriffe mit KI-Modellen
Das Heimatschutzministerium hat zudem seine Besorgnis darüber geäußert, dass Cyberangriffe auf wichtige Infrastrukturen wie Eisenbahnen und Pipelines mithilfe künstlicher Intelligenz ausgeführt werden könnten. Dazu werden neue Tools entwickelt, die größere und komplexere Cyberangriffe schneller durchführen können.
Die Agentur sagte außerdem, dass China Software für künstliche Intelligenz entwickle, die für Malware-Angriffe verwendet werden könne, und dass das Land auch an KI-Technologien arbeite, die möglicherweise die Cyberabwehr des Landes sabotieren könnten.
Funktionen und Einheiten, die das Ökosystem der Kommunistischen Partei Chinas bilden. Quelle: Microsoft.
Bereits im Februar veröffentlichte Microsoft einen Bericht, in dem es feststellte, dass es an Hackerangriffen beteiligte Cybergruppen identifiziert habe, die ihre Hackerkampagnen durch die Nutzung von LLMs perfektionieren und Verbindungen zum militärischen Geheimdienst Russlands, der nordkoreanischen und chinesischen Regierung sowie zu den Revolutionsgarden des Iran hätten.
Das Unternehmen kündigte ein Verbot für staatlich finanzierte Cybergruppen an, die seine KI-Produkte und -Dienste nutzen. Am Mittwoch schlug eine Gruppe von Staatsmännern einen Gesetzentwurf vor, der der Biden-Regierung helfen soll, Kontrollen für den Export von KI-Modellen durchzusetzen, um zu verhindern, dass diese potenziellen Gegnern zugänglich gemacht werden.
Experten auf diesem Gebiet haben erklärt, dass Washington versucht, übertriebene Regulierungen zu vermeiden, die Innovationen unterdrücken könnten, da man Innovationen und mögliche Lösungen für die mit KI verbundenen Risiken fördern möchte. Sie betonten auch, dass die Durchsetzung strenger Regulierungen durch eine strikte Regulierung der KI-Entwicklung ein Vakuum für ausländische Wettbewerber schaffen und sich negativ auf die Bereiche Infrastruktur, nationale Sicherheit und Arzneimittelforschung auswirken wird.

KI-Modelle können riskant sein, wenn sie unkontrollierten Elementen überlassen werden

Weitere Inhalte des Erstellers entdecken

Aktuelle Nachrichten