Microsoft Bans U.S. Police Departments From Using Enterprise AI Tool

Cryptopolitan · 2024-05-02T21:53:05.000Z

Microsoft has prohibited police forces in the United States from obtaining generative AI services running on Azure OpenAI Service. This is a fresh approach addressed in the upgraded terms of service on Wednesday and it aims to answer the growing ethical dilemma facing AI in law enforcement. Policy update highlights ethical concerns The revised terms expressly provide that such integrations cannot be used “by or for” police agencies in the United States. This restriction incorporates the text- and speech-analyzing models too, underlining Microsoft’s emphasis on responsible AI use. As an additional regulation, a separate clause has been introduced to specifically forbid the use of real-time facial recognition technology on mobile cameras, including body cameras and dashcams, in uncontrolled environments. Microsoft bans U.S. police departments from using enterprise AI tool https://t.co/OxrFO5scO9 — TechCrunch (@TechCrunch) May 2, 2024 The trigger for those movements might be identified in the technology industry`s recent advances. Axon, the well-known technology company specializing in military and law enforcement, just announced a product that uses OpenAI’s verbalizer model with GPT-4 generative text to help sum up the audio that body cameras register. The generated fake information and its bias in racial prejudice in training data were addressed to show the concerns of some critics at once. Implications and room for interpretation While the upgraded policy is Microsoft’s decisive stand, it still allows for an interpretation. The prohibition of Azure OpenAI Service applies to U.S. police only as international deployment continues. Furthermore, the limitations on the use of facial recognition technology apply solely to its use by US law enforcement units, excluding stationary cameras in controlled environments. Such a balanced methodology complies well with Microsoft’s broad AI strategy on law enforcement and defense. In the meantime, despite bans on certain uses, cooperation between OpenAI and government agencies, amongst which the Pentagon is a prime example, has slowly arisen. Such partnerships indicate a change of stance for the OpenAI as for Microsoft which is searching for AI applications in military technologies. Government engagement and industry dynamics The adoption of Microsoft’s Azure OpenAI Service by government agencies has accelerated as Azure Government includes added compliance and management tools for use-case by law enforcement. Candice Ling, Senior Vice President of Microsoft Federal, will be in charge of getting more approvals from the Department of Defense for Azure OpenAI Service thus showing that the platform can be useful in urgent missions. The dynamic area of AI ethics and regulation creates a necessity for tech companies to take thought-out actions ahead of time. Through its decision to avert using AI in law enforcement, Microsoft demonstrates a wider industry tendency to increase accountability and transparency in deploying AI. During the AI regulation conversations, the technology providers, the policymakers and the activist groups will have to work together to resolve the newly formed issues ethically. The move by Microsoft to stop the departments of police in the U.S. from using Azure OpenAI Service for particular scenarios is evidence of the deliberate and focused approach the company is taking to deal with AI deployment ethical concerns. Indeed, the amendment reveals the sincerity of policymakers and the complexities involved in this balancing act. Considering the evolution of ethical AI discussions, concerned stakeholders should always participate in constructive dialog to create responsible AI growth and delivery.

Microsoft a interdit aux forces de police des États-Unis d'obtenir des services d'IA générative fonctionnant sur Azure OpenAI Service. Il s’agit d’une nouvelle approche abordée dans les conditions d’utilisation améliorées mercredi et qui vise à répondre au dilemme éthique croissant auquel est confrontée l’IA dans les forces de l’ordre.
La mise à jour de la politique met en lumière les préoccupations éthiques
Les conditions révisées prévoient expressément que de telles intégrations ne peuvent pas être utilisées « par ou pour » les services de police aux États-Unis. Cette restriction intègre également les modèles d’analyse de texte et de parole, soulignant l’accent mis par Microsoft sur une utilisation responsable de l’IA. En guise de réglementation supplémentaire, une clause distincte a été introduite pour interdire spécifiquement l'utilisation de la technologie de reconnaissance faciale en temps réel sur les caméras mobiles, y compris les caméras corporelles et les dashcams, dans des environnements non contrôlés.
Microsoft interdit aux services de police américains d'utiliser l'outil d'IA d'entreprise https://t.co/OxrFO5scO9
– TechCrunch (@TechCrunch) 2 mai 2024
Le déclencheur de ces mouvements pourrait être identifié dans les récentes avancées de l’industrie technologique. Axon, la société technologique bien connue spécialisée dans l'armée et l'application de la loi, vient d'annoncer un produit qui utilise le modèle de verbaliseur d'OpenAI avec le texte génératif GPT-4 pour aider à résumer l'audio enregistré par les caméras corporelles. Les fausses informations générées et leurs préjugés raciaux dans les données de formation ont été abordés pour montrer immédiatement les préoccupations de certains critiques.
Implications et marge d’interprétation
Même si la politique mise à jour constitue la position décisive de Microsoft, elle permet néanmoins une interprétation. L’interdiction d’Azure OpenAI Service s’applique à la police américaine uniquement à mesure que le déploiement international se poursuit. En outre, les limitations concernant l’utilisation de la technologie de reconnaissance faciale s’appliquent uniquement à son utilisation par les forces de l’ordre américaines, à l’exclusion des caméras fixes dans des environnements contrôlés.
Une méthodologie aussi équilibrée s’accorde bien avec la vaste stratégie d’IA de Microsoft en matière d’application de la loi et de défense. Entre-temps, malgré l’interdiction de certaines utilisations, la coopération entre OpenAI et les agences gouvernementales, parmi lesquelles le Pentagone est un excellent exemple, s’est progressivement développée. De tels partenariats indiquent un changement de position pour OpenAI comme pour Microsoft qui recherche des applications d'IA dans les technologies militaires.
Engagement du gouvernement et dynamique de l’industrie
L’adoption du service Azure OpenAI de Microsoft par les agences gouvernementales s’est accélérée à mesure qu’Azure Government inclut des outils de conformité et de gestion supplémentaires destinés aux cas d’utilisation par les forces de l’ordre. Candice Ling, vice-présidente senior de Microsoft Federal, sera chargée d'obtenir davantage d'approbations du ministère de la Défense pour le service Azure OpenAI, montrant ainsi que la plateforme peut être utile dans des missions urgentes.
Le domaine dynamique de l’éthique et de la réglementation de l’IA oblige les entreprises technologiques à prendre des mesures réfléchies à l’avance. En décidant d’éviter d’utiliser l’IA dans les forces de l’ordre, Microsoft démontre une tendance plus large du secteur à accroître la responsabilité et la transparence dans le déploiement de l’IA. Au cours des discussions sur la réglementation de l’IA, les fournisseurs de technologie, les décideurs politiques et les groupes d’activistes devront travailler ensemble pour résoudre les nouveaux problèmes de manière éthique.
La décision de Microsoft d’empêcher les services de police américains d’utiliser Azure OpenAI Service dans des scénarios particuliers témoigne de l’approche délibérée et ciblée adoptée par l’entreprise pour répondre aux préoccupations éthiques liées au déploiement de l’IA. En effet, l’amendement révèle la sincérité des décideurs politiques et la complexité de cet exercice d’équilibre. Compte tenu de l’évolution des discussions éthiques sur l’IA, les parties prenantes concernées devraient toujours participer à un dialogue constructif pour créer une croissance et une diffusion responsables de l’IA.

Découvrez-en plus sur le créateur

Dernières actualités