🔐 Des chercheurs de Microsoft ont découvert un nouveau type d'attaque contre l'intelligence artificielle appelé « Skeleton Key ». Cette attaque peut supprimer la protection qui empêche la sortie de données dangereuses et sensibles.

- L'attaque Skeleton Key fonctionne simplement en invitant le modèle d'IA génératif avec un texte qui l'amène à modifier ses fonctions défensives.

- Par exemple, un modèle d'IA peut créer une recette Molotov s'il est indiqué que l'utilisateur est un expert en laboratoire.

- Cela pourrait être catastrophique si une telle attaque était appliquée à des données contenant des informations personnelles et financières.

- Microsoft affirme que l'attaque Skeleton Key fonctionne sur les modèles d'IA générative les plus populaires, notamment GPT-3.5, GPT-4o, Claude 3, Gemini Pro et Meta Llama-3 70B.

Les organisations peuvent prendre un certain nombre de mesures pour prévenir de telles attaques, notamment un filtrage strict des E/S et des systèmes de surveillance sécurisés.