[points clés]

Points clés

• •L'empoisonnement de modèles transforme l'IA en arme en manipulant les données d'entraînement, intégrant des 'agents dormants' qui s'activent sous des conditions spécifiques.
• •Microsoft a identifié trois signes clés d'un modèle empoisonné : un changement dans l'attention du modèle lorsqu'un déclencheur est présent, une fuite de données d'entraînement empoisonnées, et la sensibilité du modèle aux déclencheurs 'flous' ou partiels.
• •Microsoft a développé un scanner pour détecter les portes dérobées dans les modèles de langage, mais il est limité aux modèles open-source et aux portes dérobées avec des sorties déterministes.