Testez vos connaissances en sécurité de l’IA

C’est une injection de prompt indirecte : l’attaque arrive par une donnée que l’IA lit, pas par l’utilisateur. La réponse D agit sur l’impact : même si le modèle est trompé, il ne peut pas faire sortir les données sans qu’une personne approuve l’action.

A est utile mais insuffisant : une consigne dans le prompt peut être contournée, ce n’est pas une frontière de sécurité. B ne garantit rien, car aucun modèle n’est immunisé. C protège les données stockées, pas ce que l’assistant en fait une fois qu’il les a lues.

L’agentivité excessive (Excessive Agency) désigne une IA qui a plus de fonctions, de permissions ou d’autonomie que nécessaire. Ici, le jeton d’administrateur transforme toute manipulation de l’agent en action à fort impact sur l’ensemble du CRM.

La correction relève du principe du moindre privilège : un compte dédié, limité aux seules opérations dont l’agent a besoin. Les autres réponses désignent de vrais risques, mais ils ne sont pas créés par ce choix de permissions.

L’empoisonnement des données survient pendant l’entraînement ou l’affinage : l’attaquant modifie ce que le modèle apprend. C’est le moment de l’attaque qui permet de la distinguer des autres.

L’évasion (A) vise un modèle déjà entraîné, en lui présentant une entrée modifiée pour le tromper au moment de l’utilisation. L’inversion de modèle (B) cherche à reconstituer des données d’entraînement à partir des réponses. L’inférence d’appartenance (D) cherche à savoir si un enregistrement précis faisait partie des données d’entraînement.

La gouvernance vient d’abord. Sans politique approuvée par la direction, il n’existe ni règle claire à faire respecter, ni base pour choisir les contrôles techniques. La réponse A répond aussi au besoin d’affaires en proposant des outils autorisés.

B déplace le problème vers les appareils personnels et ignore le besoin des employés. C est prématuré, puisqu’aucune règle n’a été communiquée. D est un bon contrôle technique, mais il vient appuyer une politique, pas la remplacer.

La Loi sur la protection des renseignements personnels dans le secteur privé, modifiée par la Loi 25, impose d’informer la personne d’une décision fondée exclusivement sur un traitement automatisé. Sur demande, l’entreprise doit aussi lui expliquer les renseignements utilisés, les raisons et les principaux facteurs de la décision, et lui permettre de présenter ses observations à une personne en mesure de réviser la décision.

ISO/IEC 42001 (A) est une norme volontaire. La Commission d’accès à l’information (B) n’approuve pas les algorithmes à l’avance. Le lieu d’hébergement (D) ne change rien à cette obligation.