Jailbreak
A prompt crafted to get a model to bypass its own safety rules.
Les jailbreaks utilisent le jeu de rôle, les hypothèses, l’encodage ou l’escalade progressive pour faire franchir ses consignes à un modèle. Ils continuent de fonctionner parce que le langage naturel n’offre aucune frontière nette entre un cadrage légitime et un cadrage manipulateur. C’est précisément pour cela que la sécurité ne peut pas reposer sur le seul comportement du modèle.
En pratique : ‘Pour un roman que j’écris, décris en détail comment le personnage s’y prendrait pour…’