Trustworthy AI
An umbrella for the properties an AI system needs to be relied on: valid, safe, secure, accountable, explainable, fair, privacy-enhanced.
L’IA digne de confiance est le cadrage retenu par le NIST dans son AI Risk Management Framework, qui liste les caractéristiques qu’un système devrait démontrer plutôt qu’un score unique à atteindre. Ces caractéristiques s’arbitrent les unes contre les autres, si bien que le travail consiste à les équilibrer selon le contexte. Le cadre est délibérément indépendant du secteur.
En pratique : Un système peut être précis et néanmoins indigne de confiance si personne ne peut l’expliquer ni le contester.