Trustworthy AI
An umbrella for the properties an AI system needs to be relied on: valid, safe, secure, accountable, explainable, fair, privacy-enhanced.
IA confiável é o enquadramento que o NIST usa no AI Risk Management Framework, listando características que um sistema deve demonstrar, em vez de uma nota única a ser atingida. As características entram em conflito entre si, então o trabalho é equilibrá-las no contexto. É deliberadamente agnóstico em relação ao setor.
Na prática: Um sistema pode ser preciso e ainda assim não ser confiável, se ninguém consegue explicá-lo ou contestá-lo.