Trustworthy AI
An umbrella for the properties an AI system needs to be relied on: valid, safe, secure, accountable, explainable, fair, privacy-enhanced.
IA confiable es el marco que usa NIST en el AI Risk Management Framework, que enumera características que un sistema debería demostrar en lugar de un puntaje único que alcanzar. Las características se compensan entre sí, así que el trabajo consiste en equilibrarlas según el contexto. Es deliberadamente agnóstico al sector.
En la práctica: Un sistema puede ser preciso y aun así poco confiable si nadie puede explicarlo ni impugnarlo.