162 artículos
Explorar guías
Un SDK te evita armar a mano las llamadas HTTP, los reintentos y el streaming. Se encarga de la autenticación, el tipado y el manejo de errores con código idiomático. Usar uno casi siempre es más rápido y más seguro que hablarle al endpoint crudo. En la práctica: Tres líneas de Python en lugar de treinta líneas de código para armar la solicitud a mano.
La seguridad de la IA abarca problemas de corto plazo — un modelo que da instrucciones peligrosas, un sistema que falla en silencio en producción — y preocupaciones de más largo plazo sobre sistemas muy capaces. Es tanto práctica de ingeniería como filosofía: evaluar, hacer red teaming, monitorear y poder revertir son todo trabajo de seguridad. En la práctica: Probar qué hace un modelo con una solicitud que debería rechazar, antes de que lo descubran los clientes. ...
El sesgo en IA tiene dos sentidos que se confunden: uno estadístico (una desviación sistemática) y uno social (trato injusto hacia ciertos grupos). NIST distingue entre sesgo sistémico, estadístico y cognitivo humano, porque cada uno necesita un remedio distinto. Nombrar de cuál estás hablando es la mitad del trabajo de atenderlo. En la práctica: Un modelo entrenado con diez años de datos de contratación reproduce diez años de patrones de contratación. ...
El sesgo algorítmico surge de datos de entrenamiento desbalanceados, de variables proxy que sustituyen a atributos protegidos y de las decisiones sobre qué optimizar. Rara vez hace falta que alguien lo pretenda. Como es sistemático y no aleatorio, escala — que es justamente lo que lo vuelve peor que el sesgo de una persona. En la práctica: Un código postal que codifica en silencio el origen étnico y termina decidiendo créditos. ...
El shadow AI es la versión IA del shadow IT, y es casi universal porque las herramientas son gratis y la ganancia de productividad es inmediata. Los riesgos son que los datos salgan del perímetro y que entren salidas sin revisar a los productos de trabajo. Bloquear herramientas falla sistemáticamente; ofrecer herramientas aprobadas más capacitación funciona mejor. En la práctica: Contratos de clientes pegados en un chatbot gratuito de consumo para conseguir un resumen. ...
El artículo 3(1) define un sistema de IA como un sistema basado en máquinas, diseñado para funcionar con distintos niveles de autonomía, que puede ser adaptativo después del despliegue y que infiere, a partir de sus entradas, cómo generar salidas como predicciones, contenidos, recomendaciones o decisiones capaces de influir en entornos. La definición es deliberadamente neutral respecto de la tecnología, y ‘infiere’ es la palabra clave — es lo que separa a un sistema de IA del software común. La Comisión publicó directrices en febrero de 2025 para ayudar a trazar esa línea. ...
El alto riesgo cubre la IA usada como componente de seguridad de un producto regulado, más la lista del Anexo III: biometría, infraestructura crítica, educación, empleo, servicios esenciales, aplicación de la ley, migración y justicia. El alto riesgo no está prohibido; está regulado. Las obligaciones incluyen gestión de riesgos, gobernanza de datos, documentación técnica, registro de eventos, supervisión humana, exactitud y robustez, y evaluación de la conformidad. En la práctica: El software que puntúa a candidatos a un empleo o califica exámenes cae en el Anexo III. ...
El artículo 3(39) lo define y el artículo 5 prohíbe su uso en el trabajo y en la educación, con excepciones acotadas para fines médicos y de seguridad. En otros ámbitos suele ser de alto riesgo. La base científica para inferir emociones a partir del rostro o la voz está cuestionada, y eso es parte de por qué la restricción es estricta. En la práctica: Software que dice medir el entusiasmo de un candidato a partir de una entrevista en video. ...
Los esquemas multiagente reparten un trabajo entre agentes con roles acotados — investigar, redactar, criticar — bajo la teoría de que un contexto enfocado le gana a un solo agente haciendo malabares con todo. Ayudan de verdad en tareas que se descomponen con limpieza. También multiplican el costo, la latencia y los modos de fallo, así que recurre a uno solo después de que un agente único haya fallado de forma demostrable. ...
Un modelo sobreajustado ha aprendido tanto el ruido como la señal. Puntúa de maravilla en datos que ya vio y mal en datos que no. Los remedios habituales son más datos, menos capacidad del modelo, regularización y detener el entrenamiento temprano, cuando la pérdida de validación empieza a subir. En la práctica: 99% en los datos de entrenamiento, 62% en producción — un caso de manual.