162 artículos
Explorar guías
Un embedding convierte un texto, una imagen o un ítem en un vector dentro de un espacio de muchas dimensiones, organizado de modo que la similitud semántica se vuelve proximidad geométrica. Esa sola propiedad impulsa la búsqueda semántica, las recomendaciones, el agrupamiento y la mitad de recuperación de RAG. En la práctica: ‘auto’ y ‘automóvil’ quedan cerca uno del otro; ‘auto’ y ‘autopista’ no, pese a compartir letras.
El envenenamiento ataca al modelo antes de que exista. Una pequeña cantidad de datos manipulados puede instalar una puerta trasera que se comporta con normalidad salvo ante una entrada elegida por el atacante. Es un problema de cadena de suministro, y por eso la procedencia de los datos es un control de seguridad y no solo documentación. En la práctica: Ejemplos inyectados que hacen que un filtro apruebe cualquier cosa que contenga una frase determinada. ...
El entrenamiento normalmente toma muchas épocas, ya que una sola mirada a los datos rara vez alcanza. Con muy pocas, el modelo queda subajustado; con demasiadas, empieza a memorizar. Los modelos muy grandes a veces se entrenan durante menos de una época, simplemente porque el conjunto de datos es enorme. En la práctica: Diez épocas sobre 50,000 imágenes significa que el modelo vio cada imagen diez veces.
La equidad suena a una sola propiedad, pero son muchas: igual exactitud entre grupos, iguales tasas de falsos positivos, iguales resultados. Está demostrado matemáticamente que no puedes satisfacer todas las definiciones razonables a la vez, salvo en casos triviales. Así que trabajar en equidad significa elegir qué definición exige tu contexto y defender esa elección. En la práctica: Igualar las tasas de error entre grupos puede forzar tasas de aprobación desiguales, y viceversa. ...
El espacio de acciones define hasta dónde puede llegar un agente. Si es demasiado pequeño, no logra terminar el trabajo; si es demasiado grande, comete más errores y amplía el radio de impacto de cada uno. Delimitarlo de forma deliberada es un control de seguridad, no un detalle de configuración. En la práctica: Leer el calendario y enviar invitaciones — pero no eliminar eventos ni escribir correos a destinatarios externos. ...
Una etiqueta es el objetivo que un modelo supervisado intenta reproducir — la categoría, el número, la salida correcta. La calidad de las etiquetas le pone un techo a la calidad del modelo: si quienes anotan no se ponen de acuerdo o son descuidados, ninguna cantidad de cómputo lo arregla. En la práctica: En un conjunto de datos de fotos, ‘gato’ es la etiqueta; los píxeles son las características.
El Reglamento (UE) 2024/1689 entró en vigor el 1 de agosto de 2024 y se aplica por fases: las prácticas prohibidas desde febrero de 2025, las obligaciones para modelos de IA de uso general desde agosto de 2025 y el grueso del marco desde agosto de 2026. Ordena los sistemas en riesgo inaceptable, alto, limitado y mínimo, con obligaciones que escalan en consecuencia. Alcanza a proveedores de fuera de la UE cuya salida se use en la UE. ...
Las evals son la suite de pruebas automatizadas del software probabilístico: un conjunto fijo de casos con resultados esperados, ejecutado en cada cambio. Son la única forma de saber si un ajuste de prompt o una actualización de modelo ayudó o rompió algo en silencio. Los benchmarks públicos te hablan del modelo; las evals te hablan de tu sistema. En la práctica: 200 tickets reales con las respuestas correctas, ejecutados en cada cambio de prompt. ...
La evaluación de la conformidad es la puerta de cumplimiento para los sistemas de alto riesgo, realizada por el propio proveedor o a través de un organismo notificado, según el caso de uso. Termina en una declaración de conformidad, el marcado CE y el registro en la base de datos de la UE. Una modificación sustancial puede obligar a repetirla. En la práctica: Un expediente documentado que muestra la gestión de riesgos, la gobernanza de datos y las pruebas detrás del sistema. ...
La explicabilidad tiene que ver con la audiencia: una explicación debe ser utilizable por quien la necesita — un solicitante, un auditor, un ingeniero. Suele lograrse con métodos posteriores que aproximan el comportamiento del modelo en lugar de revelar su mecanismo real. Esa aproximación es una limitación real, no un tecnicismo. En la práctica: ‘Rechazado principalmente por la relación deuda-ingreso y un historial crediticio corto.’