162 artículos
Explorar guías
La privacidad diferencial agrega ruido calibrado para que los registros individuales no puedan reconstruirse a partir de las salidas, con un presupuesto de privacidad ajustable que cuantifica la garantía. A diferencia de la anonimización, es una prueba y no una esperanza. El costo es exactitud, y el presupuesto es finito a lo largo de las consultas. En la práctica: Publicar estadísticas agregadas que no puedan usarse para identificar a ningún encuestado en particular. ...
La procedencia responde las preguntas que llegan con una auditoría o una demanda: de quién son estos datos, con qué base se recolectaron y si tenemos permitido entrenar con ellos. Reconstruirla después es doloroso y a veces imposible. También sostiene la reproducibilidad y la defensa frente al envenenamiento. En la práctica: Poder demostrar que ningún dato personal extraído de la web entró al conjunto de entrenamiento.
Un prompt es todo lo que el modelo ve en una solicitud, no solo tu última oración. Normalmente agrupa un prompt del sistema, el historial de la conversación, los documentos adjuntos y tu pedido real. Entender que la entrada es todo ese paquete es el primer paso para controlar la salida. En la práctica: ‘Reescribe esto en 80 palabras para un lector no técnico’ es un prompt; ‘acórtalo’ es un deseo. ...
El prompt del sistema se ubica por encima del turno del usuario y persiste durante toda la sesión, definiendo quién es el asistente y qué debe y qué no debe hacer. Es donde los equipos de producto ponen la voz, el alcance y las reglas de rechazo. Es influyente, pero no es una frontera de seguridad — trátalo como configuración, no como un control fuera del alcance de los usuarios. ...
Los prompts negativos le dan a un modelo de difusión una indicación explícita para alejarse de ciertos rasgos — dedos de más, marcas de agua, un estilo en particular. Son un control de primera clase en las herramientas de imagen y prácticamente no existen en los modelos de texto, donde decir lo que sí quieres funciona mejor que listar lo que no. En la práctica: Prompt negativo: ’texto, marca de agua, borroso, extremidades de más'. ...
El prompting de cadena de pensamiento mejora la exactitud en problemas de varios pasos porque obliga al modelo a generar pasos intermedios en lugar de saltar a una conclusión. También vuelve inspeccionable el razonamiento, lo que ayuda a detectar dónde se equivocó. Ten en cuenta que el razonamiento declarado no necesariamente es el cálculo real — es un artefacto útil, no una prueba. En la práctica: ‘Desarrolla el cálculo paso a paso y luego indica la cifra final.’ ...
Proveedor es el rol que carga con las obligaciones más pesadas. Se define por lo que haces, no por lo que construyes: si le pones tu marca al modelo de otro, puedes convertirte en el proveedor de ese sistema. Modificar sustancialmente un sistema de alto riesgo también puede transferirte el estatus de proveedor. En la práctica: Comercializar con marca blanca un modelo de terceros como ‘YourCo AI’ puede convertirte en el proveedor. ...
Los proveedores posteriores construyen productos sobre el modelo GPAI de un tercero. La ley obliga al proveedor del modelo original a entregar la información técnica que los proveedores posteriores necesitan para cumplir sus propias obligaciones. Es el mecanismo que vuelve legible la cadena de valor en lugar de una caja negra. En la práctica: Construir y vender un asistente legal sobre la API de otra empresa.
Una red neuronal toma una entrada en forma de números, los multiplica por pesos aprendidos, aplica una función no lineal y pasa el resultado a la siguiente capa. Repite esto suficientes veces con suficientes datos y la red puede aproximar relaciones notablemente complejas. La analogía de las ’neuronas’ es una etiqueta histórica, no una afirmación sobre biología. En la práctica: Un clasificador de imágenes es una red neuronal que convierte 200,000 valores de píxeles en un número por cada etiqueta posible. ...
El red teaming es prueba adversaria: hay personas que intentan que el modelo produzca salidas dañinas, falsas o fuera de política, y los hallazgos vuelven al entrenamiento y a las barreras de protección. Se diferencia de la evaluación normal por ser creativo y abierto, en lugar de puntuarse contra un conjunto fijo. Para los modelos de frontera es cada vez más una expectativa regulatoria. En la práctica: Veinte personas dedicando una semana a lograr que un bot de soporte prometa reembolsos que no puede cumplir. ...