162 artículos
Explorar guías
La idea del modelo fundacional invierte el flujo de trabajo anterior: en vez de entrenar un modelo nuevo para cada problema, entrenas un modelo general a un costo enorme y lo adaptas de forma barata mediante prompting o fine-tuning. Esa economía explica por qué un puñado de laboratorios entrena modelos y todos los demás construyen encima. El EU AI Act aborda prácticamente lo mismo bajo el nombre de modelo de IA de uso general. ...
Publicado por NIST en enero de 2023, el AI RMF es una guía y no una ley, y es agnóstico al sector. Sus cuatro funciones les dan a los equipos una estructura para identificar el contexto, medir el riesgo y actuar sobre él. Se ha vuelto la referencia de facto para los programas de gobernanza de IA, incluso en empresas sin obligaciones en Estados Unidos, porque es práctico y gratuito. ...
Un solo ejemplo suele bastar para fijar el formato cuando la tarea en sí ya se entiende pero la forma de la salida no. Es la manera más barata de evitar que un modelo envuelva el JSON en prosa. En la práctica: Muestra un par de entrada y salida, y luego entrega la entrada real.
La orquestación es la lógica de enrutamiento y control alrededor de los modelos: reintentos, planes de respaldo, escalamiento empezando por el modelo barato, pasos en paralelo, estado. En producción, esa capa, y no el modelo, suele ser lo que determina si el sistema es confiable y costeable. En la práctica: Enrutar los tickets fáciles a un modelo pequeño y escalar los ambiguos a un modelo de razonamiento.
Los parámetros son los valores aprendibles dentro de un modelo — sobre todo pesos y sesgos. El entrenamiento es el proceso de irlos empujando hasta que las salidas del modelo dejan de estar equivocadas. Cifras de titular como ‘70B parámetros’ describen capacidad, no calidad: la arquitectura, los datos y el postentrenamiento suelen importar más que el tamaño puro. En la práctica: Un modelo de 70B tiene aproximadamente 70 mil millones de números ajustables; un número más grande no significa automáticamente mejores respuestas. ...
ReAct — razonar más actuar — hace que el modelo enuncie su razonamiento, ejecute una acción, lea la observación y vuelva a pensar. Alternar las dos cosas funciona mejor que razonarlo todo por adelantado, porque los entornos reales devuelven sorpresas. La mayoría de los frameworks de agentes implementan alguna versión de esto. En la práctica: Pensamiento: necesito la fecha de la factura. Acción: search_invoices. Observación: tres resultados. Pensamiento: elegir la más reciente. ...
Los pesos determinan cuánto aporta cada entrada a cada salida en cada capa. Empiezan siendo aleatorios y se actualizan por descenso de gradiente hasta que la pérdida deja de mejorar. Cuando se habla de ‘pesos abiertos’, se refiere a que los números entrenados se pueden descargar, que es lo que hace posible el uso local y autoalojado. En la práctica: Descargar un modelo de pesos abiertos significa descargar un archivo con miles de millones de números de punto flotante. ...
Una plantilla congela las partes que funcionan y parametriza las que cambian. Es el punto donde el prompting deja de ser un truco personal y pasa a ser algo que un equipo puede versionar, probar y mejorar. Las plantillas también son lo que hace posible evaluar prompts, porque permiten mantener la estructura constante. En la práctica: ‘Resume {document} para {audience} en {n} viñetas.’
El artículo 5 prohíbe una lista definida, que incluye técnicas manipuladoras que distorsionan materialmente el comportamiento y causan daño, la explotación de vulnerabilidades, la puntuación social por parte de autoridades públicas o en su nombre, el rastreo no dirigido de imágenes faciales para construir bases de datos de reconocimiento, y la inferencia de emociones en el trabajo y en las escuelas — con excepciones acotadas. Estas se aplican al margen de cualquier evaluación de riesgos: no hay ruta de cumplimiento. ...
La precisión pregunta: de todo lo que el modelo marcó, ¿cuánto era correcto? El recall pregunta: de todo lo que debió marcar, ¿cuánto atrapó? Se compensan entre sí, y cuál de los dos optimizas es una decisión de producto, no técnica. La exactitud esconde a ambos. En la práctica: Un modelo de fraude que atrapa el 60% del fraude (recall) con el 90% de sus alertas genuinas (precisión) puede ser mejor que uno con 99.9% de exactitud que no atrapa nada. ...