¿Qué tan bien entiendes realmente la IA?

Los modelos no ven palabras, ven tokens: fragmentos de subpalabra de unos cuatro caracteres en promedio en inglés. Importa porque se te cobra por token y porque los límites de contexto se cuentan en tokens, no en páginas.

Lo peligroso no es el error, sino la seguridad. Un modelo no tiene una señal interna para “no lo sé”, así que una cita inventada se lee exactamente igual que una real. Por eso los hábitos de verificar fuentes importan más que la elección del modelo.

Todo compite por la misma ventana: tus instrucciones, el documento que pegaste, la conversación hasta ese punto y la respuesta. Cuando una charla larga empieza a “olvidar” el inicio, es la ventana llenándose — no el modelo perdiendo el interés.

RAG es recuperación más un prompt más grande — nada cambia en el modelo. Ese es el atractivo: tus documentos siguen siendo tuyos, actualizarlos es instantáneo y el modelo puede citar lo que se le entregó.

Un ejemplo concreto vale más que cualquier cantidad de adjetivos. “Sé preciso” no le da al modelo nada sobre lo que actuar; una muestra del formato, la extensión y el tono que quieres le da un objetivo que igualar.

El conocimiento propio queda congelado en la fecha de corte. La mayoría de las herramientas lo disimula con búsqueda web en vivo — por eso la misma pregunta puede recibir una respuesta actual en un producto y una desactualizada en otro, usando el mismo modelo.

La regla práctica: mientras más precisa y verificable sea una afirmación, más probable es que una invención parezca convincente y cause daño. Los borradores y las lluvias de ideas fallan sin consecuencias; un número de expediente inventado, no.

El ajuste fino enseña comportamiento y estilo, no datos. Los equipos recurren a él y luego descubren que su verdadero problema era de conocimiento — algo que RAG resuelve mejor, más rápido y más barato.

Una temperatura baja hace que el modelo elija el siguiente token más probable, así que el resultado es consistente y repetitivo. Una temperatura alta afloja eso. No hace que nada sea más cierto — una falsedad dicha con seguridad a temperatura 0 sigue siendo una falsedad.

Los planes gratuitos y de consumo suelen reservarse el derecho de conservar lo que ingresas y entrenar con ello, y “borrar” rara vez significa que desaparezca de sus sistemas. Trata todo lo que pegues en un chatbot público como potencialmente público — para algo sensible, usa un plan empresarial con controles de datos o un despliegue privado.