AIAvanzado#Infrastructure#Data Provenance#AI Safety
RAG (Generacion Aumentada por Recuperacion)
R
Definition
Patron de sistema que recupera registros externos seleccionados y los aporta junto a consulta a modelo de lenguaje. Recuperacion puede mejorar trazabilidad y actualidad cuando fuentes se citan; no prueba que registro sea verdadero, completo, actual ni seguro para actuar.
Revisado con fuentes
- NIST: Adversarial Machine Learning Taxonomy abre en una pestana nueva
Respalda: NIST identifies retrieval-augmented generation as a model-based system relevant to generative-AI attack classes, including indirect prompt injection and data poisoning.
- OWASP: LLM01 Prompt Injection abre en una pestana nueva
Respalda: OWASP documents that crafted untrusted content can alter an LLM application's behavior and recommends keeping application functions in code rather than granting model output direct authority.
Diagrama del Concepto
Key Takeaways
1
RAG recupera registros externos seleccionados antes de que modelo redacte respuesta; no garantiza informacion en vivo, correcta ni completa.
2
Muestra registro original, editor, horas de fuente y recopilacion, identificadores, extracto seleccionado y regla de recuperacion junto a resumen de modelo.
3
Fuentes recuperadas son entrada no confiable y no deben cambiar instrucciones de sistema, permisos ni politica de transaccion.
4
Usa RAG para investigacion revisable, no ejecucion de trading: acciones de alto impacto requieren controles independientes y aprobacion explicita.
Practical Example
Usuario pregunta sobre actualizacion de protocolo. Flujo RAG devuelve aviso oficial y dos informes reputados pero contradictorios, con URL, hora de publicacion, hora de recopilacion y extractos de cada uno. Etiqueta conflicto, redacta preguntas para revision y no crea alerta de trade ni transaccion.
Has terminado de aprender?
Related Terms
AI
Capa de PercepcionParte de flujo IA que recopila y etiqueta entradas como registros blockchain, datos de mercado y comunicaciones publicas. Aporta contexto para revision; no establece verdad, identifica personas, predice precios ni justifica accion.
AI
Razonamiento LLMUsar modelo de lenguaje para resumir, clasificar o comparar informacion aportada. Su salida es texto probabilistico, no analisis de mercado verificado, asesoria financiera ni autoridad para ejecutar trade.
AI
Ventana de ContextoCapacidad maxima de tokens de entrada y salida que modelo puede manejar en peticion, sujeta a configuracion de modelo y proveedor. Es limite de capacidad, no memoria fiable, verificacion de datos ni medida de calidad de razonamiento.
AI
Ingenieria de PromptsPractica de disenar instrucciones de modelo, ejemplos, contexto y restricciones de salida para tarea limitada. Puede hacer flujo mas facil de evaluar; no hace salida de modelo determinista, correcta, segura ni adecuada para decision financiera.
AI
Base de Datos VectorialSistema que almacena representaciones vectoriales y recupera vectores cercanos mediante medida de similitud declarada. Puede apoyar recuperacion semantica, pero no determina si contenido recuperado es verdadero, actual o bastante relevante para usar.
Related Deep Dives
Master the hub of AI
Explore all our strategic guides about AI to take your operations to the next level.
View all articles