AIAvanzado#AI Safety#Evaluation#Deployment
Inferencia
I
Definition
Etapa donde modelo desplegado procesa entrada y produce salida. Resultado de inferencia puede ser etiqueta, puntuacion, texto generado o borrador estructurado; no verifica su propia entrada, no predice mercado de forma fiable ni autoriza accion.
Revisado con fuentes
- NIST: Adversarial Machine Learning Taxonomy abre en una pestana nueva
Respalda: NIST describes risks across model training, deployment, and application stages, including attacks that compromise integrity, availability, or privacy rather than treating model output as self-verifying.
- NIST AI RMF: Generative AI Profile abre en una pestana nueva
Respalda: NIST explains that generated output can be confidently false or internally inconsistent, especially consequential when people act on it.
- OWASP: LLM06 Excessive Agency abre en una pestana nueva
Respalda: OWASP documents damaging actions that can follow when applications give broad tools or authority to unexpected, ambiguous, or manipulated LLM output.
Diagrama del Concepto
Key Takeaways
1
Inferencia ejecuta modelo desplegado sobre entrada y devuelve salida; no prueba que entrada o salida es correcta.
2
Registra version de modelo, fuente y hora de entrada, preprocesado, prompt, llamadas de herramienta, salida, limites y aprobacion posterior.
3
Baja latencia, puntuacion de confianza o explicacion generada por modelo no verifica reclamo de mercado ni datos anteriores.
4
Mantiene firma, trading, transferencias y cambios de acceso detras de politicas independientes y aprobacion explicita, con revocacion disponible.
Practical Example
Modelo recibe aviso oficial fechado y produce resumen estructurado. Registro guarda version de modelo, hashes de entrada, hora, limites y enlaces de fuente. Revisor compara resumen con aviso; flujo no tiene permiso de wallet, orden ni firma.
Has terminado de aprender?
Related Terms
AI
AgenticidadForma informal de describir cuanto sistema IA puede observar, planificar, llamar herramientas y actuar. No es puntuacion de madurez estandarizada, medida de confiabilidad ni permiso para dar autoridad amplia a agente.
AI
Capa de PercepcionParte de flujo IA que recopila y etiqueta entradas como registros blockchain, datos de mercado y comunicaciones publicas. Aporta contexto para revision; no establece verdad, identifica personas, predice precios ni justifica accion.
AI
Razonamiento LLMUsar modelo de lenguaje para resumir, clasificar o comparar informacion aportada. Su salida es texto probabilistico, no analisis de mercado verificado, asesoria financiera ni autoridad para ejecutar trade.
AI
Ingenieria de PromptsPractica de disenar instrucciones de modelo, ejemplos, contexto y restricciones de salida para tarea limitada. Puede hacer flujo mas facil de evaluar; no hace salida de modelo determinista, correcta, segura ni adecuada para decision financiera.
Related Deep Dives
Master the hub of AI
Explore all our strategic guides about AI to take your operations to the next level.
View all articles