AIAvanzado#Agent Design#Authority#Risk Management
Agenticidad
A
Definition
Forma informal de describir cuanto sistema IA puede observar, planificar, llamar herramientas y actuar. No es puntuacion de madurez estandarizada, medida de confiabilidad ni permiso para dar autoridad amplia a agente.
Revisado con fuentes
- NIST AI Risk Management Framework abre en una pestana nueva
Respalda: NIST frames trustworthy AI as context-specific risk management across validity, reliability, safety, security, accountability, transparency, explainability, privacy, and fairness.
- OWASP Top 10 for LLM Applications abre en una pestana nueva
Respalda: Untrusted inputs and excessive agency are recognized risks, supporting constrained tool permissions and human review for consequential actions.
Diagrama del Concepto
Key Takeaways
1
Agenticidad es lenguaje informal para grados de accion IA, no puntuacion validada de madurez o confianza.
2
Observacion, razonamiento, uso de herramientas y ejecucion que cambia estado requieren controles separados.
3
Respuesta de modelo no es autoridad suficiente para enviar, firmar, pagar o cambiar sistema externo.
4
Usa minimo privilegio, logs, revision, aprobacion y revocacion en lugar de asumir que mas autonomia es mas segura.
Practical Example
Agente lee documentacion publica de protocolo y produce borrador de checklist. No puede conectar wallet ni enviar transaccion. Usuario separado revisa fuentes y elige si actuar. Este flujo tiene capacidad agentica limitada y ninguna autoridad de activo delegada.
Has terminado de aprender?
Related Terms
AI
Billetera AgenticaFlujo de wallet o smart account que da a software capacidad explicitamente limitada para preparar o ejecutar acciones. Es patron de implementacion, no funcion de ERC-4337, garantia de seguridad ni motivo para dar autoridad de firma sin limite a modelo.
AI
Capa de PercepcionParte de flujo IA que recopila y etiqueta entradas como registros blockchain, datos de mercado y comunicaciones publicas. Aporta contexto para revision; no establece verdad, identifica personas, predice precios ni justifica accion.
AI
Razonamiento LLMUsar modelo de lenguaje para resumir, clasificar o comparar informacion aportada. Su salida es texto probabilistico, no analisis de mercado verificado, asesoria financiera ni autoridad para ejecutar trade.
AI
Capa de EjecucionComponente controlado que prepara, valida, firma, envia y monitoriza operacion que cambia estado. En flujo de agente, debe tratar salida de modelo como propuesta no confiable, no como autoridad para mover fondos ni llamar contrato.
Related Deep Dives
Master the hub of AI
Explore all our strategic guides about AI to take your operations to the next level.
View all articles