AIIntermedio#AI Safety#Evidence#Prompting
Cadena de Pensamiento (CoT)
C
Definition
Patron de prompting que pide a modelo descomponer tarea en texto intermedio. Texto puede ayudar a persona a inspeccionar borrador, pero es salida generada, no prueba de proceso interno de modelo, precision factual ni conclusion financiera valida.
Revisado con fuentes
- NIST AI RMF: Generative AI Profile abre en una pestana nueva
Respalda: NIST explains that generative systems can confidently produce false or internally inconsistent content, including fabricated logic or citations that can mislead people who act on the output.
- OWASP: LLM06 Excessive Agency abre en una pestana nueva
Respalda: OWASP explains that unexpected, ambiguous, or manipulated LLM output can cause damaging actions when an application grants broad authority to tools.
Diagrama del Concepto
Key Takeaways
1
CoT es patron de texto intermedio generado; no es evidencia de proceso interno de modelo ni de conclusion correcta.
2
Explicacion revisable debe separar registros fuente, hechos observados, supuestos, calculos reproducibles, datos faltantes y resumen tentativo.
3
Evalua reclamos contra registros primarios y recomputa calculos clave en lugar de confiar relato fluido paso a paso.
4
Pasos y conclusiones generados deben seguir como borradores: acciones que cambian estado requieren comprobaciones de politica independientes y aprobacion explicita.
Practical Example
Modelo recibe dos informes publicos fechados sobre evento de protocolo. Lista cada fuente, extrae solo afirmaciones atribuidas, anota contradiccion sin resolver y produce preguntas para revisor. No infiere direccion de precio, no etiqueta explicacion como rastro de auditoria ni prepara trade.
Has terminado de aprender?
Related Terms
AI
Capa de PercepcionParte de flujo IA que recopila y etiqueta entradas como registros blockchain, datos de mercado y comunicaciones publicas. Aporta contexto para revision; no establece verdad, identifica personas, predice precios ni justifica accion.
AI
Razonamiento LLMUsar modelo de lenguaje para resumir, clasificar o comparar informacion aportada. Su salida es texto probabilistico, no analisis de mercado verificado, asesoria financiera ni autoridad para ejecutar trade.
AI
Ingenieria de PromptsPractica de disenar instrucciones de modelo, ejemplos, contexto y restricciones de salida para tarea limitada. Puede hacer flujo mas facil de evaluar; no hace salida de modelo determinista, correcta, segura ni adecuada para decision financiera.
AI
RAG (Generacion Aumentada por Recuperacion)Patron de sistema que recupera registros externos seleccionados y los aporta junto a consulta a modelo de lenguaje. Recuperacion puede mejorar trazabilidad y actualidad cuando fuentes se citan; no prueba que registro sea verdadero, completo, actual ni seguro para actuar.
Related Deep Dives
Master the hub of AI
Explore all our strategic guides about AI to take your operations to the next level.
View all articles