Principio 8trust

Rendere espliciti i passaggi, le approvazioni e i blocchi

Quando il sistema non può procedere, la ragione dovrebbe essere immediatamente visibile, insieme a qualsiasi azione richiesta dall'utente o da un'altra dipendenza.

Fatti chiave

Cluster: trust
Rischio principale: I compiti si fermano silenziosamente, creando confusione e erodendo la fiducia.
Esempi correlati: 6 esempi in libreria
Libreria di dottrina: Riferimento interno alla dottrina

Perché questo principio è importante?

Nei sistemi agentici, il fallimento spesso non deriva da un ragionamento errato ma da una responsabilità poco chiara. Gli utenti devono sapere quando un compito è in pausa, perché è in pausa e cosa riprenderà il progresso.

Evidenziare chiaramente gli stati di attesa.

Spiegare se la dipendenza è un'azione dell'utente, l'accesso al sistema, un vincolo di policy o un fallimento dello strumento.

Rendere specifiche e minime le azioni richieste.

Distinguere tra interruzione, fallimento e approvazione.

Quale fallimento previene questo principio?

I compiti si fermano silenziosamente, creando confusione e erodendo la fiducia.

AI come abbellimento dell'interfaccia: Un prodotto convenzionale è dotato di un input testuale e viene etichettato come intelligente, senza alcun cambiamento significativo nel modello operativo.

Autonomia simulata: Il sistema appare autonomo nel linguaggio o nella presentazione ma non può agire con un'indipendenza significativa.

Esecuzione opaca: Il lavoro avviene in background senza uno stato adeguato, responsabilità o recuperabilità.

Come applico questo principio in pratica?

La libreria di implementazione contiene esempi ispezionabili e rieseguibili che mostrano questo principio applicato in codice reale. Studia i source path, le librerie scelte e le dipendenze di runtime, non solo il nome del pattern.

Esempio di implementazione

Intelligenza: il "cervello" che elabora le informazioni e prende decisioni usando gli LLM.

Questo componente gestisce la comprensione del contesto, il rispetto delle istruzioni e la generazione delle risposte. (script · intermediate)

Ispeziona l'implementazione

Esempio di implementazione

Memoria: archivia e recupera informazioni rilevanti tra le interazioni.

Questo componente mantiene la cronologia della conversazione e il contesto per abilitare interazioni coerenti su più turni. (script · intermediate)

Ispeziona l'implementazione

Esempio di implementazione

Strumenti: consente agli agenti di eseguire azioni specifiche in sistemi esterni.

Questo componente fornisce la capacità di effettuare chiamate API, aggiornamenti di database, operazioni sui file e altre azioni pratiche. (script · intermediate)

Ispeziona l'implementazione

Fatti chiave

Esempi correlati