Cluster
Trust
The trust cluster covers principles that build user confidence through inspectability, progressive disclosure of system agency, and explicit handling of hand-offs, approvals, and blockers.
Fatti chiave
- Cluster
- Trust
- Principi
- 3
- Esempi collegati
- 6 esempi della libreria di implementazione
- Titoli dei principi
- Applicare la divulgazione progressiva all'agenzia del sistema; Stabilire fiducia attraverso l'ispezionabilità; Rendere espliciti i passaggi, le approvazioni e i blocchi
Principi in questo cluster
- Principio 4Applicare la divulgazione progressiva all'agenzia del sistemaFornire per impostazione predefinita le informazioni minime necessarie, consentendo agli utenti di ispezionare ulteriori dettagli quando è richiesta fiducia, comprensione o intervento.Utenti diversi, e lo stesso utente in contesti diversi, richiedono diversi livelli di trasparenza. L'esperienza predefinita dovrebbe rimanere chiara ed efficiente, mentre un'ispezione più approfondita dovrebbe rimanere disponibile quando giustificata.
- Principio 7Stabilire fiducia attraverso l'ispezionabilitàGli utenti dovrebbero essere in grado di esaminare come è stato prodotto un risultato quando la fiducia, la responsabilità o la qualità della decisione sono importanti.La fiducia non si stabilisce solo attraverso l'affermazione. Si stabilisce consentendo una verifica proporzionata. Soprattutto in contesti ad alto impatto, gli utenti devono poter ispezionare prove, azioni e cambiamenti.
- Principio 8Rendere espliciti i passaggi, le approvazioni e i blocchiQuando il sistema non può procedere, la ragione dovrebbe essere immediatamente visibile, insieme a qualsiasi azione richiesta dall'utente o da un'altra dipendenza.Nei sistemi agentici, il fallimento spesso non deriva da un ragionamento errato ma da una responsabilità poco chiara. Gli utenti devono sapere quando un compito è in pausa, perché è in pausa e cosa riprenderà il progresso.
Esempi di implementazione
- Intelligenza: il "cervello" che elabora le informazioni e prende decisioni usando gli LLM.Questo componente gestisce la comprensione del contesto, il rispetto delle istruzioni e la generazione delle risposte.script · intermediate
- Memoria: archivia e recupera informazioni rilevanti tra le interazioni.Questo componente mantiene la cronologia della conversazione e il contesto per abilitare interazioni coerenti su più turni.script · intermediate
- Strumenti: consente agli agenti di eseguire azioni specifiche in sistemi esterni.Questo componente fornisce la capacità di effettuare chiamate API, aggiornamenti di database, operazioni sui file e altre azioni pratiche.script · intermediate
- Validazione: garantisce che gli output degli LLM corrispondano a schemi di dati predefiniti.Questo componente fornisce validazione dello schema e parsing di dati strutturati per assicurare formati coerenti per il codice a valle.script · intermediate
- Controllo: fornisce processi decisionali deterministici e controllo del flusso di processo.Questo componente gestisce la logica if/then, il routing basato su condizioni e l’orchestrazione dei processi per un comportamento prevedibile.script · intermediate
- Recupero: gestisce guasti ed eccezioni in modo elegante nei workflow degli agenti.Questo componente implementa logiche di retry, processi di fallback e gestione degli errori per garantire la resilienza del sistema.script · intermediate