Skip to main contentSkip to footer
Sfoglia i principi
Principio 7trust

Stabilire fiducia attraverso l'ispezionabilità

Gli utenti dovrebbero essere in grado di esaminare come è stato prodotto un risultato quando la fiducia, la responsabilità o la qualità della decisione sono importanti.

Fatti chiave

Cluster
trust
Rischio principale
Il sistema richiede fiducia senza fornire una base per essa.
Esempi correlati
6 esempi in libreria
Libreria di dottrina
Riferimento interno alla dottrina
Perché questo principio è importante?

La fiducia non si stabilisce solo attraverso l'affermazione. Si stabilisce consentendo una verifica proporzionata. Soprattutto in contesti ad alto impatto, gli utenti devono poter ispezionare prove, azioni e cambiamenti.

Rendere tracciabile il materiale di origine.
Fornire visibilità sulle azioni intraprese e sulle decisioni raggiunte.
Supportare il confronto tra raccomandazione e risultato, o tra bozza e output finale.
Mantenere una storia del compito appropriata o un'auditabilità dove necessario.
Quale fallimento previene questo principio?

Il sistema richiede fiducia senza fornire una base per essa.

AI come abbellimento dell'interfaccia: Un prodotto convenzionale è dotato di un input testuale e viene etichettato come intelligente, senza alcun cambiamento significativo nel modello operativo.
Autonomia simulata: Il sistema appare autonomo nel linguaggio o nella presentazione ma non può agire con un'indipendenza significativa.
Esecuzione opaca: Il lavoro avviene in background senza uno stato adeguato, responsabilità o recuperabilità.
Come applico questo principio in pratica?

La libreria di implementazione contiene esempi ispezionabili e rieseguibili che mostrano questo principio applicato in codice reale. Studia i source path, le librerie scelte e le dipendenze di runtime, non solo il nome del pattern.

Esempio di implementazione

Intelligenza: il "cervello" che elabora le informazioni e prende decisioni usando gli LLM.

Questo componente gestisce la comprensione del contesto, il rispetto delle istruzioni e la generazione delle risposte. (script · intermediate)

Ispeziona l'implementazione

Esempio di implementazione

Memoria: archivia e recupera informazioni rilevanti tra le interazioni.

Questo componente mantiene la cronologia della conversazione e il contesto per abilitare interazioni coerenti su più turni. (script · intermediate)

Ispeziona l'implementazione

Esempio di implementazione

Strumenti: consente agli agenti di eseguire azioni specifiche in sistemi esterni.

Questo componente fornisce la capacità di effettuare chiamate API, aggiornamenti di database, operazioni sui file e altre azioni pratiche. (script · intermediate)

Ispeziona l'implementazione

Esempi correlati