Si parla degli agenti AI come se mancasse solo un modello più bravo. Ma quando un agente approva una fattura sbagliata, dispone un pagamento errato o scrive a un cliente qualcosa che non doveva, la domanda non è se il modello fosse abbastanza capace. È chi ne risponde: chi lo ha configurato, chi lo ha approvato, chi ha firmato con il fornitore, chi era di turno quel giorno.
Nello sviluppo software gli agenti lavorano già in autonomia per lunghi tratti, e non perché lì i modelli siano migliori: un errore di codice si vede, si testa e si corregge prima che esca. Un pagamento partito non si butta. La differenza tra i due mondi è quanto è verificabile e reversibile ciò che viene eseguito, e questo vale come criterio per qualunque processo, oggi.
Nel nostro approfondimento su Merge, lo studio di integrazione e sviluppo software nato da Beecreative, ragioniamo su cosa si può fare già adesso (agenti a perimetro chiuso, che passano il lavoro della persona dal produrre al validare) e su cinque domande da farsi prima di mettere un agente in produzione: chi è il responsabile, qual è il perimetro, cosa è reversibile, cosa viene registrato, quando si ferma.
Continua a leggere su Merge: Chi risponde dell’errore di un agente AI?