Una prompt injection si verifica quando un contenuto sottoposto a un sistema di intelligenza artificiale contiene istruzioni capaci di interferire con il compito assegnato. Vediamo come funziona, perché può arrivare attraverso documenti e pagine web e in che modo si distingue da un’allucinazione.
Una scheda pratica per verificare, prima dell’utilizzo, compiti, dati, strumenti e controlli di un agente AI nello studio legale, mantenendo la decisione e la responsabilità in capo al professionista.
Un chatbot risponde. Un agente AI può fare qualcosa in più: utilizzare strumenti, consultare archivi ed eseguire sequenze di operazioni per raggiungere un obiettivo. Per uno studio legale il vero salto non riguarda soltanto ciò che l’AI sa generare, ma ciò che le permettiamo di fare.
Un chatbot risponde alle nostre domande. Un agente AI può fare qualcosa in più: utilizzare strumenti ed eseguire operazioni entro i limiti che gli abbiamo assegnato. Vediamo che cosa significa con un semplicissimo esempio da studio legale.