Istruzioni nascoste negli atti possono condizionare i sistemi di IA che li analizzano. Il caso Elliott e le cautele per giudici, avvocati e processo italiano.
Una prompt injection si verifica quando un contenuto sottoposto a un sistema di intelligenza artificiale contiene istruzioni capaci di interferire con il compito assegnato. Vediamo come funziona, perché può arrivare attraverso documenti e pagine web e in che modo si distingue da un’allucinazione.
Non una formula magica, ma l’istruzione con cui diciamo all’IA che cosa deve fare IN BREVE Il prompt è l’input con cui si forniscono a un sistema di intelligenza artificiale informazioni e istruzioni sul compito da svolgere. Un prompt più chiaro può descrivere obiettivo, contesto, fonti, vincoli, formato dell’output e criteri di verifica, ma non…