Attaccare l’AI: prompt injection e jailbreaking
I sistemi di intelligenza artificiale vengono spesso descritti come potenti, intelligenti e persino autonomi. Ma, quando si parla di sicurezza, molti problemi dell’AI non nascono da bug o exploit. Nascono dalle parole. Prompt injection e jailbreaking stanno emergendo come due dei rischi più subdoli e pericolosi nei moderni sistemi AI e nei chatbot. Non si basano su malware, vulnerabilità zero-day o credenziali rubate: sfruttano qualcosa di molto più umano, la conversazione. Che cos’è la prompt injection? La prompt injection si…