STF encontra tentativa de prompt injection em processo do 8/1
Segunda tentativa de comando oculto de IA contra o Supremo foi encontrada pela área de TI e resulta em uma multa inicial de R$ 5 mil contra o advogado
prompt injection
STF identifica caso de comando oculto para IA
Prática conhecida por Prompt Injection foi identificada por IA do tribunal em ação sobre concurso público do MPMG
O perigo invisível da IA: empresas ainda ignoram o risco do Prompt Injection
Dependendo do nível de proteção do sistema, isso pode fazer com que modelos ignorem regras internas, revelem informações sensíveis ou até mesmo executem ações indevidas
