Sicherheitsdesaster durch AI-Hacks

LLMs lassen sich oft von Angreifern durch triviale Prompts missbrauchen und liefern interne Daten oder treiben Missbrauch. Mit manipulierten Bildern lassen sich LLMs mit beispielsweise per JaiLIP überreden, Sicherheitsregeln zu ignorieren und schädliche Ausgaben zu generieren. Und AI Coding-Agenten können … Weiterlesen →

Quelle