Red-Teaming
Gezieltes Testen eines KI-Systems mit bösartigen oder kniffligen Eingaben, um Schwachstellen vor dem Live-Betrieb zu finden.
Definition
Gezieltes Testen eines KI-Systems mit bösartigen oder kniffligen Eingaben, um Schwachstellen vor dem Live-Betrieb zu finden. Analog zum Penetrationstest in der IT-Sicherheit.
Kurz beantwortet
Was ist Red-Teaming?
Gezieltes Testen eines KI-Systems mit bösartigen oder kniffligen Eingaben, um Schwachstellen vor dem Live-Betrieb zu finden.
Verwandte Begriffe
Fazit von Marcel

Ob Red-Teaming sauber gelöst ist, merkt man erst, wenn etwas schiefgeht. Wir setzen produktive Systeme so auf, dass genau dann nichts verloren geht.
Marcel Kaschner · Gründer ZAVION
Wo zahlt sich das in Ihrem Unternehmen aus?
In der kostenlosen System-Analyse prüfen wir, welche dieser Bausteine in Ihren Prozessen echte Stunden sparen. 15 Minuten, konkrete Antworten, keine Verbindlichkeit.
Definition