Vorstellung von BlackIce: Ein containerisiertes Red-Teaming-Toolkit für KI-Sicherheitstests

Auf der CAMLIS Red 2025 haben wir BlackIce vorgestellt, ein containerisiertes Open-Source-Toolkit, das 14 weit verbreitete KI-Sicherheitstools in einer einzigen, reproduzierbaren Umgebung bündelt. In diesem Beitrag beleuchten wir die Motivation hinter BlackIce, skizzieren seine Kernfunktionen und stellen Ressourcen für den Einstieg zur Verfügung.

Warum BlackIce

Die Entwicklung von BlackIce war durch vier praktische Herausforderungen für KI-Red-Teamer motiviert: (1) Jedes Tool hat eine eigene, zeitaufwändige Einrichtung und Konfiguration, (2) Tools erfordern aufgrund von Abhängigkeitskonflikten oft separate Laufzeitumgebungen, (3) verwaltete Notebooks stellen nur einen Python-Interpreter pro Kernel bereit und (4) die Tool-Landschaft ist groß und für Neulinge schwer zu navigieren. 

Inspiriert von Kali Linux für traditionelle Penetrationstests, soll BlackIce Teams helfen, den Installationsaufwand zu umgehen und sich auf Sicherheitstests zu konzentrieren, indem es ein sofort einsatzbereites Container-Image bereitstellt.

Was ist drin

BlackIce stellt ein versionsgepinntes Docker-Image bereit, das 14 ausgewählte Open-Source-Tools aus den Bereichen Responsible KI, Sicherheitstests und klassisches adversariales ML bündelt. Diese Tools werden über eine einheitliche Befehlszeilenschnittstelle bereitgestellt und können über die Shell oder in einem Databricks Notebook ausgeführt werden, das eine aus dem Image erstellte compute-Umgebung verwendet. Nachfolgend finden Sie eine Zusammenfassung der in dieser ersten Version enthaltenen Tools, zusammen mit den unterstützenden Organisationen und der Anzahl der GitHub-Sterne zum Zeitpunkt der Verfassung:

Um zu zeigen, wie sich BlackIce in etablierte KI-Risiko-Frameworks einfügt, haben wir seine Funktionen dem MITRE ATLAS und dem Databricks AI Security Framework (DASF) zugeordnet. Die nachstehende Tabelle zeigt, dass das Toolkit kritische Bereiche wie Prompt-Injection, Datenlecks, die Erkennung von Halluzinationen und die Sicherheit der Lieferkette abdeckt.

Wie es funktioniert

BlackIce organisiert seine integrierten Tools in zwei Kategorien. Statische Tools evaluieren KI-Anwendungen über einfache Befehlszeilenschnittstellen und erfordern geringe bis keine Programmierkenntnisse. Dynamische Tools bieten ähnliche Evaluierungsfunktionen, unterstützen aber auch erweiterte Python-basierte Anpassungen, wodurch Benutzer benutzerdefinierten Angriffscode entwickeln können. Innerhalb des Container-Images sind statische Tools in isolierten virtuellen Python-Umgebungen (oder separaten Node.js-Projekten) installiert, die jeweils unabhängige Abhängigkeiten beibehalten und direkt von der CLI aus zugänglich sind. Alternativ werden dynamische Tools in die globale Python-Umgebung installiert, wobei Abhängigkeitskonflikte über eine global_requirements.txt -Datei verwaltet werden.

Einige Tools in der Abbildung erforderten geringfügige Ergänzungen oder Änderungen, um sich nahtlos mit den Databricks Model Serving-Endpunkten zu verbinden. Wir haben benutzerdefinierte Patches auf diese Tools angewendet, damit sie sofort direkt mit Databricks-Workspaces interagieren können.

Eine detaillierte Erklärung des Build-Prozesses, einschließlich des Hinzufügens neuer Tools oder der Aktualisierung von Tool-Versionen, finden Sie in der Docker-Build-README im GitHub-Repo.

Erste Schritte

Das BlackIce-Image ist auf Databricks’ Docker Hub verfügbar, und die aktuelle Version kann mit dem folgenden Befehl abgerufen werden:

Um BlackIce in einem Databricks-workspace zu verwenden, konfigurieren Sie Ihr compute mit den Databricks Container Services und geben Sie databricksruntime/blackice:17.3-LTS als Docker-Image-URL im Docker-Menü an, wenn Sie den Cluster erstellen.

Nachdem der Cluster erstellt wurde, können Sie ihn an dieses Demo-Notebook anhängen, um zu sehen, wie mehrere KI-Sicherheitstools in einer einzigen Umgebung orchestriert werden können, um KI-Modelle und -Systeme auf Schwachstellen wie Prompt-Injections und Jailbreak-Angriffe zu testen.

Besuchen Sie unser GitHub-Repo, um mehr über die integrierten Tools zu erfahren, Beispiele für deren Ausführung mit von Databricks gehosteten Modellen zu finden und auf alle Docker-Build-Artefakte zuzugreifen.

Weitere Details zum Auswahlprozess der Tools und zur Architektur des Docker-Images finden Sie in unserem CAMLIS Red Paper.

(Dieser Blogbeitrag wurde mit KI-gestützten Tools übersetzt.) Originalbeitrag