Bedrohungsmodell · Entwicklungsansatz
Zwölf Angriffswege, zwölf technische Antworten.
Jedes Angriffsszenario soll durch eine technische Maßnahme außerhalb des Sprachmodells abgefangen werden. Welche Schutzschicht greifen würde, zeigt der OpenShell Atlas an einer simulierten Sandbox.
Stand heute: Jede Antwort ist Architekturprinzip oder geplante Implementierung. Alle zwölf Antworten stehen auf Stufe 1 oder 2. Eine implementierte, getestete oder validierte Kontrolle weise ich hier für keinen Mechanismus aus. Eine Simulation ist kein Sicherheitstest, und ein bestandener Unit-Test wäre kein Nachweis für die Sicherheit eines ganzen Systems.
- Architekturprinzip
- Geplante Umsetzung
- Implementierte Kontrolle
- Technisch getestete Kontrolle
- Unter definierten Bedingungen validierte Kontrolle
- Prompt Injection
- Externe Inhalte sollen strikt als nicht vertrauenswürdige Daten gelten. Rechte soll allein die Policy vergeben, nie der Kontext.
- Architekturprinzip
- Präparierte Repository-Inhalte
- Worker sollen ohne Zugangsdaten in isolierten Wegwerf-Sandboxes arbeiten. Jede Änderung soll ein unabhängiges Review durchlaufen.
- Geplante Umsetzung
- Abfluss von Zugangsdaten (Exfiltration)
- Secrets sollen außerhalb der Sandbox bleiben und erst am freigegebenen Ausgang für autorisierte Ziele eingesetzt werden.
- Architekturprinzip · OpenShell bietet dafür Funktionen; das belegt nicht meine Integration
- Überberechtigter Agent
- Vorgesehen ist eine Capability-Trennung je Rolle: lesen, im eigenen Bereich schreiben oder integrieren. Kein Agent soll alle Rechte vereinen.
- Geplante Umsetzung
- Supply-Chain-Angriff über Abhängigkeiten
- Vorgesehen sind gepinnte Paketversionen, verifizierte Image-Digests (SHA-256) und neue Pakete nur nach Policy-Freigabe.
- Architekturprinzip
- Ausbruch aus der Sandbox (Container Escape)
- Ziel ist die Ausführung ohne Root, mit seccomp-Profilen und Landlock-Regeln gegen gefährliche Systemaufrufe. Ein Container allein ist kein Sicherheitsnachweis.
- Architekturprinzip · OpenShell bietet dafür Funktionen; das belegt nicht meine Integration
- Bösartiger MCP-Server
- Erlaubt sein sollen nur ausdrücklich freigegebene Endpunkte, je Server mit eigenen Zugangsdaten.
- Architekturprinzip
- Datenabfluss
- Ausgehender Verkehr soll gesperrt sein, bis ein Ziel einzeln erlaubt wird. Keine Platzhalter-Freigaben.
- Architekturprinzip · OpenShell bietet dafür Funktionen; das belegt nicht meine Integration
- Gefährliche Shell-Befehle
- Dateisystem- und Prozessgrenzen sollen technisch erzwungen werden, nicht erbeten.
- Architekturprinzip · OpenShell bietet dafür Funktionen; das belegt nicht meine Integration
- Vergiftete Test- und Eval-Daten
- Datensätze sollen mit Hash versioniert sein, damit jede Änderung sichtbar wird.
- Architekturprinzip
- Halluzination des Modells
- Abgenommen werden soll durch Tests und Review, nie durch Selbstauskunft des Agenten.
- Geplante Umsetzung
- Unbefugter Merge
- Der Hauptzweig soll für Agenten gesperrt sein. Ein Mensch gibt frei.
- Geplante Umsetzung