Zwei Perspektiven auf Sicherheit
Sicherheit bei KI heißt für uns beides: die regulatorischen Anforderungen der EU erfüllen und die technischen Angriffsflächen kennen, an denen wir selbst geforscht haben.
EU-Vorschriften
AI Act und Cyber Resilience Act geben den Rahmen vor: Risikoklassifizierung, Dokumentationspflichten, Transparenz gegenüber Nutzenden. Wir bauen so, dass diese Anforderungen von Anfang an erfüllt und nachweisbar sind.
Sicherheitsfelder aus der Praxis
Prompt-Injection, Rechteverletzungen durch KI, Halluzinationen: Wir haben diese Angriffsflächen selbst untersucht und wissen, wo Systeme in der Praxis scheitern. Die vier Aspekte unten zeigen, worauf wir bei jedem Projekt achten.
KI-Manipulation durch Dritte
Prompt-Injection über Spam-Mails oder präparierte Dokumente: Wir trennen Anweisungen von Daten und prüfen Eingaben, bevor ein Modell sie sieht.
Anweisungen und Daten werden strikt getrennt, Eingaben vor dem Modell geprüft, kritische Aktionen benötigen eine Freigabe. Vor dem Rollout testen wir mit gezielten Angriffsszenarien.
Rechte & Rollen
Ein KI-System darf nur wissen, was der fragende Mensch wissen darf. Berechtigungen gelten bis in die Antwort.
Berechtigungen aus Ihren Systemen (z. B. Active Directory, SharePoint) werden bei jeder Anfrage live geprüft. Quellen, die der Fragende nicht sehen darf, fließen nicht in die Antwort ein.
Halluzinationsminimierung
Antworten mit Quellenangabe, messbare Qualitätskriterien und systematische Tests statt Vertrauen auf Zufall.
Jede Antwort verweist auf die verwendeten Quellen. Wir definieren mit Ihnen einen Testkatalog aus echten Fragen und messen die Qualität vor dem Rollout und laufend im Betrieb.
KI-Richtlinien etablieren
Klare Regeln für den Einsatz im Unternehmen: wer darf was, mit welchen Daten, und wie wird das dokumentiert.
Wir erarbeiten mit Ihnen praxistaugliche Richtlinien, verankern sie in Schulungen und schaffen mit sicheren internen Werkzeugen die Alternative zu Schatten-KI.