Das Bundesamt für Sicherheit in der Informationstechnik (BSI) hat Richtlinien veröffentlicht, die den gesamten Lebenszyklus von Künstlicher Intelligenz abdecken. Diese Maßnahmen sollen die Sicherheit, Privatsphäre und Wirksamkeit von KI-Systemen gewährleisten.
Sicherheit als Grundpfeiler der KI-Entwicklung
Das Dokument betont, dass Cybersicherheit eine grundlegende Voraussetzung für die Sicherheit, Belastbarkeit, Privatsphäre, Fairness, Wirksamkeit und Zuverlässigkeit von KI-Systemen ist. Die Richtlinien folgen daher einem „Secure-by-Default“-Ansatz. Sie wurden in Zusammenarbeit mit internationalen Partnerbehörden und Firmen wie etwa Amazon, Microsoft, IBM sowie OpenAI entwickelt. Das Dokument richtet sich nicht nur an Entwickler:innen, sondern auch an Datenwissenschaftler:innen, Manager:innen sowie Entscheidungs- und Risikoträger:innen.
Auch IT-Profis müssen sich mit den grundlegenden Prinzipien der KI-Sicherheit vertraut machen und ein Verständnis für Bedrohungsmodellierung und Risikomanagement entwickeln. Diese Fähigkeiten sind entscheidend, um robuste, sichere KI-Systeme zu entwickeln.
Transparenz und Verantwortung im KI-Einsatz
Die zunehmende Komplexität der KI-Ökosysteme erschwert die klare Definition von Verantwortlichkeiten. Die schnelle Entwicklung von KI-Technologien stellt ebenfalls eine Herausforderung dar, bei der die KI-Richtlinien helfen sollen.
IT-Profis müssen Systeme nicht nur verstehen und zu, sondern auch deren Nutzung für Anwender:innen verständlich und transparent gestalten. Die Anbieter von KI-Lösungen sind in der Verantwortung, Nutzer:innen über potenzielle Risiken aufzuklären und gewährleisten, dass diese jederzeit wissen, wie sie die Systeme sicher verwenden können. Um „Secure-By-Design“ zur höchsten Priorität zu machen, sind auch entsprechende Organisations- und Führungsstrukturen in Unternehmen erforderlich.
Die KI-Richtlinien in der Übersicht
Die „Guidelines for secure AI system development” schlagen Maßnahmen für jede Phase des KI-Entwicklungsprozesses vor. Sie sind bewusst allgemein gehalten, und orientieren sich an etablierten Sicherheitsstandards:
Sicheres Design
- Mitarbeiter für Bedrohungen und Risiken sensibilisieren
- Risiken für das System modellieren
- Systeme entwerfen, die sowohl Sicherheit als auch Funktionalität und Leistung bieten
- Vor- und Nachteile bei der Auswahl eines KI-Modells berücksichtigen
Sichere Entwicklung
- Sichern der Lieferkette
- Identifizieren, tracken und schützen von Assets
- Daten, Modelle und Prompts dokumentieren
- „Technische Schuld“ managen
Sicherer Einsatz
- Infrastruktur absichern
- Modelle kontinuierlich schützen
- Prozesse für das Incident Management etablieren
- KI verantwortungsvoll veröffentlichen
Sicherer Betrieb und Wartung
- Systemverhalten monitoren
- Systemeingaben beobachten
- Secure-by-Design-Ansatz für Aktualisierung einhalten
- Gelerntes sammeln und teilen
Internationale Zusammenarbeit und ständige Weiterbildung
Die BSI-Richtlinien und die internationale Unterstützung zeigen, dass die Herausforderungen der KI-Sicherheit globale Anstrengungen erfordern. IT-Profis müssen nicht nur mit den Standards und Praktiken in ihrem eigenen Land vertraut sein, sondern internationale Entwicklungen verfolgen.
Fortbildungen und Workshops zu Themen wie KI-Sicherheit, ethische Aspekte der KI und neue Technologien sind unerlässlich, um auf dem neuesten Stand zu bleiben und einen Beitrag zur sicheren Zukunft der KI zu leisten.
Sicherheitskonzepte lernen mit skill it
Unser umfassender Kurs Microsoft Cybersecurity Architect vermittelt dir, wie du von Anfang an Sicherheit planst. Der Kurs Microsoft Security, Compliance, and Identity Fundamentals vermittelt grundlegende Kenntnisse über Sicherheits-, Compliance- und Identitäts-Konzepte und damit verbundene Cloud-basierte Microsoft-Lösungen. Die von AWS empfohlenen Best Practices für Sicherheit lernst du im Kurs Security Engineering on AWS kennen, um die Sicherheit deiner Daten und Systeme in der Cloud zu verbessern.
