Warum ein KI-„Notausschalter“ keine Universallösung ist
Jüngste Cybersicherheitsvorfälle im Zusammenhang mit KI-Agenten, etwa der Vorfall zwischen Hugging Face und OpenAI, haben politische Entscheidungsträger zu der Überlegung veranlasst, ob ein KI-„Notausschalter“ erforderlich ist, um zu verhindern, dass zunehmend leistungsfähige Systeme erheblichen, unmittelbar drohenden Schaden verursachen. Der Begriff suggeriert jedoch eine Einfachheit, die es nicht gibt. Ein „Notausschalter“ könnte alles Mögliche bedeuten – vom Entzug der Berechtigungen eines Agenten über die Aussetzung eines Modells bis hin zur Abschaltung der Infrastruktur, die einen Dienst trägt. Bevor politische Entscheidungsträger solche Mechanismen vorschreiben, sollten sie eine grundlegendere Frage stellen: Welche Risiken würde eine Abschaltpflicht tatsächlich adressieren, und welche neuen Risiken könnte sie schaffen?
Zum Beispiel:
- Notfallsicherungen können aus unterschiedlichen Mechanismen bestehen, die sich in Umfang und Wirkung unterscheiden. Sicherungen könnten den Zugang eines einzelnen Nutzers sperren, die Berechtigungen eines Agenten entziehen, ein bestimmtes Modell, einen bestimmten Dienst oder eine bestimmte Bereitstellung aussetzen oder die Infrastruktur abschalten, auf der ein Modell betrieben oder über die ein Dienst erbracht wird. Die Umsetzung dieser Kontrollen würde technische, betriebliche und administrative Mechanismen kombinieren. Wer die Aktivierung kontrolliert, ist eine gesonderte Frage: Ein Anbieter kann eigenständig oder auf behördliche Anordnung handeln, oder eine andere Partei kann den Mechanismus aktivieren. Wie die Sicherung gestaltet ist und welche Stelle sie auslösen kann, hat sehr unterschiedliche Auswirkungen auf Sicherheit und Dienstkontinuität.
- Notfallsicherungen stoppen möglicherweise nicht alle Aktivitäten. So bedeutet die Aussetzung eines bestimmten Modells nicht automatisch, dass bereits angestoßene delegierte Aufgaben beendet werden. Kopien des Modells, die heruntergeladen und unabhängig betrieben werden, werden dadurch möglicherweise nicht deaktiviert.
- Die wirksame Umsetzung einer Notfallsicherung hängt vom Zeitpunkt ab. Ein Notfalleingriff setzt voraus, dass ein Problem erkannt oder vorhergesehen wird und schnell genug gehandelt wird, um Schaden zu begrenzen. In vielen Fällen könnte selbst eine rasche Aktivierung einer Sicherung zu Schäden führen, wenn keine weiteren Risikomanagementmaßnahmen bestehen.
- Die Einführung von Notfallsicherungsmechanismen kann neue Risiken schaffen. Eine umfassende Aussetzung könnte Dienste für Nutzer unterbrechen, die mit der auslösenden Aktivität nichts zu tun haben. Unternehmen, die auf einen betroffenen Dienst angewiesen sind, könnten Störungen in ihrem gesamten eigenen Betrieb erleben. Zudem könnte die Einbindung der technischen Fähigkeit, ein Produkt oder einen Dienst aus der Ferne zu deaktivieren, neue Angriffswege für feindliche Einflussnahme eröffnen oder Sicherheit und Resilienz anderweitig beeinträchtigen. Politische Maßnahmen, die bestimmte technische Umsetzungen vorschreiben, können mit der Weiterentwicklung von Modellen und Bereitstellungen an Eignung verlieren, Schwachstellen schaffen und die Weiterentwicklung von Produkten und Diensten verhindern.
- Ob Notabschaltpflichten Lücken in bestehenden Cybersicherheitskontrollen schließen würden. Angesichts der betrieblichen und geschäftlichen Risiken, die ein Abschaltmechanismus mit sich bringen kann, sollten politische Entscheidungsträger, die neue Anforderungen erwägen, zunächst die konkreten Schäden bestimmen, die sie verhindern oder mindern wollen, und ermitteln, wo bestehende Anforderungen und Praktiken unzureichend sind. Vorschläge für neue Anforderungen sollten die Kosten und die mögliche Entstehung unverhältnismäßiger Risiken bewerten. Politische Entscheidungsträger sollten zudem berücksichtigen, dass widersprüchliche Pflichten über Bundesstaats- oder Landesgrenzen hinweg diese Herausforderungen verschärfen. Wo Anforderungen extraterritoriale Wirkung hätten, könnten Kunden um die Dienstkontinuität besorgt sein, und US-amerikanische Produkte und Dienste könnten an Vertrauen und Wettbewerbsfähigkeit verlieren.
- Notfallsicherungen sollten als ein Bestandteil eines umfassenden Ansatzes für das KI-Risikomanagement betrachtet werden. KI-Entwickler, -Integratoren und -Betreiber sollten wirksame, verhältnismäßige und sichere Kontrollen unterhalten, um Missbrauch und unsicheres Verhalten von KI-Modellen und -Agenten zu adressieren. Die Fähigkeit, ein System zu unterbrechen oder zu deaktivieren, kann eine wichtige Sicherung sein, ihre Wirksamkeit hängt jedoch von ergänzenden Maßnahmen und Kontrollen ab, etwa Tests, Zugangsbeschränkungen, begrenzten Berechtigungen für KI-Agenten, fortlaufender Überwachung sowie Planung für Vorfallsreaktion und Wiederherstellung. Viele dieser Praktiken sind in bestehenden Risikomanagement-Rahmenwerken und Normen beschrieben, etwa im NIST AI Risk Management Framework und in ISO/IEC 42001. Das Vorhandensein einer Abschaltfunktion allein reicht nicht aus, um die Gesamtsicherheit eines Systems zu beurteilen.
Notfallsicherungen können im KI-Risikomanagement eine wichtige Rolle spielen und sind in vielen Fällen bereits in etablierten Risikomanagementprogrammen berücksichtigt. Sie sind jedoch nur ein Teil eines umfassenderen Ansatzes. Bevor sie eine eigenständige Abschaltpflicht einführen, sollten politische Entscheidungsträger die Lücke benennen, die diese schließen würde, die neuen Risiken abwägen, die sie schaffen könnte, und festlegen, wer am besten in der Lage ist zu handeln. KI-Risikomanagement kann nicht von einem einzigen Schalter abhängen; es erfordert die Umsetzung einer Vielzahl von Maßnahmen und Kontrollen.