ITI skizziert wichtige Überlegungen zur Sicherung von Agenten-KI-Systemen
WASHINGTON – Heute globaler Tech-Handelsverband ITI geteilt (öffnet in einem neuen Tab) erste Perspektiven und Empfehlungen mit dem Center for AI Standards and Innovation (CAISI) zur Sicherung agentischer KI-Systeme – der nächsten Grenze der KI-Technologie.
Während Agentic AI Chancen einführt, müssen ihre Fähigkeiten und Auswirkungen, einschließlich Sicherheitsrisiken, noch vollständig verstanden werden. Die Einreichung von ITI hebt eine Reihe von Überlegungen für CAISI hervor, da sie agentische KI-Sicherheitsrisiken bewertet und bewertet, ob neue Leitlinien und Best Practices erforderlich sind. In seiner Einreichung bietet ITI eine Branchenperspektive auf den aktuellen Stand der Sicherheitsrisiken, die sich auf agentische KI-Systeme auswirken, bietet Einblicke in Sicherheitskontrollen und Standards, die eine sichere Entwicklung und Bereitstellung unterstützen können, und untersucht Schlüsselfragen im Zusammenhang mit der Bewertung der Sicherheit agentischer KI-Systeme.
"Da politische Entscheidungsträger versuchen, die Auswirkungen agentischer KI-Systeme zu verstehen, ist eine angemessene Risikobewertung entscheidend für ihre sichere und verantwortungsvolle Entwicklung und Bereitstellung." sagte ITI Vice President von Policy Courtney Lang. "Wir wissen es zu schätzen, dass CAISI nach Input zu den einzigartigen Eigenschaften von KI-Agentensystemen sucht und wie Sicherheitsrisiken in diesem Zusammenhang auftreten." ITI hat sich verpflichtet, mit CAISI und politischen Entscheidungsträgern zusammenzuarbeiten, um aufkommende Ansätze für das Management agentischer KI-Sicherheitsrisiken zu informieren und sicherzustellen, dass die sich daraus ergebenden Leitlinien für Interessengruppen im gesamten KI-Ökosystem von großer Bedeutung sind.
Während CAISI Agentic AI Security evaluiert, ermutigt ITI die Agentur:
- Aufbau auf bestehenden Cybersicherheits-Frameworks und -Architekturen, um potenzielle Risiken durch Agenten-KI-Systeme anzugehen, anstatt völlig neue Paradigmen zu schaffen;
- Annahme risikobasierter Ansätze, die Unterschiede in der Agentenfähigkeit, der Bereitstellungsumgebung und dem Anwendungsfall berücksichtigen;
- Förderung von mehrschichtigen Sicherheitspraktiken über den gesamten Lebenszyklus von KI-Agenten hinweg; und
- Priorisieren Sie interoperable Sicherheitsmechanismen, die Anpassung an bestehende Standards und Best Practices sowie praktische Umsetzungsleitlinien.
Lesen Sie die vollständigen Empfehlungen von ITI Hier (öffnet in einem neuen Tab).
ITI Agentische KI verstehen (öffnet in einem neuen Tab) skizziert politische Überlegungen, die sich auf die Förderung der Adoption und die Förderung des Vertrauens in Agentic AI und ITI konzentrieren Grundsätze der KI-Sicherheitspolitik (öffnet in einem neuen Tab) detaillierte Vorschläge liefern, wie politische Entscheidungsträger die Cybersicherheit von KI-Modellen und -Systemen verbessern können.