Neue Herausforderungen durch KI-Systeme
Die rasante Entwicklung von KI-Systemen stellt das Bundesamt für Sicherheit in der Informationstechnik (BSI) vor neue Herausforderungen. Ein Behördensprecher betonte die zunehmende Schwierigkeit, menschliche Akteure im Internet von automatisierten KI-Bots zu unterscheiden. Diese Entwicklung birgt Risiken, da Kriminelle KI-Agenten künftig als Werkzeug für Cyber-Angriffe nutzen könnten.
OpenClaw unter besonderer Beobachtung
Ein aktueller Anlass zur Sorge ist der Dienst OpenClaw, auch bekannt als ClawdBot und MoltBot. Dieses Open-Source-Framework für persönliche KI-Assistenten sorgt seit Kurzem für Aufsehen in Fachkreisen. Das BSI rät derzeit zur Vorsicht und empfiehlt eine Nutzung nur durch IT-Experten, die mit der Absicherung von Servern vertraut sind. Idealerweise sollte der Dienst auf eigenen Systemen oder in einer sogenannten Sandbox betrieben werden, um potenzielle Risiken zu minimieren.
Gefahr durch manipulierte ‚Skills‘
Besonders kritisch bewertet das BSI den offenen Austausch von sogenannten ‚Skills‘. Dies sind die Module, die die Interaktion der KI mit ihrer Umgebung steuern und über Austauschplattformen geteilt werden. Die Behörde hat festgestellt, dass in diesen Pools zunehmend Skills mit Schadsoftware identifiziert wurden. OpenClaw kann über verschiedene Messenger wie WhatsApp oder Telegram sowie andere Kanäle gesteuert werden. Für die Funktion ist die Einbindung eines Sprachmodells erforderlich, das lokal oder in der Cloud ausgeführt wird. Eine fehlerhafte Konfiguration birgt die Gefahr der Serverübernahme durch Unbefugte.
