K\u00fcnstliche Intelligenz (KI) kann unserer Gesellschaft zahlreiche Vorteile bieten. Diese Systeme k\u00f6nnen unter anderem bei Vorhersagen \u00fcber Klima und Finanzm\u00e4rkte, automatisierten medizinischen Diagnosen und (teil-) autonomen Transportmitteln eingesetzt werden. Dazu m\u00fcssen die Systeme aus Sicht des Bundesamtes f\u00fcr Sicherheit in der Informationstechnik (BSI) jedoch nicht nur sicher geplant und entwickelt, sondern auch sicher eingef\u00fchrt und betrieben werden.<\/p>\n\n\n\n
Das Dokument \u201eGuidelines for Secure AI System Development\u201c der Partnerbeh\u00f6rden des BSI aus Gro\u00dfbritannien und den USA stellt einen Leitfaden zur Entwicklung sicherer KI-Systeme bereit. 23 internationale Cybersicherheitsbeh\u00f6rden aus 18 L\u00e4ndern unterst\u00fctzen den Leitfaden, an dem auch das BSI mitgewirkt hat. Die Guidelines sollen den Betreibern helfen, KI-Systeme zu entwickeln, die wichtige Anforderungen erf\u00fcllen: Die Systeme m\u00fcssen jederzeit bei Bedarf verf\u00fcgbar sein und dabei erwartungsgem\u00e4\u00df und zuverl\u00e4ssig arbeiten. Au\u00dferdem d\u00fcrfen sie keine sensiblen Daten preisgeben.<\/p>\n\n\n\n
Die Ver\u00f6ffentlichung richtet sich in erster Linie an Betreiber von KI-Produkten. In Verbindung mit bestehenden Prinzipien wie \u201esecurity-by-design\u201c und \u201esecurity-by-default\u201c zeigt das Dokument, welche KI-spezifischen Schadensanf\u00e4lligkeiten existieren und wie diese in der Entwicklung ber\u00fccksichtigt werden k\u00f6nnen. Endnutzer haben meist keine Einblicke, um die Risiken, die mit KI verbunden sind, nachzuvollziehen. Die Cybersicherheitsbeh\u00f6rden fordern auch, dass Betreiber von KI-Systemen Anwenderinnen und Anwender zu m\u00f6glichen Risiken informieren und aufzeigen, wie sie die Systeme sicher nutzen.<\/p>\n\n\n\n
Die gemeinsame internationale Ver\u00f6ffentlichung verdeutlicht aus Sicht des BSI, dass Fragen der Sicherheit von KI-Systemen nur im Verbund mit gleichgesinnten internationalen Partnern gel\u00f6st werden k\u00f6nnen. Sie unterstreicht zudem die Bedeutung des Themas und den dringenden Handlungsbedarf.<\/p>\n\n\n\n