KI-Systeme schützen, Missbrauch verhindern - Beyerer, Jürgen; Müller-Quade, Jörn; Albers, Albert; Houdeau, Detlef; Tchouchenkov, Igor; Dzaack, Jeronimo; Schapranow, Matthieu-P; Reißner, Nadine; Neuburger, Rahild; Stowasser, Sascha (Lernende Systeme – Die Plattform für Künstliche Intelligenz, 2022)
Künstliche Intelligenz (KI) kommt heute in vielen Wirtschaftsbereichen, in Mobilitätsanwendungen, zum Schutz kritischer Infrastrukturen und im Gesundheitssektor zum Einsatz. Trotz der vielfältigen Chancen, die die KI-Technologie mit sich bringt, sollte das Potenzial für Missbrauch von KI-Systemen realistisch eingeschätzt werden. Auf diese Weise können frühzeitig passende Schutzmaßnahmen ergriffen werden.
Die Expertinnen und Experten unter Federführung der beiden Arbeitsgruppen Lebensfeindliche Umgebungen sowie IT-Sicherheit, Privacy, Recht und Ethik der Plattform Lernende Systeme gehen der Frage nach, welche Schritte unternommen werden sollten, um Missbrauch von KI-Systemen mit geeigneten Maßnahmen strategisch vorzubeugen. Dies vorrangig unter technologischen Aspekten. Hierzu empfehlen sie, Szenarien durchzudenken, um frühzeitig Einfallstore aufzudecken und daraus erforderliche Schutzvorkehrungen abzuleiten. Anhand von fünf Szenarien aus unterschiedlichen Lebensbereichen, wie Arbeit, Freizeit und Mobilität, wird in der Gegenüberstellung zwischen "worst case" und "best case" deutlich, welchen Ausgang geeignete Maßnahmen im konkreten Missbrauchsfall letztlich begünstigen – dies im Sinne einer sicheren und zuverlässigen KI-Technologie.
Maßnahmen und Szenarien in fünf Anwendungsgebieten
Keywords: digitale Transformation; Künstliche Intelligenz; Sicherheit; Szenarien