Ein Buch beschäftigt sich damit, was der Staat im Umgang mit Sicherheitslücken kann und darf, ein zweites will auf einfache Weise lehren, wie jedermann KI programmieren kann.

Was ist erlaubt?

Der Staat interessiert sich für seine Bürger. Auch in der digitalen Welt. Und gerade für die (potenziellen) Delinquenten. Daher möchte er unbeobachtet auf IT-Systeme zugreifen können, Sicherheitslücken erleichtern ihm das. So prüft der österreichische Verfassungsgerichtshof gerade, ob die österreichische Polizei staatliche Malware zur Überwachung von potenziellen Straftätern einsetzen darf: Das Buch “Staatlicher Umgang mit IT-Sicherheitslücken” von Emil Buntrock ist also aktuell und relevant.

Buntrock behandelt aus juristischer Sicht, wie weit der Staat gehen darf, um Cyberermittlungen anzustellen. Darf er eigene Malware schreiben? Darf er noch unveröffentlichte Sicherheitslücken aufkaufen und damit einen Schwarzmarkt dafür unterstützen? Oder müsste er sie den Softwareherstellern melden, damit diese sie beheben? Folgt womöglich eine Pflicht dazu aus einem Grundrecht auf IT-Sicherheit? Müsste er Bürger vor Sicherheitslücken warnen, oder darf der Staat aus Sicherheitserwägungen Lücken für sich behalten? Wie wäre das zum Beispiel mit Lücken in Systemen, die nur schwer oder gar nicht mehr zu patchen sind?

Der Autor diskutiert diese Fragen erfreulich kritisch, seine Ergebnisse und Herleitungen sind schlüssig. Zwar meldet sich des Informatikers Schmerzempfinden an ganz wenigen Stellen – wenn er zum Beispiel in der Einleitung in nahezu epischer Breite die Risiken von Ransomware diskutiert und verkennt, dass das nur eine von vielen Folgen von Sicherheitslücken ist. Oder auch, wenn es in einer Fußnote heißt, zwar sei OpenBSD ein gutes Beispiel für fehlerarme und damit sichere Software, aber das Betriebssystem könne dafür auch weniger als andere. Doch für eine juristische Arbeit ist das Buch auch in technischer Hinsicht erfreulich korrekt.

Der Titel stellt so einen wertvollen Beitrag zu einer interdisziplinären Diskussion dar, der wichtige Argumente auch für die IT in der Auseinandersetzung über staatliche Zugriffsmöglichkeiten, Chatkontrolle und Seehofers “Sicherheit trotz und wegen Verschlüsselung” liefert.

KI selbst programmieren

Das Buch tritt an, um nicht vorbelastete Leser KI-Programme erstellen zu lassen. Im ersten Buchteil mit der visuellen Programmierumgebung Scratch, im zweiten Teil mit Python. Im allerersten Beispiel geht es um Textklassifikation mit einem neuronalen Netz. Aus welchem von zwei kurzen Ringelnatz-Gedichten stammt ein bestimmtes Wort? Die Aufgabe wäre mit der Wortmustersuche grep einfacher und auch besser zu lösen gewesen, denn damit hätte man eine eindeutige Aussage statt einer Wahrscheinlichkeit und würde den Fehler vermeiden, dass alle gar nicht oder in beiden Gedichten vorkommenden Wörter immer und fälschlicherweise dem ersten Gedicht zugeordnet werden. Sehen wir im Interesse eines einfachen Beispiels darüber hinweg.

Das zugrunde liegende neuronale Netz ist allerdings eine reine Blackbox, über die man gar nichts erfährt: Weder mit wie vielen Neuronen, noch mit wie vielen Schichten es arbeitet, noch wie und mit welchem Verfahren es trainiert wird, noch welche Wahrscheinlichkeiten es welcher Antwort zuordnet und so weiter. Man lädt die Texte, klickt auf Trainieren, etwas Rätselhaftes vollzieht sich hinter den Kulissen. Entsprechend lernt man über KI nichts, außer das hinten irgendwie irgendwas herauskommt, wenn man vorn etwas hineintut.

Das ändert sich im ganzen Buch höchstens graduell, das Muster ist immer ähnlich: Man programmiert ein wenig die Ein- und Ausgaben, und im Innern werkelt ein undurchsichtiger Fertigbaustein. Programmieranfänger haben vielleicht ein wenig Spaß, wenn sie den Rechner auf sehr einfache Weise dazu bringen können, eine mehr oder minder frappierende Antwort zu geben. Nur: Wie er dazu kommt, wie das Ganze funktioniert – darüber erfährt man durchweg sehr wenig. Eine fundiertere Einschätzung der Grenzen und Möglichkeiten von KI wird sich der Leser so nur schwer erarbeiten können.

Die Beispiele decken immerhin eine breitere Palette von KI-Anwendungen ab: Textklassifikation, Bild- und Objekterkennung, das Erkennen von Gesten, numerische Klassifikation, einfache Gerätesteuerung oder Empfehlungssysteme kommen vor. Die Programmierung ist jeweils detailliert beschrieben und auch ohne Vorkenntnisse leicht nachvollziehbar. Das, was erklärt wird, ist gut verständlich und auch für Schulkinder geeignet.