13. Januar 2023
Januar 202313

Dumm wie Brot

Ah, das schmerzt, diese Dummheit. Der Heise-Newsticker bringt ein Update zu der von der EU geplanten Chat-Überwachung. Dabei zeigen sich die beiden zuständigen Kommissarinnen Ylva Johansson und Maroš Šefčovič weiterhin völlig beratungsresistent gegenüber Kritik, diesmal vorgebracht vom deutschen Bundesrat.

Was mich wirklich auf die Palme bringt, sind die dummen Äußerungen von Johansson beziehungsweise ihrer Generaldirektion.

Der erste Punkt ist, die Maßnahme als »Ultima Ratio« darzustellen. Hier wird versucht, den Leuten eimerweise Sand in die Augen zu streuen. Er suggeriert, daß die Überwachung nur in Einzelfällen angewendet werden würde. Dem ist aber nicht so. Es sollen Chats von allen Bürgern überwacht werden, und zwar permanent. Den Vogel schießt sie allerdings damit ab:

Die Aufdeckung ist unter ausschließlicher Verwendung der vom EU-Zentrum bereitgestellten Indikatoren durchzuführen. […] Damit werde gewährleistet, daß der sexuelle Mißbrauch von Kindern im Internet nach dem Prinzip »Treffer/kein Treffer« aufgedeckt werde. Die auf den Dienst angewandte Erkennungstechnologie könnte so die Nachrichten weder »verstehen« noch »sonstige Kenntnisse oder Informationen sammeln«. Sie stelle nur fest, »daß die aufgedeckten Inhalte mit den Indikatoren übereinstimmen«.

Schon die Wahl des Begriffs »Indikator« zeigt die ganze Verlogenheit. Das ist, so kann man im Duden oder sonstwo nachlesen, lediglich ein Hinweis auf die mögliche Existenz eines Faktums, aber nie ein Faktum selbst. Es ist per Definition ein unpräzises Kriterium. Etwa: »Ein knurrender Magen ist ein Indikator für Hunger«. Wer legt diese Indikatoren fest, wer sorgt dafür, daß die Indikatoren »gut« sind?

Von der ganzen Unsicherheit, die schon von diesen sogenannten »Indikatoren« ausgeht, abgesehen, besteht hier noch ein völliges Mißverständnis seitens der EU zu den »Erkennungstechnologien«. Wenn schon die Menschen nicht in der Lage sind, in Grenzfällen absolut, zweifelsfrei zu entscheiden, ob nun Chat-Inhalte Kinderpornographie (oder etwas anderes Strafbares – früher oder später würde das sowieso ausgeweitet werden) darstellen oder nicht, wie sollen das Maschinen anhand von vagen Indikatoren dies können – speziell, wenn sie, wie die EU selber schreibt, die Nachrichten nicht »verstehen«. Es geht ja nicht darum zu entscheiden, ob die Zahl fünf nun gerade oder ungerade ist. Es ist zu entscheiden, ob ein Haufen farbiger Punkte oder ein Haufen Buchstaben nun etwas subjektiv Böses ist oder nicht. Ohne Verständnis geht das schon mal gar nicht. Und daß die Maschinen das zur Zeit nicht besitzen, haben in den letzten Monaten eindrucksvoll die neuesten Errungenschaften der KI gezeigt. Sie produzieren wunderschöne, überraschende Ergebnisse – ob Bilder oder Texte –, die aber tatsächlich inhaltsleer und inkonsistent sind, weil die KI in keiner Weise begreift, was sie da tut. Das gilt sowohl für die Synthese als auch für die Analyse.

Es läßt sich also gar nicht verhindern, daß die Maschinen zum Schluß kommen, daß ein Inhalt strafbar sei, obwohl er nicht ist. Das ist das, was man seit Jahrzehnten als False Positive bezeichnet. Und genau diese False Positives führen dazu, daß die Inhalte unbescholtene Bürger gemeldet werden, daß die Bürger als Verdächtige in die Mühlen der Justiz geraten, daß ihre höchst private Kommunikation am Ende doch von Menschen gelesen werden, völlig im Gegensatz zu dem Versprechen, das hier Johannson in täuschender Absicht zu geben versucht.

Aus diesen Überlegungen heraus und auch aus dem Grund, daß die Zusicherungen (»es lesen nur Maschinen«) nicht verbrieft sind, ist das Vorhaben grundlegend abzulehnen. Im Gegensatz zu den Behauptungen ist dies nicht ein leichter oder »verhältnismäßiger«, sondern ein schwerwiegender Eingriff in die Bürger–, Grund- und Menschenrechte. Es kommt nicht darauf an, ob am Ende ein paar Leute herausfallen, sondern daß alle als verdächtig betrachtet und werden und Ziel einer Überwachung sind, egal ob automatisch oder nicht. Das haben auch die diversen Gerichtsentscheidungen, ob vom EuGH oder von Verfassungsgerichten verschiedener Staaten, in Sachen Vorratsadatenspeicherung klar gezeigt. Die Chatkontrolle sehe ich von der Tiefe des Eingriffs nochmal deutlich schlimmer als die Vorratsdatenspeicherung, bei der es »nur« um Metadaten und nicht um Inhalte geht. Von daher bin ich relativ zuversichtlich, daß das trotz der Korruption der Gerichte am Ende scheitern wird. Es wäre nur mal schön, wenn die Kommission das mal gleich verstehen würde und von freiheitsliebenden Bürgern nicht wieder ein jahre- und jahrzehntelanger Kampf durch die Institutionen geführt werden müßte.