Apples neues Programm zum Scannen von Bildern, die über iMessage versendet werden, stellt eine Abkehr von der bisherigen Unterstützung des Unternehmens für den Datenschutz und die Sicherheit von verschlüsselten Nachrichten dar. Das Programm, das zunächst nur in den Vereinigten Staaten eingeführt wird, schränkt das Verständnis der Ende-zu-Ende-Verschlüsselung ein, um ein clientseitiges Scannen zu ermöglichen. Während Apple auf die Bekämpfung der Ausbeutung und des Missbrauchs von Kindern abzielt, hat das Unternehmen eine Infrastruktur geschaffen, die nur allzu leicht zu einer stärkeren Überwachung und Zensur umgelenkt werden kann. Das Programm untergräbt Apples Verteidigung, dass es den weitergehenden Forderungen der Behörden nicht nachkommen kann.
Jahrelang haben Länder auf der ganzen Welt den Zugang zu und die Kontrolle über verschlüsselte Nachrichten gefordert. Das jedoch ist nach unserem Standpunkt unvereinbar mit einer starken Ende-zu-Ende Verschlüsselung. Die Antwort vieler Länder: Sie fordern die Technologieunternehmen seit langem dazu auf, ihre Bemühungen auf der Suche nach technischen Lösungen zu verstärken. Das bestehende Apple-Programm zum Scannen von Kindersicherheitsnachrichten wurde zunächst nur in den Vereinigten Staaten eingeführt.
TELL APPLE: DON'T SCAN OUR PHONES
Die Vereinigten Staaten haben sich nicht gescheut, den Zugang zu verschlüsselter Kommunikation zu suchen. Sie setzen Unternehmen unter Druck, indem sie die Datenbeschaffung mit Durchsuchungsbefehlen erleichtert haben, damit die Unternehmen die Daten freiwillig herausgeben. Allerdings stünden die USA vor ernsthaften verfassungsrechtlichen Problemen, wenn sie ein Gesetz verabschieden wollten, das eine Durchsuchung ohne Durchsuchungsbefehl und die Meldung von Inhalten vorschreibt. Selbst wenn sie von einer privaten Partei durchgeführt wird, unterliegt eine von der Regierung angeordnete Durchsuchung dem Schutz des vierten Verfassungszusatzes der amerikanischen Verfassung. Jeder Durchsuchungs- oder sogar Haftbefehl, der für oder aufgrund einer verdachtslosen Massenüberwachung ausgestellt wird, wäre verfassungswidrig. Wie der Ninth Circuit Court of Appeals erklärt hat, „verstoßen Durchsuchungsbefehle (…) grundsätzlich gegen die grundlegenden Prinzipien des Vierten Verfassungszusatzes, wenn sie so großzügig und weit gefasst sind, dass sie eine virtuelle, allumfassende Rasterfahndung darstellen[.]“ Mit Apples neuem Programm hat das Unternehmen es versäumt, eine starke politische Linie gegen US-Gesetze zu vertreten, die die Verschlüsselung untergraben. Der verfassungsrechtliche Schutz in den USA ist weiterhin gegeben und schützt gegen schlimmste Exzesse – dieser Schutz existiert jedoch nicht in jedem Land.
Apple ist ein globales Unternehmen, dessen Telefone und Computer auf der ganzen Welt im Einsatz sind – aufgrund dieser Marktstellung üben viele Regierungen Druck auf das Unternehmen aus. Apple hat versprochen, dass es sich weigern wird, „von der Regierung geforderte Änderungen zu entwickeln und zu implementieren, die die Privatsphäre der Nutzer beeinträchtigen.“ Dieses Bekenntnis ist hilfreich. Es stellt aber keinen annähernd so starken Schutz her, wie die Aussage, dass es technisch nicht in der Lage ist, den Willen der Regierungen umzusetzen. Außerdem muss Apple, wenn es diese Änderung nun durchführt, nicht nur für den Schutz der Privatsphäre kämpfen, sondern auch vor Gesetzgebern und Gerichten in aller Welt überzeugen. Um sein Versprechen zu halten, wird Apple dem Druck widerstehen müssen, das iMessage-Scanprogramm auf neue Länder auszuweiten, nach neuen Arten von Inhalten zu scannen und außerhalb von Eltern-Kind-Beziehungen zu melden.
Es überrascht nicht, dass autoritäre Länder von Unternehmen Zugang und Kontrolle über verschlüsselte Nachrichten verlangen, die oft die letzte Hoffnung für Dissidenten sind, sich zu organisieren und zu kommunizieren. Die Recherchen von Citizen Lab zeigen beispielsweise, dass Chinas unverschlüsselter WeChat-Dienst bereits jetzt Bilder und Dateien durchsucht, die von den Nutzern geteilt werden, und sie zum Trainieren von Zensuralgorithmen verwendet. Wenn eine Nachricht von einem WeChat-Nutzer an einen anderen gesendet wird, durchläuft sie einen von Tencent (der Muttergesellschaft von WeChat) verwalteten Server, der erkennt, ob die Nachricht Schlüsselwörter auf der schwarzen Liste enthält, bevor sie an den Empfänger gesendet wird.“ Wie Riana Pfefferkorn vom Stanford Internet Observatory erklärt, ist diese Art von Technologie eine Vorlage, die zeigt, „wie ein clientseitiges Scansystem, das ursprünglich nur für CSAM [Child Sexual Abuse Material] entwickelt wurde, für Zensur und politische Verfolgung missbraucht werden könnte und würde“. Wie Apple festgestellt hat, kann man sich China – dem größten Markt der Welt – nur schwer verweigern. Andere Länder schrecken nicht davor zurück, extremen Druck auf Unternehmen auszuüben, einschließlich der Verhaftung lokaler Mitarbeiter von Technologieunternehmen.
Aber oft kommt der starke Druck, auf verschlüsselte Daten zuzugreifen, auch aus demokratischen Ländern, die sich um die Aufrechterhaltung der Rechtsstaatlichkeit bemühen. Wenn Unternehmen sich in solchen Ländern nicht an die Regeln halten, können die Änderungen, die zur Untergrabung der Verschlüsselung vorgenommen wurden, leicht von Ländern mit schwächeren demokratischen Institutionen und schlechter Menschenrechtsbilanz nachgeahmt werden. Sie verwenden oftmals eine ähnliche Rechtssprache, implementieren die neuen Regeln jedoch mit anderen Vorstellungen von öffentlicher Ordnung und staatlicher Sicherheit sowie davon, was unzulässige Inhalte sind, von Obszönität über Unanständigkeit bis hin zu politischer Rede. Das macht es so gefährlich. Länder mit schlechterer Menschenrechtsbilanz werden sich vor Kritik schützen können, indem sie auf die Praktiken anerkannter Demokratien verweisen. Sie sind souveräne Nationen und werden ihre Bedürfnisse in Bezug auf die öffentliche Ordnung als ebenso dringlich betrachten. Sie werden argumentieren, dass Apple, wenn es einem Nationalstaat nach den dortigen Gesetzen Zugang gewährt, auch anderen Ländern Zugang gewähren muss, zumindest zu denselben Bedingungen.
Die „Five Eyes“ werden versuchen, Nachrichten zu scannen
So warnten die Five Eyes – eine Kooperation der Nachrichtendienste Kanadas, Neuseelands, Australiens, des Vereinigten Königreichs und der Vereinigten Staaten – in 2018, dass sie „technologische, gesetzliche oder andere Maßnahmen ergreifen werden, um rechtmäßige Zugangslösungen zu erreichen“, wenn die Unternehmen nicht freiwillig Zugang zu verschlüsselten Nachrichten gewähren. In jüngster Zeit sind die Five Eyes von Terrorismus auf die Verhinderung von CSAM als Rechtfertigung umgeschwenkt, aber die Forderung nach unverschlüsseltem Zugang bleibt dieselbe, und es ist unwahrscheinlich, dass die Five Eyes ohne Änderungen zur Unterstützung von Terrorismus und strafrechtlichen Ermittlungen zufrieden sein werden.
Das britische Gesetz über Ermittlungsbefugnisse (Investigatory Powers Act, IPA), das auf die Drohung der Five Eyes zurückgeht, erlaubt es dem Staatssekretär, „Mitteilungen über die technische Leistungsfähigkeit“ zu erlassen, die Telekommunikationsbetreiber dazu verpflichten, die technische Fähigkeit zur „Unterstützung bei der Umsetzung eines Abhörbefehls, eines Befehls zur Störung von Geräten oder eines Befehls oder einer Genehmigung zur Beschaffung von Kommunikationsdaten“ bereitzustellen. Als sich das britische Parlament mit dem IPA befasste, warnten wir davor, dass „ein Unternehmen gezwungen werden könnte, ein Update zu entwickeln, um die Vollstreckung einer Anordnung zur Störung von Geräten zu erleichtern, und angewiesen werden könnte, seine Kunden nicht zu benachrichtigen.“
Dem IPA zufolge muss der Staatssekretär „die technische Machbarkeit der Einhaltung der Bekanntmachung“ prüfen. Die jetzigen Änderungen in Apples Systemen machen es schwieriger, zu sagen, dass eine zusätzliche Überwachung technisch nicht machbar ist. Wir befürchten, dass das Vereinigte Königreich versuchen könnte, ein Update zu erzwingen, das die derzeitige Funktionalität des iMessage-Scanprogramms mit anderen algorithmischen Zielen und einer breiteren Berichterstattung erweitern würde. Da die iMessage-Funktion „Kommunikationssicherheit“ ein eigenes Programm ist, kann Apple nur allzu leicht seine eigenen Kriterien dafür ändern, was als meldepflichtig markiert wird. Apple könnte die Anweisung erhalten, sein Hash-Matching-Programm für iPhoto in die Vorabprüfung von Nachrichten zu übernehmen. Auch die Kriterien, nach denen die Konten gescannt werden und wo positive Treffer gemeldet werden, liegen ganz in Apples Hand.
Nach Großbritannien zog Australien mit seinem Assistance and Access Act nach. Die Regelung sieht ebenfalls Anforderungen für die Bereitstellung von technischer Unterstützung und Fähigkeiten vor, mit dem beunruhigenden Potenzial, die Verschlüsselung zu unterwandern. Das Gesetz enthält zwar einige Sicherheitsvorkehrungen, aber eine Koalition aus zivilgesellschaftlichen Organisationen, Technologieunternehmen und Handelsverbänden, darunter EFF und – siehe da – Apple, erklärte, dass diese nicht ausreichend seien.
In der Tat warnte Apple in seiner eigenen Stellungnahme an die australische Regierung, dass „die Regierung versuchen könnte, Anbieter zu zwingen, Software oder Geräte zu installieren oder zu testen, den Zugang zu Kundengeräten zu erleichtern, Quellcode herauszugeben, Formen des elektronischen Schutzes zu entfernen, Merkmale eines Dienstes zu ändern oder einen Dienst zu ersetzen, um nur einige Beispiele zu nennen“. Wenn Apple nur daran denken würde, dass genau diese Techniken auch für den Versuch verwendet werden könnten, den Umfang des Apple-Scan-Programms vorzuschreiben oder zu ändern.
Kanada hat zwar noch keine ausdrückliche Vorschrift für den Zugang zu Klartext erlassen, aber die kanadische Regierung bemüht sich aktiv um Filterverpflichtungen für verschiedene Online-Plattformen, was die Gefahr einer aggressiveren Verpflichtung für private Messaging-Anwendungen bedeutet.
Zensurregelungen sind vorhanden und einsatzbereit
Für die Five Eyes geht es vor allem um Überwachungsmöglichkeiten, aber Indien und Indonesien sind bereits auf dem besten Weg zur Zensur von Inhalten. Die neuen Vermittlerrichtlinien und der Ethikkodex für digitale Medien (2021 Rules) der indischen Regierung, die Anfang dieses Jahres in Kraft getreten sind, erlegen den Plattformen direkt gefährliche Anforderungen zur Vorabprüfung von Inhalten auf. Regel 4(4) zwingt zur Filterung von Inhalten und verlangt, dass die Anbieter „sich bemühen, technologiebasierte Maßnahmen einzusetzen“, einschließlich automatisierter Tools oder anderer Mechanismen, um „proaktiv Informationen zu identifizieren“, die gemäß den neuen Regeln verboten sind.
Indiens Verteidigung der 2021-Regeln, die als Reaktion auf die Kritik von drei UN-Sonderberichterstattern verfasst wurde, bestand darin, die sehr realen Gefahren für Kinder hervorzuheben, und übergeht das viel umfassendere Mandat der Durchsuchungs- und Zensurbestimmungen. Die Regeln von 2021 sehen eine proaktive und automatische Durchsetzung der Bestimmungen zur Entfernung von Inhalten vor und verlangen die proaktive Sperrung von Material, das zuvor nach indischem Recht als verboten galt. Zu diesen Gesetzen gehören im Großen und Ganzen solche, die „die Souveränität und Integrität Indiens, die Sicherheit des Staates, freundschaftliche Beziehungen zu ausländischen Staaten, die öffentliche Ordnung, den Anstand oder die Moral“ schützen. Dies ist kein hypothetischer Ausrutscher – es ist nicht schwer zu erkennen, wie diese Formulierung für die freie Meinungsäußerung und politische Meinungsverschiedenheiten gefährlich sein könnte. Die Erfolgsbilanz Indiens in Bezug auf das Gesetz zur Verhinderung rechtswidriger Handlungen (Unlawful Activities Prevention Act), das Berichten zufolge zur Verhaftung von Akademiker*innen, Schriftsteller*innen und Dichter*innen wegen der Leitung von Kundgebungen und der Veröffentlichung politischer Botschaften in sozialen Medien verwendet wurde, verdeutlicht diese Gefahr.
Es würde nicht überraschen, wenn Indien behaupten würde, dass Apples Scanning-Programm ein guter Anfang für die Einhaltung der Vorschriften war, wobei noch einige weitere Anpassungen erforderlich sind, um das breitere Mandat der 2021-Regeln zu erfüllen. Apple hat versprochen, gegen jede Ausweitung zu protestieren, und könnte vor Gericht argumentieren – wie WhatsApp andere Anbieter – dass die 2021-Regeln gestrichen werden sollten oder dass Apple nicht der Definition eines Vermittlers von sozialen Medien entspricht, der unter diese 2021-Regeln fällt. Aber die indischen Regeln veranschaulichen sowohl den Wunsch der Regierung als auch den rechtlichen Rückhalt für die Vorabkontrolle verschlüsselter Inhalte, und Apples Änderungen machen es umso leichter, in diese Dystopie zu einzutauchen.
Dies ist leider ein immer stärker werdender Trend. Auch Indonesien hat die Ministerialverordnung MR5 erlassen, die von Dienstanbietern (einschließlich „Instant Messaging“-Anbietern) verlangt, dass sie „sicherstellen“, dass ihr System „keine verbotenen [Informationen] enthält; und (…) die Verbreitung verbotener [Informationen] nicht erleichtert“. MR5 definiert „verbotene Informationen“ als alles, was gegen eine Bestimmung der indonesischen Gesetze und Vorschriften verstößt oder „Unruhe in der Gemeinschaft“ oder eine „Störung der öffentlichen Ordnung“ verursacht. MR5 sieht auch unverhältnismäßige Sanktionen vor, einschließlich einer generellen Sperrung von Systemen für diejenigen, die nicht sicherstellen, dass keine verbotenen Inhalte und Informationen in ihren Systemen vorhanden sind. Indonesien könnte die iMessage-Scanfunktion auch als Instrument zur Einhaltung der Verordnung MR5 betrachten und Apple unter Druck setzen, eine umfassendere und einschneidendere Version in seinem Land einzuführen.
Der Druck wird wachsen
Der Druck, Apples Programm auf mehr Länder und mehr Arten von Inhalten auszuweiten, wird weiter steigen. In der Europäischen Union wurde im Herbst 2020 in einer Reihe von durchgesickerten Dokumenten der Europäischen Kommission ein Anti-Verschlüsselungsgesetz für das Europäische Parlament angekündigt, das vielleicht noch in diesem Jahr verabschiedet werden soll. Glücklicherweise gibt es in der EU eine Möglichkeit zur Verteidigung. Gemäß der Richtlinie über den elektronischen Geschäftsverkehr dürfen die EU-Mitgliedstaaten keine allgemeine Verpflichtung zur Überwachung der von den Nutzern übermittelten oder gespeicherten Informationen auferlegen, wie es in Artikel 15 der Richtlinie über den elektronischen Geschäftsverkehr (2000/31/EG) heißt. In der Tat hat der Gerichtshof der Europäischen Union (EuGH) ausdrücklich festgestellt, dass Vermittler nicht verpflichtet werden dürfen, ihre Dienste generell zu überwachen, um illegale Aktivitäten ihrer Nutzer aufzudecken und zu verhindern. Eine solche Verpflichtung wäre mit dem Grundsatz der Fairness und Verhältnismäßigkeit unvereinbar. Trotzdem hat sich die Europäische Kommission in einem durchgesickerten internen Dokument, das von Politico veröffentlicht wurde, zu einem Aktionsplan für die obligatorische Aufdeckung von CSAM durch die einschlägigen Online-Diensteanbieter (voraussichtlich im Dezember 2021) verpflichtet, der als Lösung das clientseitige Scannen vorsieht, das potenziell auf sichere private Messaging-Apps angewendet werden kann, und sich auf den Gedanken stützt, dass dadurch der Schutz der Ende-zu-Ende-Verschlüsselung gewahrt bleibt.
Für die politischen Entscheidungsträger*innen der Regierung, die die Unternehmen dazu drängen, sich mehr Mühe zu geben, ist eine härtere Wortwahl genauso gut. Das Ziel ist der Zugang zu unverschlüsselter Kommunikation, und wenn dies auf eine Weise erreicht werden kann, die eine enger definierte Ende-zu-Ende-Verschlüsselung beibehält, umso besser für sie.
Alles, was nötig wäre, um die enge Hintertür, die Apple baut, zu erweitern, ist eine Ausweitung der Parameter für maschinelles Lernen, um nach zusätzlichen Arten von Inhalten zu suchen, die Übernahme des iPhoto-Hash-Abgleichs in iMessage oder eine Änderung der Konfigurationsflags, um nicht nur die Konten von Kindern, sondern von allen zu scannen. Apple hat ein ausgereiftes System, das nur darauf wartet, dass von außen Druck ausgeübt wird, um die notwendigen Änderungen vorzunehmen. China und zweifellos auch andere Länder verfügen bereits über Hashes und Inhaltsklassifizierer, um Nachrichten zu identifizieren, die nach ihren Gesetzen unzulässig sind, selbst wenn sie durch internationale Menschenrechtsgesetze geschützt sind. Die Missbrauchsfälle sind leicht vorstellbar: Regierungen, die Homosexualität verbieten, könnten verlangen, dass ein Algorithmus darauf trainiert wird, offensichtliche LGBTQ+-Inhalte einzuschränken, oder ein autoritäres Regime könnte einen Algorithmus verlangen, der in der Lage ist, beliebte satirische Bilder oder Protestflugblätter zu erkennen.
Jetzt, da Apple es gebaut hat, werden sie kommen. Mit guten Absichten hat Apple den Weg zu einer obligatorischen Sicherheitsschwäche auf der ganzen Welt geebnet und die Argumente gestärkt, dass das Durchsuchen Ihres persönlichen Lebens und Ihrer privaten Kommunikation akzeptabel ist, wenn die Absichten gut genug sind. Wir fordern Apple dringend auf, sich zu besinnen und zu dem Mantra zurückzukehren, das Apple so einprägsam auf einer Plakatwand auf der CES-Konferenz 2019 in Las Vegas verkündet hat: „Was auf deinem iPhone passiert, bleibt auf deinem iPhone.“
TELL APPLE: DON'T SCAN OUR PHONES
Read further on this topic:
- Apple's Plan to "Think Different" About Encryption Opens a Backdoor to Your Private Life
- How LGBTQ Content is Censored Under the Guise of "Sexually Explicit"
- EFF Joins Global Coalition Asking Apple CEO Tim Cook to Stop Phone-Scanning
- Apple’s Plan to Scan Photos in Messages Turns Young People Into Privacy Pawns
- 25,000 EFF Supporters Have Told Apple Not To Scan Their Phones
