Nowy projekt Apple, polegający na skanowaniu obrazów wysyłanych za pośrednictwem aplikacji iMessage wieszczy koniec wsparcia firmy dla ochrony prywatności użytkowników i bezpieczeństwa szyfrowanych wiadomości. Program, który początkowo ma objąć jedynie Stany Zjednoczone, zawęża definicję szyfrowania całościowego (end-to-end) tak, aby umożliwić firmie skanowanie treści po stronie klienta. Choć celem Apple jest wyłącznie walka z problemem wykorzystywania dzieci, firma stworzyła infrastrukturę, którą bardzo łatwo będzie można przekształcić w narzędzie inwigilacji i cenzury. Program ten podważa argument Apple, że firma nie jest w stanie spełnić dalej idących żądań władz.

Od lat rządy na całym świecie domagają się od firm IT, by te umożliwiły im dostęp do jawnej treści zaszyfrowanych wiadomości i reagują sarkastycznie, gdy otrzymują odpowiedź, że ich prośby są niemożliwe do pogodzenia ze standardami silnego szyfrowania.

JOIN THE NATIONWIDE PROTEST

TELL APPLE: DON'T SCAN OUR PHONES

Projekt skanowania wiadomości dla ochrony dzieci jest obecnie wdrażany przez Apple jedynie w Stanach Zjednoczonych. Władze tego kraju nigdy nie kryły, że chcą mieć dostęp do jawnej treści szyfrowanej komunikacji i wielokrotnie naciskały na firmy technologiczne, by te ułatwiły im uzyskiwanie danych na podstawie nakazów sądowych, czy wręcz by przekazywały je im dobrowolnie.

Jednak gdyby Stany Zjednoczone chciały uchwalić prawo, które wymagałoby bezwarunkowego monitorowania i zgłaszania treści, stanęłyby w obliczu poważnych problemów konstytucyjnych. Nawet jeśli przeszukanie zlecone przez rząd jest dokonywane przez podmiot prywatny, musi ono być prowadzone w zgodzie z gwarancjami wynikającymi z Czwartej Poprawki do Konstytucji USA. Każdy "nakaz" mający na celu masową inwigilację osób wobec których nie toczy się śledztwo byłby sprzeczny z Konstytucją.

Jak stwierdził Sąd Apelacyjny dla Dziewiątego Okręgu, "nakazy przeszukania (...) pozostają w fundamentalnej sprzeczności z podstawowymi zasadami Czwartej Poprawki zawsze wtedy, gdy są tak obszerne i niedookreślone, że można je uznać za wszechogarniającą sieć [...]"

Wprowadzając swój nowy program, Apple osłabiło swój wcześniejszy zdecydowany sprzeciw wobec amerykańskich przepisów podważających szyfrowanie, wciąż jednak możemy liczyć na konstytucyjną ochronę przed najpoważniejszymi nadużyciami. Amerykańskie gwarancje konstytucyjne niekoniecznie muszą mieć jednak swoje odpowiedniki w prawie innych krajów.

Apple jest międzynarodową firmą, z której telefonów i komputerów korzystają ludzie na całym świecie, przez co podlega ona presji ze strony wielu rządów. W przeszłości firma obiecywała, że będzie odmawiać “władzom nakazującym jej projektowanie i wdrażanie rozwiązań, które naruszają prywatność użytkowników." To dobrze, że Apple twierdzi, że nie będzie ulegać naciskom ze strony władz, ale to jest znacznie słabsza gwarancja, niż utrzymywanie, że takie działania są niewykonalne, czego jednak nie byłoby można uczciwie powiedzieć o każdym tego rodzaju systemie.

Ponadto, jeśli Apple wdroży tę zmianę, będzie musiał nie tylko walczyć o prywatność użytkowników na polu technologicznym, ale także wygrywać z władzami przed sądami na całym świecie. Aby dotrzymać obietnicy, firma będzie musiała oprzeć się presji rozszerzenia programu skanowania iMessage na nowe kraje, jak również skanowania pod kątem nowych typów treści i raportowania poza relacją rodzic-dziecko.

Nie jest zaskakujące, że kraje autorytarne domagają się od firm IT zapewnienia im dostępu do jawnej treści zaszyfrowanych wiadomości, które często są ostatnią deską ratunku dla dysydentów, chcących bezpiecznie się organizować i komunikować ze sobą. Badania przeprowadzone przez Citizen Lab pokazują, że - już teraz - chiński nieszyfrowany komunikator WeChat śledzi obrazy i pliki udostępniane przez jego użytkowników i wykorzystuje je do trenowania algorytmów cenzurujących.

 "Kiedy wiadomość jest wysyłana od jednego użytkownika WeChat do drugiego, przechodzi ona przez serwer zarządzany przez Tencent (spółkę matkę WeChat), który wykrywa, czy wiadomość zawiera słowa kluczowe z czarnej listy, zanim wiadomość zostanie wysłana do odbiorcy". Jak wyjaśnia Riana Pfefferkorn ze Stanford Internet Observatory, tego typu technologia jest swoistą mapą drogową pokazującą "jak system skanowania po stronie klienta, pierwotnie zbudowany tylko dla wykrywania materiałów związanych z wykorzystywaniem seksualnym dzieci CSAM (Child Sexual Abuse Materials) może być i będzie wykorzystywany do cenzury i prześladowań politycznych."

Apple miało już okazję przekonać się, że Chinom, z ich największym na świecie rynkiem, ciężko jest powiedzieć “nie”. Jednak i inne kraje nie mają oporów przed stosowaniem brutalnych nacisków na firmy technologiczne, łącznie z aresztowaniem ich lokalnych pracowników.

Często silna presja w kwestii dostępu do jawnej treści zaszyfrowanych wiadomości płynie jednak także z krajów demokratycznych, które starają się stać na straży praworządności, a przynajmniej składają takie deklaracje. Jeśli firmom technologicznym nie uda się utrzymać sprzeciwu wobec zakusów władz w tych krajach, wprowadzone w nich zmiany mające na celu osłabienie szyfrowania mogą być łatwo powielone przez państwa o słabszych instytucjach demokratycznych i niskim wskaźniku respektowania praw człowieka. Często przy użyciu podobnego języka prawnego, ale z odmiennymi koncepcjami porządku publicznego i bezpieczeństwa państwa, a także tego, co stanowi niedopuszczalne treści, od obsceniczności, przez nieprzyzwoitość, po wypowiedzi polityczne. Jest to bardzo niebezpieczne zjawisko. Kraje te będą jednak twierdzić, że niczym się nie różnią się w swoich działaniach od tych, które respektują prawa człowieka. Są w końcu suwerennymi narodami i będą postrzegać własne potrzeby w zakresie porządku publicznego jako równie istotne. Będą twierdzić, że jeśli Apple zapewnia dostęp jakiemukolwiek państwu na mocy lokalnego prawa, musi również zapewnić dostęp innym państwom na określonych przez nie warunkach.

Kraje “Pięciorga Oczu” (Five Eyes) będą dążyć do skanowania wiadomości

Przykładowo, koalicja Five Eyes, czyli sojusz służb wywiadowczych Kanady, Nowej Zelandii, Australii, Wielkiej Brytanii i Stanów Zjednoczonych, ostrzegła w 2018 r., że będzie "wykorzystywać środki technologiczne, wykonawcze, legislacyjne lub inne, w celu osiągnięcia zgodnych z prawem rozwiązań związanych z dostępem [do danych]", jeśli firmy IT nie zapewnią im dobrowolnie wglądu w jawną treści zaszyfrowanych wiadomości. Ostatnio koalicja zmieniła uzasadnienie dla swych działań w tym zakresie z przeciwdziałania terroryzmowi na zapobieganie rozpowszechniania materiałów związanym z wykorzystywaniem seksualnym dzieci (CSAM). Jednak zapotrzebowanie służb na dostęp do tekstu jawnego pozostaje takie samo jak kiedyś i jest mało prawdopodobne, by władze poczuły się usatysfakcjonowane, jeśli nie zostaną wprowadzone zmiany, wspierające je w dochodzeniach w sprawach karnych oraz tych związanych z terroryzmem.

Brytyjska ustawa o uprawnieniach śledczych (Investigatory Powers Act, dalej IPA), realizując groźbę Five Eyes, pozwala brytyjskiemu sekretarzowi stanu na wydawanie "zawiadomień technicznych" zobowiązujących operatorów telekomunikacyjnych do zapewnienia technicznych możliwości "udzielenia pomocy w wykonaniu nakazu przechwycenia [danych], ingerencji w sprzęt lub uzyskanie danych o łączności".

Kiedy Parlament Wielkiej Brytanii debatował nad IPA, ostrzegaliśmy, że zgodnie z ustawą "firmy będą mogły być zmuszane do dystrybuowania aktualizacji oprogramowania w celu ułatwienia wykonania nakazu ingerencji w sprzęt i do powstrzymania się od powiadamiania o tym swoich klientów."

Zgodnie z IPA, sekretarz stanu musi wziąć pod uwagę "techniczną możliwość zastosowania się do zawiadomienia". Jednak infrastruktura potrzebna do wprowadzenia proponowanych przez Apple zmian sprawia, że dalsze utrzymywanie, iż dodatkowe rodzaje nadzoru nad komunikacją nie są technicznie wykonalne, staje się trudniejsze do obrony.

Obawiamy się, że w przypadku nowego projektu Apple, Wielka Brytania może próbować wymusić na firmie jego aktualizację, która poszerzyłaby obecną funkcjonalność programu skanowania iMessage o inne cele i wprowadziłaby szerszy zakres raportowania.

Ponieważ funkcja "bezpiecznej komunikacji" w iMessage jest całkowicie autorskim rozwiązaniem Apple, firma może bardzo łatwo zmienić własne kryteria dotyczące tego, co będzie flagowane jako podlegające raportowaniu. Apple może otrzymać nakaz dostosowania swojego programu dopasowywania haszów dla iPhoto do wymogu wstępnego sprawdzania wiadomości. W gestii firmy pozostają także kryteria dotyczące tego, które konta będą podlegać skanowaniu i komu będą raportowane ewentualne zgodności.

Australia poszła w ślady Wielkiej Brytanii uchwalając Assistance and Access Act, ustawę która przewiduje możliwość wprowadzenia wymogów dotyczących zapewniania władzom wsparcia technicznego i udostępniania im przez podmioty telekomunikacyjne swoich zasobów, co niesie ze sobą groźbę osłabiania szyfrowania.

Choć ustawa zawiera pewne zabezpieczenia, koalicja organizacji obywatelskich, firm technologicznych i stowarzyszeń handlowych, w tym także EFF i - uwaga - Apple, dowodzi, że zabezpieczenia te są niewystarczające.

W oświadczeniu wystosowanym przez Apple do australijskich władz firma ostrzegała, że "rząd może próbować zmusić dostawców m.in. do zainstalowania lub przetestowania oprogramowania lub sprzętu, do ułatwiania dostępu do urządzeń klienta, przekazywania kodu źródłowego, usuwania różnych rodzajów zabezpieczeń, modyfikowania cech usługi lub jej zastępowania inną". Gdyby tak jeszcze Apple zdało sobie sprawę z tego, że dokładnie te same techniki mogą być również wykorzystane do wymuszania zmiany zakresu stosowania ich własnego programu skanowania...

Choć Kanada nie przyjęła jeszcze prawnego wymogu udostępniania tekstu jawnego, władze kraju aktywnie dążą do wprowadzenia obowiązku filtrowania wiadomości przez różne platformy internetowe, co rodzi obawę przygotowywania przez nie znacznie dalej idących nakazów wymierzonych w twórców szyfrowanych komunikatorów.

Reżimy stosujące cenzurę stoją już w blokach startowych

W przypadku krajów Five Eyes chodzi głównie o zapewnienie technicznych możliwości monitorowania sieci, ale Indie i Indonezja są już na równi pochyłej wiodącej do jawnej cenzury treści. Nowe wytyczne indyjskich władz dla pośredników i Kodeks Etyczny Mediów Cyfrowych (tzw. "2021 Rules"), które weszły w życie na początku bieżącego roku, wprost nakładają na platformy wymóg analizy treści.

Artykuł 4(4) nakazujący filtrowanie treści, wymaga od dostawców usług "podjęcia starań w celu wdrożenia środków technicznych", w tym zautomatyzowanych narzędzi lub innych mechanizmów, dla "pro-aktywnej identyfikacji informacji" będących zakazanymi na mocy wspomnianych zasad.

W odpowiedzi na krytykę ze strony trzech specjalnych sprawozdawców ONZ, Indie broniły nowych przepisów, powołując się na zagrożenia dla dzieci, przemilczając jednocześnie znacznie szerszy zakres wprowadzonych przez nie zasad skanowania i cenzury.

“Reguły z 2021 r.” wprowadzają pro-aktywne i automatyczne egzekwowanie przepisów dotyczących usuwania treści, wymagając pro-aktywnego blokowania wszystkich materiałów wcześniej uznanych za zakazane na mocy indyjskiego prawa. Zasady te obejmują normy chroniące "suwerenność i integralność terytorialną Indii; bezpieczeństwo państwa; przyjazne stosunki z obcymi państwami; porządek publiczny; przyzwoitość lub moralność".

To nie jest hipotetyczna równia pochyła. Nie jest trudno dostrzec, jak bardzo niebezpieczne dla wolności słowa i możliwości politycznego sprzeciwu są te regulacje. Także dotychczasowe działania indyjskich władz na gruncie ustawy o zapobieganiu czynom bezprawnym (Unlawful Activities Prevention Act), która w świetle doniesień mediów była wykorzystywana jako podstawa do aresztowania naukowców, pisarzy i poetów za prowadzenie wieców i publikowanie wiadomości politycznych w mediach społecznościowych, wskazują na niebezpieczeństwo wspomnianej równi pochyłej.

Nie byłoby wcale zaskoczeniem, gdyby Indie stwierdziły, że program skanowania Apple to świetny krok w kierunku zgodności z nowymi regulacjami, być może dodając po drodze kilka poprawek potrzebnych do uwzględnienia szerszego zakresu “Reguł z 2021”.

Apple obiecało sprzeciwiać się wszelkim próbom poszerzenia ich projektu i może argumentować w sądzie, tak jak zrobili to np. właściciele WhatsApp, że indyjskie przepisy powinny być uchylone, lub że w świetle ustawowej definicji firma nie jest pośrednikiem mediów społecznościowych podlegającym regulacji. Indyjskie przepisy ilustrują jednak zarówno zakusy władzy, jak i prawne instrumenty wsparcia dla wstępnego filtrowania zaszyfrowanych treści. Zmiany wprowadzone przez Apple przybliżają nas do tej dystopii.

Niestety tego rodzaju przepisy wprowadzają też inne kraje. Indonezja przyjęła rozporządzenie ministerialne MR5, które wymaga od dostawców usług (w tym twórców "komunikatorów internetowych") "zapewnienia", że ich system "nie zawiera żadnych zakazanych [informacji]; oraz [...] nie ułatwia rozpowszechniania zakazanych [informacji]". MR5 definiuje zakazane informacje jako wszystko, co narusza jakiekolwiek przepis indonezyjskich ustaw i rozporządzeń lub powoduje "niepokój społeczny", czy też "zakłócenie porządku publicznego". MR5 nakłada również nieproporcjonalne sankcje, w tym blokowanie operatorów, którzy nie zapewnią, że w ich systemach nie ma wspomnianych zakazanych treści i informacji. Indonezja może więc postrzegać funkcję skanowania iMessage jako narzędzie do zapewnienia zgodności z rozporządzeniem MR5 i naciskać na Apple, aby przyjęło bardziej rozbudowaną i inwazyjną wersję programu w tym kraju.

Naciski będą rosły w siłę

Presja dotycząca rozszerzenia programu Apple na więcej krajów i więcej rodzajów treści będzie tylko rosła. Jesienią 2020 roku z Komisji Europejskiej wyciekła seria dokumentów, zapowiadających projekt ustawy wymierzonej w szyfrowanie, który może trafić do Parlamentu Europejskiego jeszcze w tym roku. Na szczęście w UE istnieje pewna siatka ochronna. Zgodnie z art. 15 dyrektywy o handlu elektronicznym (2000/31/WE), państwa członkowskie UE nie mogą nakładać ogólnego obowiązku monitorowania informacji przekazywanych lub przechowywanych przez użytkowników. Trybunał Sprawiedliwości Unii Europejskiej (TSUE) orzekł też wyraźnie, że pośrednicy nie mogą być zobowiązani do ogólnego monitorowania swoich usług w celu wykrywania i zapobiegania nielegalnej działalności użytkowników. Taki obowiązek byłby bowiem niezgodny z zasadami sprawiedliwości i proporcjonalności. Pomimo tego, w wewnętrznym dokumencie opublikowanym przez Politico, Komisja Europejska zobowiązała się do opracowania planu działania na rzecz obowiązkowego wykrywania materiałów związanych z wykorzystywaniem seksualnym dzieci (CSAM) przez dostawców usług internetowych (dokument trafi do oficjalnego obiegu najprawdopodobniej w grudniu 2021 r.). W dokumencie tym skanowanie po stronie klienta wskazywane jest jako możliwe rozwiązanie techniczne. Potencjalnie może mieć ono zastosowanie także do aplikacji służących do bezpiecznego przesyłania wiadomości, z powołaniem się na argument, że rozwiązanie to nie narusza szyfrowania end-to-end.

Dla rządowych decydentów namawiających firmy do bardziej wytężonej pracy nad rozwiązaniami technicznymi, wzmożone wysiłki nad językową ekwilibrystyką są czymś naturalnym. Ostatecznym celem tych projektów jest dostęp władz do jawnej treści zaszyfrowanej komunikacji, a jeśli można ten cel osiągnąć w sposób, który na pierwszy rzut oka nie narusza wąsko zdefiniowanego szyfrowania end-to-end, tym lepiej dla rządzących.

By poszerzyć wąską zapadnię, którą buduje Apple, wystarczy rozszerzenie parametrów uczenia maszynowego (machine learning) o wyszukiwanie dodatkowych rodzajów treści, użycie mechanizmu dopasowywania haszów z iPhoto także w iMessage lub zmiana zakresu flag konfiguracyjnych tak, by skanowano wszystkie konta, a nie tylko te należące do dzieci.

Apple dysponuje gotowym systemem, który tylko czeka na zewnętrzną presję, aby wprowadzić doń niezbędne zmiany. Chiny, a bez wątpienia także i inne kraje, już posiadają hasze i klasyfikatory treści używane do identyfikowania wiadomości niezgodnych z ich prawem, nawet jeśli te wiadomości są chronione przez międzynarodowe prawo człowieka. Łatwo sobie wyobrazić przypadki takich nadużyć: rządy, które zdelegalizowały homoseksualizm, mogą wymagać, aby klasyfikator został przeszkolony w zakresie ograniczania treści LGBTQ+, inne reżimy autorytarne mogą zaś wymagać wprowadzenia klasyfikatora zdolnego do rozpoznawania obrazów satyrycznych wymierzonych we władze lub ulotek namawiających do protestów społecznych.

Teraz, gdy Apple zbudowało zapadnię, władze zlecą się do niej. Kierując się dobrymi pobudkami, firma utorowała rządzącym drogę do wprowadzenia wymogów prawnych ograniczających bezpieczeństwo komunikacji na całym świecie. Tym samym wzmocniła argument, że jeśli intencje są wystarczająco dobre, monitorowanie czyjegoś życia osobistego i prywatnej komunikacji jest dopuszczalne. Wzywamy Apple do ponownej refleksji w tej kwestii i powrotu do realizacji pamiętnego hasła, które firma umieściła na billboardzie podczas konferencji CES 2019 w Las Vegas: Co dzieje się w Twoim iPhonie, zostaje w Twoim iPhonie.

JOIN THE NATIONWIDE PROTEST

TELL APPLE: DON'T SCAN OUR PHONES

Read further on this topic:

Related Issues