Streszczenie:

W badaniu przeprowadzonym przez naukowców na Harvardzie i MIT stwierdzono, że Chiny kierują światem w eksportowaniu technologii rozpoznawania twarzy. Chińskie firmy mają 201 transakcji eksportowych obejmujące rozpoznawanie twarzy, podczas gdy firmy amerykańskie mają 128 transakcji. Wśród ekspertów wzbudziło obawy, że eksport tej technologii może umożliwić rządom wykonanie większego nadzoru, potencjalnie naruszając prawa człowieka obywateli. Raport podkreśla także eksport Chin w dziedzinie eksportu sztucznej inteligencji (AI), z 250 z 1 636 umów obejmujących jakąś formę AI. Stany Zjednoczone są drugim co do wielkości eksporterem zarówno w rozpoznawaniu twarzy, jak i technologii AI.

Kluczowe punkty:

1. Chiny są światowym liderem w eksportowaniu technologii rozpoznawania twarzy, a następnie USA.

2. Chińskie firmy prowadzą również w eksporcie AI.

3. Eksport technologii rozpoznawania twarzy może prowadzić do zwiększonego nadzoru i potencjalnych naruszeń praw człowieka.

4. Technologia rozpoznawania twarzy ma różne praktyczne zastosowania.

5. Naukowcy MIT-Harvard skupili się na technologii inteligentnych City, gdzie rozpoznawanie twarzy jest często wykorzystywane do nadzoru wideo.

6. Stany Zjednoczone wyraziły zaniepokojenie, że Chiny zyskują przewagę w technologii AI.

7. Rząd USA nałożył ograniczenia na chińską technologię, w tym technologię 5G Huawei 5G.

8. Wysiłki w celu ograniczenia eksportu uznania twarzy z Chin mogą obejmować sankcje wobec krajów importowych.

9. Stany Zjednoczone muszą regulować stosowanie rozpoznawania twarzy i dawać przykład innym krajom.

10. Chińskie firmy dominują w obliczu technologii uznania z powodu powiązań rządowych i finansowania.

Pytania:

1. Jak Chiny porównują się do USA w eksportowaniu technologii rozpoznawania twarzy?

Chiny są światowym liderem w eksportowaniu technologii rozpoznawania twarzy, z 201 ofertami eksportowymi, podczas gdy USA mają 128 umów.

2. Jakie obawy są podniesione przez ekspertów dotyczących eksportu technologii rozpoznawania twarzy?

Eksperci obawiają się, że eksport technologii rozpoznawania twarzy może umożliwić rządom wykonanie większej inwigilacji, potencjalnie naruszając prawa człowieka obywateli.

3. Jakie są praktyczne zastosowania technologii rozpoznawania twarzy?

Technologia rozpoznawania twarzy może być wykorzystywana do odblokowania smartfonów, zapewnienia uwierzytelniania w aplikacjach i identyfikacji znajomych w postach w mediach społecznościowych.

4. Na czym koncentruje się badanie badaczy MIT-Harvard?

Naukowcy skupili się na technologii Smart City, w której rozpoznawanie twarzy jest często wdrażane w celu poprawy nadzoru wideo.

5. To, co dotyczy USA o Chinach w zakresie technologii AI?

Stany Zjednoczone wyraziły zaniepokojenie, że Chiny zyskują przewagę w technologii AI.

6. Jakie ograniczenia narzucił rząd USA na chińską technologię?

Rząd USA nałożył ograniczenia dotyczące wykorzystania technologii 5G Huawei i skierował chińskie firmy AI z Embargo Chip Embargo.

7. Jakie środki można podjąć, aby ograniczyć eksport technologii rozpoznawania twarzy z Chin?

Jednym z możliwych środków może być nakładanie sankcji na kraje importowane technologii. USA mogłyby również regulować korzystanie z rozpoznawania twarzy w kraju i oferować alternatywy dla chińskiej technologii za granicą.

8. Jaki jest problem związany z USA jako drugi co do wielkości eksporter technologii rozpoznawania twarzy?

Istnieje obawa, że ​​USA, będąc głównym eksporterem technologii rozpoznawania twarzy, podważa ideę, że technologia amerykańska naturalnie ucieleśnia wartości wolności i demokracji.

9. Czy istnieją krajowe standardy w USA, ograniczające korzystanie z rozpoznawania twarzy?

Nie, nie ma żadnych krajowych standardów ograniczających lub ograniczających stosowanie rozpoznawania twarzy w USA.

10. Jak amerykańskie sukcesy Chin w eksportowaniu technologii rozpoznawania twarzy?

USA mogą przeciwdziałać sukcesowi Chin, regulując stosowanie rozpoznawania twarzy w kraju i oferując alternatywne technologie chińskiemu eksportowi.

11. Dlaczego chińskie firmy zdominowały technologię rozpoznawania twarzy?

Jednym z powodów są ich powiązania z podmiotami rządowymi, które zapewniają dużą ilość zdjęć i znaczące finansowanie rozwoju technologii.

12. Co było postawą Kongresu USA w zakresie ograniczenia technologii rozpoznawania twarzy?

Perspektywy Kongresu USA uznające znaczące limity technologii rozpoznawania twarzy są niewielkie.

13. Jaki jest problem związany z wartościami zawartymi w technologii amerykańskiej?

Istnieje obawa, że ​​technologia amerykańska, mimo że jest głównym eksporterem technologii rozpoznawania twarzy, niekoniecznie może ucieleśniać wartości wolności i demokracji.

14. Jakie są oskarżenia wobec amerykańskich firm, takich jak Clearview AI?

Grupy wolności obywatelskich twierdzą, że Clearview AI i podobne firmy amerykańskie atakują prywatność obywateli bez uzasadnienia prawnego, łącząc obrazy kamer do monitorowania z tożsamością online.

15. To, co zostało zasugerowane jako najlepszy sposób dla USA przeciwdziałania sukcesowi Chin w eksportowaniu uznania twarzy?

Regulacja korzystania z rozpoznawania twarzy w kraju i oferowanie alternatywnych technologii chińskiej eksportu zostało zasugerowane jako najlepsze sposoby dla USA przeciwdziałania sukcesowi Chin.

Rozpoznawanie twarzy i nie tylko: dziennikarki w Chin Surveillance State

(Uwaga: Tajlandia jest w trakcie wprowadzania ustawy o ochronie danych, która zapewniłaby wyraźną zgodę podczas korzystania z wrażliwych danych (w tym biometrii), ale bieżące opóźnienia sprawiają, że obecnie jest to niejasne).

Chiny to świat’S największy dealer rozpoznawania twarzy

Eksperci obawiają się, że sprzedaż technologii eksportuje również autorytarne pomysły na temat nadzoru biometrycznego. Drugim co do wielkości eksporter są USA.

Zapisz historię

Zapisz historię

Na początku ubiegłego roku rząd Bangladeszu zaczął rozważyć ofertę nienazwanej chińskiej firmy na budowę inteligentnego miasta w Zatoce Bengalu z infrastrukturą wzmocnioną sztuczną inteligencją. Budowa zaawansowanej technologii metropolii jeszcze się nie rozpoczęła, ale jeśli będzie ono zgodne, może zawierać oprogramowanie do rozpoznawania twarzy, które może używać kamer publicznych do identyfikacji zaginionych osób lub śledzenia przestępców w tłumie-zdolności już standardowe w wielu chińskich miastach.

Projekt jest jednym z tych, którzy uczyniają Chiny światowym liderem w eksportowaniu rozpoznawania twarzy, zgodnie z badaniami naukowców na Harvardzie i MIT opublikowanym w zeszłym tygodniu przez Brookings Institution, wybitnego think tanku.

Raport stwierdza, że ​​chińskie firmy kierują światem w eksportowaniu rozpoznawania twarzy, co stanowi 201 umów eksportowych obejmujących technologię, a następnie firmy amerykańskie z 128 umowami. Chiny mają również główną przewagę w sztucznej inteligencji, z 250 spośród 1 636 umów eksportowych obejmujących pewną formę sztucznej inteligencji do 136 krajów importowych. Drugim największym eksporterem były Stany Zjednoczone, z 215 ofertami AI.

Raport twierdzi, że eksport ten może umożliwić innym rządom wykonanie większego nadzoru, potencjalnie szkodząc obywatelom’ prawa człowieka. “Fakt, że Chiny eksportują do tych krajów, mogą je przekręcić, aby stać się bardziej autokratyczne, podczas gdy w rzeczywistości mogą stać się bardziej demokratyczne,” Mówi Martin Beraja, ekonomista MIT zaangażowany w badanie, którego praca koncentruje się na związku między nowymi technologiami, takimi jak sztuczna inteligencja, polityka rządowa i makroekonomia.

Technologia rozpoznawania twarzy ma wiele praktycznych aplikacji, w tym odblokowanie smartfonów, zapewnianie uwierzytelniania w aplikacjach i znajdowanie znajomych w postach w mediach społecznościowych. Naukowcy MIT-Harvard skupili się na transakcjach dotyczących tak zwanej technologii Smart City, w których rozpoznawanie twarzy jest często wdrażane w celu poprawy nadzoru wideo. W badaniach wykorzystano informacje na temat globalnych projektów nadzoru od Carnegie Endowment for International Peace i Data Scred z chińskich firm AI.

W ostatnich latach amerykańscy prawodawcy i prezydenci wyrazili zaniepokojenie, że Chiny zyskują przewagę nad USA w AI Technology. Raport wydaje się oferować twarde dowody jednego obszaru, w którym ta zmiana już się nastąpiła.

Najbardziej popularny

Google nie’T Nie musisz kupić składanego telefonu

Boone Ashworth

The Legend of Zelda: Tears of the Kingdom Jest ewolucją

Will Bedingfield

Ty’prawdopodobnie nie docenianie chatbotów AI

Steven Levy

13 najlepszych motocykli elektrycznych na każdy rodzaj jazdy

Adrienne So

“Przypuszcza to, dlaczego musimy ustawiać parametry wokół tego rodzaju technologii,” Mówi Alexandra Seymour, stowarzyszona członka Center for New American Security, która bada implikacje polityczne AI.

W USA rośnie dwustronne zainteresowanie USA w zakresie ograniczenia chińskiej technologii na całym świecie. Zgodnie z prezydentem Trump rząd USA narzucił zasady mające na celu ograniczenie używania Huawei’technologia s 5G w USA i innych krajach i wycelowała w Chiny’Firmy S AI z embargiem chipowym. Administracja Biden nałożyła bardziej szeroką blokadę chipów, która uniemożliwia chińskim firmom dostęp do najnowocześniejszych układów lub technologii produkcji półprzewodników, i umieściła sankcje na chińskich dostawców rozpoznawania twarzy używanych do monitorowania muzułmanów Uyghur.

Przeszukaj naszą bazę danych sztucznej inteligencji i odkryj historie według sektora, technologii, firmy i innych.

Seymour mówi, że dalsze wysiłki na rzecz ograniczenia eksportu poznania twarzy z Chin może przyjąć formę sankcji na kraje importowane technologii. Ale dodaje, że Stany Zjednoczone muszą również dać przykład reszcie świata pod względem regulacji korzystania z rozpoznawania twarzy.

Fakt, że USA są światem’Drugi co do wielkości eksporter technologii rozpoznawania twarzy ryzyko podważa pomysł – zaproponowany przez rząd USA – że technologia amerykańska naturalnie ucieleśnia wartości wolności i demokracji.

Korzystanie z rozpoznawania twarzy rośnie wśród departamentów policji w USA i chociaż niektóre miasta ustawiły ograniczenia dotyczące korzystania z technologii, nie ma krajowych standardów ograniczających ani ograniczających jej użycia. Niektóre amerykańskie firmy, takie jak Clearview AI, opracowały i eksportują narzędzia rozpoznawania twarzy, które mogą połączyć wizerunek kamery nadzoru osoby z jej tożsamością online, sprawa użycia, o którą argumentują obywatel’prywatność bez uzasadnienia prawnego.

Seymour mówi, że najlepszy sposób, w jaki USA mogły przeciwdziałać Chinom’Sukces w eksportowaniu rozpoznawania twarzy może być uregulowanie jego wykorzystania w domu, a następnie zaoferowanie alternatyw dla chińskiej technologii za granicą. “Rozmowa wokół wartości pomoże ukształtować niektóre ograniczenia, które należy ustawić na tych technologiach,” ona mówi. Ale perspektywy Kongresu USA, które zgadzają się na znaczące granice technologii, wyglądają niewielkie.

Chińskie firmy zdominowały technologię rozpoznawania twarzy częściowo z powodu powiązań z podmiotami rządowymi, które mogą zapewnić ogromne ilości zdjęć, a także znaczne finansowanie technologii’rozwój s. W artykule opublikowanym w listopadzie 2021 r. Beraja i jego współautorzy argumentowali, że innowacje w rozwoju rozpoznawania twarzy AI mogą kwitnąć w autokracjach ze względu.

Kontrolowanie rozprzestrzeniania się niesmacznych zastosowań rozpoznawania twarzy może być trudne, ponieważ ta sama technologia może mieć o wiele więcej łagodnych zastosowań.

I David Yang, jeden z Beraja’Współpracownicy i ekonomista z Harvard University twierdzi, że ostatnie amerykańskie ruchy zawierające chińską technologię bardziej koncentrowały się na zapobieganiu rozwojowi nowych możliwości, nie ograniczając transferu istniejących. “Chiny opracowały już kompleksowy pakiet technika AI, który może sprzedać,” on mówi. “Ostatnie ograniczenia nie robią nic, aby to zmienić.”

Seymour of the New American Security twierdzi, że inne pojawiające się obszary AI mogą również przekształcić się w nowe, potężne narzędzia nadzoru, których proliferacja powinna być starannie monitorowana.

Rozpoznawanie twarzy było jednym z pierwszych praktycznych zastosowań sztucznej inteligencji, aby pojawić się po znacznie ulepszonych algorytmach przetwarzania obrazu przy użyciu sztucznych sieci neuronowych, pojawiających się na początku 2010 roku. Sugeruje, że duże modele językowe, które spowodowały emocje wokół sprytnych narzędzi konwersacyjnych, takich jak Chatgpt, mogą podążać podobną ścieżką, na przykład poprzez dostosowanie się do bardziej skutecznych sposobów cenzurowania treści sieciowych lub analizy komunikacji.

Rozpoznanie twarzy i nie tylko: dziennikarze w „Stanowi nadzoru” w Chinach

Kamery bezpieczeństwa i technologia rozpoznawania twarzy rośnie w Chinach. W 2018 roku, Ludzie codziennie, Media ustnik rządzącej chińskiej partii komunistycznej, twierdził na anglojęzycznym Twitterze, że system rozpoznawania twarzy w tym kraju był w stanie skanować twarze Chin 1.4 miliardy obywateli w ciągu zaledwie jednej sekundy.

Niemiecki dziennikarz Kai Strittmatter mówi płynnie mandaryńskim i studiuje Chiny od ponad 30 lat. Mówi, że nie jest jasne, czy rząd chiński jest w stanie korzystać z oprogramowania do rozpoznawania twarzy w sposób, w jaki twierdzi. Ale dodaje, na pewnym poziomie, prawdziwość roszczenia nie jest ważna.

„Nie ma nawet znaczenia, czy to prawda, czy nie, o ile ludzie w to wierzą” – mówi. „Partia komunistyczna robi z całą tą technologią nadzoru zaawansowanych technologii, próbuje internalizować kontrolę. . Kiedy wierzysz, że to prawda, to tak, jakbyś nawet nie potrzebował policjantów na rogu, ponieważ stajesz się własnym policjantem.”

Nowa książka Strittmattera, Zostaliśmy zharmonizowani: życie w chińskim stanie nadzoru, bada rolę nadzoru w chińskim państwie. Ostrzega, że ​​chiński prezydent Xi Jinping, który doszedł do władzy w 2012 roku, przyjął nieznaną sztywność ideologiczną od czasów Mao Zedong.

„Większość ludzi, z którymi rozmawiałem, nawet członków partii i ludzi w instytucjach partyjnych, myśleli, że być może Xi Jinping zacznie od reform bardziej liberalnych” – mówi Strittmatter. „Wszyscy byli całkowicie zaskoczeni tym, jak się okazało. . To naprawdę nowy rodzaj reżimu i stanu, którego nie widzieliśmy wcześniej.”

Strittmatter twierdzi, że państwo chińskie zgromadziło zadziwiającą liczbę danych o swoich obywatelach, których używa do karania ludzi za nawet drobne odchylenia od oczekiwanych norm.

Parallele

Uznanie twarzy w Chinach to duży biznes, ponieważ samorządy zwiększają nadzór

„Ludzie czasami mnie pytają:„ Czy musimy bać się Chin?’ – mówi Strittmatter. „Moja odpowiedź naprawdę brzmi: w końcu nie musimy się bać Chin. To, czego musimy się bać – jeśli musimy się czegoś bać – to właściwie sami. To nasz fatalizm, nasza rezygnacja. Musimy wstać i musimy walczyć o nasze wartości i nasz system, ponieważ uważam, że nadal jest to najlepsze, co mamy.”

Najważniejsze wydarzenia wywiadu

O Chinach stają się liderem w dziedzinie sztucznej inteligencji i gromadzenia danych

Z jednej strony masz faceta [xi], który ponownie wprowadza represje na skalę, której nie widzieliśmy od czasu Mao Zedong. Zasadniczo jest z jedną stopą wracającą do przeszłości, ale z drugą stopą idzie daleko, daleko w przyszłość i naprawdę obejmuje całą tę nową technologię informacyjną, sztuczną inteligencję i duże dane, jak powiedziałbym, że żaden inny rząd na świecie tak naprawdę nie ma i na pewno żaden inny autorytarny rząd.

To jedna z niezwykłych rzeczy, prawda? Mam na myśli, że od tylu lat i dziesięciolecia powiedziano nam, że te prorocy technologiczne, że każdy rodzaj nowej technologii faktycznie służyłoby przyczynie wolności i podważa i obala reguły autorytarne. Cóż, Chińczycy, już nam pokazali . Ponad 20 lat, że nie tylko nie boją się tych nowych technologii, ale wręcz przeciwnie, pokochali je. .

Partia komunistyczna nie postrzega tych nowych technologii jako niebezpieczeństwa dla ich rządów. Wręcz przeciwnie, odkryli lub myślą, że faktycznie te nowe technologie dają im nowe instrumenty, które doskonalią ich zasady.

Partia komunistyczna nie postrzega tych nowych technologii jako niebezpieczeństwa dla ich rządów. Wręcz przeciwnie, odkryli lub myślą, że te nowe technologie dają im nowe instrumenty, które doskonalią ich zasadę, a to sprawi, że ich reguły będą odporne na kryzysowe, a teraz to samo z sztuczną inteligencją i dużymi danymi.

O tym, jak powszechne korzystanie z aplikacji WeChat pozwala chińskim państwo monitorowanie obywateli

Jest jedna aplikacja na każdym chińskim telefonie komórkowym, który nazywa się WeChat. A z WeChatem w zasadzie możesz żyć całe życie w WeChat. Zaczął się jako normalny program czatu, taki jak WhatsApp, ale wkrótce zamienił się w rodzaj chińskiego Facebooka. Potem stało się chińskim uber. Możesz uzyskać kredyt, możesz ubiegać się o kredyt do swojego banku. Możesz użyć go jako identyfikatora. Możesz złożyć dokumenty rozwodowe za pośrednictwem tej aplikacji do lokalnego sądu i możesz przeprowadzić wszystkie transakcje finansowe za pośrednictwem tej aplikacji. I to działa z kodami kreskowymi. I już od dłuższego czasu używają tych kodów kreskowych.

Nikt w Chinach nie używa kart kredytowych. . Wszyscy robią wszystko ze swoimi telefonami komórkowymi. I tak dochodzisz do tego stopnia, że ​​nawet żebracy uliczni ich używają, a oni powiedzą ci: „To jest tak wygodne.„Ale jednocześnie jest to niezwykle wygodne dla bezpieczeństwa państwa. I każda z twoich transakcji skończy na jednym z serwerów.

O tym, jak obywatele chińscy czują obecność państwa poprzez WeChat

Kai Strittmatter służył jako korespondent chiński przez ponad dekadę Süddeutsche Zeitung, jedna z największych gazet w Niemczech. Lasse Bech Martinussen/Harpercollins Ukryj podpis

Przełącz podpis

Lasse Bech Martinussen/Harpercollins

Kai Strittmatter służył jako korespondent chiński przez ponad dekadę Süddeutsche Zeitung, jedna z największych gazet w Niemczech.

Lasse Bech Martinussen/Harpercollins

Chińscy obywatele, byli do tego przyzwyczajeni, odczuwają obecność państwa, odczuwali obecność państwa przez całe życie. Zdajesz sobie sprawę, że czasami, gdy niektóre z twoich tekstów są cenzurowane, nagle brakuje słów lub zdań . i nigdy nie docierają do drugiej strony, bo tak naprawdę nie masz części rozmowy, którą wysyłają Twoi przyjaciele. To jest coś, co doświadcza wielu chińskich. .

Technologia

Chiny przechwytują teksty WeChat od U.S. I za granicą, twierdzą naukowcy

Miałem kilku przyjaciół [zainteresowanych polityką] i widziałem, jak dwóch z nich zostało aresztowanych z powodu ich zapisów WeChat, ponieważ rzeczywiście mieli na WeChat, zgodzili się z innymi ludźmi, z przyjaciółmi, którzy poszli na poezję, w której poeta w Pekinie miał przeczytać niektóre wiersze popierające uczniów w Hongkongu w walce o demokrację. I nigdy nie dotarli do czytania poezji. Zostali aresztowani po drodze. I to było wyraźnie z powodu ich rozmów WeChat.

W punkcie systemu mieli obywatele w mieście Rongcheng, w którym dostają punkty za dobre uczynki i zdobywają zadokowane punkty za nieuczciwe uczynki

To naprawdę naprawdę jak z książki z obrazkami. Każdy obywatel w Rongcheng zaczyna od wyniku 1000 punktów. A potem możesz wspiąć się na górę. Możesz uzyskać więcej punktów, robiąc naprawdę dobre rzeczy dla społeczeństwa i możesz upaść. . Jeśli masz więcej niż 1050 punktów, możesz być obywatelem AAA, a następnie stajesz się obywatelem AA, jeśli upadniesz niżej, a C i D. Jeśli jesteś obywatelem D, naprawdę jesteś nieuczciwy i masz mniej niż 599 punktów. .

Mówią, że chcą stworzyć uczciwego obywatela, godnego zaufania obywatela i chcą ukarać łamających zaufanie. Na przykład możesz zdobyć punkty, jeśli przekazujesz krew lub szpik kostny lub podajesz lekcje dzieciom sąsiada, których potrzebują do szkoły. Poszedłem do sąsiedztwa, w której jedna dama dostała pięć punktów, ponieważ w rzeczywistości dostarczyła jeden ze swoich pokoi w piwnicy dla lokalnego chóru, który śpiewał rewolucyjne piosenki. .

Świat

Github stał się rajem dla cenzurowanych przez Chin użytkowników Internetu

Jednocześnie zostaniesz ukarany za rzeczy, których nie powinieneś robić, i możesz zostać ukarany za jaywalking. Możesz zostać ukarany za pobieranie pirackich rzeczy. Możesz zostać ukarany za wypuszczenie psa [kupy] na trawniku przed dzielnicą, za te wszystkie rzeczy. Tak wiele z tych rzeczy byłoby w rzeczywistości działaniami, które uważamy, że nie są to dobre działania i być może warte ukarania. Ale oczywiście idzie znacznie dalej, a także staje się polityczny. Możesz także zostać ukarany, ponieważ na przykład zagrażasz harmonii społecznej w Internecie.

O potencjalnych konsekwencjach, jeśli wynik spadnie zbyt nisko w systemie punktowym

Musimy powiedzieć, że wprowadzają system krok po kroku. Teraz nie jest to jeszcze system ogólnokrajowy i będziemy musieli zobaczyć, jak się rozwija w ciągu najbliższych kilku lat. Ale jedno jest już w całym kraju, a taki jest system czarnych list. Jeśli jesteś na czarnej liście, ponieważ twój kredyt społeczny jest naliczany, to właściwie już jesteś sankcjonowany. Na przykład nie możesz już brać samolotu. Nie możesz już kupować biletów samolotowych. Nie możesz już zabrać kolei dużych prędkości. Nie możesz już na przykład dozwolony w drogich hotelach. Twoje dzieci nie mogą już chodzić do drogich dobrych szkół i takich rzeczy. I to już się dzieje. To jedna część systemu, który jest już aktywny. W 2018 r.

O tym, jak miasta wdrażają publiczne zawstydzanie

Masz te systemy billboardowe, kamery i kamery sztucznej inteligencji, kiedy Jaywalk, wciąż już wtedy, gdy jesteś na środku drogi, twoja twarz pojawia się na ogromnym billboard.

Na przykład w Shenzhen na południu lub w Shenyang, na północnym wschodzie, masz te systemy billboardowe, kamery i kamery sztucznej inteligencji, gdy jesteś Jaywalk, wciąż, gdy jesteś na środku drogi, twoja twarz pojawia się na wielkim billboardu, aby wszyscy mogli zobaczyć. A obok twojej twarzy pojawia się twoje imię, twój numer identyfikacyjny, część jest [cenzurowana]. . Ale chodzi o to: „Wiemy, kim jesteś. To ty i faktycznie rani ty społeczeństwo w tym momencie.„Tak więc publiczne zawstydzanie jest jego dużą częścią.

NA Opinia publiczna na temat tych systemów

Świat

W Chinach nowe wezwanie do ochrony prywatności danych

Jedną z lekcji, której się nauczyłem, jest to, że propagandowe działa, cenzura działa. To naprawdę działa. I ludzie naprawdę wierzą w wiele rzeczy, które słyszą, ponieważ nie mają żadnych innych informacji. Także dlatego, że nie ma debaty publicznej na temat wielu z tych rzeczy. Nie ma tradycji publicznej debaty na temat prywatności, ochrony danych i podobnych rzeczy, a argumenty rządu są w zasadzie dwojakie: jeden jest . wygoda. To sprawia, że ​​twoje życie jest tak wygodne. A drugą rzeczą jest . To sprawia, że ​​nasze życie jest bezpieczniejsze. Jest to szczególnie to, czego używają do rozpoznawania twarzy i kamer, a my sprawiamy, że twoje życie jest bezpieczne i bezpieczne. I możesz przejść przez miasto, możesz teraz opuścić torebkę w autobusie i w pociągu metra, a nikt nie odważy się tego wziąć, i prawdopodobnie są dobrze. I wiele osób to kupuje i im się to podoba.

Sam Briger i Seth Kelley wyprodukowali i zredagowali ten wywiad do transmisji. Bridget Bentz i Molly Seavy-Nesper dostosowali go do sieci.

Chiny pozwalają teraz obywatelom zrezygnować z prywatnej twarzy uznania. Czy twój kraj?

To’nie jest tajemnicą, że Chiny’Skorzystanie z technologii rozpoznawania twarzy (FRT) jest najbardziej inwazyjne na świecie. W naszej ostatniej analizie tego, w jaki sposób 100 krajów korzysta z FRT, Chiny miały najgorszy wynik z najbardziej powszechnym wykorzystaniem technologii.

Ale w ostatnim akcentie Chiny’Sąd Najwyższy dał obywatelom prawo do odmowy korzystania z FRT przez prywatne firmy, w tym banki, hotele i kluby nocne. Orzeczenie, które Sąd Najwyższy pospieszył do wykonania, ponieważ “Czy mógł’już czekaj,” Zapewnia tę świadomą, opt-in, uzgodniona jest od prywatnych firm, które chcą korzystać z FRT.

To sprawia, że ​​jest to przełomowy przypadek, Umieszczenie Chin Head-and-Russers nad takimi jak Stany Zjednoczone, Wielka Brytania, Kanada i Australia, jeśli chodzi o ochronę obywateli’ prywatność przeciwko korzystaniu z FRT w prywatnych firmach.

Jest to nie tylko wyróżniający się przypadek, ponieważ pochodzi z kraju, który’słynny z lekceważenia obywateli’ prywatność, ale umieszcza Chiny w elitarnej (i niezwykle małej) grupie krajów, które mają określone orzeczenia/akty prawne dotyczące korzystania z FRT dla prywatnych firm. Podczas gdy FRT rośnie w tempie wykładniczym, wiele krajów nie nadąża za tym poprzez swoje ustawodawstwo. Tak więc, mimo że pewne ochrony prywatności mogą być zapewnione za pośrednictwem RODO, brak konkretnych i wyraźnych przepisów dotyczących korzystania z rozpoznawania twarzy oznacza, że ​​istnieją luki i luki, które można wykorzystać.

Aby dowiedzieć się, jak Chiny’Nowe orzeczenie stoi przeciwko innym krajom, studiowaliśmy 25 najlepszych krajów (według PKB), aby zobaczyć, co, jeśli w ogóle, są też ustawodawstwo/orzeczenia sądowe.

(Uwaga: Tajlandia jest w trakcie wprowadzania ustawy o ochronie danych, która zapewniłaby wyraźną zgodę podczas korzystania z wrażliwych danych (w tym biometrii), ale bieżące opóźnienia sprawiają, że obecnie jest to niejasne).

Chiny to tylko jeden z sześciu krajów rządzenia FRT w prywatnych firmach

Spośród 25 krajów, w których objęliśmy, tylko sześć krajów ma wyraźne przepisy/orzeczenia dotyczące korzystania z FRT w prywatnym otoczeniu. Są to Chiny, Brazylia, Hiszpania, Holandia, Szwecja i Belgia. Belgia kategorycznie zakazuje stosowania FRT, podczas gdy Hiszpania poważnie ogranicza jej użycie (ogólnie nie ma podstaw prawnych, z wyjątkiem ekstremalnych okoliczności, e.G. dla infrastruktury krytycznej). Pozostała reguła, że ​​wymagana jest wyraźna zgoda (poinformowana, zgodna). Ale w Szwecji’S Przypadek, jest to wymagane tylko wtedy, gdy technologia jest wykorzystywana do identyfikacji ludzi. Jeśli jest używany w sposób anonimizowany (wykorzystuje przypadek, w którym monitorowano wzorce ruchu odwiedzających, ale obrazy twarzy były przechowywane/analizowane), zgoda ISn’t Wymagane. To sprawia, że ​​Szwecja’rządząc mniejszym ochroną prywatności niż inne w tej kategorii.

Francja i Niemcy mają również pewne wytyczne dotyczące swoich odpowiednich organów ochrony danych, orzeczenie, że poinformowana, zgodna jest konieczna.

W przeciwieństwie do tego siedem krajów nie zapewnia obywateli odpowiedniej ochrony, jeśli chodzi o FRT, nie posiadając jasnych przepisów i nie wymaga wyraźnej zgody. Są to Stany Zjednoczone, Arabia Saudyjska, Tajlandia, Tajwan, Indonezja, Kanada i Indie.

W Stanach Zjednoczonych tylko garść państw/miast zakazała FRT (w tym Maine, Massachusetts i miasta Minneapolis i San Francisco), ale bez federalnego orzeczenia lub wskazówek dotyczących jego użycia, pozostawia to każde państwo do rządzenia FRT, jak ma to zrobić. W Kanadzie można obecnie zbierać i udostępniać obrazy twarzy w celach identyfikacyjnych bez zgody. Ustawa o prywatności również nie uwzględnia lub definiuje informacje o twarzy i biometrycznych.

Niektóre inne kraje spada między dwoma skrajnościami wymienionymi powyżej, z ogólnymi przepisami/wytycznymi dotyczącymi ochrony danych, które mogą pomóc w ograniczeniu korzystania z FRT w prywatnym otoczeniu. Na przykład przepisy i zalecenia UE mogą pojawić się w wakacje w Szwajcarii, Niemczech, Polsce i Włosze. Ale ponieważ prawo lokalne nie interpretuje/egzekwuje tych działań, w tych obszarach brakuje jasności.

Kolejne sześć krajów wymaga świadomej, rezygnacji, co oznacza, że ​​znak wyświetlający użycie FRT w drzwiach sklepowych może być wystarczający. Tak jest w przypadku Meksyku, Japonii, Turcji, Korei Południowej, Australii i Wielkiej Brytanii.

Na przykład w Australii, sieć sklepów spożywczych, 7-Eleven, wprowadził rozpoznanie twarzy we wszystkich 700 swoich sklepach, aby potwierdzić oceny w swojej aplikacji. Znak, który brzmi: “Witryna jest pod ciągłym nadzorem wideo. Wchodząc do sklepu, wyrażasz zgodę na przechwytywanie i przechowywanie obrazu kamer do rozpoznawania twarzy” został uznany za wystarczająco odpowiedni przez sklep’prawnicy. Ale w Wielkiej Brytanii wdrożono pozornie bardziej inwazyjne wykorzystanie technologii w supermarkecie Co-Op. Po cichu zainstalował rozpoznawanie twarzy w 18 swoich południowych sklepach w celu zwalczania kradzieży sklepowej. System, Facewatch, skanuje kupujących’ skieruje się przeciwko bazie danych podejrzanych. Jeśli ktoś jest “rozpoznane” Następnie są proszeni o opuszczenie sklepu. Firma powiedziała, że ​​istnieją wyraźne oznaki, aby spełnić odpowiednie przepisy.

W jaki sposób firmy uzyskują świadomą, opt-in zgoda?

Powyższe przykłady najprawdopodobniej są postrzegane jako najłatwiejszy i najczystszy sposób na zdobycie ludzi’zgoda. Znak przy wejściu do drzwi ostrzega odwiedzających o technologii w użyciu, a jeśli wejdą w wiedzę, że FRT jest na miejscu, wyrażają swoją zgodę.

Jest to jednak poinformowane, rezygnacja (gość jest’T wyraźnie wyraża zgodę poprzez podpisany dokument przekazany im na tablecie przed wejściem do sklepu) i zawiera wiele problemów związanych z prywatnością.

Po pierwsze, znaki mogą znajdować się w wyraźnym spojrzeniu na ludzi wchodzących do sklepu, ale dodaj tłum, ruchliwą ulicę, ludzi pędzących w sprawie spraw, i można zagwarantować, że każdy gość widział lub zatrzymał się, aby przeczytać znak? NIE.

Po drugie, technologia może być zainstalowana przy wejściach do sklepu. Tak więc, jeśli klient podchodzi do sklepu, zauważa znak, nie’zgoda i odchodzi, ich wizerunek mógł już zostać uchwycony.

Po trzecie, sklep jest’T Daje klientom opcję. Jeśli chcą korzystać z sklepu, muszą się wyrażać. To usuwa “swobodnie” I “wyraźnie” Biorąc pod uwagę element, którego wymagają niektóre prawa, jeśli chodzi o zgodę.

Złożone przedsiębiorstwa procesowe musiałyby przejść, aby uzyskać zgodę, być może dlatego istnieje kilka przykładów w krajach o ścisłych wymogach dotyczących zgody. Konieczność zmuszenia wszystkich klientów do podpisania formularza zgody na wejście do sklepu byłoby czasochłonne, drogie i być może odrażające. I to’s przed oni’VE nawet zwrócił się do tego, co by się stało, gdyby odwiedzający odmówił swojej zgody (jak usunąłby swój obraz z kamer’VE zgodził się?).

Ale w krajach z bardziej zrelaksowanymi przepisami i tam, gdzie zgoda na rezygnację jest wystarczająco odpowiednia, FRT w miejscach publicznych, a zwłaszcza w supermarketach, wydaje się rosnąć w alarmującym tempie.

Zasadniczo, zgodnie z prawem, wymagając świadomej zgody, kraje poważnie ograniczają korzystanie z FRT w prywatnych warunkach, jednocześnie mocno wzmacniając obywateli’ Ochrona prywatności. A fakt, że Chiny są teraz na czele tych zabezpieczeń, powinien być wyraźnym znakiem dla wszystkich innych krajów używających FRT’T Wprowadziłem takie środki, które muszą działać – szybki.

Metodologia

Korzystając z 25 najlepszych krajów według PKB, szukaliśmy odpowiednich przepisów i orzeczeń dotyczących wykorzystania technologii rozpoznawania twarzy w prywatnych warunkach. Niniejsze przepisy/orzeczenia mogą mieć zastosowanie do rządów lub organów ścigania i/lub odrębne zasady. Nie zostało to omówione w tych badaniach.

Ponadto wiele krajów ma postanowienia w ramach swoich przepisów, które dają rządom i organom ścigania prawo do korzystania z FRT w przypadkach bezpieczeństwa publicznego i innych takich okoliczności. W tego typu przypadkach agencje rządowe mogą być w stanie uchylić wymogi dotyczące prywatności w prywatnych przedsiębiorstwach. Znowu wykracza to poza zakres naszych badań.

Aby uzyskać pełną listę źródeł i przepisów, odwiedź tutaj.

Badacz danych: Rebecca Moody

Co jest w tym artykule?

• Chiny to tylko jeden z sześciu krajów rządzenia FRT w prywatnych firmach
• W jaki sposób firmy uzyskują świadomą, opt-in zgoda?
• Metodologia

Publiczna debata na temat technologii rozpoznawania twarzy w Chinach

Chiny’Podejście na globalnym etapie w dziedzinie sztucznej inteligencji i rozpoznawania twarzy było powszechnie odnotowane w stypendium i mediach w zachodnim języku. Wiele uwagi koncentrowało się na zastosowaniach tych technologii w rządowych systemach bezpieczeństwa i.

przez Tristan g. Brown, Alexander Statman i Celine Sui

Opublikowane 10 sierpnia 2021

Ostatnie wydane

2 lata temu

Pokaż szczegóły

Publiczna debata na temat technologii rozpoznawania twarzy w Chinach

Abstrakcyjny

Chiny’Wspinaczka na globalnej scenie w dziedzinie sztucznej inteligencji (AI) i rozpoznawania twarzy było powszechnie odnotowane w stypendium i mediach w zachodnim języku. Wiele uwagi koncentrowało się na zastosowaniach tych technologii w rządowych systemach bezpieczeństwa i ich implikacjach geopolitycznych. Tutaj staramy się zbadać prywatne i krajowe zastosowania rozpoznawania twarzy. Co dynamika informuje popularne debaty na temat korzystania i zastosowań tych technologii w Chinach oraz jak pasują one do bardziej globalnego obrazu? Prezentujemy serię spraw z ostatnich trzech lat, w których oprogramowanie do rozpoznawania twarzy przyciągnęło uwagę mediów w ustawieniach prawnych, komercyjnych i edukacyjnych. Uznając, że Chiny są zdecydowanie zbyt duże i różnorodne, aby tam było tylko jedną dynamiką, proponujemy, aby chociaż debaty na temat rozpoznawania twarzy rzeczywiście stały się bardziej powszechne, nadal istnieje szerokie wsparcie publiczne dla zastosowań, które obiecują zwiększone bezpieczeństwo lub wygodę. Państwo było selektywnie otwarte na ograniczoną krytykę, ale zazwyczaj w sposób, który zachowuje swoją aktywną rolę w kształtowaniu konturów publicznej dyskusji.

Słowa kluczowe: Uznanie twarzy, prawo chińskie, media społecznościowe

Tristan g. brązowy
Wydział historii, Massachusetts Institute of Technology

Alexander Statman
School of Law, University of California, Los Angeles

Celine Sui
Wydział Historii Nauki, Medycyny i Technologii, Johns Hopkins University

Cele kształcenia

• Wprowadzanie studentów w różnorodność sposobów rozpoznawania twarzy w kontekstach globalnych, szczególnie w zakresie dyskusji “korzystny” I “szkodliwy” zastosowania technologii.
• Wprowadzanie Chin do rozmowy o technologii i etyce dla studentów, aby zrozumieli co’jest zasadniczo podobny między Chinami’sprawa i sprawy innych krajów, a także co’s inaczej.
• Zachęcanie studentów do rozważenia napięcia między etyką a prawem poprzez przypadek technologii rozpoznawania twarzy.
• Zachęcanie uczniów do zastanowienia się nad okolicznościami, w których publikacja zauważa i obawy dotyczące niektórych technologii, a także ryzyko i nagrody za uczestnictwo w otaczających ich debatach.
• Umożliwienie uczniom krytycznego zbadania roli, jaką rządy mogłyby odgrywać w kształtowaniu narracji wokół etycznych implikacji wdrażania nowych technologii przez podmioty państwowe, jak i prywatne.

Wstęp

W styczniu 2021 r. Wyniki ankiety na temat rozpoznawania twarzy pojawiły się na chińskojęzycznej stronie informacyjnej Beijing News Think Tank. Badanie wykazało, że spośród 1515 anonimowych respondentów do kwestionariusza, ponad 87 procent sprzeciwiło się wykorzystaniu technologii rozpoznawania twarzy do płatności w warunkach komercyjnych, takich jak centra handlowe i ulice detaliczne, powołując się na główny powód ich nieufności w prywatnych firmach, które dostarczały algorytm rozpoznawania twarzy. Artykuły w języku angielskim obejmującym ankietę’Wkrótce pojawiły się wyniki, z jednym zatytułowanym “Rozpoznanie twarzy jest wykorzystywane w Chinach do wszystkiego, od kolekcji odpadów po dozowniki toalet, a jej obywatele stają się coraz bardziej zaniepokojone, pokazuje, że ankieta.” 1 Podobna ankieta z 2019 r., Obejmująca 6 152 respondentów, wykazała, że ​​około 80 procent respondentów było zaniepokojonych ochroną danych osobowych w odniesieniu do rozpoznawania twarzy. Wyniki tej ankiety zostały również zgłoszone w mediach w języku angielskim i z podobnymi wnioskami (na przykład: “China Survey wykazuje wysokie zaniepokojenie nadużyciem do rozpoznawania twarzy”). 2

Czytelnik podążający szlakiem medialnym w języku angielskim może rozsądnie założyć, że wyniki tych małych ankiet poruszających wskazywały na rosnące zaniepokojenie w Chinach “Stan nadzoru.” Uznając tę ​​możliwość, sugerujemy alternatywną lekturę, w której obawy społeczne jest przede wszystkim skierowane na określone rodzaje prywatnych zastosowań, wskazując, że ostateczny autorytet państwa do korzystania z technologii rozpoznawania twarzy jest ogólnie akceptowany. Naszym celem jest zidentyfikowanie przypadków publicznej debaty na temat rozpoznawania twarzy w Chinach i przedstawienie wstępnych obserwacji dotyczących kontekstów, w których występuje i w sposobie reagowania państwo. Staramy się również umieścić te analizy w szerszym globalnym kontekście, aby pomóc oświetlić to, co jest i co nie jest specyficzne dla chińskiej sprawy.

Technologie rozpoznawania twarzy w Chinach zostały przyjęte nie tylko przez instytucje państwowe, ale także przez wiele prywatnych przedsiębiorstw. Są dziś wplecione w płatności cyfrowe, poczekalni szpitalne, kompleksy mieszkaniowe, systemy transportowe i policje miejskie. 3 Technologie rozpoznawania twarzy są powszechnie doceniane przez ogół społeczeństwa, gdy są one rozumiane jako zapewniające zwiększoną wygodę i bezpieczeństwo: na przykład szybsze, bezgotówkowe płatności komercyjne lub pomijanie kolejki bezpieczeństwa w metrach, bibliotekach, stacjach kolejowych, lotniskach i tak dalej. Z drugiej strony, wyzwania są bardziej prawdopodobne, gdy rozpoznawanie twarzy jest wdrażane przez firmy nastawione na zysk w sposób postrzegany przez’ Codzienne życie bez oszczędzania czasu lub zwiększania bezpieczeństwa. Rzeczywiście, jeden z komentatorów nazwał korporacyjny zbiór danych biometrycznych w Chinach a “darmowy dla wszystkich.” 4 Ważne zastrzeżenie pochodzi z uprzedzeń źródłowych: debaty, które mogą pozostać online, mogą być zgodne z rządem centralnym’Cele, podobnie jak znacznie bardziej prawdopodobne, że rejestrują wyzwania dla komercyjnych zastosowań technologii niż działania państwa. Niemniej jednak fakt ten jest znaczący, ponieważ ujawnia, w jaki sposób państwo kontroluje narrację o technologiach rozpoznawania twarzy, umożliwiając ograniczony protest i sprzeciw.

W Chinach, podobnie jak w innych krajach, różne standardy prawne mają zastosowanie do publicznego i prywatnego wykorzystania rozpoznawania twarzy. Organy bezpieczeństwa państwowego mogą zasadniczo gromadzić wszelkie informacje uznane za niezbędne w miejscach publicznych lub podczas zbadania przestępstwa. W porównaniu ze Stanami Zjednoczonymi istnieje stosunkowo słabszy system przepisów dotyczących prywatności chroniących obywateli przed dochodzeniem policji i przepisami dotyczącymi postępowania karnego regulujące działania organów ścigania. 5 Policja ma obowiązek zachować dane osobowe – w tym informacje biometryczne – poufne, ale ograniczenia dotyczące zbierania lub używania ich wewnętrznie są minimalne. Z tego powodu większość publicznej debaty w Chinach na temat rozpoznawania twarzy dotyczy raczej jej wykorzystania przez organizacje prywatne, w tym firmy nastawione na zysk i kompleksy mieszkaniowe. To powiedziawszy, rola organizacji prywatnych jest zgodna z państwem na różne sposoby. Ich korzystanie z technologii rozpoznawania twarzy jest zwykle akceptowane, gdy przyczynia się do dwóch priorytetów państwowych powszechnie akceptowanych jako uzasadnione: zwiększone bezpieczeństwo i ogólna wygoda.

Głównym tematem krajowych chińskich mediów jest bezpieczeństwo publiczne na poziomie lokalnym. Z częstymi doniesieniami o masowych strzelaninach w Stanach Zjednoczonych, zawirowaniach politycznych gdzie indziej i globalnym rozprzestrzenianiu “jest najbezpieczniejszym krajem na świecie.” 6 bez przesłuchania dokładności lub przejrzystości kraju’S Statystyka przestępczości, można śmiało powiedzieć, że koncentruje się na tym “bezpieczeństwo publiczne” stał się szczególnie ważną częścią narracji krajowej pod przewodnictwem Xi Jinping. Powszechne wdrażanie technologii rozpoznawania twarzy przez narządy bezpieczeństwa publicznego w kraju zostało w rzeczywistości skorelowane z oficjalnymi dyrektywami w celu poprawy bezpieczeństwa publicznego.

Wdrożenie technologii rozpoznawania twarzy zostało również sformułowane i rozumiane jako zwiększenie wygody użytkowników, szczególnie w przypadku płatności bezgotówkowych, które są dziś wszechobecne w Chinach. W innych przypadkach rozpoznawanie twarzy pozwala osobom fizycznym na ich działalność z mniejszym zakłócenia. W Stanach Zjednoczonych po atakach terroryzmu z 11 września zwiększone środki bezpieczeństwa często spowodowały niedogodności dla pasażerów podróżujących na lotniskach lub uczęszczających do dużych miejsc. Coś podobnego istnieje w Chinach, gdzie punkty kontrolne bezpieczeństwa są powszechne w systemach metra i systemach pociągów. Ponieważ technologia rozpoznawania twarzy może sprawić, że kontrole bezpieczeństwa zarówno szybsze, jak i dokładniejsze, te rządowe zastosowania technologii rozpoznawania twarzy są czasami cytowane jako rosnące bezpieczeństwo i wygodę jednocześnie – co jest potężnym łukiem narracyjnym, aby wspierać wsparcie dla jego przyjęcia.

Rozwój i regulacja rozpoznawania twarzy w Chinach i poza

Rozwój technologii rozpoznawania twarzy w Chinach podążał ścieżką od wczesnych pionierów, poprzez wsparcie państwowe dla nowych przełomów, do pełnego wdrożenia krajowego. W latach 80. i 90. wielu obecnych liderów w branży, takich jak Tang Xiao’OU 汤晓鸥, który otrzymał doktorat od MIT w 1996. 7 Już w 1989 r “System kombinacji portretów komputerowych.” Po wielu latach pracy akademickiej, Su’Zintegrowany system rozpoznawania twarzy został przetestowany w całym kraju w 2005 r., A pierwszą bazę danych twarzy zawierała ponad dziesięć milionów twarzy ukończonych przez Igrzyska Olimpijskie w Pekinie w 2008 r. 8

Rok 2014 oznaczał znaczne postępy w technologii rozpoznawania twarzy na całym świecie. W marcu tego roku Facebook ogłosił, że jego algorytm Deepface, który po raz pierwszy zintegrował głębokie uczenie się z weryfikacją twarzy w celu identyfikacji ludzi na obrazach cyfrowych, osiągnął rekordowy wskaźnik dokładności 97.35 procent na oznakowanych twarzach w dzikim poziomie odniesienia. 9 W tym samym roku Tang Xiao’OU 汤晓鸥 poprowadził zespół badawczy na chińskim uniwersytecie w Hongkongu, aby przekroczyć Facebooka’S rekord z wskaźnikiem dokładności 98.52 procent, co oznacza pierwszy raz, gdy sztuczna inteligencja (AI) przekroczyła występ na poziomie człowieka. 10 W październiku 2014 r. Tang zarabiał na algorytmach przez założenie SenseTime, które stały się światem’jest najcenniejszą firmą sztucznej inteligencji pod koniec 2010 roku. 11

Przełom technologiczny z połowy 2010 roku dostarczyła możliwości masowego użycia rozpoznawania twarzy, w tym nowych mechanizmów nadzoru państwa. W całym kraju pojawił się złożony obraz, z dużymi inwestycjami kapitałowymi prywatnymi w start -upy AI, rozwój infrastruktury technicznej, która wspiera masowe gromadzenie danych, powszechne wykorzystanie rozpoznawania twarzy w sektorze publicznym i komercyjnym, a co najskuteczniej, wdrażanie technologii w celu monitorowania i policji mniejszości etnicznych grup etnicznych. W 2016 r. Chen Quanguo 陈全 został mianowany sekretarzem Partii Komunistycznej w regionie autonomicznym Xinjiang Uyghur z jego poprzedniego postu w Tybecie. Jego kaden “Ośrodki edukacji zawodowej i szkoleniowe Xinjiang” w regionie, a także powszechne wdrażanie technologii rozpoznawania twarzy, aby policjować ten obszar. 12 To użycie jest zwykle zgrupowane w raportach rządowych z dyskusjami na temat bezpieczeństwa publicznego. Jego pełny zasięg jest nieznany, zarówno dla publiczności, jak i dla obserwatorów akademickich.

Chociaż nie ma jeszcze prawa w szczególności regulującego korzystanie z rozpoznawania twarzy w Chinach, różnorodne obowiązujące przepisy, w tym kodeks cywilny 2020 i prawo cyberbezpieczeństwa w 2017 r., Zostały cytowane przez chińskie sądy w decyzjach o regulacji prywatnego gromadzenia i dystrybucji osób fizycznych’ dane twarzy. Ważne są również standardy bezpieczeństwa informacji osobowych, które są niekompulsującymi wytycznymi wydanymi na korzyść podmiotów państwowych, jak i niestacjonowanych. Obecny zwyczaj prawny może stać się bardziej wyraźny w 2021 r., Jeżeli uchwalono ustawę o ochronie danych osobowych (PIPL), która dotyczy komercyjnego wykorzystania technologii rozpoznawania twarzy. 13

To proponowane prawo miałoby dwie ważne konsekwencje. Po pierwsze, ograniczyłby stosowanie zbierania danych do rozpoznawania twarzy w komercyjnych miejscach publicznych do okoliczności, w których leży to w interesie “ochrona publiczna” zgodnie z definicją przez państwo. Po drugie, wymagałoby zainstalowania oznakowania, aby wyjaśnić, że taka kolekcja występuje i zapobiec dalszej dystrybucji informacji bez wyraźnej zgody. 14 Ale istnieją ważne zastrzeżenia dla każdego przepisu: granice bezpieczeństwa publicznego są amorficzne, a publiczna zgoda na takie środki nie była historycznie trudna do osiągnięcia. Dodatkowa sekcja nakłada nawet pewne ograniczenia dotyczące narządów państwowych, które “nie może przekroczyć zakresu lub zakresu niezbędnego do wypełnienia ich obowiązków ustawowych i obowiązków”- Choć należy pamiętać, że określenie takiego zakresu i zasięgu pozostaje stan’S wyjątkowy prerogatyw. 15 Podsumowując, proponowane prawo ułatwiłoby państwu rozpowszechnianie prywatnych zastosowań technologii, jednocześnie zwracając się do publiczności’Obawy dotyczące niektórych nadużyć danych osobowych. 16

Chiny’S Używanie rozpoznawania twarzy to nie tylko chińska historia. Amerykańskie firmy zaangażowały się w etyczne debaty na temat Chin’s używanie rozpoznawania twarzy podczas próbowania poruszania się w ich własnym użyciu, a standardy prawne na całym świecie pozostają mroczne. W 2019 r. Czterech amerykańskich badaczy napisało do wydawcy Wiley, aby wycofać artykuł naukowy zawierający algorytmy, które zostały wykorzystane do śledzenia członków grupy etnicznej Uyghur w Chinach. 17 MIT w szczególności sprawdziło swoje stowarzyszenia z firmami AI, takimi jak SenseTime i IflyTek, które rzekomo wdrożyły takie technologie przeciwko mniejszościom etnicznym w Chinach. 18 takich przypadków zdominowało zachodnie media w Chinach’s Wdrażanie rozpoznawania twarzy; Nie trzeba dodawać, że zasięg w Chinach był inny. Podczas gdy raporty Zachodnie w dużej mierze kwestionowały prywatne firmy technologiczne współpracujące z państwem chińskim w celach nadzoru, chińska dyskusja krajowa często wymagała zwiększonego nadzoru nad prywatnymi firmami. Naszym celem nie jest przesłuchanie, który nacisk jest prawnie lub etycznie pożądany, ale raczej wprowadzenie odbiorców do różnorodności sposobów, w jakie ta technologia została omówiona w kontekstach globalnych.

Jednym założeniem wspólnym dla doniesień medialnych w krajach zachodnich jest to, że Chiny’S wprowadzanie rozpoznawania twarzy jest wyjątkowo dystopijne. Jednak problemy prawne i regulacyjne, przed którymi stoją Chiny, a także niejednoznaczności, są w abstrakcji, nie różniące się od Stanów Zjednoczonych lub Europy. Na przykład w Stanach Zjednoczonych niektóre stany sprawiają, że prywatne przedsiębiorstwa używają osoby’S Dane biometryczne twarzy bez ich zgody, podczas gdy inne nie. Unia Europejska i Europejski obszar gospodarczy’S Ogólne rozporządzenie w sprawie ochrony danych (RODO), w efekcie od maja 2018 r., Chroni osobiste dane biometryczne dla obywateli UE zarówno w Europie, jak i za granicą i zapobiega przeniesieniu ich danych do kraju trzeciego. Ale nawet w Europie pozostaje nieokreślony, czy przepisy dotyczące danych biometrycznych przeniesionych do UE z obywateli spoza Europy za granicą, w jaki sposób ma to zastosowanie “przejściowy” (Nie można osobiście identyfikować) dane i sposób, w jaki rozciągają się na konteksty badań akademickich. 19

Główne różnice między sprawami Chin i USA dotyczą ich odpowiednich ram konstytucyjnych i powiązanych z warunkami debaty publicznej. W Stanach Zjednoczonych Karta Praw Ochrona prawna osoby z państwa do konstytucji. Debata publiczna często odzwierciedla tę rzeczywistość, jak widać z ostatnich kontrowersji politycznych dotyczących paszportów szczepionek. Debaty w Stanach Zjednoczonych również poradziły sobie z ważną kwestią rasy, szczególnie w odniesieniu do niesprawiedliwości algorytmicznej technologii rozpoznawania twarzy. 20 Wymiar ten był ogólnie nieobecny w dyskusjach krajowych w Chinach, a mimo to wykorzystanie technologii w grupach mniejszościowych. Ponadto sądy amerykańskie są w pewnym stopniu niezależne od systemu politycznego, co nie ma miejsca w Chinach. Warunki i akcenty możliwej debaty są różne, a niektóre aspekty Chin’Wdrażanie rozpoznawania twarzy, szczególnie w kontekście bezpieczeństwa publicznego, było stosunkowo niedostępne w publicznej dyskusji. Niemniej jednak prawo stanowe i system prawny, jak zobaczymy poniżej, naprawdę mają znaczenie w Chinach, nawet jeśli jest ono wewnętrznie powiązane z państwem partii i nierozsądne jest założenie, że Chiny stanowi krajowy przykład, który nie może oferować lekcji i refleksji dla krajów zachodnich na temat uznania twarzy.

W ostatnich latach nastąpiło kilka poważnych incydentów związanych z rozpoznawaniem twarzy w Chinach, które wywołały znaczną dyskusję krajową. Profilujemy cztery takie przypadki. Każdy z tych przypadków był szeroko omawiany w mediach państwowych lub w mediach społecznościowych, które są głównymi miejscami dla chińskich obywateli w celu uzyskania dostępu do wiadomości i analiz. Każdy przypadek stanowi zatem kontrowersje, że rząd centralny jest skłonny do obliczenia, jeśli nie akceptować. Z tego powodu należy założyć, że nie odzwierciedlają one pełnego zakresu opinii prywatnej. Niemniej jednak cztery następujące przypadki są interesujące, ponieważ pokazują szerokie spektrum społeczne problemów związanych z rozpoznawaniem twarzy w Chinach: od jego zastosowań w biznesie, edukacji i bezpieczeństwa, po dyskusję w tradycyjnych wiadomościach nadawczych, mediach społecznościowych i systemu prawnym. Te zastosowania i dyskusje w całości sugerują, że niektórzy pozorni sceptycy rozpoznawania twarzy mogą faktycznie opowiedzieć się nad nadzorem i regulacjami rządu centralnego – nie mniej. To wyjaśnia, dlaczego niektóre dyskusje na temat technologii rozpoznawania twarzy są traktowane poważnie i częściej niż nie rozwiązane przez rząd.

Studium przypadku pierwszym: park przyrody

W 2019 r. Profesor prawa na Zhejiang Polytechnic University, Guo Bing 郭兵, pozwał Hangzhou Wildlife Park, prywatną firmę zlokalizowaną w prowincji Zhejiang, za rzekome naruszenie kraju’S Prawo Ochrony Konsumentów poprzez zbieranie odwiedzających’ Indywidualne dane poprzez rozpoznawanie twarzy. W ostatnich latach profesor Guo użył odcisków palców, aby wejść do parku’Przedstawiania S, ale w październiku 2019 r’S system rozpoznawania twarzy. Oznacza to, że przedsiębiorstwo przesunęło się na system rozpoznawania twarzy, aby nagrywać odwiedzających wchodzących do parku. Po powszechnie zgłoszonej akceptacji GUO’S Spase autorstwa ludzi okręgów Fuyang’Sąd w Hangzhou sąd orzekł, że park musi zwrócić opłatę członkowską i usunąć wszystkie swoje dane twarzy – w tym jego oryginalne zdjęcie – z systemu informacji o dzienniku odwiedzających. 21 Dodatkowe orzeczenie w sprawie Guo’Sprawa wydana przez tego samego sądu nakazała zoo do dalszego usunięcia GUO’S Dane dotyczące odcisków palców, które zostały wcześniej zebrane za jego zgodą. 22

Guo’sprawa S została zidentyfikowana przez chińskie media krajowe jako “Pierwsza sprawa sądowa obejmująca korzystanie z rozpoznawania twarzy w Chinach.” 23 Sprawa miała zależeć od standardów bezpieczeństwa informacji osobowych, które obejmowały pytanie, czy park działał zgodnie z trzema zasadami “legalność, ważność i konieczność” do prywatnego gromadzenia danych osobowych od konsumentów. Jednak w ostatecznym orzeczeniu sąd w dużej mierze omijał te szersze pytania, zamiast tego koncentrując się na zobowiązaniach umownych i zgody użytkownika. Sąd po prostu nakazał parkowi usunięcie zebranych informacji twarzy, na zasadzie parku’S. Przejście z identyfikacji odcisków palców do rozpoznawania twarzy – którego GUO nie zaakceptował – zorganizowało istniejącą umowę serwisową reprezentowaną przez jego coroczną kartę członkowską Park. 24 orzeczenia nie zabraniały parku gromadzenia danych twarzy, chociaż park najwyraźniej przeniósł się do dobrowolnego systemu opt-in, jeszcze przed rozpatrzeniem sprawy przez sąd rejonowy. Sąd również zaprzeczył Guo’S merytoryczne twierdzenie, że zbieranie informacji twarzy bez jego zgody stanowi naruszenie trzech zasad. Warto podkreślić ograniczone konsekwencje tego pojedynczego przypadku, które nie dotyczyły warunków, w których technologia rozpoznawania twarzy może być wdrażana przez prywatne przedsiębiorstwa. Wskazało to tylko, że w pewnych okolicznościach strony prywatne powinny uzyskać zgodę przed zebraniem danych rozpoznawania twarzy.

“Pierwsza sprawa rozpoznawania twarzy” W Chinach zwrócił uwagę na chiński internet. Ta uwaga sama jest znacząca, ponieważ możemy przypuszczać z pozostałości online, że państwo zezwoliło na stopień debaty w tej sprawie, podnosząc w ten sposób społeczeństwo krajowe’świadomość państwa’nadzór nad ochroną danych i zgoda użytkownika. Wspomniane ankiety ujawniły szczególne obawy publiczne dotyczące potencjalnego braku odpowiednich procedur umownych w gromadzeniu danych twarzy przez prywatne przedsiębiorstwa. 25 W tym przypadku państwo, reprezentowane przez sądy, odegrało rolę ochrony społecznej poprzez egzekwowanie stopnia ochrony konsumentów, a następnie zachęcało do szerszej rozmowy o tym. Chociaż eksperci prawni wyrazili zastrzeżenia do wpływu prawnego tego orzeczenia, z politycznej perspektywy istniało powszechne poparcie dla Trybunału’S Decyzja wśród komentatorów obywateli, jak widać w poniższych komentarzach na stronie chińskich mediów społecznościowych, Weibo. (Patrz rysunek 1.) Wydaje się zatem, że obywatele mogą być mniej zaniepokojeni ustanowieniem ogólnych warunków prawnych, w których działalność rozpoznawania twarzy może odbywać. 26

Studium przypadku drugim: monitorowanie studentów

W 2019 r. China Pharmaceutical University, publiczna instytucja szkolnictwa wyższego zlokalizowana w prowincji Jiangsu, wprowadziła system rozpoznawania twarzy w niektórych klasach, aby monitorować frekwencję studentów i wydajność w klasie. To było dość obszerne i potężne, nawet w stanie wykryć uczniów, którzy drzemali w klasie. Pojawiło się lokalne odkup, a studenci członkowie społeczności szkolnej i inni komentatorzy online wyrażali sceptycyzm w kwestii tej propozycji. Pomimo tego rezygnacji uniwersytet pozostał stanowczy. Rzecznik uzasadnił swoje plany niejasne odniesienie do bezpieczeństwa publicznego, twierdząc, że uniwersytet stanowi przestrzeń publiczną, w której uzasadniono kompleksową nadzór. 27 W tym przypadku również państwo’S Akcja była ograniczona, choć w równowadze wydaje się, że nieco więcej z partią za pomocą technologii rozpoznawania twarzy. Ministerstwo Edukacji w Pekinie ostatecznie odpowiedziało obietnicą, że ostrożnie wprowadzi taki plan, a w chwili pisania systemu nadal był wdrażany. 28

Odpraw online przeciwko miarowi ujawnił, że sprzeciw jest szczególnie silny w stosowaniu rozpoznawania twarzy w klasie. Te kamery wykraczają poza jedynie identyfikując studentów. Mieli raczej narzędzie dyscyplinarne do monitorowania zachowań uczniów, takich jak frekwencja w klasie i emocje, takie jak poziom uwagi. Niektórzy uczniowie utożsamiali obecność zaawansowanej technologii nadzoru w klasach do więzień edukacyjnych. Inni komentatorzy zakwestionowali konieczność monitorowania studentów uniwersytetów, którzy już wykazali się samodyscypliny przez lata przygotowywania się do Chin’s rygorystyczne egzamin wstępny do college’u, Gaokao. Niektórzy skrytykowali pomysł priorytetów technologii nadzoru nad ulepszeniami w klasie. Żaden jednak nie wyraził szerokiej krytyki technologii rozpoznawania twarzy.

W rzeczywistości uniwersytet miał już historię korzystania z oprogramowania do rozpoznawania twarzy, które nie tylko nie było sprzeczne, ale nawet zasadniczo popularne. Od 2019 r. Systemy rozpoznawania twarzy zostały zainstalowane przy głównych wejściach, akademikach i bibliotekach w celu ułatwienia dostępu i bezpieczeństwa kampusu. Środki te zostały przyjęte dość pozytywnie przez uczniów, z których niektórzy zostali zwolnieni, że zapomnienie o kartach dostępu w swoich pokojach w akademiku nie było już przyczyną niepokoju. Przepływy ruchu pieszych zostały znacznie ulepszone. Kampusy uniwersyteckie w Chinach wdrożyły podobne środki, bez widocznych problemów. Nowa propozycja na China Pharmaceutical University była jednak wyjątkowa w instalowaniu kamer w niektórych klasach do użytku w monitorowaniu zachowań uczniów, i był to konkretny problem, który spowodował niezadowolenie studentów i online. 29 (patrz rysunek 2.)

China Pharmaceutical University’S Używanie rozpoznawania twarzy zarówno w klasie, jak i na zewnątrz, dotyczy wielu kluczowych tematów na pierwszym planie dyskusji w tym kraju. Ujawnia ogólną akceptację i wsparcie dla środków, które są rozumiane w celu poprawy bezpieczeństwa i ułatwiania wygody. Jednocześnie ujawnia stopień podejrzeń, które wykraczają poza te funkcje. Korzystanie z kamer w klasach potencjalnie wprowadziło monitorowanie uczniów’ Indywidualne zachowania, dotykając nerwu w ciele studenckim, który nadal jest debatowany online. Jednak zwolennicy również odpowiedzieli, broniąc korzystania z rozpoznawania twarzy w klasach jako okazji do śledzenia uczniów’ uczenie się. Trwają zatem dyskusja na temat właściwych granic technologii rozpoznawania twarzy, umożliwiając różnorodnym głosom wyrażanie swoich opinii w dość ciasnym zestawie parametrów.

Mimo że wolność słowa nie jest wyraźnie wymieniona w chińskiej prasie, a tym bardziej przez sądy, nie jest nierozsądne myślenie. Nie ma wątpliwości, że jego rozmieszczenie w klasie może mieć wpływ na zmianę tego, czego uczą profesorowie, a uczniowie są skłonni powiedzieć. Rzeczywiście, jeden z popularnych komentarzy na temat tego postu dotknął bardzo wrażliwego pojęcia “prawa człowieka,” sugerując, że uczniowie’ Prawa do prywatności były naruszane przez wdrażanie technologii. Fakt, że komentarz nie został usunięty przez cenzorów państwowych, dodatkowo sugeruje gotowość do obrażenia niektórych szczególnie surowych krytyków w określonym kontekście warunków edukacyjnych, w których kontrola państwa jest już zdecydowana i gdzie inwestycje w status quo bardziej ogólnie działają wysoko.

Aby nie sprawić, czy gromadzenie danych na twarzy studenckich było unikalne dla Chin, pojawiło się kilka przypadków zbioru dużych zbiorów danych na uniwersytetach amerykańskich. Podobnie jak w Chinach, uniwersytety – z dużą liczbą studentów, którzy ponownie pojawiają się w ujęciach kamer – są kuszącymi lokalizacjami do wydobywania danych twarzy i eksperymentu z nowymi technologiami. W 2016 r. Uniwersytet Duke wydał ponad dwa miliony filmów wideo z nagrania studentów chodzących po kampusie uniwersyteckim. Naukowcy z Stanford University i University of Washington zaangażowali się w akty wydobycia danych poza kampusem i opublikowali informacje bez wyraźnej zgody. Chociaż wiele z tych danych zostało usuniętych w 2019 r. 30 Pozostaje prawdziwy problem, ponieważ nie zawsze można wiedzieć, kiedy wykorzystywane jest rozpoznawanie twarzy, ponieważ pobieranie selektywnych próbek danych z obrazów ogólnych kamer bezpieczeństwa jest również technicznie wykonalne. W 2020 r. Studenci University of Miami oskarżyli szkołę’administracja wykorzystywania rozpoznawania twarzy do identyfikacji protestujących studentów w standardowym materiale – zarzut, którego administracja zaprzeczyła. 31

Możemy również zauważyć, że istnieją różnice między Stanami Zjednoczonymi a Chinami pod względem tego, kto do tej pory wyraził niezadowolenie. W przypadku chińskiego uniwersytetu farmaceutycznego troska pochodziła od internautów online i niektórych studentów. W kontekście amerykańskim, w którym szkolnictwo wyższe jest podzielone między instytucje publiczne i prywatne, pchanie dotychczas pochodziło w dużej mierze od dziennikarzy, aktywistów i naukowców, którzy są zaniepokojeni ogólnymi zastosowaniami i rozszerzeniami tej technologii. Na dzień dzisiejszy University of Southern California, prywatna instytucja, jest jednym z niewielu instytutów szkolnictwa wyższego w kraju, który otwarcie przyjęła instytucjonalne wykorzystanie technologii rozpoznawania twarzy w ich systemach bezpieczeństwa kampusu. Po uruchomieniu w 2020 r. System wywołał gorącą dyskusję w kampusie. 32 Dla większości amerykańskich studentów nie zapisanych do USC problem może jeszcze nie wydawać się zbyt naglący. Ale jeśli uczniowie skonfrontują się z lepszymi wykorzystaniem rozpoznawania twarzy w swoich kampusach w przyszłości, może być więcej odparcia.

Studium przypadku trzecie: Bezpieczeństwo metra

W 2019 r. Rząd miejski w Pekinie ogłosił plany wprowadzenia technologii rozpoznawania twarzy podczas kontroli wejściowych bezpieczeństwa w stacjach metra w całym mieście, jako sposób na zwiększenie wygody użytkowników poprzez zmniejszenie linii w punktach kontrolnych bezpieczeństwa. Nowy protokół wykorzystałby rozpoznawanie twarzy do identyfikacji znanych pasażerów i podzielenia ich na grupy na podstawie ich oceny kredytowej społecznej wymagającej różnych poziomów kontroli bezpieczeństwa. Propozycję była publicznie przeciwna Lao Dongyan 劳东燕, profesor prawa na Uniwersytecie Tsinghua, który wezwał do bardziej formalnych ram prawnych do wdrażania technologii rozpoznawania twarzy oraz gromadzenie danych osobowych zarówno przez przedsiębiorstwa rządowe, jak i prywatne. W szeroko rozpowszechnionym eseju Lao sformułowała swój argument na następujących warunkach:

Rozpoznanie twarzy obejmuje gromadzenie danych biologicznych, które są ważne dla osób fizycznych, a odpowiednie organizacje lub instytucje muszą udowodnić legalność tej praktyki przed pobraniem.… Jeżeli wdrożone jest arbitralne przyjęcie wewnętrznych standardów w celu podzielenia pasażerów na trzy, sześć lub dziewięć klas i zastosować różne środki sprawdzania bezpieczeństwa, mamy powód, aby podejrzewać, że taki środek narusza zasady kapitału własnego w Konstytucji; Narusza również podstawowe prawo do wolności osobistej dla obywateli. 33

人脸识别涉及对个人重要的生物学数据的收集，相关组织或机构在收集之前，必须证明这种做法的合法性……若是任意采取内部标准而将乘客分为三六九等，并据此采取不同的安检举措，我们有理由怀疑，这样的做法违反宪法上的平等原则，也涉嫌侵犯公民的人身自由不受侵犯的基本权利。

Profesor Lao sprzeciwił się technologii rozpoznawania twarzy w ramach szerszej krytyki pozornie niekończącego się wzrostu inwestycji w bezpieczeństwo publiczne i środki zapobiegania przestępczości. Niemniej jednak od marca 2021 r. System jest wdrażany w całym Pekinie w ramach publicznego procesu w celu ograniczenia czasów oczekiwania w punktach kontrolnych bezpieczeństwa. Najwyraźniej rząd uważa, że ​​zwiększona wygoda dla osób będzie najlepszym sposobem promowania tego środka. 34

Należy zauważyć, że istnieje powszechne nieporozumienia Chin’S “System kredytu społecznego” W zachodniej prasie. Nie ma jednolitej zdolności kredytowej ani ogólnokrajowego zintegrowanego systemu kredytowego. Zamiast tego w całym kraju istnieją różne prywatne wskaźniki punktowe i systemy samorządu lokalnego. Rząd’Celem jest ostatecznie powiązanie udanych programów pilotażowych prywatnych w systemie krajowym, który idealnie działałby jako rodzaj podwójnej oceny policji i oceny kredytowej. 35, zgodnie z konkretnym kontekstem metra w Pekinie, osoby dojeżdżające do pracy z czystymi zapisami ubiegaliby się o przepustkę próbną online i przesyłali informacje o rozpoznawaniu twarzy. Plan po prostu pozwoliłby szybkiemu śledzem w liniach bezpieczeństwa metra dla osób, które nie mają historii wprowadzania nielegalnych przedmiotów do pociągów. Ponieważ większość jeźdźców należy do tej kategorii, każda “Dobry kredyt społeczny” Record zasadniczo służyłby trzymaniu uchwytu z dala od czarnej listy jeźdźców z historią problemów, które mogą zostać odciągnięte na bok w celu podwyższonych kontroli. W rezultacie, choć opracowane jako sposób na nagradzanie dobrego kredytu społecznego, system rozpoznawania twarzy w rzeczywistości byłby bardziej funkcjonowany, aby ukarać tych z złego kredytu społecznego.

Po swoim eseju na temat systemu metra w Pekinie profesor Lao ponownie weszła do publicznego punktu’S Decyzja o wprowadzeniu technologii rozpoznawania twarzy w systemie kontroli dostępu do wejść do budynków mieszkalnych. W dyskusjach ze społecznością lokalną profesor Lao wywołał standardy bezpieczeństwa informacji osobowych. Ustawa ta ostatecznie skłoniła menedżerów do zapewnienia mieszkańcom wyboru wyboru do systemu rozpoznawania twarzy. Jej protest z menedżerami nieruchomości został rozpowszechniony online za pośrednictwem mediów społecznościowych, a nawet na opublikowaniu w niektórych popularnych mediach. 36 (patrz rysunek 3.)

Lao’stoi jako profesor prawa na Uniwersytecie Tsinghua – nieruchomo w rankingu Chiny’Najlepsza instytucja szkolnictwa wyższego – wywołała ją odrębną platformą do publikowania i rozpowszechniania jej niezadowolenia z rozpoznawania twarzy. Spośród wszystkich przedstawionych tutaj przypadków profesor Lao’S jest w pewnym sensie najbardziej niezwykłe, ponieważ bezpośrednio zaatakowała użycie rozpoznawania twarzy przez rząd miejski. Rozumiemy jej okoliczność jako wyjątkową, ponieważ jest potężną osobą w wybitnej publicznej instytucji szkolnictwa wyższego, która sformułowała swoją krytykę lokalnego systemu jako wspierającego państwo, odnosząc się do konstytucji i istniejącego prawa. Jednocześnie jej krytyka systemu metra nie miała wyraźnego wpływu na faktyczną politykę. Wynik ten dodatkowo potwierdza zarówno stopień, w jakim państwo pozostaje stanowcze w stosunku do własnego uznania twarzy, jak i stopień, w jakim jej esej został uznany za niezbędny.

Chociaż profesor Lao ostatecznie nie powiodła się w kwestionowaniu planu systemu metra podejmowanego przez państwo, udało jej się zmienić swoją społeczność mieszkalną’S “prywatny” wykorzystanie technologii na znacznie mniejszą skalę. W tym sukcesie skromna liczba użytkowników Weibo świętowała jej wysiłki. 37 Ale musimy podkreślić, że stosowanie rozpoznawania twarzy w zamkniętych kompleksach mieszkalnych jest prawdopodobnie jednym z najbardziej powszechnych i zasadniczo popularnych komercyjnych zastosowań tej technologii w Chinach. Ostatecznie uzasadnienie publicznych zastosowań zostało ponownie potwierdzone, a prywatne zastosowania nie zostały zabronione-tylko ograniczone, aby wymagać pewnego stopnia wpisu i akceptacji od osób fizycznych.

Studium przypadku czwarte: ekspozycja telewizyjna

“315 Evening Party” jest wydarzeniem telewizyjnym sponsorowanym przez China Central Television i chiński rząd, które odbywa się co roku 15 marca, data wyznaczona przez organizację międzynarodową organizacji pozarządowej na Światowy Dzień Prawa Konsumenckiego. “315” W 1991 roku rozpoczęła się tradycja, aby zwrócić uwagę na praktyki biznesowe, które szkodzą konsumentom’ zainteresowania. Podczas wydarzenia w 2021 r. Wiodącym problemem było niekonsensowne gromadzenie informacji twarzy przez firmy w lokalizacjach detalicznych. Stwierdzono, że ponad dwudziestu krajowych i międzynarodowych marek działających w Chinach, w tym Kohler, Max Mara i certyfikowane przez BMW dealera samochodowe, potrafiło zainstalować kamery rozpoznawania twarzy i zebrało swoich klientów’ Dane w sklepach detalicznych w Chinach. Kohler, American Plumbing Products Company, jako pierwszy został nazwany i zawstydzony podczas wieczornej imprezy. Anonimowi reporterzy w Chinach dowiedzieli się od jednego z swoich dyrektorów sprzedaży, że kamery rozpoznawania twarzy zostały wykorzystane, aby pomóc firmie śledzić indywidualnego klienta’S HISTORIA WIDZIE W różnych sklepach detalicznych. 38

Exposé CCTV podkreślił ograniczenia określone w standardach bezpieczeństwa danych osobowych, kategoryzując dane twarzy jako “Informacje osobiste,” którego zbiór wymaga tematu’S Zgodnie z wyprzedzeniem. 39 Jak wcześniej widzieliśmy, wiele przedsiębiorstw komercyjnych w Chinach stosuje obecnie uznanie twarzy bez uzyskiwania takiej zgody, z naruszeniem wytycznych. Wieczorna partia służyła zatem dla rządu możliwość zarejestrowania popularnego niezadowolenia z ciągłej praktyki wraz ze wsparciem dla polityki przeciwko temu. Szczególne cytowane rozporządzenie zostało zaktualizowane w październiku 2020 r., A wydarzenie telewizyjne opublikowało je jako prowadzenie do prawdopodobnego przyjęcia bardziej szczegółowych i wiążących przepisów dotyczących rozpoznawania twarzy w 2021 r. Mówiąc szerzej, zdarzenie może być rozumiane jako oficjalny sygnał, że prywatne przedsiębiorstwa powinny być przygotowane do włączenia zwiększonej ochrony danych i umów użytkowników do ich korzystania z rozpoznawania twarzy, co jest już mandatowane lub zalecane przez oficjalne wytyczne państwowe. (Patrz rysunek 4.)

Spośród wszystkich przypadków profilowanych w tym badaniu ten konkretny incydent otrzymał największą uwagę online, z 19 512 “lubi” Aby uzyskać najlepszy komentarz Weibo: “Ten rodzaj technologii – może’Używamy go do rozwiązywania handlu kobietami i dzieciami?” Ten komentarz jest wart przez chwilę. Idealnie oddaje to, w jaki sposób publiczne podejrzenia o prywatne, komercyjne zastosowania technologii rozpoznawania twarzy, a nawet wydaje się przyczyniać się do wsparcia dla państwa “bezpieczeństwo” zastosowania. Jak wspomniano wcześniej, “315 Evening Party” to sponsorowane przez państwo wydarzenie telewizyjne, a publiczne zawstydzanie głośnych przedsiębiorstw komercyjnych przyciągnęło dużą i energiczną publiczność. Chociaż jednego komentarza nie można traktować jako rozstrzygającego dowodu szerokich trendów, możemy rozważyć możliwość, że państwo odgrywa rolę w kształtowaniu warunków debaty poprzez starannie wyselekcjonowany i trwały dialog z popularną opinią. Wydaje się, że państwo zwraca uwagę na prywatne, komercyjne nadużycia technologii, jednocześnie legitymizując własne stosunkowo niekontrolowane wykorzystanie. Ta pętla informacji zwrotnych ostatecznie działa na rzecz poparcia działań państwowych poprzez dostosowanie go do popularnej opinii wobec prywatnych złych aktorów, którzy nie przestrzegają odpowiednich procedur.

To powiedziawszy, warto zauważyć, że Facebook, IBM, Google, Microsoft, Amazon i FaceFirst zostały pozwane przed sądami w USA za ich gromadzenie i analizy danych na twarzy. 40 Wiele z tych firm aktywnie walczy z tymi pozwami, a do tej pory niewiele jest dowodów na to, że obciążenie finansowe tego sporu znacznie zmieniło ich zachowanie, choć może to w przyszłości z dodatkowymi regulacjami. Być może motywy polityczne ożywiły organizatorów “315 Evening Party” Aby wywołać wiele wybitnych zagranicznych firm działających w tym kraju. Nie oznacza to, że oskarżenia wobec tych firm były fałszywe; Najprawdopodobniej były one dokładne. Pozew IBM w Stanach Zjednoczonych i prowadzenie historii telewizyjnej na temat BMW w Chinach może w rzeczywistości pełnić podobną funkcję, a mianowicie publicznie zawstydzając firmy w celu przyciągnięcia szerszej publiczności’Zwróć uwagę na problemy z prywatnością i zmienia zachowania korporacyjne.

Wnioski

Należy podkreślić, że te cztery przypadki nie stanowią pełnego poglądu chińskiej opinii publicznej’Widoki na technologie rozpoznawania twarzy. Podobnie jak ilościowe zastosowanie anonimowych badań małej partii, nasze jakościowe podejście ma jedynie na celu przedstawienie migawki złożonego i ciągle zmieniającego się krajobrazu. Wyzwania metodologiczne pozostają, szczególnie z powodu ograniczeń w historii publicznej. Na przykład nie mamy żadnych wskazówek na temat szczególnego doświadczenia Ujgurów z technologią rozpoznawania twarzy, i polegaliśmy głównie na użytkownikach Internetu dla kraju, w którym około trzysta milionów lub więcej osób nadal nie ma regularnego dostępu – choć liczba ta szybko maleje. 41, żeby było jasne, nawet post “lubiane” Prawie czterdzieści tysięcy razy reprezentuje niewielki spadek wiadra dla kraju 1.4 miliardy obywateli. Ponadto sytuacja stale się zmienia. Anegdotycznie kilku kolegów pracujących w chińskim środowisku akademickim i przemysłu zasugerowało nam, że publiczne wsparcie dla wykorzystywania rozpoznawania twarzy w zakresie zastosowań mogło wzrosło w wyniku pandemii Covid-19.

Musimy również podkreślić, że wszystkie cztery przypadki profilowane powyżej miały miejsce w środowisku miejskim, a ponad 80 procent respondentów do jednej z wyżej wymienionych badań to absolwenci uczelni. Potrzebne są dalsze badania w podziałach klasowych. Na przykład, podczas gdy technologie rozpoznawania twarzy zostały wdrożone w chińskich fabrykach w celu zastąpienia kart dostępu i dokumentowania godzin pracy, niewiele dyskutuje na temat wprowadzania technologii rozpoznawania twarzy w fabrykach może naruszać pracowników’ prawa. 42 Te cztery studia przypadków powinny być rozumiane jako jedynie niepełne okno na publiczne postrzeganie, reakcje i debaty dotyczące technologii rozpoznawania twarzy w tym kraju.

Wstępnie sugerujemy, że rząd centralny może monitorować przyjęcie technologii rozpoznawania twarzy w sektorze komercyjnym jako sposób na ocenę społeczeństwa’Przyjęcie tych technologii hurtowych. Nawet jeśli granice tego, co dokładnie stanowi “publiczny” Przestrzeń jest dyskutowana i negocjowana w przypadku przypadków, istnieje wyraźna różnica regulacyjna w kraju między zastosowaniem bezpieczeństwa technologii rozpoznawania twarzy przez państwo-które w dużej mierze nie są dyskutowane na forach internetowych-i zastosowania komercyjne przez przedsiębiorstwa, takie jak Alibaba lub kompleksy mieszkaniowe, które są. To powiedziawszy, ten podział jest czasem trudny do rozpoznania, jak widać w ubiegłym roku, kiedy agencje rządowe zleciły rozwój aplikacji dotyczących kodu zdrowia służby publicznej, które obejmowały zbieranie danych twarzy głównym firmom technologicznym Tencent i Alibaba. 43 Istnieją dalsze różnice regulacyjne między dużymi “prywatny” Przedsiębiorstwa, które są zobowiązane do nawiązania bliskich powiązań z aparatem państwowym i mniejszymi prywatnymi przedsiębiorstwami, takimi jak park dzikiej przyrody lub dealer samochodowy, które działają lokalnie. A w przestrzeniach między niektórymi organizacjami, takimi jak firma zajmująca się zarządzaniem mieszkaniami, a lokalnymi oddziałami organów państwowych nie zawsze są całkowicie jasne.

Bez przesłuchania faktycznego podziału między “prywatne i imprezowe” W Chinach twierdzimy, że publiczne postrzeganie różnicy między nimi jest ważne dla zrozumienia areny gry. Podczas dyskusji na temat państwa’Skorzystanie z rozpoznawania twarzy jest zarówno ogólnie ograniczone, jak i ogólnie akceptujące, trwa aktywna debata na temat postrzeganego sektora prywatnego technologii, a w tym kierunku państwo próbuje skierować obawy społeczne i energię. Jako takie, publiczne niezadowolenie z parku safari’sing danych twarzy może nie przełożyć się na biuro policyjne’s Używanie podobnych danych. Poprzez powszechne przyjęcie technologii rozpoznawania twarzy w sektorze komercyjnym rząd centralny prawdopodobnie dowiedział się o tym, co działa i co się dzieje’t W oczach społeczeństwa. Być może wiele osób, które przyjmują technologię rozpoznawania twarzy w niektórych kontekstach, wolałoby zwiększone nadzór rządowy w stosunku do użytku komercyjnego, szczególnie gdy występuje bez jednostek’ wiedza lub zgoda. Wydaje się również, że kiedy obywatele odpychają się przeciwko konkretnemu przedsiębiorstwu komercyjnym’S Używanie rozpoznawania twarzy, przedsiębiorstwo jest zwykle wymagane do zapewnienia opcji opt -in lub -out w umowie użytkownika. Państwo może rzeczywiście przygotowywać się do standardowej praktyki umów, pozycji promowanej w “315 Evening Party” i sugerowane przez oświadczenia w projekcie ustawy o ochronie danych osobowych 2021. To, jak praktyczne lub znaczące te umowy o zgodę użytkownika będą w praktyce, to kolejne pytanie.

Uderzające jest zauważenie – nawet w naszym wąskim podgrupie spraw – roli społeczności prawnej, a zwłaszcza profesorów prawa, w zakresie obaw dotyczących technologii rozpoznawania twarzy. Profesorowie Guo Bing i Lao Dongyan byli jednymi z najważniejszych postaci w obawach dotyczących zbierania danych, ochrony i przechowywania w Chinach w ciągu ostatnich trzech lat. Jednak ich obawy były skierowane do bardzo konkretnych zastosowań technologii, a nie do ogólnego wykorzystania samej technologii. Taka taktyka może odzwierciedlać dzisiejszą politykę możliwej w Chinach. Uniwersyteci prawni naukowcy oczywiście mają więcej wiedzy na temat kraju’Prawa i system prawny niż przeciętny obywatel, a zatem są w stanie protestować przeciwko niektórym wdrożeniu technologii poprzez powołując się na odpowiednie przepisy, kadrowanie się jak po stronie państwa i zapewnianie im stopnia ochrony politycznej. Ale ze zwiększonym nadzorem naukowców uniwersyteckich podczas XI Jinping’S Henure, uczeni prawa mogą być bardziej ostrożni niż kiedykolwiek, aby nie przekraczać dyskursywnych granic akceptowalnych dla partii.

Rzeczywiście, rząd centralny pod XI’Kierunek S nie powstrzymał się od środków, które podkreślają system prawny i kontynuuje długi trend w kierunku rutynowania postępowania sądowego i wydaje się prawdopodobne, że technologia rozpoznawania twarzy wkrótce zostanie uwzględniona bardziej formalnie pod uwagę. 44 Prawo utrzymuje wysoki poziom prestiżu socjopolitycznego w Chinach i nie jest całkiem dokładne stwierdzenie, że prawo po prostu istnieje jako odgórne narzędzie kontroli-choć jest używane w ten sposób w ten sposób. Niezwykłe jest to, że większość przeciwników określonych zastosowań technologii rozpoznawania twarzy, powołała się. Ale biorąc pod uwagę dziesięciolecia historię rozwoju technologii rozpoznawania twarzy w Chinach, uderzający jest względny brak stanowczych i jasnych przepisów dotyczących prywatnych zastosowań technologii do 2020 r. Ta luka jest prawdopodobnie zamierzona. Uznanie twarzy stanowi szybko zmieniający się krajobraz – zarówno technologicznie, jak i w sądzie opinii publicznej – a państwo kształtuje nowe przepisy, ponieważ dowiaduje się więcej.

W pewnym sensie sytuacja w Chinach nie jest odmienna od tych w Europie i Ameryce Północnej. Kompleksowe przepisy prawne dotyczące pozyskiwania i wykorzystania danych twarzy pozostają w dużej mierze pracą w tych regionach. Niezapowiedziane gromadzenie danych twarzy przez naukowców miało miejsce zarówno w Chinach, jak i na Zachodzie, a prywatne firmy zostały wymienione i zawstydzone za wykorzystanie technologii z naruszeniem prywatności osobistej na całym świecie. Fakt, że proponowane i uchwalone przepisy w Chinach i innych krajach starają się teraz zapewnić zgodę przed wydobyciem danych twarzy, wskazuje, że w Chinach, Europie i Stanach Zjednoczonych zbieranie bez zgody prawdopodobnie już się dzieje. Podczas gdy zakres debaty może się różnić wśród krajów, nadrzędne problemy regulacyjne, przed którymi stoją kraje, są częściowo podobne, ponieważ wszystkie reagują na tę samą szybko ewoluującą sytuację.

Wywołanie prawa zarówno przez chińskie, jak i popularne komentatorów jest ważne z innego powodu. Chociaż często wyobrażamy sobie prawo jako narzędzie do kodyfikacji istniejących norm etycznych, prawo można również zastosować do rozwiązywania niespokojnych pytań etycznych z zakresu dyskusji. Udane przypadki przedstawione wobec technologii rozpoznawania twarzy ogólnie nie odwoływały się do moralności ani niemoralności technologii, ale raczej precyzyjne roszczenia zakorzenione w państwie chińskim’własne kody i przepisy. To powiedziawszy, wśród ogółu społeczeństwa, niektóre komentarze online dotknęły szerszych wymiarów etycznych, takich jak prawa człowieka, i okaże się, czy państwo’S “strategia” W selektywnym zezwoleniu na ograniczoną debatę może z czasem cofnąć się. 45

Kończymy dwoma szerokimi wynosami. Z jednej strony nie powinniśmy widzieć państwa chińskiego’Zastosowanie technologii rozpoznawania twarzy w zakresie bezpieczeństwa publicznego i prywatnych zastosowań tych technologii w dziedzinie komercyjnej jako w konflikcie ideologicznym lub nawet praktycznej sprzeczności: umożliwiając ograniczoną debatę na temat prywatnych nadużyć, państwo chińskie faktycznie utrwala własną pozycję jako gwarant prawa, jednocześnie twierdzi, że do dalszego bezpieczeństwa i wygody publicznej wobec publicznej publicznej sytuacji publicznej sytuacji publicznej. Z drugiej strony, ponieważ państwo przedstawia się jako doskonały aktor etyczny społeczeństwa krajowego, główna przestrzeń otwarta do dyskusji jest pola i zastosowania, które nie zostały jeszcze mocno uregulowane. Ta dynamika stanowi intrygujące pytanie: ponieważ państwo przyjmuje bardziej wyraźną kontrolę nad prywatnymi firmami zaangażowanymi w gromadzenie i zachowanie danych biometrycznych, gdzie będą kierowane obawy społeczne, jeśli i kiedy pojawią się przyszłe problemy?

Pytania do dyskusji

• Jak różne rządy mogą kształtować debatę publiczną na temat etycznych implikacji pojawiających się technologii? Jakie zachęty polityczne grają w Chinach i gdzie indziej?
• Czy istnieją podstawowe zasady etyczne w stosowaniu technologii rozpoznawania twarzy, które utrzymują się na stałym poziomie w różnych typach reżimów?
• Kto powinien być aktorami społecznymi i władzami politycznymi, aby rozróżnić korzystne i szkodliwe wykorzystanie technologii rozpoznawania twarzy?
• Jeśli chcesz zaprojektować nowe zastosowania technologii rozpoznawania twarzy, w jaki sposób możesz wziąć pod uwagę zarówno przepisy prawne, jak i rozważania etyczne? Jak myślisz, jak te względy są napięte zarówno w Stanach Zjednoczonych, jak i Chinach?
• Jak można wykorzystać media społecznościowe w badaniach nad publicznym odbiorem technologii? Co by opowiedział nam posty na Twitterze, Tiktok lub Facebooku’Obawy dotyczące technologii? Jak mogliby nas również zapoznać?
• W każdym okolicznościach możesz zaakceptować kamery w klasie? Czym byliby? Czy mógłbyś zaakceptować uznanie twarzy na kampusie uniwersyteckim, gdyby zaproponowano to zwiększenie bezpieczeństwa?
• Gdybyś wiedział, że twój kampus uniwersytecki zatrudnił rozpoznawanie twarzy, wpłynie to na twoją decyzję o przyłączeniu się do protestu na kampusie przeciwko administracji uniwersytetu?
• Które firmy są dziś właścicielami twoich danych twarzy? Czy możesz nawet odpowiedzieć na to pytanie? Jeśli wiesz, czy możesz o to poprosić? Jak byś to zrobił?
• Jakie grupy ludzi w społeczeństwie amerykańskim były na czele identyfikacji ryzyka technologii rozpoznawania twarzy? Czy są zatrudnieni w rządzie? Czy pracują dla firm technologicznych? Czy piszą dla mediów? Przed rozpoczęciem tej klasy słyszałeś o takich ryzyka?

Podziękowanie

To studium przypadku powstało z projektu MIT 2020–2021 Projekt możliwości badań licencjackich (UROP) badający spory sądowe w ChRL za pośrednictwem internetowej bazy danych, “Chińskie osądy online.” Chcielibyśmy podziękować Davidowi Kaiserowi, Emmie Teng, David Goldston, David Clark, Yasheng Huang, Jeremy Daum, Nathan Hill, Zeyi Yang, Yuan Yang, Wenfei Zhou, Neal Xu, Henry Xu i Tianyu Fang za ich obfitą opinię na temat sprawozdania. Wszystkie błędy są nasze własne.

Bibliografia