Resumo:

Em um estudo realizado por acadêmicos em Harvard e MIT, verificou -se que a China lidera o mundo na exportação de tecnologia de reconhecimento de rosto. As empresas chinesas têm 201 acordos de exportação envolvendo reconhecimento de face, enquanto as empresas americanas têm 128 acordos. Isso levantou preocupações entre os especialistas de que a exportação dessa tecnologia pode permitir que os governos realizem mais vigilância, potencialmente violando os direitos humanos dos cidadãos. O relatório também destaca a liderança da China nas exportações de inteligência artificial (AI), com 250 de 1.636 acordos envolvendo alguma forma de IA. Os EUA são o segundo maior exportador em reconhecimento de face e tecnologia de IA.

Pontos chave:

1. A China é líder mundial na exportação de tecnologia de reconhecimento de rosto, seguido pelos EUA.

2. As empresas chinesas também lideram as exportações de IA.

3. A exportação de tecnologia de reconhecimento de rosto pode levar ao aumento da vigilância e possíveis violações dos direitos humanos.

4. A tecnologia de reconhecimento de rosto tem várias aplicações práticas.

5. Os pesquisadores do MIT-Harvard se concentraram na tecnologia Smart City, onde o reconhecimento de face é frequentemente usado para vigilância por vídeo.

6. Os EUA expressaram preocupações sobre a China ganhando uma vantagem na tecnologia de IA.

7. O governo dos EUA impôs restrições à tecnologia chinesa, incluindo a tecnologia 5G da Huawei.

8. Esforços para limitar a exportação de reconhecimento de face da China pode envolver sanções aos países importantes.

9. Os EUA precisam regular o uso de reconhecimento facial e dar um exemplo para outros países.

10. As empresas chinesas dominam a tecnologia de reconhecimento de face devido a laços e financiamento do governo.

1. Como a China se compara aos EUA na exportação de tecnologia de reconhecimento de rosto?

A China é líder mundial em exportação de tecnologia de reconhecimento de rosto, com 201 acordos de exportação, enquanto os EUA têm 128 negócios.

2. Quais são as preocupações levantadas por especialistas em relação à exportação de tecnologia de reconhecimento de rosto?

Especialistas estão preocupados com o fato de a exportação de tecnologia de reconhecimento de rosto permitir que os governos realizem mais vigilância, potencialmente violando os direitos humanos dos cidadãos.

3. Quais são algumas aplicações práticas da tecnologia de reconhecimento de rosto?

A tecnologia de reconhecimento de rosto pode ser usada para desbloquear smartphones, fornecer autenticação em aplicativos e identificar amigos em postagens de mídia social.

4. Qual é o foco do estudo dos pesquisadores do MIT-Harvard?

Os pesquisadores se concentraram na tecnologia Smart City, onde o reconhecimento de rosto é frequentemente implantado para aprimorar a vigilância por vídeo.

5. Que preocupações os EUA expressaram sobre a China em termos de tecnologia de IA?

.

6. Que restrições o governo dos EUA imposto à tecnologia chinesa?

O governo dos EUA impôs restrições ao uso da tecnologia 5G da Huawei e tem como alvo as empresas de IA da China com um embargo de chip.

. Que medidas poderiam ser tomadas para limitar a exportação de tecnologia de reconhecimento de rosto da China?

Uma medida possível pode estar impondo sanções aos países que importam a tecnologia. Os EUA também podem regular o uso do reconhecimento facial internamente e oferecer alternativas à tecnologia chinesa no exterior.

8. Qual é a preocupação que os EUA sejam o segundo maior exportador de tecnologia de reconhecimento de rosto?

Há uma preocupação de que os EUA, sendo um grande exportador da tecnologia de reconhecimento de rosto, prejudique a ideia de que a tecnologia americana naturalmente incorpora valores de liberdade e democracia.

9. Existem padrões nacionais nos EUA, limitando o uso de reconhecimento facial?

Não, não há padrões nacionais restringindo ou limitando o uso do reconhecimento facial nos EUA, embora algumas cidades tenham estabelecido restrições ao seu uso.

10. Como os EUA podem combater o sucesso da China na exportação de tecnologia de reconhecimento de rosto?

Os EUA podem combater o sucesso da China, regulando o uso de reconhecimento facial internamente e oferecendo tecnologias alternativas às exportações chinesas.

11. Por que as empresas chinesas passam a dominar a tecnologia de reconhecimento de rosto?

Um dos motivos são os laços com as entidades governamentais, que fornecem uma grande quantidade de fotos e financiamento significativo para o desenvolvimento da tecnologia.

12. Qual foi a posição do Congresso dos EUA em limitar a tecnologia de reconhecimento facial?

As perspectivas do Congresso dos EUA concordando com limites significativos à tecnologia de reconhecimento facial são pequenos.

13. Qual é a preocupação com os valores incorporados na tecnologia americana?

Há uma preocupação de que a tecnologia americana, apesar de ser um grande exportador de tecnologia de reconhecimento de rosto, pode não incorporar necessariamente valores de liberdade e democracia.

14. Quais são as acusações contra empresas americanas, como Clearview AI?

Grupos de liberdades civis argumentam que a IA Clearview e as empresas americanas semelhantes invadem a privacidade dos cidadãos sem justificativa legal, conectando imagens de câmera de vigilância a identidades on -line.

15. O que foi sugerido como a melhor maneira de combater o sucesso da China na exportação de reconhecimento de face?

Regulando o uso de reconhecimento facial internamente e oferecendo tecnologias alternativas às exportações chinesas foram sugeridas como as melhores maneiras de os EUA combater o sucesso da China.

Reconhecimento facial e além: os empreendimentos jornalistas dentro do estado de vigilância da China

(Observe: a Tailândia está no processo de introdução de uma lei de proteção de dados que garantiria o consentimento explícito ao usar dados sensíveis (incluindo biometria), mas os atrasos contínuos tornam isso pouco claro no momento).

China é o mundo’é o maior revendedor de reconhecimento de rosto

Especialistas temem as vendas da tecnologia também exportam idéias autoritárias sobre vigilância biométrica. O segundo maior exportador é o EUA.

Salvar história

Salvar história

No início do ano passado, o governo de Bangladesh começou a avaliar uma oferta de uma empresa chinesa sem nome de construir uma cidade inteligente na Baía de Bengala com infraestrutura aprimorada por inteligência artificial. A construção da metrópole de alta tecnologia ainda não começou, mas se prosseguir, pode incluir software de reconhecimento de rosto que pode usar câmeras públicas para identificar pessoas desaparecidas ou rastrear criminosos em uma multidão-capacidades já padrão em muitas cidades chinesas.

O projeto está entre os que tornam a China líder mundial na exportação de reconhecimento de face, de acordo com um estudo de acadêmicos em Harvard e MIT publicado na semana passada pela Brookings Institution, um think tank proeminente.

O relatório constata que as empresas chinesas lideram o mundo na exportação de reconhecimento de face, representando 201 acordos de exportação envolvendo a tecnologia, seguidos por empresas americanas com 128 acordos. A China também tem liderança na IA em geral, com 250 de um total de 1.636 acordos de exportação envolvendo alguma forma de IA a 136 países importadores. O segundo maior exportador foi os EUA, com 215 acordos de IA.

O relatório argumenta que essas exportações podem permitir que outros governos realizem mais vigilância, potencialmente prejudicando os cidadãos’ direitos humanos. “O fato de a China estar exportando para esses países pode tê -los para se tornar mais autocrática, quando na verdade eles podem se tornar mais democráticos,” Diz Martin Beraja, economista do MIT envolvido no estudo cujo trabalho se concentra no relacionamento entre novas tecnologias como IA, políticas governamentais e macroeconomia.

A tecnologia de reconhecimento de rosto possui inúmeras aplicações práticas, incluindo desbloquear smartphones, fornecer autenticação em aplicativos e encontrar amigos em postagens de mídia social. . A pesquisa utilizou informações sobre projetos de vigilância global da Carnegie Endowment for International Peace and Data Rasped das empresas chinesas de IA.

Nos últimos anos, legisladores e presidentes dos EUA expressaram preocupação de que a China está ganhando vantagem sobre os EUA na tecnologia de IA. O relatório parece oferecer evidências concretas de uma área em que essa mudança já ocorreu.

Mais popular

Google não’preciso que você compre seu telefone dobrável

Boone Ashworth

A lenda de Zelda: lágrimas do reino É uma evolução

Will Bedingfield

’

Steven Levy

As 13 melhores bicicletas elétricas para todo tipo de passeio

Adrienne então

“Isso reforça o caso de por que precisamos definir parâmetros em torno desse tipo de tecnologia,” .

Há um crescente interesse bipartidário nos EUA em restringir a tecnologia chinesa em todo o mundo. Sob o presidente Trump, o governo dos EUA impôs regras projetadas para restringir o uso da Huawei’S 5G Technology nos EUA e em outros lugares e mirou na China’. O governo Biden cobrou um bloqueio de chip mais abrangente que impede as empresas chinesas que acessam chips de ponta ou tecnologia de fabricação de semicondutores e colocou sanções aos fornecedores chineses de reconhecimento de rosto usado para monitorar os muçulmanos uyghur.

Pesquise nosso banco de dados de inteligência artificial e descubra histórias de setor, tecnologia, empresa e muito mais.

Outros esforços para limitar a exportação de reconhecimento de rosto da China talvez possam assumir a forma de sanções aos países que importam a tecnologia, diz Seymour. Mas ela acrescenta que os EUA também precisam dar um exemplo ao resto do mundo em termos de regulação do uso do reconhecimento facial.

O fato de os EUA ser o mundo’S Segundo maior exportador de tecnologia de reconhecimento de rosto riscos prejudicando a idéia – promovida pelo governo dos EUA – que a tecnologia americana incorpora naturalmente valores de liberdade e democracia.

O uso do reconhecimento facial está aumentando entre os departamentos de polícia dos EUA e, embora algumas cidades tenham estabelecido restrições ao uso da tecnologia, não há padrões nacionais restringindo ou limitando seu uso. Algumas empresas americanas, como Clearview IA, desenvolveram e estão exportando ferramentas de reconhecimento de rosto que podem conectar uma imagem da câmera de vigilância de uma pessoa a suas identidades on -line, um caso de uso que os grupos de liberdades civis argumentam invadir cidadãos’.

Seymour diz a melhor maneira de combater a China’O sucesso da exportação do reconhecimento de face pode ser regular seu uso em casa e depois oferecer alternativas à tecnologia chinesa no exterior. “Ter uma conversa sobre valores ajudará a moldar algumas das limitações que precisam ser definidas nessas tecnologias,” ela diz. Mas as perspectivas do Congresso dos EUA concordando com limites significativos para a tecnologia parecem magros.

As empresas chinesas passaram a dominar a tecnologia de reconhecimento de rosto em parte por causa de vínculos com entidades governamentais que podem fornecer grandes quantidades de fotos, bem como financiamento significativo para a tecnologia’S Desenvolvimento. Em um artigo publicado em novembro de 2021, Beraja e seus co -autores argumentaram que a inovação no desenvolvimento do reconhecimento de face ai pode florescer em autocracias devido ao alinhamento próximo entre os objetivos da tecnologia e do governo.

Controlar a propagação de usos desagradáveis ​​do reconhecimento de rosto pode ser difícil, porque a mesma tecnologia pode ter muito mais usos benignos.

E David Yang, um de Beraja’Os co -autores e economistas da Universidade de Harvard dizem que movimentos recentes dos EUA para conter tecnologia chinesa se concentraram mais na prevenção do desenvolvimento de novas capacidades, não limitando a transferência dos existentes. “A China já desenvolveu um conjunto abrangente de tecnologia de vigilância que pode vender,” ele diz. “As restrições recentes não fazem nada para mudar isso.”

Seymour do Center for New American Security diz que outras áreas emergentes da IA ​​também podem ser definidas para se transformar em poderosas novas ferramentas de vigilância cuja proliferação deve ser cuidadosamente monitorada.

O reconhecimento de rosto foi um dos primeiros usos práticos para a IA aparecer após algoritmos de processamento de imagens muito aprimorados usando redes neurais artificiais surgidas no início de 2010. Ela sugere que os grandes modelos de idiomas que causaram emoção em torno de ferramentas de conversação inteligentes, como o ChatGPT, podem seguir um caminho semelhante, por exemplo, sendo adaptado de maneiras mais eficazes de censurar o conteúdo da Web ou analisar comunicações.

Reconhecimento facial e além: jornalistas se aventuram dentro do ‘estado de vigilância’ da China

Câmeras de segurança e tecnologia de reconhecimento facial estão em ascensão na China. Em 2018, Pessoas diariamente, O porta-voz da mídia do partido comunista da China, afirmou no Twitter em inglês que o sistema de reconhecimento facial do país era capaz de examinar os rostos do 1 da China 1.4 bilhões de cidadãos em apenas um segundo.

O jornalista alemão Kai Strittmatter fala mandarim fluente e estuda a China há mais de 30 anos. Ele diz que não está claro se o governo chinês é ou não capaz de usar o software de reconhecimento facial da maneira como afirma. Mas ele acrescenta, em um certo nível, a veracidade da reivindicação não é importante.

“Nem importa se é verdade ou não, desde que as pessoas acreditem”, diz ele. “O que o Partido Comunista está fazendo com toda essa tecnologia de vigilância de alta tecnologia agora é que eles estão tentando internalizar o controle. . Depois que você acredita que é verdade, é como se você nem precisasse mais dos policiais na esquina, porque você está se tornando seu próprio policial.”

Novo livro de Strittmatter, Fomos harmonizados: vida no estado de vigilância da China, examina o papel da vigilância no estado autoritário da China. Ele alerta que o presidente chinês Xi Jinping, que chegou ao poder em 2012, adotou uma rigidez ideológica desconhecida desde os dias de Mao Zedong.

“A maioria das pessoas com quem falei, mesmo membros do partido e pessoas dentro de instituições partidárias, eles pensaram que talvez Xi Jinping comece com reformas mais do tipo liberal”, diz Strittmatter. “Todo mundo ficou completamente surpreso com a forma como acabou. . É realmente um novo tipo de regime e estado que não vimos antes.”

Strittmatter diz que o estado chinês acumulou uma quantidade surpreendente de dados sobre seus cidadãos, que usa para punir as pessoas por pequenos desvios das normas esperadas.

Paralelos

O reconhecimento facial na China é um grande negócio, pois os governos locais aumentam a vigilância

?”Strittmatter diz. “Minha resposta é realmente, no final, não precisamos temer a China. O que precisamos temer – se precisamos temer alguma coisa – é realmente nós mesmos. É nosso fatalismo, nossa demissão. Precisamos levantar e precisamos lutar por nossos valores e pelo nosso sistema, porque acredito que ainda é o melhor que temos.”

Destaques da entrevista

Na China se tornando líder em inteligência artificial e coleta de dados

Por um lado, você tem um cara [xi] que está reintroduzindo a repressão em uma escala que não vimos desde Mao Zedong. Então, ele está basicamente com um pé voltando ao passado, mas com o outro pé, ele está indo muito, longe no futuro e realmente abraçando toda essa nova tecnologia da informação e inteligência artificial e big data, como, eu diria, nenhum outro governo no planeta realmente faz e certamente nenhum outro governo autoritário.

Esta é uma das coisas notáveis, certo? Quero dizer, fomos informados por tantos anos e décadas por esses profetas de tecnologia que todo tipo de nova tecnologia realmente serviria à causa da liberdade e prejudicaria e subverteria a regra autoritária. Bem, os chineses, eles já nos mostraram . Mais de 20 anos, que eles não apenas não têm medo dessas novas tecnologias, mas, pelo contrário, eles passaram a amá -los. .

O Partido Comunista não vê essas novas tecnologias como um perigo para o seu governo. Pelo contrário, eles descobriram ou acham que na verdade essas novas tecnologias lhes dão novos instrumentos que aperfeiçoarão sua regra.

O Partido Comunista não vê essas novas tecnologias como um perigo para o seu governo. Pelo contrário, eles descobriram ou acham que, na verdade, essas novas tecnologias lhes dão novos instrumentos que aperfeiçoarão seu governo, e isso fará com que sua regra seja à prova de crise, e agora é a mesma coisa com inteligência artificial e big data.

Há um aplicativo em todos os telefones celulares chineses chamados WeChat. E com o WeChat basicamente você pode viver toda a sua vida em WeChat. . Então se tornou um Uber chinês. . Você poderia usá -lo como um id. Você pode arquivar seus documentos de divórcio através deste aplicativo para o tribunal local e pode fazer todas as suas transações financeiras através deste aplicativo. E isso funciona com códigos de barras. E eles já usam esses códigos de barras há muito tempo.

. . Todo mundo faz tudo com seus telefones celulares. E então você chega ao ponto que até os mendigos da rua os usam e eles lhe dirão: “É tão conveniente.”Mas, ao mesmo tempo, também é incrivelmente conveniente para a segurança do estado. E cada uma de suas transações realmente acabará em um dos servidores.

Sobre como os cidadãos chineses sentem a presença do estado através do WeChat

Kai Strittmatter serviu como correspondente da China por mais de uma década para Süddeutsche Zeitung, Um dos maiores jornais da Alemanha. LASSE BECH MARTINUSSEN/HARPERCOLLINS ocultar a legenda

Alternar a legenda

LASSE BECH MARTINUSSEN/HARPERCOLLINS

Kai Strittmatter serviu como correspondente da China por mais de uma década para Süddeutsche Zeitung, Um dos maiores jornais da Alemanha.

LASSE BECH MARTINUSSEN/HARPERCOLLINS

Cidadãos chineses, eles estiveram acostumados a isso, sentem a presença do estado, estão sentindo a presença do estado por toda a vida. Você percebe que às vezes quando alguns de seus textos estão sendo censurados, de repente palavras ou frases estão faltando . E eles nunca alcançam a outra festa ou você realmente não faz parte da conversa que seus amigos enviam para você. Isso é como algo que muitas experiências chinesas. .

Tecnologia

.S. E no exterior, dizem os pesquisadores

Eu tinha alguns amigos [interessados ​​em política] e vi dois deles serem presos por causa de seus registros do WeChat, porque eles realmente tinham no WeChat, concordaram com outras pessoas, com os amigos em ir a uma poesia lendo onde um poeta em Pequim deveria ler alguns poemas apoiando os alunos em Hong Kong no STRUGGY pela democracia. E eles nunca chegaram à leitura da poesia. Eles foram presos no caminho. E foi claramente por causa de suas conversas no WeChat.

No sistema de pontos, os cidadãos têm na cidade de Rongcheng, em que recebem pontos por boas ações e recebem pontos ancorados por ações desonestas

É realmente realmente como fora de um livro de imagens. Todo cidadão em Rongcheng começa com uma pontuação de 1.000 pontos. E então você pode subir no seu caminho. Você pode conseguir mais pontos fazendo coisas muito boas para a sociedade e pode cair. . Se você tem mais de 1.050 pontos, pode ser um cidadão AAA e depois se tornará um cidadão de AA se cair mais baixo, e C e D. Se você é cidadão, é realmente desonesto e tem menos de 599 pontos. .

Eles dizem que querem criar o cidadão honesto, o cidadão confiável, e querem punir os disjuntores de confiança. Por exemplo, você pode ganhar pontos se doar sangue ou medula óssea ou se der lições aos filhos do vizinho de que eles precisam para a escola. Eu fui a um bairro onde uma senhora conseguiu cinco pontos porque ela realmente forneceu um de seus quartos do porão para o coral local que cantou canções revolucionárias. .

Mundo

O Github se tornou um paraíso para os usuários censurados da Internet da China

Ao mesmo tempo, você é punido pelas coisas que não deve fazer, e pode ser punido por Jaywalking. Você pode ser punido por baixar coisas piratas. Você pode ser punido por deixar seu cachorro [cocô] no gramado em frente ao bairro, por todos esses tipos de coisas. Muitas dessas coisas seriam realmente ações que também as consideramos boas ações e talvez dignas de ser punidas. Mas é claro, então vai muito mais longe, e também se torna político. E você também pode ser punido porque põe em risco a harmonia social na internet, por exemplo.

Nas possíveis consequências se sua pontuação cair muito baixa no sistema de pontos

O que temos a dizer é que eles estão apresentando o sistema passo a passo. Agora, ainda não é um sistema nacional e teremos que ver como ele se desenvolve nos próximos dois anos. Mas uma coisa já está em todo o país, e esse é o sistema de listas negras. Se você está na lista negra porque seu crédito social está em baixa, então você já é sancionado. Por exemplo, você não tem mais permissão para pegar um avião. Você não pode mais comprar passagens de avião. Você não tem mais permissão para tomar uma ferrovia de alta velocidade. Você não é mais permitido, por exemplo, em hotéis caros. Seus filhos não podem mais ir para boas escolas caras e coisas assim. E isso é algo que já está acontecendo. Esta é uma parte do sistema que já está ativo. Em 2018, havia mais de 17 milhões de pessoas sendo banidas de voar por causa do sistema.

Você tem esses sistemas de outdoor e câmeras e câmeras de inteligência artificial quando você Jaywalk, ainda enquanto ainda está no meio da estrada, seu rosto aparece no enorme outdoor para que todos vejam.

Em Shenzhen, por exemplo, no sul ou em Shenyang, no nordeste, você tem esses sistemas de outdoor e câmeras e câmeras de inteligência artificial quando você Jaywalk, ainda enquanto ainda está no meio da estrada, seu rosto aparece no outdoor para todos para ver todos para ver. E ao lado do seu rosto, seu nome aparece, seu número de identificação, parte dele é [censurado]. . Mas o ponto principal é: “Sabemos quem você é. Este é você e você está realmente machucando a sociedade neste momento agora.”Então a vergonha pública é uma grande parte disso.

Sobre opinião pública sobre esses sistemas

Mundo

Na China, uma nova chamada para proteger a privacidade de dados

Uma lição que aprendi é que a propaganda funciona, a censura funciona. Realmente funciona. E as pessoas realmente acreditam muitas das coisas que ouvem, porque não têm nenhuma outra informação. Também porque não há debate público sobre muitas dessas coisas. Não há tradição de debate público sobre privacidade, proteção de dados e coisas assim, e os argumentos do governo são basicamente duplos: um é . conveniência. Torna sua vida tão conveniente. . . Isso é especialmente o que eles usam para o reconhecimento facial e as câmeras, e na verdade tornamos sua vida segura e segura. E você pode passar pela cidade, você pode deixar sua bolsa agora em um ônibus e em um trem de metrô, e ninguém se atreverá, e eles estão certos, provavelmente. E muitas pessoas compram isso, e elas gostam disso.

Sam Briger e Seth Kelley produziram e editaram esta entrevista para transmissão. Bridget Bentz e Molly Seavy-Nesper o adaptaram para a web.

A China agora permite que os cidadãos optem pelo reconhecimento de rosto privado. Faz seu país?

Isto’Não é segredo que a China’s O uso da tecnologia de reconhecimento facial (FRT) é o mais invasivo do mundo. Em nossa análise recente de como 100 países usam a FRT, a China teve a pior pontuação com o uso mais difundido da tecnologia.

Mas em uma reviravolta recente, China’A Suprema Corte deu aos cidadãos o direito de recusar o uso de empresas privadas, incluindo bancos, hotéis e boates. A decisão, que a Suprema Corte se apressou para executar porque “não poderia’t espere mais,” Garante que o consentimento informado e opt-in seja obtido de empresas privadas que desejam usar o FRT.

, Colocando a cabeça e os ombros da China acima dos Estados Unidos, Reino Unido, Canadá e Austrália quando se trata de proteger os cidadãos’ privacidade contra o uso de FRT em empresas privadas.

Não é apenas um caso de destaque porque vem de um país que’é conhecido por desconsiderar os cidadãos’ Privacidade, mas coloca a China em um grupo de elite (e incrivelmente pequeno) de países que têm decisões/peças de legislação específicas em torno do uso da FRT para empresas privadas. Enquanto a FRT cresce a uma taxa exponencial, muitos países não conseguem acompanhá -lo através da legislação deles. Portanto, embora certas proteções de privacidade possam ser fornecidas através de GDPR, a falta de legislação específica e explícita em torno do uso de reconhecimento facial significa que existem lacunas e brechas que podem ser exploradas.

’A nova decisão se destaca contra outros países, estudamos os 25 principais países (de acordo com o PIB) para ver o que, se houver, legislação/tribunal, existem.

(Observe: a Tailândia está no processo de introdução de uma lei de proteção de dados que garantiria o consentimento explícito ao usar dados sensíveis (incluindo biometria), mas os atrasos contínuos tornam isso pouco claro no momento).

A China é apenas um dos seis países a governar a FRT em empresas privadas

Dos 25 países que abordamos, apenas seis países têm leis/decisões explícitas em torno do uso de FRT em um ambiente privado. São China, Brasil, Espanha, Holanda, Suécia e Bélgica. A Bélgica proíbe categoricamente o uso de FRT, enquanto a Espanha restringe severamente seu uso (em geral, não tem base legal, exceto em circunstâncias extremas, e.g. para infraestrutura crítica). . Mas, na Suécia’S Caso, isso só é necessário se a tecnologia estiver sendo usada para identificar pessoas. Se estiver sendo usado de maneira anonimizada (ele usa um caso em que os padrões de movimento dos visitantes estavam sendo monitorados, mas imagens faciais estavam sendo armazenadas/analisadas), o consentimento não’T necessário. Isso faz da Suécia’s.

A França e a Alemanha também têm algumas orientações de suas autoridades relevantes de proteção de dados, decidindo que é necessário o consentimento informado e optado.

Em forte contraste, sete países não fornecem proteção adequada aos cidadãos quando se trata de FRT por não ter leis claras e não exigir explicitamente o consentimento. Estes são os Estados Unidos, Arábia Saudita, Tailândia, Taiwan, Indonésia, Canadá e Índia.

Nos Estados Unidos, apenas alguns estados/cidades proibiram o FRT (incluindo Maine, Massachusetts e as cidades de Minneapolis e São Francisco), mas sem nenhuma decisão ou orientação federal sobre seu uso, isso deixa cada estado livre para governar o FRT, como desejar. No Canadá, atualmente é possível coletar e compartilhar imagens faciais para fins de identificação sem consentimento. A Lei de Privacidade também falha em incluir ou definir informações faciais e biométricas.

Alguns outros países se enquadram entre os dois extremos observados acima, com legislação/orientação geral de proteção de dados que podem ajudar a limitar o uso de FRT em um ambiente privado. Por exemplo, as leis e recomendações da UE podem entrar em vigor na Suíça, Alemanha, Polônia e Itália, garantindo que o consentimento informado e optado seja obtido. Mas, como a lei local falha em interpretar/aplicar essas ações, há uma falta de clareza nessas áreas.

Outros seis países exigem consentimento informado e optado, o que significa que um sinal exibindo o uso de FRT na porta da loja, por exemplo, pode ser suficiente. Este é o caso no México, Japão, Turquia, Coréia do Sul, Austrália e Reino Unido.

Na Austrália, por exemplo, uma cadeia de lojas de conveniência, 7-Eleven, lançou o reconhecimento facial em todas as 700 de suas lojas para confirmar as classificações em seu aplicativo. Uma placa que diz: “O site está sob constante vigilância por vídeo. Ao entrar na loja, você concorda com câmeras de reconhecimento facial capturando e armazenando sua imagem” foi considerado adequado o suficiente pela loja’S advogados. Mas, no Reino Unido, um uso aparentemente mais invasivo da tecnologia foi implementado no supermercado cooperativo. . O sistema, FaceWatch, digitaliza os compradores’ rostos contra um banco de dados de suspeitos de interesse. Se alguém é “reconhecido” Eles então são convidados a deixar a loja. A empresa disse que havia sinais claros para cumprir a legislação relevante.

Como as empresas obtêm o consentimento informado e optado?

Os exemplos acima são provavelmente vistos como a maneira mais fácil e clara de fazer com que as pessoas’s consentimento. Uma placa na entrada da porta alerta os visitantes da tecnologia em uso e, se eles entrarem no conhecimento de que o FRT está no lugar, eles estão dando seu consentimento.

No entanto, isso é informado, consentimento de opção (o visitante é’t explicitamente dando seu consentimento através de um documento assinado entregue a eles em um tablet antes de entrar na loja, por exemplo) e vem com um grande número de preocupações com a privacidade.

Primeiro, os sinais podem estar dentro da visão clara das pessoas que entram na loja, mas adicionam uma multidão, rua movimentada, pessoas correndo para fazer recados, e pode ser garantido que todo visitante viu ou parou para ler o sinal? Não.

Segundo, a tecnologia pode ser instalada nas entradas da loja. Então, se um cliente caminha até a loja, percebe o sinal, não’t consentimento e se afasta, sua imagem pode já ter sido capturada.

’. Se eles querem usar a loja, precisam consentir. Isso remove o “livremente” e “explicitamente” dado o elemento que algumas leis exigem quando se trata de consentimento.

As empresas complexas de processo precisariam passar para obter o consentimento, talvez seja o motivo pelo qual existem poucos exemplos em países com requisitos de consentimento informado e informado rigoroso. Ter que fazer com que todos os clientes assinassem um formulário de consentimento para entrar na loja seria demorado, caro e talvez desanimador. E essa’s antes que eles’Até abordou o que aconteceria se um visitante recusasse seu consentimento (como eles removeriam sua imagem das câmeras enquanto mantinha as imagens daqueles que’consentiu?).

Mas em países com leis mais relaxadas e onde o consentimento de opção é considerado adequado o suficiente, FRT em locais públicos e, especialmente, nos supermercados, parece estar crescendo a um ritmo alarmante.

Essencialmente, exigindo legalmente o consentimento informado e de opção, os países estão restringindo severamente o uso de FRT em ambientes privados enquanto reforçam bastante os cidadãos’ proteções de privacidade. E o fato de a China estar agora na vanguarda dessas proteções deve ser um sinal claro para todos os outros países que usam FRT que o sofrem’t tais medidas em vigor que eles precisam agir – rápido.

Metodologia

Usando os 25 principais países de acordo com o PIB, procuramos legislação e decisões relevantes em torno do uso da tecnologia de reconhecimento facial em ambientes privados. Essas leis/decisões podem ou não se aplicar a governos ou agências policiais e/ou regras separadas podem se aplicar a estes. Isso não foi abordado nesta pesquisa.

Além disso, muitos países têm estipulações em sua legislação que dão aos governos e agências policiais o direito de usar a FRT em casos de segurança pública e outras circunstâncias dessas. Nesses tipos de casos, as agências governamentais podem anular os requisitos de privacidade em empresas privadas se puderem provar que é do interesse da segurança pública. Novamente, isso está além do escopo de nossa pesquisa.

Para uma lista completa de fontes e legislação, visite aqui.

Pesquisador de dados: Rebecca Moody

O que há neste artigo?

• Como as empresas obtêm o consentimento informado e optado?
• Metodologia

China’A ascensão no cenário global nas áreas de inteligência artificial e reconhecimento facial tem sido amplamente observada na bolsa de estudos e mídia em língua ocidental. Grande parte da atenção se concentrou nas aplicações dessas tecnologias em sistemas de segurança do governo e.

por Tristan g. Brown, Alexander Statman e Celine Sui

Publicado em 10 de agosto de 2021

Último lançado

Mostrar detalhes

Debate público sobre tecnologias de reconhecimento facial na China

China’A ascensão no cenário global nas áreas de inteligência artificial (IA) e reconhecimento facial tem sido amplamente observado na bolsa de estudos e mídia em língua ocidental. Grande parte da atenção se concentrou nas aplicações dessas tecnologias nos sistemas de segurança do governo e em suas implicações geopolíticas. Aqui, procuramos explorar os usos privados e domésticos do reconhecimento facial. O que a dinâmica informa os debates populares sobre o uso e as aplicações dessas tecnologias na China e como elas se encaixam em uma imagem mais global? Apresentamos uma série de casos dos últimos três anos em que o software de reconhecimento facial atraiu a atenção da mídia em configurações legais, comerciais e educacionais. Reconhecendo que a China é muito grande e diversificada para que haja apenas uma dinâmica em jogo, propomos que, embora os debates sobre reconhecimento facial tenham se tornado mais comuns, ainda existe um apoio público de base ampla para usos que prometem maior segurança ou conveniência. .

. Marrom
Faculdade de História, Instituto de Tecnologia de Massachusetts

Alexander Statman
Faculdade de Direito, Universidade da Califórnia, Los Angeles

Celine Sui
Departamento de História da Ciência, Medicina e Tecnologia, Universidade Johns Hopkins

• Apresentando os alunos à diversidade de maneiras pelas quais o reconhecimento facial é debatido em contextos globais, principalmente em discussões sobre “benéfico” e “prejudicial” .
• ’é amplamente semelhante entre a China’s caso e os de outros países, bem como o que’é diferente.
• Incentivar os alunos a considerar a tensão entre ética e lei através do caso de tecnologia de reconhecimento facial.
• Fazer com que os alunos pensem nas circunstâncias em que os públicos notam e dubiam preocupações contra certas tecnologias, bem como os riscos e recompensas da participação em debates que os cercam.
• Permitir que os alunos examinem criticamente o papel que os governos poderiam desempenhar na formação das narrativas em torno das implicações éticas de implantar tecnologias emergentes por atores estaduais e privados.

Introdução

Em janeiro de 2021, os resultados de uma pesquisa sobre reconhecimento facial apareceram no site de notícias em língua chinesa Beijing News Think Tank. A pesquisa constatou que, dos 1.515 entrevistados anônimos a um questionário, mais de 87 % se opunham ao uso da tecnologia de reconhecimento facial para pagamentos em ambientes comerciais, como shoppings e ruas de varejo, citando como uma principal razão pela qual sua desconfiança nas empresas privadas que forneceu o reconhecimento de algoritmos faciais. Artigos em inglês que cobrem a pesquisa’S os resultados logo se seguiram, com um intitulado “O reconhecimento facial é usado na China para tudo, desde a coleta de lixo a dispensadores de rolos e seus cidadãos estão ficando cada vez mais alarmados, mostra a pesquisa.” 1 Uma pesquisa semelhante a partir de 2019, cobrindo 6.152 entrevistados, constatou que aproximadamente 80 % dos entrevistados estavam preocupados com a proteção de dados pessoais em relação ao reconhecimento facial. Os resultados desta pesquisa também foram relatados na mídia em inglês e com conclusões semelhantes (por exemplo: “Pesquisa da China mostra alta preocupação com o abuso de reconhecimento facial”). 2

Um leitor que segue a trilha da mídia em inglês pode razoavelmente assumir que os resultados dessas pesquisas em pequenos lotes eram indicativas de crescente preocupação na China sobre o “estado de vigilância.” Embora reconheça essa possibilidade, sugerimos uma leitura alternativa na qual a preocupação pública é direcionada principalmente a tipos específicos de usos privados, indicando que a autoridade final do Estado para usar a tecnologia de reconhecimento facial é amplamente aceita. Nosso objetivo é identificar casos de debate público sobre reconhecimento facial na China e oferecer algumas observações preliminares sobre os contextos em que ocorre e as maneiras pelas quais o Estado responde. Também procuramos colocar essas análises em um contexto global mais amplo para ajudar a iluminar o que é e o que não é específico para o caso chinês.

. Hoje eles estão tecidos em pagamentos digitais, salas de espera hospitalares, complexos habitacionais, sistemas de transporte e policiamento urbano. 3 As tecnologias de reconhecimento facial são amplamente apreciadas pelo público em geral quando são entendidas como fornecendo maior conveniência e segurança: por exemplo, pagamentos comerciais mais rápidos e sem dinheiro ou pular a fila de segurança em metrôs, bibliotecas, estações de trem, aeroportos e assim por diante. Por outro lado, é mais provável que ocorram desafios quando o reconhecimento facial é implantado por empresas com fins lucrativos de maneiras que são percebidas para interferir diretamente em indivíduos’ vidas diárias sem economizar tempo ou aumentar sua segurança. De fato, um comentarista chamou a coleção corporativa de dados biométricos na China a “grátis para todos.” 4 Uma ressalva importante vem do viés de fonte: debates que podem permanecer online podem se alinhar com o governo central’Os objetivos de S, é muito mais provável que capture desafios aos usos comerciais da tecnologia do que os do estado. .

Na China, como em outros países, diferentes padrões legais se aplicam ao uso público e privado do reconhecimento facial. Os órgãos de segurança do estado podem essencialmente coletar qualquer informação considerada necessária em locais públicos ou ao investigar um crime. Em comparação com os Estados Unidos, existe um sistema relativamente mais fraco de leis de privacidade que protegem os cidadãos da investigação policial e das leis de procedimentos criminais que regulam as ações da aplicação da lei. 5 A polícia tem o dever de manter as informações pessoais – incluindo informações biométricas – confidenciais, mas as restrições sobre como elas o coletam ou usam internamente são mínimas. Por esse motivo, a maioria dos debates públicos na China sobre o reconhecimento facial diz respeito ao seu uso por organizações privadas, incluindo empresas com fins lucrativos e complexos residenciais. Dito isto, o papel das organizações privadas se alinha ao estado de diferentes maneiras. Seu uso da tecnologia de reconhecimento facial tende a ser mais aceito quando contribui para duas prioridades estaduais amplamente aceitas como legítimas: maior segurança e conveniência geral.

Um tema central da mídia chinesa doméstica é a segurança pública no nível local. Com relatos frequentes sobre tiroteios em massa nos Estados Unidos, turbulência política em outros lugares e a disseminação global do Covid-19, não é raro encontrar a visão de que a China “é o país mais seguro do mundo.” 6 sem interrogar a precisão ou transparência do país’estatísticas oficiais do crime, é seguro dizer que esse foco em “segurança Pública” tornou -se uma parte especialmente importante da narrativa nacional sob a liderança de Xi Jinping. O lançamento generalizado da tecnologia de reconhecimento facial pelos órgãos de segurança pública no país foi de fato correlacionada com as diretrizes oficiais para melhorar a segurança pública.

O lançamento das tecnologias de reconhecimento facial também foi enquadrado e entendido como melhorar a conveniência do usuário, especialmente no caso de pagamentos sem dinheiro, que hoje são onipresentes na China. . Nos Estados Unidos, após os ataques de terrorismo em 11 de setembro, as medidas de segurança aumentadas geralmente resultaram em inconvenientes para os passageiros que viajam em aeroportos ou participando de grandes locais. Algo semelhante existe na China, onde os pontos de verificação de segurança são comuns em sistemas de metrô e sistemas de trem. Como a tecnologia de reconhecimento facial pode tornar as verificações de segurança mais rápidas e completas, esses usos do governo da tecnologia de reconhecimento facial são às vezes citados como crescente segurança e conveniência ao mesmo tempo – o que é um arco narrativo poderoso para promover o apoio à sua adoção.

O desenvolvimento e regulação do reconhecimento facial na China e além

O desenvolvimento da tecnologia de reconhecimento facial na China seguiu um caminho dos primeiros pioneiros, através de apoio estatal a novos avanços, para o lançamento nacional completo. Nas décadas de 1980 e 1990, muitos dos atuais líderes da indústria, como Tang Xiao’OU que recebeu seu doutorado do MIT em 1996, completou seus diplomas no exterior antes de retornar para estabelecer as bases para melhorias dos modelos existentes e avanços tecnológicos posteriores. 7 No início de 1989, o Ministério da Segurança Pública encomendou Su Guangda 苏光大, Professor de Engenharia Elétrica da Universidade de Tsinghua, para realizar um projeto de pesquisa chamado “Sistema de combinação de retratos de computador.” ’S O sistema de reconhecimento facial integrado foi testado nacionalmente em 2005, com o primeiro banco de dados facial contendo mais de dez milhões de faces concluídas pelos Jogos Olímpicos de Pequim de 2008. 8

. Em março daquele ano, o Facebook anunciou que seu algoritmo Deepface, que pela primeira vez integrou o aprendizado profundo com a verificação facial para identificar seres humanos em imagens digitais, atingiu uma taxa de precisão recorde de 97.35 % nos rostos rotulados na referência selvagem. 9 Nesse mesmo ano, Tang Xiao’Ou liderou uma equipe de pesquisa na Universidade Chinesa de Hong Kong para superar o Facebook’.52 %, marcando a primeira vez que a inteligência artificial (AI) superou o desempenho em nível humano. 10 Em outubro de 2014, Tang monetizou os algoritmos pela fundação da SenseTime, que se tornou o mundo’A empresa de inteligência artificial mais valiosa no final de 2010.

Os avanços tecnológicos dos meados de 2010 forneceram avenidas para o uso em massa de reconhecimento facial, incluindo novos mecanismos para vigilância do estado. Houve uma imagem complexa emergindo em todo o país, com grandes investimentos em capital privado em startups de IA, o desenvolvimento de infraestrutura técnica que suporta a coleta de dados em massa, o uso generalizado de reconhecimento facial nos setores público e comercial e, mais notoriamente. . Seu mandato viu a criação do que o estado se refere oficialmente como “” Na região, bem como a ampla implantação de tecnologias de reconhecimento facial para policiar a área. 12 Este uso geralmente é agrupado em relatórios do governo com discussões sobre segurança pública. Sua extensão total é desconhecida, tanto para o público quanto para os observadores acadêmicos.

Embora ainda não exista lei regulando especificamente o uso do reconhecimento facial na China, uma variedade de leis existentes, incluindo o Código Civil de 2020 e a lei de segurança cibernética de 2017, foram citados pelos tribunais chineses em decisões para regular a coleção particular e a distribuição de indivíduos’ . Também são importantes os padrões pessoais de segurança da informação, que são diretrizes não compulsórias emitidas para o benefício de atores estaduais e não estatais. .

Esta lei proposta teria duas consequências importantes. “segurança Pública” conforme definido pelo estado. Segundo, seria necessário que a sinalização seja instalada para deixar claro que essa coleção está ocorrendo e impedir a distribuição adicional das informações sem consentimento explícito. 14 Mas existem advertências importantes para cada disposição: os limites da segurança pública são amorfos, e o consentimento público para tais medidas não tem sido historicamente difícil de obter. Uma seção adicional ainda coloca algumas restrições aos órgãos estaduais, que “não pode exceder o escopo ou a extensão necessária para cumprir seus deveres e responsabilidades estatutários”’. 15 Em suma, a lei proposta facilitaria para o Estado reprimir os usos privados da tecnologia, enquanto se dirigia ao público’As preocupações sobre certos abusos de dados pessoais.

China’O uso do reconhecimento facial não é simplesmente uma história chinesa. As empresas americanas se envolveram em debates éticos sobre a China’S Uso do reconhecimento facial enquanto eles tentam navegar seus próprios usos, e os padrões legais em geral permanecem obscuros. Em 2019, quatro pesquisadores dos EUA escreveram ao editor Wiley para retirar um artigo científico que contém algoritmos que foram usados ​​para rastrear membros do grupo étnico Uyghur na China. . 18 casos como esses dominaram a cobertura da mídia ocidental da China’s lançamento de reconhecimento facial; Escusado será dizer que a cobertura na China tem sido diferente. Embora os relatórios ocidentais tenham questionado amplamente as empresas de tecnologia privada colaborando com o estado chinês para fins de vigilância, a discussão doméstica chinesa geralmente exigiu maior supervisão do estado sobre empresas privadas. Nosso objetivo não é interrogar qual ênfase é legal ou eticamente desejável, mas sim introduzir o público na diversidade de maneiras pelas quais essa tecnologia foi debatida em contextos globais.

Uma suposição comum a relatórios de mídia nos países ocidentais é que a China’s lançamento de reconhecimento facial é exclusivamente distópico. No entanto, os problemas legais e regulatórios que a China enfrenta, bem como as ambiguidades que os cercam, não são tão diferentes dos Estados Unidos ou da Europa. Nos Estados Unidos, por exemplo, alguns estados tornam ilegal para empresas privadas usarem uma pessoa’s dados biométricos faciais sem seu consentimento, enquanto outros não. A União Européia e o Espaço Econômico Europeu’S Regulamento Geral de Proteção de Dados (GDPR), em vigor desde maio de 2018, protege dados biométricos pessoais para cidadãos da UE, tanto na Europa quanto no exterior, e impedem que seus dados sejam transferidos para um país terceiro. Mas mesmo na Europa, permanece indeterminado se os regulamentos pertencentes a dados biométricos transferidos para a UE de cidadãos não europeus no exterior, como se aplica a “transitório” (não identificável pessoalmente) dados e como eles se estendem aos contextos de pesquisa acadêmica. 19

As principais diferenças entre os casos da China e dos EUA dizem respeito às suas respectivas estruturas constitucionais e, relacionadas, os termos do debate público. Nos Estados Unidos, a Declaração de Direitos Bakes Proteção Legal do indivíduo do Estado para a Constituição. O debate público geralmente reflete essa realidade, como visto das recentes controvérsias políticas sobre os passaportes de vacinas. Os debates nos Estados Unidos também abordaram a importante questão da raça, particularmente em relação à injustiça algorítmica nas tecnologias de reconhecimento facial. 20 Essa dimensão está geralmente ausente nas discussões domésticas na China, o uso da tecnologia em grupos minoritários, apesar de. Além disso, os tribunais dos EUA são, até certo ponto, independentes do sistema político, o que não é o caso na China. Os termos e ênfases do possível debate são diferentes, e alguns aspectos da China’A implantação de reconhecimento facial, particularmente no contexto da segurança pública, tem sido relativamente fora dos limites para a discussão pública. No entanto, a lei estadual e o sistema jurídico, como veremos abaixo, realmente importa na China, mesmo que esteja intrinsecamente entrelaçada com o Estado do Partido, e é imprudente assumir que a China representa um exemplo nacional que não pode oferecer lições e reflexões para os países ocidentais sobre o assunto de reconhecimento facial.

Nos últimos anos, houve vários incidentes importantes envolvendo reconhecimento facial na China que desencadeou uma discussão doméstica considerável. Nós perfilamos quatro desses casos. Cada um desses casos foi amplamente discutido na mídia estatal ou nas mídias sociais monitoradas pelo estado, que são os principais locais para os cidadãos chineses acessarem notícias e análises. Cada caso representa, portanto. Por esse motivo, deve -se assumir que eles não refletem toda a gama de opinião privada. No entanto, os quatro casos seguintes são de interesse porque mostram o amplo espectro social de questões relacionadas ao reconhecimento facial hoje na China: desde seus usos em negócios, educação e segurança até sua discussão em notícias tradicionais de transmissão, mídia social on -line e sistema jurídico. . .

Estudo de caso um: um parque de vida selvagem

’s Lei de Proteção ao Consumidor, coletando visitantes’ dados individuais através do reconhecimento facial. Nos últimos anos, o professor Guo usou impressões digitais para entrar no parque’’S Sistema de Reconhecimento Facial. Ou seja, a empresa mudou para um sistema de reconhecimento facial para gravar visitantes entrando no parque. Após a aceitação amplamente relatada de Guo’’. 21 Uma decisão adicional sobre Guo’’S dados de impressão digital, que haviam sido coletados anteriormente com seu consentimento determinado. 22

’ “.” 23 Esperava -se que o caso depende dos padrões de segurança da informação pessoal, que envolviam a questão de saber se o parque havia agido de acordo com os três princípios de “” . No entanto, em sua decisão final, o tribunal evitou amplamente essas questões mais amplas, centralizando -se em torno de obrigações contratuais e consentimento do usuário. ’S Mudança da identificação de impressões digitais para o reconhecimento facial – que Guo não aceitou – escrevia o contrato de serviço existente representado por seu cartão anual de associação ao parque. 24 As decisões não proibiram o parque de coletar dados faciais, embora o parque aparentemente tivesse se mudado para um sistema voluntário de opt-in, mesmo antes do caso ser ouvido pelo Tribunal Distrital do Tribunal Distrital. O tribunal também negou Guo’A alegação substantiva de que a coleta de informações faciais sem sua permissão constituía uma violação dos três princípios. Vale a pena enfatizar as implicações limitadas deste único caso, que não abordou as condições sob as quais a tecnologia de reconhecimento facial poderia ser implantado por empresas privadas. O que isso indicou é apenas que, em determinadas circunstâncias, as partes privadas devem obter consentimento antes de coletar dados de reconhecimento facial.

“” Na China, atraiu atenção significativa na internet chinesa. Essa atenção é significativa, pois podemos supor de seu restante on -line de que o Estado permitiu um grau de debate sobre o assunto, aumentando assim o público doméstico’’S Supervisão da proteção de dados e consentimento do usuário. Pesquisas acima mencionadas revelaram preocupações públicas específicas sobre a potencial falta de procedimentos contratuais adequados na coleta de dados faciais por empresas privadas. . ’A decisão entre os comentaristas cidadãos, como visto nos seguintes comentários no site de mídia social chinês, Weibo. (Veja a Figura 1.) Parece, portanto, que os cidadãos podem estar menos preocupados em estabelecer condições jurídicas gerais sob as quais as atividades de reconhecimento facial podem ocorrer do que em garantir que tenham alguma medida de dizer em relação à sua própria participação.

Estudo de caso dois: Monitorando os alunos

Em 2019, a China Pharmaceutical University, uma instituição pública de ensino superior localizada na província de Jiangsu, lançou um sistema de reconhecimento facial em algumas salas de aula para monitorar a participação nos alunos e o desempenho da sala de aula. Foi bastante extenso e poderoso, até capaz de detectar os alunos cochilando na aula. A reação local se seguiu, com os alunos da comunidade escolar e outros comentaristas on -line expressando ceticismo sobre a proposta. Apesar dessa reação, a universidade permaneceu firme. O porta -voz justificou seus planos com uma vaga referência à segurança pública, alegando que a universidade constituía um espaço público no qual a vigilância abrangente era justificada. 27 Nesse caso também, o estado’. . 28

A reação on -line contra a medida revelou que a oposição era particularmente forte para o uso do reconhecimento facial na sala de aula. Essas câmeras foram além de apenas identificar alunos. Eles foram pretendidos como uma ferramenta disciplinar para monitorar comportamentos dos alunos, como frequência de aula e emoções, como níveis de atenção. Alguns estudantes equiparam a presença de tecnologia de vigilância avançada nas salas de aula às prisões educacionais. Outros comentaristas questionaram a necessidade de monitorar estudantes universitários, que já haviam demonstrado autodisciplina durante seus anos de preparação para a China’s rigoroso exame de entrada da faculdade, o . Alguns criticaram a idéia de priorizar as tecnologias de vigilância sobre as atualizações da sala de aula. Nenhum, no entanto, expressou uma crítica ampla de tecnologias de reconhecimento facial em si.

De fato, a universidade já tinha um histórico de uso de software de reconhecimento facial, que não era apenas sem oposição, mas mesmo amplamente popular. A partir de 2019, os sistemas de reconhecimento facial foram instalados nas principais entradas, dormitórios e bibliotecas para acesso facilitado e segurança do campus. Essas medidas foram recebidas de maneira bastante. Os fluxos de tráfego de pedestres foram notavelmente melhorados. Os campi universitários em toda a China implementaram medidas semelhantes, sem problemas aparentes. A nova proposta na China Pharmaceutical University foi, no entanto, única em instalar câmeras em algumas salas de aula para uso no monitoramento do comportamento do aluno, e esse foi o problema específico que levou o aluno e a insatisfação on -line. 29 (veja a Figura 2.)

Universidade Farmacêutica da China’S Uso do reconhecimento facial tanto na sala de aula quanto fora, ele toca em vários temas -chave na vanguarda das discussões no país hoje. Ele revela uma aceitação geral e apoio a medidas que são entendidas para melhorar a segurança e facilitar a conveniência. Ao mesmo tempo, revela um grau de suspeita de usos que vão além dessas funções. O uso de câmeras nas salas de aula potencialmente introduziu o monitoramento dos alunos’ comportamentos individuais, tocando um nervo no corpo discente que continua a ser debatido online hoje. No entanto, os apoiadores também responderam, defendendo o uso do reconhecimento facial nas salas de aula como uma oportunidade de rastrear os alunos’ aprendizado. Discussão contínua dos limites adequados da tecnologia de reconhecimento facial continua, permitindo que diversas vozes expressem suas opiniões em um conjunto bastante apertado de parâmetros.

. Não há dúvida de que sua implantação na sala de aula pode ter o efeito de mudar o que os professores ensinam e os alunos estão dispostos a dizer. “direitos humanos,” implicando que os alunos’ Os direitos à privacidade estavam sendo violados pela implantação da tecnologia. O fato de o comentário não ter sido excluído pelos censores do estado sugere ainda uma disposição de aceitar algumas críticas particularmente duras dentro do contexto específico de um cenário educacional, onde o controle do estado já é firme e onde o investimento no status quo geralmente é alto.

Para que não dêmos a impressão de que a coleta de dados faciais dos alunos foi exclusiva da China, houve vários casos de colheita de big data nas universidades americanas também. Como na China, as universidades – com um grande número de estudantes que reaparecem repetidamente em fotos de câmera – são locais tentadores para extrair dados faciais e experimentar novas tecnologias. Em 2016, a Duke University lançou mais de dois milhões de vídeos de filmagens de estudantes que andam no campus da universidade. Cientistas da Universidade de Stanford e da Universidade de Washington se envolveram em atos de mineração de dados fora do campus e publicaram as informações sem consentimento explícito. Embora muitos desses dados tenham sido excluídos em 2019 após a atenção da mídia nacional, os trabalhos acadêmicos continuaram a citar dados obtidos nas coleções de imagens. 30 Uma questão real permanece no fato de que nem sempre é possível saber quando o reconhecimento facial está sendo usado, pois tomar amostras seletivas de dados das imagens de câmeras de segurança genérica também é tecnicamente viável. Em 2020, estudantes da Universidade de Miami acusaram a escola’a administração do uso do reconhecimento facial para identificar manifestantes em imagens padrão – um acusação de que o governo negou.

Também podemos ressaltar que existem diferenças entre os Estados Unidos e a China em termos de quem expressou insatisfação até agora. No caso da Universidade Farmacêutica da China, a preocupação veio de internautas on -line e de alguns dos próprios alunos. . Atualmente, a Universidade do Sul da Califórnia, uma instituição privada, é um dos únicos institutos de ensino superior no país que admitiu abertamente o uso institucional da tecnologia de reconhecimento facial em seus sistemas de segurança do campus. Após o lançamento em 2020, o sistema provocou alguma discussão acalorada no campus. . Mas se os alunos enfrentam usos aprimorados do reconhecimento facial em seus campi no futuro, pode haver mais pushback.

Estudo de caso Três: Segurança do Metro

Em 2019, o governo municipal de Pequim anunciou planos de lançar a tecnologia de reconhecimento facial em verificações de entrada de segurança nas estações de metrô em toda a cidade, como uma maneira de aumentar a conveniência do usuário, reduzindo as linhas em pontos de verificação de segurança. O novo protocolo usaria o reconhecimento facial para identificar passageiros conhecidos e dividi -los em grupos com base em sua classificação de crédito social, precisando de diferentes níveis de verificações de segurança. A proposta foi oposta publicamente por Lao Dongyan, Professor de Direito da Universidade de Tsinghua, que pediu uma estrutura legal mais formal para a implementação da tecnologia de reconhecimento facial e a coleta de dados pessoais do governo e das empresas privadas. Em um ensaio amplamente divulgado, o Lao enquadrou seu argumento nos seguintes termos:

O reconhecimento facial envolve a coleta de dados biológicos que são importantes para indivíduos, e organizações ou instituições relevantes devem provar a legalidade dessa prática antes da coleta.… Se a adoção arbitrária de padrões internos para dividir os passageiros em três, seis ou nove classes e aplicar diferentes medidas de verificação de segurança for implementada, temos motivos para suspeitar que tal medida viola os princípios da equidade na Constituição; também viola o direito fundamental à liberdade pessoal para os cidadãos. 33

人脸识别涉及对个人重要的生物学数据的收集，相关组织或机构在收集之前，必须证明这种做法的合法性……若是任意采取内部标准而将乘客分为三六九等，并据此采取不同的安检举措，我们有理由怀疑，这样的做法违反宪法上的平等原则，也涉嫌侵犯公民的人身自由不受侵犯的基本权利。

. . Aparentemente, o governo acredita que maior conveniência para os indivíduos será a melhor maneira de promover a medida. 34

’s “Sistema de crédito social” na imprensa ocidental. Não existe pontuação de crédito uniforme ou sistema de crédito integrado em todo o país. Em vez disso, existem uma variedade de métricas privadas baseadas em pontos e sistemas do governo local em todo o país. O governo’O objetivo é, eventualmente, vincular programas piloto privados bem -sucedidos em um sistema nacional que funcione idealmente como uma espécie de registro policial duplo e pontuação de crédito. 35 Conforme concebido no contexto específico do metrô de Pequim, os passageiros com registros limpos se aplicariam a um passe on -line e enviariam suas informações de reconhecimento facial. O plano simplesmente permitiria uma pista rápida nas linhas de segurança do metrô para pessoas que não têm histórico de trazer itens ilegais para os trens. Como a maioria dos pilotos se enquadra nessa categoria, qualquer “bom crédito social” O registro serviria essencialmente para manter seu detentor fora de uma lista negra de pilotos com um histórico de problemas, que podem ser puxados para o lado para verificações elevadas. O resultado é que, embora enquadrado como uma maneira de recompensar um bom crédito social, o sistema de reconhecimento facial realmente funcionaria mais para punir aqueles com mau crédito social.

Após seu ensaio sobre o sistema de metrô de Pequim, a professora Lao entrou nos holofotes públicos novamente um ano depois, quando circulava postagens do bate -papo em grupo de sua comunidade residencial, falando contra a empresa de gerenciamento de propriedades’S Decisão de lançar a tecnologia de reconhecimento facial no sistema de controle de acesso para entradas em edifícios residenciais. Em discussões com a comunidade local, o professor Lao invocou os padrões de segurança da informação pessoal. . Seu protesto com os gerentes de propriedade foi disseminado on -line através das mídias sociais e até divulgado em alguns meios de comunicação populares. .)

Laos’’A melhor instituição do ensino superior – a forneceu uma plataforma distinta para publicar e circular sua insatisfação com o reconhecimento facial. De todos os casos apresentados aqui, o professor Lao’S é, de certa forma, a mais incomum, já que ela atacou diretamente o uso do reconhecimento facial por um governo municipal. Entendemos a circunstância dela como única, pois ela é uma pessoa poderosa em uma instituição pública proeminente de ensino superior que emoldurou sua crítica a um sistema local como apoiando o estado, referindo -se à Constituição e à Lei Existente. Ao mesmo tempo, sua crítica no sistema de metrô não teve um impacto evidente em termos de política real. .

Embora a professora Lao tenha sido finalmente malsucedida em contestar o plano para o sistema de metrôs realizado pelo estado, ela conseguiu mudar sua comunidade residencial’s “privado” uso da tecnologia em uma escala muito menor. Para esse sucesso, um número modesto de usuários do Weibo comemorou seus esforços. 37 Mas devemos enfatizar que o uso de reconhecimento facial em complexos residenciais fechados é sem dúvida um dos usos comerciais mais difundidos e amplamente populares da tecnologia na China hoje. No final, a legitimidade dos usos públicos foi novamente afirmada, e os usos privados não foram proibidos-apenas restritos, a fim de exigir um grau de adesão e aceitação de indivíduos.

Estudo de caso quatro: uma exposição televisionada

O “315 festa noturna” . O “315” A tradição foi iniciada em 1991 para chamar a atenção para as práticas comerciais que prejudicam os consumidores’ interesses. Durante o evento de 2021, a edição líder foi a coleção não consensual de informações faciais das empresas em locais de varejo. Mais de vinte marcas nacionais e internacionais que operam na China, incluindo Kohler, Max Mara e uma concessionária de carros certificados pela BMW, foram encontrados para câmeras de reconhecimento facial instaladas clandestinamente e coletaram seus clientes’ dados em lojas de varejo em toda a China. Kohler, a American Plumbing Products Company, foi a primeira a ser nomeada e envergonhada durante a festa da noite. Os repórteres anônimos na China aprenderam com um de seus diretores de vendas que as câmeras de reconhecimento facial foram usadas para ajudar a empresa a rastrear o cliente individual’está visitando histórico em diferentes lojas de varejo. 38

A exposição de CCTV enfatizou as restrições estabelecidas nos padrões de segurança da informação pessoal não compulsória, categorizando dados faciais como “,” ’s consentimento com antecedência. 39 Como vimos anteriormente, muitas empresas comerciais na China atualmente empregam reconhecimento facial sem adquirir esse consentimento, violando as diretrizes. A festa noturna serviu como uma oportunidade para o governo registrar a insatisfação popular com a prática contínua, juntamente com o apoio à política contra ela. O regulamento específico citado havia sido atualizado em outubro de 2020, e o evento televisionado o divulgou como um proa para a provável adoção de leis de reconhecimento facial mais específicas e vinculativas em 2021. . (Veja a Figura 4.)

De todos os casos perfilados neste estudo, esse incidente em particular recebeu a maior atenção on -line, com 19.512 “” Para o melhor comentário do Weibo: “Este tipo de tecnologia – pode’?” Vale a pena considerar este comentário por um momento. “segurança” . “” é um evento televisionado patrocinado pelo Estado, e a envergonhação pública de empresas comerciais de alto nível atraiu um público grande e enérgico. . . Esse loop de feedback finalmente trabalha para apoiar a ação do estado, alinhando -a com a opinião popular contra maus atores particulares que não seguem procedimentos apropriados.

. 40 Muitas dessas empresas estão lutando ativamente a esses processos, e há poucas evidências de que o ônus financeiro desse litígio mudou significativamente seu comportamento, embora no futuro com regulamentação adicional. Pode ser que os motivos políticos galvanizassem os organizadores do “” . Isso não significa que as acusações contra essas empresas fossem falsas; com toda a probabilidade, eles eram precisos. Processar a IBM nos Estados Unidos e executar uma história de televisão na BMW na China pode de fato ter uma função semelhante, a saber, envergonhar empresas com o objetivo de desenhar um público mais amplo’.

Deve -se enfatizar que esses quatro casos não representam uma visão completa do público chinês’S VIEBRAS DE TECNOLOGIAS DE RECONHECIMENTO. . Os desafios metodológicos permanecem, devido especialmente às limitações no registro público. . 41 para ser claro, mesmo um post “apreciado” Quase quarenta mil vezes representa uma pequena queda no balde para um país de 1.4 bilhões de cidadãos. Além disso, a situação está mudando constantemente. .

Devemos enfatizar também que todos os quatro casos perfilados acima ocorreram em ambientes urbanos e mais de 80 % dos entrevistados para uma das pesquisas mencionadas acima eram graduados da faculdade. Mais pesquisas são necessárias em divisões de classe. Por exemplo, embora as tecnologias de reconhecimento facial tenham sido implantadas em fábricas chinesas para substituir os cartões de acesso e documentar o horário de trabalho, houve pouca discussão sobre como o lançamento das tecnologias de reconhecimento facial nas fábricas pode infringir os trabalhadores’ direitos. 42 Esses quatro estudos de caso devem ser entendidos como apenas uma janela incompleta para percepções, reações e debates do público sobre a tecnologia de reconhecimento facial no país hoje.

Tentativamente, sugerimos que o governo central possa estar monitorando a adoção da tecnologia de reconhecimento facial no setor comercial como uma maneira de avaliar o público’s Recepção dessas tecnologias por atacado. Mesmo que os limites do que exatamente constituam “público” O espaço é debatido e negociado caso a caso, há uma clara diferença regulatória no país entre os usos de segurança da tecnologia de reconhecimento facial pelo Estado-que não são amplamente debatidos em fóruns on-line-e usos comerciais por empresas como Alibaba ou complexos habitacionais, que são. . 43 Existem mais diferenças regulatórias entre grandes “privado” Empresas necessárias para forjar laços estreitos com o aparato estadual e as empresas privadas menores, como um parque de vida selvagem ou uma concessionária de carros, que operam localmente. E, nos espaços entre, o relacionamento entre algumas organizações, como uma empresa de gestão habitacional, e os ramos locais da autoridade estatal nem sempre são totalmente claros.

Sem interrogar a divisão real entre “privado e festa” Na China, simplesmente afirmamos que a percepção pública de uma diferença entre os dois é importante para entender a arena do jogo. Enquanto discussão sobre o estado’O uso do reconhecimento facial é geralmente limitado e aceita amplamente, há um debate ativo sobre o uso percebido do setor privado da tecnologia, e é nessa direção que o Estado tenta direcionar a preocupação e a energia do público. ’s O uso dos dados faciais pode não se traduzir em um departamento de polícia’s Uso de dados semelhantes. Através da ampla adoção de tecnologias de reconhecimento facial no setor comercial, o governo central provavelmente aprendeu muito sobre o que funciona e o que faz’t aos olhos do público. Pode ser que muitas pessoas que adotem a tecnologia de reconhecimento facial em alguns contextos preferem maior supervisão governamental sobre seus usos comerciais, principalmente quando ocorre sem indivíduos’ conhecimento ou consentimento. Parece também que quando os cidadãos recuam contra uma empresa comercial específica’S Uso do reconhecimento facial, a empresa geralmente é necessária para fornecer uma opção de opção ou -em um contrato de usuário. O Estado pode realmente estar se preparando para fazer tais acordos práticas padrão, uma posição promovida no “315 festa noturna” e sugerido pelas declarações no projeto de lei de proteção de informações pessoais de 2021. Quão prático ou significativo esses contratos de consentimento do usuário serão na prática é outra pergunta.

É impressionante notar – mesmo em nosso estreito subconjunto de casos – o papel da comunidade jurídica e, em particular, professores de direito, em expressar preocupações sobre as tecnologias de reconhecimento facial. Os professores Guo Bing e Lao Dongyan têm sido algumas das figuras mais proeminentes na manutenção de preocupações sobre a coleta, proteção e armazenamento de dados faciais na China nos últimos três anos. No entanto, suas preocupações foram direcionadas para aplicações muito específicas da tecnologia, em vez do uso geral da própria tecnologia. . Os acadêmicos legais da universidade naturalmente possuem mais conhecimento do país’S leis e sistema legal do que o cidadão médio e, portanto, são capazes de protestar contra certas implantações da tecnologia através da citação de leis relevantes, enquadrando -se do lado do estado e fornecendo -lhes um grau de cobertura política. Mas com o aumento da supervisão dos acadêmicos universitários durante o XI Jinping’S Scholars of Law pode ter que ter mais cuidado do que nunca para não ultrapassar os limites discursivos aceitáveis ​​para a parte.

De fato, o governo central sob xi’A direção s não evitou medidas que destacam o sistema jurídico e continuam uma longa tendência para a rotinização de procedimentos legais, e parece provável que a tecnologia de reconhecimento facial seja levado em consideração mais formalmente em consideração. 44 A lei mantém um alto nível de prestígio sociopolítico na China, e não é muito preciso dizer que a lei simplesmente existe como uma ferramenta de controle de cima para baixo-embora seja usado dessa maneira também. É notável que a maioria dos oponentes de aplicações específicas de tecnologias de reconhecimento facial mencionadas aqui invocou leis nacionais existentes ou padrões regulatórios para fazer seus pontos. Mas, dada a história de décadas de desenvolvimento de tecnologias de reconhecimento facial na China, a relativa falta de regulamentos firmes e claros que regem as aplicações privadas da tecnologia até 2020 é impressionante. Esta lacuna é provavelmente intencional. O reconhecimento facial representa uma paisagem que muda rapidamente – ambos tecnologicamente e no Tribunal de Opinião Pública – e o Estado está moldando novas leis à medida que aprende mais.

. Regulamentos legais abrangentes para a aquisição e uso de dados faciais continuam sendo um trabalho em andamento nessas regiões. A coleta não anunciada de dados faciais dos pesquisadores ocorreu na China e no Ocidente, e as empresas privadas foram nomeadas e envergonhadas por seus usos da tecnologia, violando a privacidade pessoal em todos os aspectos do quadro. O fato de que as leis propostas e promulgadas na China e em outros lugares agora estão buscando garantir que o consentimento seja obtido antes da mineração de dados faciais é indicação de que na China, Europa e Estados Unidos, a coleção sem consentimento provavelmente já está ocorrendo. Embora o escopo do debate possa diferir entre os países, os problemas regulatórios abrangentes que esses países estão enfrentando são semelhantes em parte porque todos estão respondendo à mesma situação em rápida evolução no terreno.

A invocação da lei pelo estado chinês e comentaristas populares é importante por outro motivo. Embora muitas vezes concebemos a lei como uma ferramenta para codificar as normas éticas existentes, a lei também pode ser empregada para encaixar questões éticas desconfortáveis ​​do escopo da discussão. Os casos bem -sucedidos apresentados contra a tecnologia de reconhecimento facial apresentados aqui geralmente não atraíram a moralidade ou a imoralidade da tecnologia, mas sim para reivindicações precisas enraizadas no estado chinês’os próprios códigos e regulamentos. Dito isto, entre o público em geral, alguns comentários on -line tocaram em dimensões éticas mais amplas, como os direitos humanos, e resta saber se o estado’s “estratégia” Ao permitir seletivamente um debate limitado, pode sair pela culatra ou acender uma demanda mais forte por liberdades civis ao longo do tempo. 45

Concluímos com duas dicas largas. Por um lado, não devemos ver o estado chinês’Os usos das tecnologias de reconhecimento facial na segurança pública e os usos privados dessas tecnologias no domínio comercial como em conflito ideológico ou mesmo contradição prática: ao permitir um debate limitado sobre os abusos privados, o estado chinês de fato solidifica sua própria posição como garantidora da lei, ao mesmo tempo em que reivindica a segurança e a conveniência do público. . Essa dinâmica coloca uma pergunta intrigante: como o estado assume controle mais explícito sobre as empresas privadas envolvidas na coleta e preservação de dados biométricos, onde as preocupações públicas serão direcionadas se e quando surgirem problemas futuros?

Questões de discussão

• Como os diferentes governos podem moldar o debate público sobre as implicações éticas das tecnologias emergentes? Que incentivos políticos estão em jogo na China e em outros lugares?
• Existem princípios éticos fundamentais no uso da tecnologia de reconhecimento facial que se mantém constante em diferentes tipos de regime?
• Quem deve ser os atores sociais e autoridades políticas para fazer a distinção entre usos benéficos e prejudiciais da tecnologia de reconhecimento facial?
• Se você projetar novas aplicações de tecnologias de reconhecimento facial, como você pode levar em consideração os regulamentos legais e as considerações éticas? Como você acha que essas considerações estão em tensão nos Estados Unidos e na China?
• Como as mídias sociais podem ser usadas na pesquisa sobre a recepção pública da tecnologia? O que o Twitter, Tiktok ou Postagens do Facebook nos diria sobre o público americano’As preocupações sobre a tecnologia? Como eles também podem nos desviar?
• Em qualquer circunstância, você poderia aceitar câmeras em uma sala de aula? ? Você poderia aceitar o reconhecimento facial em um campus universitário se fosse oferecido para aumentar sua segurança?
• Se você soubesse que o campus universitário empregava reconhecimento facial, isso influenciaria sua decisão de participar de um protesto no campus contra a administração da universidade?
• ? Você pode até responder a essa pergunta? Se você souber, você poderia pedir de volta? ?
• Que grupos de pessoas na sociedade americana estão na vanguarda de identificar riscos de tecnologia de reconhecimento facial? Eles estão empregados no governo? Eles trabalham para empresas de tecnologia? Eles escrevem para meios de comunicação? Antes de participar desta aula, você ouviu esses riscos?

Reconhecimentos

Este estudo de caso se originou por meio de um projeto de Oportunidades de Pesquisa de Graduação (UROP) do MIT 2020-2021 (UROP), examinando litígios na RPC através do banco de dados online, “Julgamentos da China online.” Gostaríamos de agradecer a David Kaiser, Emma Teng, David Goldston, David Clark, Yasheng Huang, Jeremy Daum, Nathan Hill, Zeyi Yang, Yuan Yang, Wenfei Zhou, Neal Xu, Henry Xu e Tianyu Fang por seu feedback generoso neste estudo de caso. Todos os erros são nossos.