Amazon protagoniza debate sobre segurança pública

0

Em meio a tanta discussão sobre a violência nos Estados Unidos, uma nova linha de questionamentos surgiu, desta vez envolvendo a tecnologia aliada à segurança civil. Esta semana, um dos grandes nomes do mercado digital sofreu diversas reclamações vindas de organizações dos direitos humanos após a divulgação de e-mails que comprovam seu envolvimento com a polícia americana.

A Amazon, fundada em 1944 por Jeffrey Bezos, é um dos gigantes na indústria de compra e venda online. O site possui uma média mensal de 65 milhões de visitas e se destaca mundialmente como uma opção confiável para realizar as transações. Além disso passou a agir em outras áreas criando um sistema de streaming de músicas próprio, gerenciador de fotos e até armazenamento de dados na nuvem.

Com isso, anunciaram em 2017, o surgimento do Amazon Rekognition, um serviço capaz de reconhecer faces em grupos e multidões para análises de fotos e vídeos. É utilizado por diversos sites, como a rede social Pinterest e o VibMob, para identificar conteúdos de imagens e inibir conteúdos sensíveis ou ilegais para preservar o público.

Porém de acordo com e-mails revelados pela União das Liberdades Civis Norte-Americana a empresa está trabalhando junto da polícia dos estados americanos do Oregon e Flórida. A parceria tem por fim utilizar o sistema do Rekognition aliado a um arquivo com mais de 300 mil fotos de criminosos para rastrear essas pessoas.

Amazon
Amazon / imagem: Internet

O plano seria colocar o programa para funcionar em tempo real nas câmeras de cada policial das cidades, identificando os indivíduos conforme forem vistos nas multidões ou manter a segurança de figuras importantes. Algo similar já foi utilizado na China para prender três procurados que foram vistos pelas câmeras em um show popular.

Mas a União das Liberdades Civis Norte-Americana junto a 33 outros grupos repreenderam a Amazon por fornecer esse serviço alegando ser uma arma poderosa demais para ser utilizada de forma tão desregrada. “Com o Rekognition, um governo pode agora construir um sistema autônomo de identificação e rastreamento de todos.” A entidade alerta. “Parece um manual de usuário para perseguição em governos autoritários”.

Além disso, a União aponta para a possibilidade de a tecnologia ser utilizada contra os próprios civis, em especial minorias, lembrando do caso onde o Google se desculpou publicamente após seu sistema de fotos ter tabelado um casal de negros como “gorilas”. Além das falhas do próprio sistema, pessoas com más intenções poderiam analisar a rotina de qualquer um, seja por atividade criminosa ou não.

Em resposta a represália, o site de compras alegou que “Nossa qualidade de vida seria muito pior hoje em dia se banirmos a tecnologia por medo de que alguém possa abusar disso. Imagine um cliente ser impedido de comprar um computador por ser possível utilizá-lo para fins ilegais.”

O caso lembra o do início de Março onde vários funcionários do Google se demitiram após um suspeito acordo entre a empresa e o Pentágono, sede do Departamento de Defesa dos Estados Unidos, onde a empresa forneceria tecnologia de inteligência artificial para os militares americanos.

Apelidado de “Projeto Maven”, supostamente se tratam de drones capazes de encontrar pessoas através de gravações em vídeo. Temendo a utilização do serviço para rastrear e matar pessoas alguns funcionários pediram demissão como forma de protesto.

Em ambas as situações os laços entre as grandes empresas de tecnologia e o governo são meramente comerciais, o que pode representar um grande problema pela falta de cuidado no momento de definir exatamente a utilização dos serviços. Nada impede que estas ferramentas sejam utilizadas contra os civis e esta é exatamente a queixa da União das Liberdades Civis Norte-Americana.

Enquanto isso companhias como a Microsoft, por exemplo, disseram ao site de notícias Wired que já negaram acordos em que construíram sistemas inteligência artificial personalizados graças a deliberação de seus comitês internos de ética. A forma como esse tipo de transação é feita varia muito de empresa para empresa.

Ainda não sabemos se a Amazon cederá à pressão das entidades de defesa dos direitos civis, mas o debate entre os limites desses acordos se torna cada vez mais importante. O que se pode afirmar com certeza é que o estreitamento das alianças entre esses grandes nomes da tecnologia e autoridades governamentais tem incomodado, e muito, as pessoas de dentro e de fora das corporações.

Deixe uma resposta