Em um passado recente, o reconhecimento facial parecia futurístico, como víamos naquelas cenas de filmes com foco investigativo ou ficções científicas. No entanto, este recurso já é realidade em nossas vidas, especialmente por meio de aplicativos, que trazem consigo prejuízos, benefícios e uma coleção de polêmicas.

Tecnicamente, vale explicar como esses aplicativos funcionam. O êxito do realismo das imagens está no uso de Redes Neurais Artificiais, formados por algoritmos de aprendizado profundo capaz de captar uma imagem de entrada e atribuir importâncias como pesos e vieses a diversos conceitos e objetos da imagem e conseguir diferenciar umas das outras. No caso específico do FaceApp – um dos apps mais populares da atualidade -, são utilizadas Redes Neurais Convolucionais, com algoritmos que podem, por exemplo, classificar e reconhecer objetos em imagens, incluindo as rugas que dão ao rosto humano um aspecto mais envelhecido.

Parece divertido. Mas o aplicativo russo, que acumula mais de 100 milhões de instalações no Google Play Store, foi alvo de inúmeras discussões sobre privacidade e ciberespionagem, chegando a ser investigado pelo FBI, em razão da fraca política de privacidade, com diversas brechas em relação à proteção dos dados do usuário.23

Neste sentido, duas polêmicas sempre voltam à tona. A primeira, relacionada à segurança, é quando o usuário concorda com as diretrizes ao instalar o aplicativo, autorizando que o FaceApp e empresas parceiras coletem dados como o histórico de navegação na internet, entre outros. A outra, também grave, envolve a inteligência artificial do app, que foi acusada de racismo por embranquecer pessoas negras a partir de um filtro que “embeleza” os rostos, com a proposta de tornar o usuário “mais sexy”. Este caso ganhou repercussão tão grande, que a desenvolvedora do app se desculpou publicamente.

Além do FaceApp, outros apps utilizam a inteligência artificial por meio do reconhecimento facial para coletar dados dos usuários sem especificar de que maneira eles serão usados. Entretanto, da mesma forma que existem os problemas, algumas vantagens trazidas por este recurso também foram observadas.

No ano retrasado (2018), uma plataforma reconhecimento facial desenvolvida pela Microsoft ajudou a polícia de Nova Dehli, na índia, a localizar e resgatar 3 mil crianças desaparecidas em apenas quatro dias – ainda na fase piloto. O registro fotográfico das crianças estava desatualizado, porque as fotos que os pais tinham eram de quando a criança ainda não havia sumido. Na ocasião, a tecnologia foi fundamental para encontrá-las, pois o software criado conseguiu comparar dezenas de imagens dos menores procurados no país.

Políticas antidemocráticas e regulação

Antes dos protestos pela morte de George Floyd, gigantes da tecnologia como Microsoft, IBM e Amazon pretendiam investir no mercado a partir do uso da Inteligência Artificial para reconhecimento facial, mas após a repercussão do caso optaram por recuar para aguardar regulação.

Este recuo aconteceu, principalmente, pelo fato de que a tecnologia tem sido utilizada por governos autoritários para perseguir e promover políticas antidemocráticas ao redor do mundo, por meio do reconhecimento facial. Nas manifestações relacionadas à morte de Floyd, percebeu-se que policiais usavam o recurso para procurar pessoas que tivessem qualquer pendência judicial antiga para vinculá-las a perfis de mídias sociais e prendê-las. Depois de constatados alguns casos, a Microsoft, por exemplo, afirmou que não pretende comercializar a tecnologia para agências de segurança e se comprometeu a não reverter a decisão por pelo menos um ano, até que uma legislação federal específica seja criada.

No Brasil, os recursos de reconhecimento facial estão associados à Lei Geral de Proteção de Dados (LGPD), segundo a lei federal nº 13.709/2018, uma vez que a foto das pessoas entra como um dado pessoal. Um dos primeiros artigos da legislação cobre a questão de autorização do dado para um determinado processamento, sendo que, se o usuário não estiver de acordo com o uso das informações para este propósito, ele pode solicitar isso ao controlador.

Qualquer empresa que queira utilizar as fotos que estiverem na plataforma é obrigada a informar ao usuário, claramente, quais são os propósitos do processamento, sendo necessária a autorização formal da pessoa para isso. Neste contexto, é válido refletir até que ponto vale o uso de aplicativos – principalmente em redes sociais -, já que algumas podem trazer riscos à privacidade dos dados e estarem associadas a questões de controle governamental.