Mundo dos dados segue para a equidade ou para discriminação?

O mundo atual é baseado na economia de dados. Empresas, governos e indivíduos coletam e usam dados para tomar decisões, fornecer serviços e criar novos produtos o tempo todo e de formas diferentes.

Agora, com o avanço da tecnologia, os sistemas passaram a utilizar a Inteligência Artificial (IA) e, na grande maioria das vezes, esses sistemas de IA são interligados com dados. Isso significa que a IA está sendo usada para tratar uma quantidade crescente de dados, o que pode trazer benefícios significativos para a sociedade.

Como exemplo, a IA pode melhorar o diagnóstico médico, personalizar o aprendizado e tornar a segurança pública mais eficaz. Isto é, todas as áreas de atuações estão sendo impactadas positivamente com a tecnologia.

Mas também há riscos…

No entanto, a IA também pode perpetuar preconceitos quanto ao seu uso. Isso ocorre porque a IA é treinada com base de dados que são coletados e processados por seres humanos e, consequentemente, os seres humanos são dotados de sentimentos e possíveis preconceitos.

Um acontecimento real disso aconteceu com o  sistema de reconhecimento facial integrado com IA utilizado pela Polícia Militar do Rio de Janeiro (PM-RJ). Se utilizou o sistema para localizar pessoas com mandados de prisões expedidos. Porém, o sistema reconheceu erroneamente uma mulher negra, confundida com uma criminosa, consequentemente detida injustamente por duas vezes.

Esse caso é apenas um exemplo de como a IA pode ser usada para discriminar pessoas com base em sua raça, gênero ou origem étnica ou então deflagrar que o sistema não é 100% seguro, pois existem margens de erro.

Contudo, por mais que existam esses gaps, acredito que a IA pode ser um caminho para encontrarmos a equidade e a igualdade de direitos. Isso ocorre porque a IA não possui sentimentos e preconceitos, como os seres humanos.

Entendo que o Brasil precisa começar a corrida a favor da inovação para que possamos aproveitar o que a tecnologia traz de pontos positivos a todos nós, visto que um grande problema que pode dificultar o uso da IA para promover a equidade e a igualdade de direitos no Brasil é a falta de interoperabilidade entre os sistemas de dados.

Compartilhamentos de dados, ou não

Isso significa que os dados coletados por diferentes órgãos e entidades não são compartilhados entre si. Isso pode dificultar a identificação de padrões e tendências, que se podem utilizar para combater a discriminação.

Por exemplo, um sistema de saúde pode coletar dados sobre o histórico médico de um paciente. Pode se usar estes dados para identificar fatores de risco para doenças que podem afetar pessoas de determinadas raças ou origens étnicas.

No entanto, sem o compartilhamento de dados com outros sistemas, como o de assistência social, pode ser difícil identificar pessoas que precisam de apoio para reduzir esses riscos.

Nota-se que no Brasil os órgãos públicos são extremamente despreparados frente à proteção e a privacidade de dados, tanto assim é que alguns órgãos já causaram grandes vazamentos de dados.

Para que a IA possa ser usada de forma eficaz para promover a equidade e a igualdade de direitos no Brasil é necessário que os sistemas de dados sejam interoperáveis. Isso permitiria que o compartilhamento de dados entre diferentes órgãos e entidades. Portanto, facilitando a identificação de padrões e tendências usados para combater a discriminação. Dessa forma, a IA funcionaria como é sua essência: sem sentimentos e preconceitos.

Sobre a autora do artigo

Martina Hanna do Nascimento El Atra é Advogada Especialista em Direito Digital pela Fundação Getúlio Vargas – FGV. É Coordenadora do Departamento de Direito Digital e Privacidade e Proteção de Dados da MABE Advogados Associados. Atua com Direito Digital, Privacidade e Proteção de Dados, Direito Empresarial e Contratual.

Aliás, conheça nossos canais (Whatsapp, Telegram, Facebook): jornalgrandeabc.com/redes-sociais

Gostou de “Mundo dos dados segue para a equidade ou para discriminação?”? Compartilhe!