Nos últimos anos, temos visto um avanço significativo na tecnologia e na inteligência artificial. Algoritmos estão sendo cada vez mais utilizados em diversas áreas, desde a medicina até o mercado financeiro. No entanto, apesar de todos os benefícios que essa tecnologia pode trazer, também temos visto o lado negativo de sua utilização. Os algoritmos têm sido usados como campo de testes na humanidade, e os resultados têm sido os piores possíveis.
Em 2025, a palavra do ano foi “desigualdade”. Isso não é surpreendente, considerando que os algoritmos têm contribuído para a ampliação das desigualdades sociais. Eles são programados com base em dados históricos, que muitas vezes refletem os preconceitos e desigualdades já existentes em nossa sociedade. Isso significa que os algoritmos podem perpetuar essas desigualdades, em vez de ajudar a combatê-las.
Um exemplo disso é o uso de algoritmos em processos seletivos de emprego. Eles são programados para selecionar os candidatos com base em determinados critérios, como formação acadêmica e experiência profissional. No entanto, esses critérios podem ser influenciados por preconceitos inconscientes, como gênero, raça e classe social. Isso significa que os algoritmos podem acabar excluindo candidatos qualificados, simplesmente por não se encaixarem em determinados padrões.
Outro exemplo é o uso de algoritmos em sistemas de crédito. Eles são usados para determinar a elegibilidade de uma pessoa para obter um empréstimo ou financiamento. No entanto, esses algoritmos podem ser influenciados por fatores como a localização do indivíduo e seu histórico de crédito. Isso pode acabar excluindo pessoas que vivem em áreas menos privilegiadas ou que não têm um histórico de crédito, perpetuando assim as desigualdades econômicas.
Além disso, os algoritmos também têm sido usados para tomar decisões em áreas como justiça criminal e saúde. No entanto, eles podem ser tendenciosos e perpetuar estereótipos, levando a decisões injustas e prejudiciais. Por exemplo, um algoritmo usado para determinar a sentença de um réu pode ser influenciado por fatores como a raça e o histórico criminal, em vez de se basear apenas nos fatos do caso.
É importante ressaltar que os algoritmos não são seres autônomos, eles são criados e programados por seres humanos. Portanto, a responsabilidade pela utilização ética e justa dessas tecnologias é nossa. Precisamos garantir que os algoritmos sejam programados de forma imparcial e que sejam constantemente revisados e atualizados para evitar qualquer tipo de discriminação.
Felizmente, já existem iniciativas e organizações trabalhando para garantir a ética na utilização de algoritmos. Por exemplo, o Instituto de Inteligência Artificial da Universidade de Oxford criou um código de ética para orientar a criação e utilização de algoritmos. Além disso, empresas como o Google e o Facebook estão investindo em pesquisas para desenvolver algoritmos mais justos e transparentes.
Também é importante que a sociedade esteja ciente dos impactos dos algoritmos e exija transparência das empresas e governos que os utilizam. Devemos questionar como essas tecnologias estão sendo usadas e exigir que os algoritmos sejam auditados regularmente para garantir que não estejam perpetuando desigualdades.
Em vez de usar a humanidade como campo de testes para os algoritmos, devemos usá-los para melhorar a vida das pessoas e promover a igualdade. Os algoritmos podem ser uma ferramenta poder
