Vivemos em um período de transformações, onde tecnologias como a Ciência de Dados e a Inteligência Artificial têm entrado em uma crescente constante de desenvolvimento e presença no dia a dia da população. Com sua popularização, muitas dúvidas se estabelecem sobre os limites e perigos da tecnologia. No entanto, essas questões não são intrínsecas a IA e Data Science, especificamente, já que grandes inovações sempre trazem consigo grandes debates. É fundamental, porém, que qualquer um que esteja lidando com inovações reconheça a influência dessas tecnologias e a importância do respeito individual e coletivo como forma de evitar vieses discriminatórios. Para isso, é necessária a prática de atitudes para além da implementação de regulamentos, como também o seguimento de diretrizes que preservem a ética.
Esse protagonismo de tecnologias avançadas na rotina da sociedade cria um certo número de desafios de fundamentos éticos que exigem serem lidados de forma proativa. São eles:
- Segurança de dados
Dados são a verdadeira mina de ouro dos tempos atuais, servindo como matéria-prima para todas as novas tecnologias atuarem com automação e personalização, de forma até superior à inteligência humana. No entanto, a constante manipulação de informações privadas exige um certo nível de segurança a ser aplicado. Por essa razão, foi posta em vigor, em 2020, a Lei Geral de Proteção de Dados, a qual estabelece regras claras sobre a coleta, armazenamento, processamento e compartilhamento de informações pessoais por organizações públicas e privadas.
Fica à cargo das empresas e organizações, portanto, o compliance, ou seja, a responsabilidade em se adequar às exigências da LGPD, implementando medidas de segurança adequadas, elaborando políticas de privacidade e proteção de dados, como anonimizar informações ao usar. Além disso, é crucial garantir o cumprimento das disposições legais sob pena de sanções e multas em caso de descumprimento.
- Viés algorítmico
Cortes de imagens privilegiando pessoas brancas, estereotipação de gêneros em geração de fotos, preconceitos em automação de processos seletivos… São recorrentes os exemplos de reprodução discriminatória de algoritmos, relatados com maior frequência, agora que a tecnologia se popularizou. Isso acontece devido ao viés algorítmico, um dos principais problemas da Inteligência Artificial e do Machine Learning, atualmente.
Antes de operar, todo algoritmo é treinado por seres humanos, profissionais de Ciência de Dados, que o alimenta com seus próprios vieses discriminatórios ou dados históricos carregados de desigualdades sistêmicas repercutidas na época. A partir dessas informações, o algoritmo gera conteúdos e toma decisões de forma autônoma e reproduzindo tais vieses. Por esse motivo, profissionais, hoje, se deparam com dilemas éticos que os forçam a identificar e mitigar esses vieses de forma a promover a equidade.
- Manipulação de informações
Para além da automação de processos e personalização de experiências, algoritmos também podem ser usados como ferramentas para aqueles que agem com má-fé, buscando influenciar outros por meio da repercussão de fake news. A manipulação de opiniões é um uso malicioso de algoritmos que tem se tornado comum mediante a criação de deep fakes, alterações de imagem e de voz, que podem fazer parecer com que pessoas tenham agido ou falado de certa forma. Além disso, a função algorítmica em plataformas de mídias sociais é responsável pela criação de bolhas de informação, a qual é capaz de barrar conteúdos externos e reforçar crenças preexistentes, também conhecidas como “câmaras de eco”.
- Transparência e responsabilidades
Um aspecto muito desconsiderado na Ciência de Dados é a transparência no processo de coleta, processamento e análise de dados. É necessária uma atribuição de responsabilidades explícita sobre como a IA toma suas decisões (desenvolvedores, fabricantes ou a própria IA?), para que fique claro para o usuário uma identificação de vieses parciais. Além disso, chatbots e ferramentas de Inteligência Artificial que lidam com consumidor devem sempre deixar evidente que o cliente está interagindo com uma máquina, pois essas são desprovidas de ética, um conceito humano, a não ser que sejam treinadas com fundamentos éticos.
Mas como implementar diretrizes éticas na Ciência de Dados?
Aqui vão algumas dicas:
- Incorporação da Ética desde o início
É crucial considerar as questões éticas desde as fases iniciais do desenvolvimento de sistemas de IA e Ciência de Dados. Isso inclui: a promoção de uma cultura organizacional que valorize a ética; a definição de fundamentos éticos dentre os profissionais; e a integração de considerações éticas em todas as etapas do processo, desde a coleta de dados até a implementação e manutenção dos sistemas.
- Inteligência humana em colaboração com a Inteligência Artificial
A Inteligência Artificial não foi criada com o propósito de agir como concorrente ou até de ultrapassar a inteligência humana, pelo contrário, sua idealização foi pensada em atuar como uma ferramenta de suporte ao trabalho humano, desenvolvida como uma forma de soma à inteligência humana.
- Privacidade e Segurança dos Dados
A privacidade e a segurança dos dados devem ser protegidas em todas as fases do processo de desenvolvimento e uso de sistemas de IA e Data Science. As formas de se garantir essa segurança são por meio de: coleta e armazenamento ético de dados, partindo sempre do pedido de consentimento; o uso responsável de técnicas de anonimização e criptografia; o compliance junto à Lei Geral de Proteção de Dados e a implementação de medidas de segurança robustas para proteger os dados contra acesso não autorizado e uso indevido.
- Transparência e Responsabilidade
Os desenvolvedores de sistemas de IA e Ciência de Dados devem ser transparentes sobre como os sistemas são projetados, implementados e utilizados. Assim, é necessária a divulgação de informações sobre os dados utilizados, os algoritmos empregados e as decisões tomadas pelos sistemas. Além disso, é importante atribuir responsabilidades claras aos envolvidos no desenvolvimento e uso dessas tecnologias.
- Equidade e Justiça
Um importante aspecto no desenvolvimento de sistemas de IA e Ciência de Dados é projetá-los para promover a equidade e a justiça, evitando viés parcial e discriminação. Isso requer a consideração cuidadosa das consequências sociais e éticas das decisões tomadas ao se lidar com dados e treinar algoritmos. Uma boa abordagem à problemática é trabalhar com especialistas em ética, direitos civis, diversidade e inclusão, juntamente aos cientistas de dados e engenheiros de software. Assim, é possível elaborar táticas para a alimentação de algoritmos com dados diversos e que promovam oportunidades, de forma que essas informações sejam sempre revisitadas conforme novos estudos sociais surgem e evoluem.
- Políticas e Regulamentações
Governos e autoridades reguladoras podem representar um papel importante na questão ao determinar políticas e regulamentações que orientem o desenvolvimento e uso ético de sistemas de IA e Ciência de Dados. Essas regulamentações podem incluir: a implementação de diretrizes éticas, a criação de normas de adequação e a realização de auditorias.
- Avaliações e ajustes constantes
Com a rápida frequência em que tecnologias se transformam e evoluem, um imperativo a se praticar no meio da Ciência de Dados é a realização de avaliações periódicas sobre as diretrizes implementadas. As decisões tomadas anteriormente ainda se aplicam? As respostas da IA continuam de acordo com as normas legais e éticas da sociedade? Se a resposta for não, é essencial que sejam feitos ajustes e adequações necessárias.
A implementação de fundamentos éticos em tecnologias como a Inteligência Artificial e Ciência de Dados é crucial para garantir que essas ferramentas sejam desenvolvidas e utilizadas de maneira responsável e benéfica para a sociedade. O foco redobrado não chega a ser um empecilho, no entanto, quando se pensa nos benefícios para a organização: aumento na credibilidade e reputação com clientes; cumprimento com a responsabilidade social; longevidade profissional e contribuição para uma cultura organizacional respeitosa e inovadora.