Ética na Inteligência Artificial para Profissionais da Informação
Durante os próximos anos, é bem provável que as áreas de Inteligência Artificial e Biblioteconomia/Ciência da Informação se aproximem cada vez mais.
Há muita informação para se estudar, compreender e atuar, mas para lidar com essas questões de maneira eficaz, os profissionais da informação precisam entender mais de ética na IA.
Por este motivo, no texto de hoje, trago um breve resumo desta revisão de literatura:
No qual contextualiza o tema e ainda apresenta alguns cenários específicos para profissionais da informação.
Bora lá?!
Sumário
Ética na Inteligência Artificial
Ética na Inteligência Artificial para a Biblioteconomia/Ciência da Informação
Ética na Inteligência Artificial
A área da Inteligência Artificial é bem ampla, complexa e pode ser aplicada em diversos cenários, o que leva a surgir diversas questões éticas relacionadas.
“Não se trata apenas do que a tecnologia pode fazer, devemos considerar as estruturas de poder dentro das quais ela está sendo criada e suas implicações humanas, sociais e ambientais.”
Para o desenvolvimento desta tecnologia é necessário dados e entender a origem de como esses dados vieram é um primeiro ponto citado. Questões de privacidade, consentimento e transparência são fundamentais para o debate.
O segundo ponto é o velho: “as máquinas tomarão meu lugar”. A relação com o trabalho, sem dúvidas, será impactada, seja para substituir, aumentar, diminuir, dominar…
Nem eu e nem o artigo acreditamos que máquinas substituirão os seres humanos integralmente, pelo menos não por agora.
Entretanto, precisamos ter consciência de como esse impacto se dará, principalmente para grupos minorizados.
“Além disso, para que mudanças mais positivas possam acontecer por meio das tecnologias, deve haver uma compreensão de como a injustiça, como a desigualdade, ocorre e é sustentada.”
Entender que quando falamos de IA, comercialmente, estamos falando de um emaranhado de aplicações industriais ligadas ao poder de grandes conglomerados como Google e Amazon é o terceiro ponto.
O quarto ponto é que a IA consome muita energia.
Claro, estamos falando aqui em grandes escalas.
Mas confesso que isso ainda é um tema que não está tão claro para mim.
Fica a dica da referência citada:
Black boxes, not green: Mythologizing artificial intelligence and omitting the environment
“Dizem-nos repetidamente que a IA nos ajudará a resolver alguns dos maiores desafios do mundo, desde o tratamento de doenças crônicas e a redução das taxas de mortalidade em acidentes de trânsito até o combate às mudanças climáticas e a antecipação de ameaças à segurança cibernética.”
No entanto, o artigo afirma que o discurso público sobre IA sistematicamente evita considerar os custos ambientais da IA.
Ao mesmo tempo que podemos desenvolver sistemas de aprendizagem de máquina para salvar vidas, diminuir o consumo de energia (através de aplicações inteligentes), aumentar o acesso à informação e ao conhecimento, também podemos estar infringindo algumas barreiras éticas que poderão se tornarem bem problemáticas a médio longo prazo.
Mas discutir sobre ética e IA é algo que já fazemos há algum tempo.
O próprio autor cita em torno de 84 códigos de ética publicados por governos internacionais, nacionais e empresas.
Dentre estes, ele sintetiza em 3 tópicos principais:
- Viés: Uma IA pode sim ser enviesada, devido aos dados no qual ela foi treinada serem tendenciosos. Se houve desigualdade antes ou mesmo há uma inexistência de dados, ela continuará reproduzindo desigualdades e inexistências.
- Transparência, explicabilidade e responsabilidade: Entender como uma IA chegou em um resultado é um ponto importante, principalmente para devolver à comunidade, do contexto onde ela está inserida, seus resultados positivos e também negativos (quando se ocorrer algum erro com sua estimativa).
- Privacidade: Com o aumento da relevância dos dados na tomada de decisões, a segurança dos sistemas torna-se crucial, já que o risco de comprometimento desses dados também aumenta. Mesmo dados anonimizados podem revelar informações pessoais quando agregados de diferentes fontes. Isso pode permitir que identidades sejam inferidas e causarem grandes vazamentos de informações.
“Para que nossos cenários se envolvam com essas questões, deve haver estímulos para refletir sobre como a justiça social é impactada pela IA, informada por uma compreensão sociológica das estruturas que mantêm as desigualdades. É essencial que as aplicações de IA se encaixem na cultura da organização e resolvam os problemas de maneira apropriada, guiados por uma análise do problema, não por uma suposição de que a tecnologia é sempre a solução certa.”
Ética na Inteligência Artificial para a Biblioteconomia/Ciência da Informação
Os aspectos éticos na IA para profissionais da informação, pouco se diferem de todo o contexto já apresentado. Entretanto, há a especificidade de se entender como ela será aplicada em serviços de informação.
“Os profissionais da informação precisam lidar com essas questões éticas de maneira eficaz, porque provavelmente usarão a IA na prestação de serviços, além de contribuir para o processo de adoção da IA mais amplamente em suas organizações.”
Mas além dos serviços de informação o autor também destaca outras 3 possíveis interações, por pessoas bibliotecárias:
- Uso direto de ferramentas de IA, como tradutores e criadores de resumos.
- Uso em tomada de decisões para medir, prever e até mesmo estimular o comportamento do usuário.
- Apoiar as organizações para o uso de IA’s no geral, durante esta nossa fase de transformação digital, no qual é necessário entender aspectos de licenciamentos, direitos de propriedade intelectual e até mesmo letramento de dados e digital.
A IFLA (Federação Internacional de Associações e Instituições Bibliotecárias) já fez uma declaração sobre o tema, no qual enfatizou principalmente o acesso à informação e a liberdade de expressão.
Se você tiver interesse, confira ela aqui:
Considerações finais
Esse é um tema que, sem dúvidas, acompanhará a carreira de qualquer profissional da informação que esteja trabalhando com inteligência artificial (diretamente ou indiretamente).
Recomendo fortemente você ler o artigo para tirar suas próprias conclusões.
Se você se interessa nesse tema, indico acompanhar a Nina da Hora, que é Head Responsible Tech, na ThoughtWorks.:
Tive a oportunidade de ver uma palestra presencial dela no Dev Leaders Conference e foi sensacional!
Falei mais nesse meu outro texto:
Agora me diga:
O que você pensa a respeito de Ética na IA para profissionais da informação?
Se você chegou até aqui e curtiu, dê palmas, compartilhe e se inscreva para me acompanhar.
Ainda há muito a se explorar.
