Foto da estante de uma bibliooteca, na cor branca e com livros coloridos.
Foto de JOSHUA COLEMAN em Unsplash.com

Ética na Inteligência Artificial para Profissionais da Informação

Francisco Foz
5 min readMar 14, 2023

Durante os próximos anos, é bem provável que as áreas de Inteligência Artificial e Biblioteconomia/Ciência da Informação se aproximem cada vez mais.

Há muita informação para se estudar, compreender e atuar, mas para lidar com essas questões de maneira eficaz, os profissionais da informação precisam entender mais de ética na IA.

Por este motivo, no texto de hoje, trago um breve resumo desta revisão de literatura:

No qual contextualiza o tema e ainda apresenta alguns cenários específicos para profissionais da informação.

Bora lá?!

Gif da frase “work ethic” escrita em branco com um fundo preto.
Gif de @gatorade em Ghipy.com

Sumário

Ética na Inteligência Artificial

Ética na Inteligência Artificial para a Biblioteconomia/Ciência da Informação

Considerações Finais

Ética na Inteligência Artificial

A área da Inteligência Artificial é bem ampla, complexa e pode ser aplicada em diversos cenários, o que leva a surgir diversas questões éticas relacionadas.

“Não se trata apenas do que a tecnologia pode fazer, devemos considerar as estruturas de poder dentro das quais ela está sendo criada e suas implicações humanas, sociais e ambientais.”

Para o desenvolvimento desta tecnologia é necessário dados e entender a origem de como esses dados vieram é um primeiro ponto citado. Questões de privacidade, consentimento e transparência são fundamentais para o debate.

O segundo ponto é o velho: “as máquinas tomarão meu lugar”. A relação com o trabalho, sem dúvidas, será impactada, seja para substituir, aumentar, diminuir, dominar…

Nem eu e nem o artigo acreditamos que máquinas substituirão os seres humanos integralmente, pelo menos não por agora.

Entretanto, precisamos ter consciência de como esse impacto se dará, principalmente para grupos minorizados.

“Além disso, para que mudanças mais positivas possam acontecer por meio das tecnologias, deve haver uma compreensão de como a injustiça, como a desigualdade, ocorre e é sustentada.”

Entender que quando falamos de IA, comercialmente, estamos falando de um emaranhado de aplicações industriais ligadas ao poder de grandes conglomerados como Google e Amazon é o terceiro ponto.

O quarto ponto é que a IA consome muita energia.

Claro, estamos falando aqui em grandes escalas.

Mas confesso que isso ainda é um tema que não está tão claro para mim.

Fica a dica da referência citada:

Black boxes, not green: Mythologizing artificial intelligence and omitting the environment

“Dizem-nos repetidamente que a IA nos ajudará a resolver alguns dos maiores desafios do mundo, desde o tratamento de doenças crônicas e a redução das taxas de mortalidade em acidentes de trânsito até o combate às mudanças climáticas e a antecipação de ameaças à segurança cibernética.”

No entanto, o artigo afirma que o discurso público sobre IA sistematicamente evita considerar os custos ambientais da IA.

Ao mesmo tempo que podemos desenvolver sistemas de aprendizagem de máquina para salvar vidas, diminuir o consumo de energia (através de aplicações inteligentes), aumentar o acesso à informação e ao conhecimento, também podemos estar infringindo algumas barreiras éticas que poderão se tornarem bem problemáticas a médio longo prazo.

Mas discutir sobre ética e IA é algo que já fazemos há algum tempo.

O próprio autor cita em torno de 84 códigos de ética publicados por governos internacionais, nacionais e empresas.

Dentre estes, ele sintetiza em 3 tópicos principais:

  • Viés: Uma IA pode sim ser enviesada, devido aos dados no qual ela foi treinada serem tendenciosos. Se houve desigualdade antes ou mesmo há uma inexistência de dados, ela continuará reproduzindo desigualdades e inexistências.
  • Transparência, explicabilidade e responsabilidade: Entender como uma IA chegou em um resultado é um ponto importante, principalmente para devolver à comunidade, do contexto onde ela está inserida, seus resultados positivos e também negativos (quando se ocorrer algum erro com sua estimativa).
  • Privacidade: Com o aumento da relevância dos dados na tomada de decisões, a segurança dos sistemas torna-se crucial, já que o risco de comprometimento desses dados também aumenta. Mesmo dados anonimizados podem revelar informações pessoais quando agregados de diferentes fontes. Isso pode permitir que identidades sejam inferidas e causarem grandes vazamentos de informações.

“Para que nossos cenários se envolvam com essas questões, deve haver estímulos para refletir sobre como a justiça social é impactada pela IA, informada por uma compreensão sociológica das estruturas que mantêm as desigualdades. É essencial que as aplicações de IA se encaixem na cultura da organização e resolvam os problemas de maneira apropriada, guiados por uma análise do problema, não por uma suposição de que a tecnologia é sempre a solução certa.”

Ética na Inteligência Artificial para a Biblioteconomia/Ciência da Informação

Os aspectos éticos na IA para profissionais da informação, pouco se diferem de todo o contexto já apresentado. Entretanto, há a especificidade de se entender como ela será aplicada em serviços de informação.

“Os profissionais da informação precisam lidar com essas questões éticas de maneira eficaz, porque provavelmente usarão a IA na prestação de serviços, além de contribuir para o processo de adoção da IA mais amplamente em suas organizações.”

Mas além dos serviços de informação o autor também destaca outras 3 possíveis interações, por pessoas bibliotecárias:

  1. Uso direto de ferramentas de IA, como tradutores e criadores de resumos.
  2. Uso em tomada de decisões para medir, prever e até mesmo estimular o comportamento do usuário.
  3. Apoiar as organizações para o uso de IA’s no geral, durante esta nossa fase de transformação digital, no qual é necessário entender aspectos de licenciamentos, direitos de propriedade intelectual e até mesmo letramento de dados e digital.

A IFLA (Federação Internacional de Associações e Instituições Bibliotecárias) já fez uma declaração sobre o tema, no qual enfatizou principalmente o acesso à informação e a liberdade de expressão.

Se você tiver interesse, confira ela aqui:

Considerações finais

Esse é um tema que, sem dúvidas, acompanhará a carreira de qualquer profissional da informação que esteja trabalhando com inteligência artificial (diretamente ou indiretamente).

Recomendo fortemente você ler o artigo para tirar suas próprias conclusões.

Se você se interessa nesse tema, indico acompanhar a Nina da Hora, que é Head Responsible Tech, na ThoughtWorks.:

Tive a oportunidade de ver uma palestra presencial dela no Dev Leaders Conference e foi sensacional!

Falei mais nesse meu outro texto:

Agora me diga:

O que você pensa a respeito de Ética na IA para profissionais da informação?

Se você chegou até aqui e curtiu, dê palmas, compartilhe e se inscreva para me acompanhar.

Ainda há muito a se explorar.

Sign up to discover human stories that deepen your understanding of the world.

Free

Distraction-free reading. No ads.

Organize your knowledge with lists and highlights.

Tell your story. Find your audience.

Membership

Read member-only stories

Support writers you read most

Earn money for your writing

Listen to audio narrations

Read offline with the Medium app

Francisco Foz
Francisco Foz

Written by Francisco Foz

Bibliotecário | Analista de dados | Disseminando informações para produzir conhecimento.

No responses yet

Write a response