Com toda a empolgação em torno da inteligência artificial (IA) e da transformação digital, assumimos muito facilmente que a resposta para os nossos problemas está na tecnologia. E, mais importante, estamos tão entusiasmados em nos voltarmos para ela – particularmente a IA – que negligenciamos os problemas sociais e humanos que ela pode causar. Este é o argumento de Meredith Broussard em seu último livro More Than a Glitch – Confronting Race, Gender and Ability Bias in Tech (“Mais do que uma falha – Confrontando preconceitos de raça, gênero e habilidade na tecnologia”, em tradução livre).

O livro é o último de uma série de investigações recentes sobre questões relacionadas ao preconceito e às implicações sociais mais amplas de nossa pressa em adotar a IA. Ele se junta a outras obras importantes, como Algoritmos de Destruição em Massa, de Cathy O’Neil, Algorithms of Oppression (“Algoritmos de Opressão, em tradução livre), de Safiya Noble, e A falta de inteligência artificial, de Broussard.

Leia também:

O que é inteligência artificial generativa?
Maior investidora de e-sports, Intel usa os games para acelerar inovação
Por que 2023 será o ano da inteligência artificial?

Broussard recentemente foi ao meu podcast para discutir algumas das ideias que seu livro apresenta, bem como seus conselhos para líderes empresariais interessados em trabalhar com IA ou adotá-la em suas organizações. No cerne de seu argumento está o conceito de “tecnochauvinismo” – uma crença de que as soluções tecnológicas são sempre superiores aos métodos sociais ou outros que levam à mudança.

O que é tecnochauvinismo?

No livro, Broussard se refere ao exemplo da “escada rolante”, muitas vezes proposta por tecnólogos e engenheiros como uma inovação que poderia melhorar a vida de pessoas com deficiência. “Mas se você realmente perguntar a alguém que usa uma cadeira de rodas, eles geralmente dirão que não – ‘parece assustador’. ‘Não parece que vai funcionar.’ Eles dirão: ‘Prefiro uma rampa ou um elevador.’

“Então você percebe que existe uma solução realmente simples que funciona muito bem, e não precisamos adicionar muita tecnologia computacional extrema; podemos apenas construir uma rampa”.

“Portanto, até tornarmos o mundo realmente acessível, não vamos exagerar nas soluções.” A autora diz que esta situação – e muitas outras parecidas -, é um exemplo de “solução rápida” tecnológica para a mudança complexa, estrutural e social que é realmente necessária.

O contra-ataque à mentalidade tecnochauvinista, sugere Broussard, muitas vezes é simplesmente escolher a ferramenta certa para o trabalho – embora nem sempre essa será a tecnologia mais avançada ou o algoritmo de processamento de dados mais sofisticado.

Ela me disse: “Nós temos essa ideia de que, de alguma forma, as soluções tecnológicas serão superiores às outras. E isso é uma espécie de preconceito… às vezes, a ferramenta certa é algo simples, como um livro… não é inerentemente melhor que o outro”.

Matematicamente e socialmente justo

Outra ideia fascinante que Broussard explora é a diferença entre justiça matemática e justiça social. Quando usamos computadores para ajudar nos desafios em torno da igualdade e justiça, o que mais nos é apresentado é uma solução matemática.

Uma explicação simples: “Uma história que acho que ilustra esse conceito é sobre um biscoito. Quando eu era pequena, meu irmão e eu discutíamos sobre quem ficava com o último biscoito.” Peça a um computador para resolver esse problema simples, mas urgente, e haverá uma resposta óbvia – cada criança ganha meio biscoito.

“Mas no mundo real, quando você divide um biscoito ao meio, o que acontece é que você obtém uma metade grande e uma metade pequena. E então brigaríamos para ver quem fica com a metade maior.”

Leia também:

Como funciona a IA que criou a nova “música final” dos Beatles
Spotify remove milhares de músicas geradas por IA
Inteligência Artificial pode fazer música – e daí?

A solução, ela sugere, está na negociação e no compromisso socialmente construídos.

“Então, se eu quisesse a metade maior, diria: ‘Você me dá e eu deixo você escolher o programa na TV que assistimos depois do jantar’. Decisões matematicamente justas e socialmente justas não são as mesmas… isso explica por que nos deparamos com problemas quando tentamos tomar decisões socialmente justas com computadores.”

O resultado disso é que devemos usar computadores para resolver problemas de orientação matemática e não depender muito deles quando se trata de desafios sociais.

IA e trabalhos humanos

Um princípio semelhante surge quando pensamos na questão de como os computadores serão usados para substituir trabalhadores humanos. Como escritora e jornalista, a própria profissão de Broussard é comumente considerada ameaçada pelo surgimento de aplicativos como o ChatGPT. Afinal, se eles podem gerar artigos, ensaios e até mesmo livros inteiros de forma rápida e fácil a partir de um simples prompt, quem precisa de autores?

No entanto, como qualquer pessoa que tentou usar o ChatGPT para escrever um livro ou mesmo um ensaio de qualquer nível de dificuldade rapidamente lhe dirá, essa ameaça foi um tanto exagerada.

Novas profissões em alta com a Inteligência Artificial

Embora inicialmente impressionante, o conteúdo gerado por IA ainda carece de muitas qualidades humanas essenciais – mais crucialmente, qualquer capacidade real de gerar novas ideias ou pensamentos verdadeiramente criativos. Isso ocorre porque tudo o que ele faz é, basicamente, regurgitar a linguagem e as ideias encontradas em seus dados de treinamento. “Se você é o tipo de pessoa em posição de substituir trabalhadores por IA generativa, terá um choque desagradável”, diz Broussard.

“A IA é medíocre. A escrita medíocre é absolutamente útil para muitas situações. Mas das coisas que você percebe rapidamente quando usa IA generativa por um tempo é que é meio chato… a mesma coisa repetida. Não é isso que você quer dar aos seus clientes”, completa.

Os pensamentos da autora ecoam minhas próprias crenças de que a IA não é um substituto para a criatividade – é uma ferramenta que permite aos humanos aprimorar suas próprias habilidades criativas e se organizar melhor nas maneiras como as colocam para trabalhar.

O post O que é tecnochauvinismo e o que o conceito tem a ver com IA neutra? apareceu primeiro em Forbes Brasil.