Em meio a uma enxurrada de lançamentos de IA generativa do Google e da Microsoft, na semana passada, durante o SXSW, Garry Kasparov, que é um grande mestre de xadrez, embaixador da Avast e presidente da Fundação de Direitos Humanos, me disse que está menos preocupado com a invasão do ChatGPT em eletrodomésticos do que com usuários sendo enganados por atores mal-intencionados.

“As pessoas ainda têm o monopólio do mal”, alertou ele, mantendo-se firme nos pensamentos que compartilhou comigo em 2019. Amplamente considerado um dos maiores jogadores de xadrez de todos os tempos, Kasparov ganhou status mítico na década de 1990 como campeão mundial quando venceu e depois foi derrotado pelo supercomputador Deep Blue da IBM. Aquele momento passou a representar um despertar de que as máquinas poderiam um dia dominar a humanidade.

“A IA vence não porque é mais inteligente que os humanos, mas porque simplesmente comete menos erros”, explicou. “Nunca entendi esse medo da IA ​​- é uma ferramenta útil que faz o que mandamos. Sou um grande defensor da colaboração homem-máquina.” O que o mantém acordado à noite é muito mais sinistro, disse ele. Em sua função na empresa de segurança cibernética Avast, que foi adquirida em 2022 pela NortonLifeLock Inc., cerca de 70% são phishing e outros golpes nos quais os usuários voluntariamente fornecem suas informações a pessoas mal-intencionadas.

Leia mais: O que é ChatGPT e como ele pode ser útil no dia a dia

“Essas ameaças cognitivas são uma virada de jogo e não é algo contra o qual um firewall possa ser construído”, disse-me o diretor de tecnologia da Gen, Michal Pechoucek. Os ataques de engenharia social podem ser particularmente eficazes quando alguém se faz passar por um contato próximo em seu círculo íntimo, como seu chefe, e o instrui a fazer algo, como pagar uma fatura. Com ferramentas de IA generativas, está ficando mais fácil para os golpistas escreverem textos mais convincentes porque o aprendizado por reforço está ajudando o algoritmo a ajustar as mensagens para otimizar a taxa de cliques. Com todos os detalhes do nosso dia-a-dia sendo compartilhados nas redes sociais, também está permitindo uma personalização mais nefasta.

“Tudo se resume ao consumidor tomar a decisão certa”, disse Pechoucek. Coisas simples que as pessoas podem fazer para se proteger incluem verificar o e-mail do remetente para garantir que o endereço corresponda à identidade, não clicar em links ou baixar PDFs, nunca reutilizar senhas e compartilhar menos nas mídias sociais, aconselhou.

“É um criminoso preguiçoso perseguindo um cliente preguiçoso”, disse Kasparov. “Aumente um pouco suas defesas e eles seguirão em frente.”

Com relação à invasão de sistemas por IA generativa, Pechoucek disse estar ciente de um estudo da agência de inteligência de ameaças cibernéticas Check Point Research que mostrou que o ChatGPT foi enganado para criar malware, indo contra suas próprias regras. No entanto, ele disse que o Gen usa IA generativa em seus próprios modelos de linguagem grandes para garantir que sua defesa seja forte o suficiente para capturar qualquer novo vírus que os criminosos criem.

Pechoucek diz que pode ver uma situação em que as pessoas começam a questionar a própria realidade de tudo, especialmente com o advento dos deepfakes de texto para vídeo. Uma solução pode ser uma plataforma onde os usuários possam verificar a mídia com metadados criptografados, o que pode criar segurança e confiança digital, disse ele.

Independentemente de como a inovação no espaço se desenrola, Kasparov, que concorreu como candidato da oposição ao presidente russo Vladimir Putin e partiu no exílio há uma década, disse que os EUA não têm muito a temer em relação à guerra cibernética global com adversários. Certamente ele disse: “Pessoas livres em mercados livres sempre terão vantagem”.

*Martine Paris é repórter de tecnologia cobrindo IA, robótica, espaço, tecnologia de consumo, streaming, entretenimento, jogos, varejo, alimentação, moda, luxo, cultura, comércio eletrônico, segurança, vigilância, privacidade de dados, capital de risco, startups e economia empresarial global.

(traduzido por Andressa Barbosa)

O post Segundo Kasparov, Google AI e ChatGPT não são um risco para a segurança apareceu primeiro em Forbes Brasil.