O termo Shadow AI, ou IA sombra, refere-se a sistemas de inteligência artificial que são desenvolvidos e operados de forma independente, sem a supervisão de humanos. Eles podem ser usados para uma variedade de propósitos, incluindo tomada de decisões, análise de dados e até mesmo interações com humanos.

O que é ChatGPT e como ele pode ser útil no dia a dia

A Shadow AI pode ser uma ferramenta poderosa, mas também apresenta riscos. Um dos principais é o de viés. Como os sistemas de AI são treinados em dados históricos, eles podem refletir os preconceitos presentes nessas informações. Isso pode levar a decisões discriminatórias ou a resultados imprecisos.

Outro risco é o de falta de transparência. Como os sistemas de Shadow AI são desenvolvidos e operados de forma independente, pode ser difícil para os humanos entender como eles funcionam. Isso pode dificultar a identificação e correção de erros ou preconceitos.

Leia também

O que é ChatGPT e como ele pode ser útil no dia a dia
Tudo o que você precisa saber sobre o novo ChatGPT
5 aplicações práticas do ChatGPT que vão do estudo às compras

Ainda, a Shadow AI pode ser usada para fins maliciosos. Sistemas de AI podem ser usados para gerar deepfakes, ou vídeos ou áudios falsos que são indistinguíveis da realidade. Esses deepfakes podem ser usados para espalhar desinformação ou para prejudicar a reputação de indivíduos ou organizações.

Veja 5 polêmicas envolvendo o ChatGPT:

Como mitigar os riscos da Shadow AI?

Para mitigar os riscos da Shadow AI, é importante que os sistemas sejam desenvolvidos e operados de forma transparente e responsável. Isso inclui:

Uso de dados históricos diversificados para treinamento dos sistemas;
Incorporação de mecanismos de controle para evitar viés;
Divulgação pública dos dados e algoritmos usados pelos sistemas;
Criação de mecanismos de responsabilização para os desenvolvedores e operadores dos sistemas.

A Shadow AI é uma tecnologia promissora, mas é importante estar ciente dos riscos envolvidos. Com o desenvolvimento de práticas responsáveis, a Shadow AI pode ser usada para o bem, mas é preciso tomar cuidado para que ela não seja usada para o mal.

O post Shadow AI: o que é e quais são os riscos? apareceu primeiro em Forbes Brasil.