“Mais um caso de absoluta falta de transparência no desenvolvimento de IA”, diz Paula Vergueiro sobre OpenAI

  • Post author:
  • Reading time:8 mins read

Paula Vergueiro: presidente da Comissão de Direitos Autorais, Direitos Imateriais e Entretenimento da OAB RJ

Quais são os limites quando o assunto é propriedade intelectual em tempos de inteligência artificial? Esse questionamento tornou-se ainda mais evidente, nesta semana, após a atriz Scarlett Johansson dizer estar chocada ao reconhecer sua voz na assistente de IA “Sky”, desenvolvida pela OpenAI e inspirada no filme Her. “Em setembro de 2023, recebi uma proposta de Sam Altman para ser a voz do sistema ChatGPT 4.0. Ele disse que minha voz poderia facilitar a aproximação entre o público e as empresas de tecnologia. Depois de considerar, decidi recusar a oferta por motivos pessoais”, disse a atriz em suas redes.

Siga a Forbes no WhatsApp e receba as principais notícias sobre negócios, carreira, tecnologia e estilo de vida

Em outra parte do texto, a artista compartilha: “Quando ouvi a demo lançada, fiquei chocada, irritada e incrédula que o Sr. Altman buscou uma voz tão assustadoramente similar à minha que até meus amigos mais próximos não conseguiram notar a diferença.”

“Estamos diante de mais um caso de falta de transparência no desenvolvimento de ferramentas de IA generativa”, alerta Paula Vergueiro, presidente da Comissão de Direitos Autorais, Direitos Imateriais e Entretenimento da OAB RJ, destacando que a dona do ChatGPT testou os limites das regras de proteção aos direitos autorais. Em entrevista à Forbes Brasil, ela reforça que o caso mostra os desafios de definição e fiscalização de violações de propriedade intelectual em tempos de IA.

Leia também:

ChatGPT está fora do ar enquanto OpenAI investiga mensagens de erro
Veja as 10 melhores imagens da Via Láctea capturadas em 2024
Brasileiro cofundador do Instagram é novo executivo da rival da OpenAI

“Como resultado de suas ações, fui obrigada a contratar um advogado. Consequentemente, a OpenAI concordou relutantemente em remover a voz ‘Sky’. Em um momento em que todos estamos lidando com deepfakes e a proteção de nossa própria imagem, nosso próprio trabalho, nossas próprias identidades, acredito que essas são questões que merecem absoluta clareza”, finalizou Johansson.

Em entrevista ao The Verge, Mira Murati, CTO da OpenAI, garante que a Sky não foi projetada para soar como Johansson e que a empresa já tinha as vozes preparadas há algum tempo. A empresa também afirmou que a voz é de “uma outra atriz profissional”.

Forbes Brasil – O que esse caso envolvendo a OpenAI e a atriz Scarlett Johansson representa em termos jurídicos associados à propriedade intelectual?

Paula Vergueiro – Estamos diante de mais um caso em que a absoluta falta de transparência nos processos de desenvolvimento de sistemas de IA generativa é responsável pelas justificadas e legítimas suspeitas de utilização indevida, pela Open AI, de direitos de terceiros. No caso do uso sem consentimento da voz da atriz Scarlett Johansson, a violação ocorreu diretamente a um direito da personalidade. A voz humana, nos diferentes sistemas legislativos dos países, é protegida pelos direitos da personalidade, que tratam também do direito à imagem. Como no mundo do entretenimento os direitos da personalidade e os direitos de propriedade intelectual (que abrangem os direitos autorais) são áreas correlatas, extremamente interligadas, é normal nos referirmos indistintamente às duas categorias de direitos, até mesmo com certa confusão.

FB – Esse caso abre precedente jurídico no avanço das discussões sobre IA e direitos?

Paula – É difícil comentar especificamente o caso em questão sem a leitura do processo judicial, mas é plausível supor que, em tese, a violação cometida pela Open AI, possa ter ocorrido nas duas esferas. A empresa de tecnologia pode ter se apropriado e utilizado registros da voz da atriz fixados em materiais não protegidos pelas regras da propriedade intelectual ou mesmo em obras audiovisuais nas quais Johansson atuou e, nessa última hipótese, poderíamos falar em infração cometida contra produtoras audiovisuais, plataformas, estúdios e canais que são os ‘donos’ de toda propriedade intelectual contida em um filme ou série, por exemplo. Não podemos esquecer que atrizes, atores e dubladores cedem integralmente os direitos autorais sobre suas interpretações e também seus direitos de imagem (incluindo a voz) para tais produtoras audiovisuais, plataformas, estúdios e canais. A cessão universal é obrigatória e tida como a praxe do mercado audiovisual.

George Pimentel/GettyImages

“Quando ouvi a demo lançada, fiquei chocada, irritada e incrédula que o Sr. Altman buscou uma voz tão assustadoramente similar à minha”

FB – O que compõe essa propriedade intelectual?

Paula – Por meio dos contratos de cessão de direitos autorais e de imagem é que as criações e interpretações de artistas do audiovisual (autores, roteiristas, diretores e intérpretes) passam a integrar a propriedade intelectual das grandes empresas de comunicação. Gostaria de ressaltar, portanto, que antes de se tornarem ativos da propriedade intelectual de estúdios e plataformas de streaming, a voz, assim como a imagem e outros atributos dos criadores, integram os direitos fundamentais da personalidade e somente podem ser explorados economicamente, por quem quer que seja, com prévia e expressa autorização da atriz, ator, dubladora ou dublador.

Veja que se a atriz cedeu os direitos de imagem e voz para um estúdio realizar um filme, por exemplo, a cessão é específica para a fixação de sua imagem e voz naquela obra específica de que trata o contrato. A questão, inclusive sob a perspectiva ética, é que empresas como a Open AI desenvolveram e estão ‘aperfeiçoando’ sistemas e ferramentas de IA generativa sem legislação e regulamentação adequadas, considerando a magnitude das mudanças que trazem às vidas dos cidadãos e também aos ofícios dos artistas criadores.

Leia também:

“Quando ouvi, fiquei chocada”: Scarlett Johansson fala sobre o uso indevido de sua voz na atualização do ChatGPT

FB – A falta de regulação ou regras claras dificulta esse processo?

Paula – A ausência de um “pacto” anterior nos leva a enfrentar desafios éticos e legais como esse caso de Scarlett Johansson. É como se as empresas de IA sentissem que não há regras a obedecer, já que a atividade que desenvolvem não é conhecida pelo legislador. No caso específico de Johansson, percebi inclusive que a Open AI não se preocupou em deixar evidências de que teria praticado uma infração. Vejam que o CEO da empresa contatou pessoalmente a atriz para que essa assinasse um contrato para a utilização de sua voz, fez postagens em redes sociais referindo-se a uma conexão entre o chatbox Sky e o filme HER, em que o protagonista vivido por Joaquin Phoenix apaixona-se pela voz do sistema operacional de seu computador, voz essa justamente da atriz Scarlett Johansson. É como se a Open AI estivesse testando os limites das regras de proteção aos direitos autorais e propriedade intelectual.

FB – O que é possível tirar de aprendizado desse caso?

Paula – Casos que envolvem personalidades mundialmente reconhecidas sempre são benéficos para iniciarmos debates sobre questões que afetam a generalidade das pessoas, ainda aquelas que não estão no show business. Um fato interessante que acredito que irá de certa forma influenciar o debate é que teremos grandes empresas e conglomerados de ambos os lados nos litígios. De um lado os estúdios e canais que são os titulares dos direitos autorais (propriedade intelectual) das obras audiovisuais e de outro lado as empresas de tecnologia que violam essa propriedade, já que utilizam obras protegidas sem autorização, inclusive para treinamento das ferramentas de IA.

De todo modo, é preciso que as legislações e regulamentações dos diversos países estejam atentas aos aspectos éticos e humanos da criação artística, principalmente se considerarmos que os artistas, além de não serem recompensados pela utilização indevida de suas criações pelas desenvolvedoras de IA, correm o risco de serem substituídos em seus ofícios pelas ferramentas de IA e perderem inclusive as fontes de renda de seu trabalho. A hipótese parece ainda pior que aquela trazida pelo premonitório filme “O Congresso Futurista”, no qual a atriz Robin Wright, interpretando-se a si mesma, assina um contrato que autoriza um estúdio (na ficção denominado Miramount) a digitalizar seu corpo e todas as suas emoções e utilizá-los em qualquer obra futura. Ao menos no filme a atriz autorizou (ainda que coagida por uma situação financeira desfavorável e diante do inegável etarismo sofrido pelas atrizes e todas as mulheres) a utilização de sua imagem e recebeu uma remuneração para tanto.

O post “Mais um caso de absoluta falta de transparência no desenvolvimento de IA”, diz Paula Vergueiro sobre OpenAI apareceu primeiro em Forbes Brasil.

Deixe um comentário