Um ator que apareceu em Prometeu, Cristal Negro e Arquibancadas alertou contra a assinatura de contratos de avatares de IA depois que seu rosto foi usado para promover uma campanha de propaganda enganosa na Venezuela.
Dan Dewhirst divulgou um comunicado por meio do sindicato de atores do Reino Unido, Equity, sobre sua experiência, a fim de alertar outras pessoas.
Dewhirst disse que assinou um contrato em 2021 com a empresa de tecnologia Synthesia para se tornar um dos primeiros atores cuja imagem seria transformada em um avatar de IA. Ele fez o teste para a parte do avatar e conseguiu, mas ficou desconfiado das amplas cláusulas do contrato, então contatou seu agente e a Equity. As preocupações foram repetidas e Dewhirst disse que ele e seus advogados tentaram alterar o contrato, mas falharam, mas lhe foi mostrada a confirmação da reserva, que incluía estipulações de que o avatar não pode ser usado para fins ilegais ou desagradáveis, disse ele.
No entanto, dois anos depois, ele recebeu um link para uma reportagem falsa da CNN que, segundo ele, o mostrava se passando por âncora de um noticiário de TV, espalhando notícias falsas promovidas pelo governo do venezuelano Nicolás Maduro. Seu avatar diz aos telespectadores que a economia está indo bem, entre uma série de outras narrativas imprecisas e contestadas, disse ele.
“Eu não pude acreditar”, disse Dewhirst. “Meu estômago embrulhou. Tudo o que me preocupava aconteceu, mas mil vezes pior. Sou literalmente o rosto das notícias falsas.”
Um porta-voz da Synthesia disse a uma investigação do Guardian que baniu as contas que criaram os vídeos em 2023, fortaleceu seus processos de revisão de conteúdo e “contratou mais moderadores de conteúdo”. “Muitos dos atores com quem trabalhamos voltam a interagir conosco para novas filmagens… No início de nossa colaboração, explicamos a eles nossos termos de serviço e como nossa tecnologia funciona para que eles estejam cientes do que a plataforma pode fazer e das salvaguardas temos no lugar”, acrescentou.
Dewhirst está se apresentando para alertar outras pessoas contra a assinatura de contratos de avatares de IA no futuro e outros atores que tiveram experiências semelhantes conversou com o The Guardian.
A Equity tem pressionado por salvaguardas de IA de maneira semelhante aos seus homólogos sindicais americanos e fez da IA uma pedra angular de suas negociações com o Pacto, órgão comercial de produtores.
John Barclay, secretário assistente de Equidade, disse: “A IA não é o futuro, é o presente. Está aqui agora e os artistas performáticos estão trabalhando cada vez mais nesta área de crescimento, fornecendo movimentos e gravações de voz para conteúdo da Geração AI. Os colaboradores dos nossos membros são lentos a responder à ameaça não só aos direitos dos nossos membros, mas também à sua própria propriedade intelectual e isto tem de mudar.”
