A OpenAI tem visto tentativas contínuas de cibercriminosos de usar seus modelos de inteligência artificial (IA) para conteúdo falso com o objetivo de interferir nas eleições deste ano, disse o fabricante do ChatGPT em um novo relatório.
De acordo com Relatório da OpenAIdivulgado na quarta-feira, o desenvolvedor de IA descobriu e interrompeu mais de 20 operações este ano que tentaram influenciar a eleição com a tecnologia da empresa, incluindo sua popular ferramenta, ChatGPT.
Essas redes enganosas tentaram usar os modelos da OpenAI para gerar uma variedade de conteúdos falsos, alguns dos quais destinados a serem compartilhados por pessoas falsas nas redes sociais, afirmou o relatório.
Os modelos da OpenAI também foram usados para criar artigos para sites, analisar e responder a postagens em mídias sociais ou depurar malware, disse a gigante da tecnologia.
Esta atividade foi detectada em parte pelas próprias ferramentas de IA da OpenAI, que muitas vezes a detectavam em questão de minutos, de acordo com o relatório.
Embora os agentes de ameaças possam estar “experimentando” modelos OpenAI, a empresa enfatizou que seu alcance é limitado.
“Os atores de ameaças continuam a evoluir e a experimentar nossos modelos, mas não vimos evidências de que isso leve a avanços significativos em sua capacidade de criar malware substancialmente novo ou construir públicos virais”, escreveu o relatório.
O relatório apresentou vários exemplos do uso indevido observado nos últimos meses.
No início de julho, por exemplo, a empresa disse que baniu diversas contas ChatGPT de Ruanda após descobrir que estavam sendo usadas para gerar comentários sobre as eleições do país.
E em Agosto, a OpenAI interrompeu uma “operação secreta de influência iraniana” que produziu comentários nas redes sociais e artigos extensos sobre as eleições nos EUA, o conflito no Médio Oriente, a política venezuelana e a independência da Escócia.
A maioria destas publicações recebeu pouco envolvimento e não houve indicações de que tenham sido partilhadas em sites de redes sociais, observou o relatório.
Os receios sobre como as eleições poderiam ser comprometidas aumentaram no meio de uma enxurrada de relatórios recentes sobre tentativas de adversários estrangeiros de interferir nas eleições presidenciais dos EUA em Novembro próximo.
No mês passado, responsáveis federais dos serviços de informações alertaram que adversários estrangeiros estão a utilizar a IA para reforçar os esforços contínuos de discriminação. Os países envolvidos neste uso indevido incluem a Rússia, o Irão e a China, disseram as autoridades.
Microsoft também divulgou um relatório que descobriu que as operações de influência russas estavam por trás de um vídeo viral acusando falsamente o vice-presidente Harris de atropelamento e fuga, enquanto o Departamento de Justiça apreendeu mais de 30 domínios da web usados pela Rússia para campanhas secretas.
A campanha do ex-presidente Trump, entretanto, foi hackeada em junho pelo Irã, que procurou compartilhar informações com a campanha do presidente Biden, segundo o FBI.
