A Meta anunciou recentemente o lançamento de uma nova ferramenta de adesivos gerados por inteligência artificial (IA) para alguns dos seus serviços, como o Facebook Messenger e o WhatsApp.
Porém, os primeiros testes de usuários revelaram algumas criações um tanto impróprias e até mesmo engraçadas. Embora a tecnologia prometa simplificar a criação de adesivos personalizados, alguns usuários têm aproveitado para gerar conteúdo inadequado e controverso.
Explorando criações inapropriadas com a nova IA generativa da Meta
O novo recurso está em fase de testes, e por isso a empresa já tinha deixado claro que é possível que ele gere imagens impróprias. Por isso, há uma opção para denunciar essas criações. Porém, algumas pessoas estão se divertindo com elas, realmente.
Um usuário, identificado como @Pioldes, é uma delas. Ele foi um dos usuários que ganharam acesso à nova ferramenta de adesivos gerados por IA para testes e usou-a para criar uma série de imagens de adesivos inapropriados.
Isso incluiu representações de soldados crianças, personagens da Nintendo empunhando armas, o icônico Mickey Mouse em situações desagradáveis e ilustrações nuas do primeiro-ministro canadense Justin Trudeau.
Além disso, outros exemplos demonstraram que a ferramenta de adesivos de IA da Meta está disposta a adicionar elementos controversos a qualquer imagem, como foi visto ao adicionar seios a personagens como Sonic the Hedgehog e até mesmo a figura histórica Karl Marx. Uma criação notável foi um adesivo retratando uma mulher amamentando Pikachu.
A tecnologia por trás dos adesivos de IA
Esses adesivos de bate-papo gerados por IA foram anunciados durante o evento Connect da Meta e são alimentados pelo modelo de linguagem Llama 2 da empresa. Essa tecnologia permite que os usuários criem adesivos de alta qualidade de forma rápida e fácil, usando apenas descrições de texto como entrada.
Esses adesivos estão sendo lançados gradualmente para “usuários de língua inglesa selecionados” em várias plataformas da Meta, incluindo Facebook Stories, Instagram Stories e DMs, Messenger e WhatsApp. Ainda não se sabe ao certo exatamente quantas pessoas têm acesso ao novo recurso.
Os testes iniciais revelaram que certas palavras estão bloqueadas pela Meta, e os usuários que tentam usá-las em suas descrições recebem avisos de que sua descrição pode violar as diretrizes da comunidade da empresa.
No entanto, os usuários também relataram que ainda é possível gerar conteúdo inadequado usando erros de digitação ou descrições de palavras restritas. Em alguns casos, imagens problemáticas foram geradas mesmo sem descritores adicionais, como foi o caso de “World Trade Center”.
A Meta, ciente desses problemas iniciais, está buscando um lançamento limitado da funcionalidade de adesivos gerados por IA. Isso permitirá que a empresa identifique e corrija abusos e conteúdo inadequado antes que ele se espalhe amplamente entre os usuários.
É possível afirmar que a nova ferramenta de adesivos gerados por IA da Meta tem o potencial de revolucionar a forma como os usuários interagem com adesivos em suas plataformas, tornando a criação de adesivos personalizados mais acessível. Porém, os desafios relacionados ao conteúdo inapropriado destacam a necessidade contínua de vigilância e moderação em tecnologias de IA.
