Fonte: Meta
Em um movimento para rivalizar com o lançamento do Gemini do Google, a Meta apresentou uma experiência revolucionária independente de IA generativa, o Imagine with Meta. Lançada na web, esta plataforma inovadora permite que os usuários criem imagens simplesmente descrevendo-as em linguagem natural, semelhante ao DALL-E da OpenAI, Midjourney e Stable Diffusion.
Imagine with Meta, alimentado pelo modelo de geração de imagens Emu da Meta, facilita a criação de imagens de alta resolução a partir de prompts textuais. Atualmente gratuito para usuários nos Estados Unidos, a plataforma gera quatro imagens por prompt, marcando uma expansão além dos limites iniciais das conversas.
O anúncio da Meta, expresso em um post no blog, manifesta a satisfação da empresa ao observar os usuários aproveitando o Imagine, recurso de geração de texto para imagem da Meta AI, para conteúdo criativo e descontraído em chats. A decisão de ampliar o acesso além das mensagens alinha-se ao compromisso da Meta em fornecer aos usuários mais maneiras de expressão criativa.
No entanto, a incursão da Meta na geração de imagens por IA não tem sido isenta de controvérsias, especialmente com o gerador de adesivos por IA com viés racial. Essa história suscita preocupações sobre salvaguardas dentro do Imagine with Meta para evitar problemas potenciais. Infelizmente, a ferramenta não estava disponível para teste antes do lançamento, mas a Meta assegura aos usuários e críticos que monitoramento próximo estará em vigor à medida que o Imagine with Meta ganha tração.
Abordando as preocupações com transparência, a Meta planeja implementar marcas d’água no conteúdo gerado pelo Imagine with Meta nas próximas semanas. Embora não estejam ativas no início, essas marcas d’água invisíveis, geradas com modelos de IA, têm a intenção de aprimorar a transparência e a rastreabilidade. A Meta afirma que as marcas d’água serão resistentes a manipulações comuns de imagem, incluindo recorte, redimensionamento, mudanças de cor, capturas de tela, compressão, ruído e sobreposições de adesivos.
A empresa prevê estender a marcação invisível para vários produtos com imagens geradas por IA no futuro. Essa ação está alinhada com uma tendência mais ampla na indústria, já que outras entidades, como Imatag e Steg.AI, empregam ferramentas de marcação d’água baseadas em IA resilientes a redimensionamento, recorte e outras edições.
Com os holofotes voltados para as empresas de tecnologia para indicar claramente obras geradas por IA, o compromisso da Meta em incorporar marcas d’água invisíveis reflete a crescente demanda por responsabilidade na era dos Deepfakes e conteúdo gerado por IA. Esforços regulatórios, exemplificados pelas recentes regulamentações da China exigindo que fornecedores de IA marquem o conteúdo gerado, e audiências recentes do comitê do Senado dos EUA enfatizando a transparência, destacam a urgência para as empresas de tecnologia adotarem medidas como marcas d’água para diferenciar o conteúdo gerado por IA do criado por humanos. A indústria está em um momento crítico, equilibrando a promessa da criatividade da IA com a responsabilidade de mitigar possíveis usos indevidos e manipulação.