O Pinterest lança novas ferramentas para combater a AI Slop

O Pinterest diz que finalmente fará algo sobre a inclinação da IA ​​que assumiu sua plataforma.

Após um volume crescente de reclamações de que os pinos gerados pela IA e outros conteúdos de IA de baixa qualidade (geralmente chamados de “AI Slop”) ultrapassaram o site de pinamento de redes sociais e imagens, o Pinterest anunciou quarta-feira um plano para começar a rotular imagens geradas por IA e modificadas pela IA. Ele também introduzirá uma nova opção que permite aos usuários reduzir o número de pinos de IA generativos que eles veem.

Os novos recursos são uma indicação de quão grave é uma IA generativa de ameaça para plataformas construídas sobre o conteúdo, o crowdsourcing e o compartilhamento social gerados pelo usuário. A tecnologia de IA possibilitou que os maus atores inundassem essas plataformas com imagens falsas que abafam o conteúdo criado pelo homem que as pessoas vieram ver, desvalorizando a experiência geral.

Agora, o Pinterest diz que ajudará os usuários a identificar mais facilmente o que é IA e o que não é.

Quando os usuários clicam em um pino de imagem no close -up, eles verão um rótulo “AI modificado” no canto inferior esquerdo. A empresa diz que analisará os metadados da imagem para ajudar a determinar o que é IA, mas também desenvolveu seu próprio sistema de classificadores que detectarão automaticamente o conteúdo de IA que “não possui marcadores óbvios”.

Os criadores poderão apelar para o Pinterest se seu conteúdo for rotulado incorretamente, de acordo com a empresa.

Mais importante, o Pinterest diz que dará aos usuários mais controle sobre quanto conteúdo de IA eles veem em um recurso próximo.

Quando lançados, os usuários poderão selecionar uma opção “Veja menos” nos pinos da Gen AI em determinadas categorias – como beleza e arte – que são propensas a serem invadidas pelo conteúdo de IA. Com o tempo, também expandirá essa opção para outras categorias.

Quando disponível, a opção será encontrada no menu de três pontos no canto inferior direito de um pino. Clicar isso enviará um sinal aos sistemas do Pinterest para recomendar menos conteúdo de IA para os usuários, explica a empresa em uma postagem no blog.

O Pinterest não disse quando a nova configuração de controle estava sendo lançada – apenas que estava chegando “em breve”.

Para um site como o Pinterest, que atraiu os usuários a navegar e salvar imagens aspiracionais em áreas como moda, decoração de casa, viagens, arte, receitas, bricolage, beleza, dicas para pais e muito mais, um dilúvio de conteúdo de IA poderia realmente matar o site. Alguns usuários já declararam o site morto devido às imagens de IA que foram assumidas.

No Reddit, por exemplo, os usuários protestam contra a invasão do AI Slop no Pinterest há meses, observando um enorme aumento nesse conteúdo de baixo valor. Eles dizem que as imagens de IA encontraram o caminho do site, estejam elas navegando no conteúdo, pesquisando ou visualizando sugestões do conselho. A mídia também documentou o declínio nos artigos que ponderem se a IA já houver arruinada a plataforma ou se pode ser corrigida.

O Pinterest diz que planeja introduzir mais ferramentas nos meses seguintes para desenvolver seu trabalho de IA, acrescentando que ainda acredita que o Gen AI pode ser inspirador, quando cuidadosamente implementado.

“À medida que as pessoas encontram conteúdo gerado pela IA no Pinterest, estamos capacitando nossos usuários a fazer escolhas mais informadas sobre o conteúdo que vêem”, disse o CTO Matt Madrigal em comunicado. “O conteúdo da Gen AI no Pinterest deve aprimorar a capacidade dos usuários de descobrir e agir sobre sua inspiração, e estamos abordando intencionalmente esse novo cenário de uma maneira atenciosa que beneficia todos no Pinterest”.