Os Redditors em todo o mundo ficaram escandalizados na semana passada depois de saber que uma equipe de pesquisadores divulgou um enxame de bots de preservação de IA e de preservação humana no subreddit “Change My View My View”. O experimento em larga escala foi projetado para explorar como a IA pode ser persuasiva.
Os bots postaram mais de 1.700 comentários, adotando personas como sobreviventes de abuso ou identidades controversas como um advogado anti-Black Lives Matter.
Para o Reddit, o incidente foi uma mini-noite. A marca do Reddit está associada à autenticidade – um lugar onde as pessoas reais vêm para compartilhar opiniões reais. Se esse ecossistema focado no ser humano for perturbado com a IA Slop ou se tornar um lugar onde as pessoas não podem confiar que estão obtendo informações de humanos reais, isso pode fazer mais do que ameaçar a identidade central do Reddit. O resultado final do Reddit pode estar em jogo, já que a empresa agora vende seu conteúdo ao OpenAI para treinamento.
A empresa condenou o “experimento inadequado e altamente antiético” e apresentou uma queixa na universidade que a administrava. Mas esse experimento foi apenas um dos que provavelmente serão muitos casos de bots de IA generativos que fingem ser humanos no Reddit por várias razões, do científico ao politicamente manipulador.
Para proteger os usuários da manipulação de bot e “manter o Reddit Human”, a empresa sinalizou sinamente uma ação futura – uma que pode ser impopular com usuários que vêm ao Reddit por outro motivo: anonimato.
Na segunda-feira, o CEO do Reddit, Steve Huffman, compartilhou um post que o Reddit começaria a trabalhar com “vários serviços de terceiros” para verificar a humanidade de um usuário. Isso representa uma etapa significativa para uma plataforma que historicamente exigia quase nenhuma informação pessoal para os usuários criarem uma conta.
“Para manter o Reddit Human e atender aos requisitos regulatórios em evolução, precisaremos de um pouco mais de informação”, escreveu Huffman. “Especificamente, precisaremos saber se você é humano e em alguns locais, se você é adulto. Mas nunca queremos saber seu nome ou quem você é.”
Evento do TechCrunch
Berkeley, CA.
|
5 de junho
Reserve agora
(As empresas de mídia social já começaram a implementar verificações de identificação após pelo menos nove estados e no Reino Unido e aprovaram leis que exigem a verificação da idade para proteger as crianças em suas plataformas.)
Um porta -voz do Reddit se recusou a explicar em que circunstâncias a empresa exigiria que os usuários passassem por um processo de verificação, embora eles tenham confirmado que o Reddit já toma medidas para proibir os bots “ruins”. O porta-voz também não compartilharia mais detalhes sobre quais serviços de terceiros a empresa usariam ou que tipo de informação de identificação pessoalmente os usuários teriam a oferecer.
Hoje, muitas empresas dependem de plataformas de verificação como persona, liga, identidade de faixa, xadrez e pegada, que geralmente exigem uma identificação emitida pelo governo para verificar a idade e a humanidade. Depois, há a tecnologia mais nova e mais especulativa, como as ferramentas de Sam Altman para a humanidade e seu dispositivo de “prova de humano”.
Os oponentes para verificações de identificação dizem que existem riscos de privacidade e segurança de dados para compartilhar suas informações pessoais com plataformas de mídia social. Isso é especialmente verdadeiro para uma plataforma como o Reddit, onde as pessoas vêm para publicar experiências que talvez nunca teriam se seus nomes fossem anexados a eles.
Não é difícil imaginar um mundo em que as autoridades possam intimar o Reddit para a identidade de, por exemplo, uma adolescente grávida perguntando sobre experiências de aborto em R/mulheres nos estados onde agora é ilegal. Veja como a Meta entregou conversas particulares entre uma mulher de Nebraska e sua filha de 17 anos, que discutiu os planos deste último para encerrar uma gravidez. A assistência da Meta liderou a aplicação da lei a adquirir um mandado de busca, o que resultou em acusações criminais para a mãe e a filha.
Esse é exatamente o risco que o Reddit espera evitar, tocando em empresas externas para fornecer “as informações essenciais e nada mais”, por Huffman, que enfatizou que “nunca queremos saber seu nome ou quem você é”.
“O anonimato é essencial para o Reddit”, disse ele.
O CEO também observou que o Reddit continuaria sendo “extremamente protetor de suas informações pessoais” e “continuará a recuar contra demandas excessivas ou irracionais de autoridades públicas ou privadas”.