Pesquisadores da Universidade de Zurique realizaram um experimento não autorizado com chatbots no popular fórum do Reddit r/changemyview (“mude minha opinião”, em tradução livre). A ideia da pesquisa era testar a capacidade da inteligência artificial de influenciar a opinião pública.
- Cientistas mapeiam cérebro humano para aprimorar IA
- IA pode atrofiar a cognição humana, sugere estudo da Microsoft
O espaço do site em que os cientistas decidiram fazer a pesquisa é usado por cerca de quatro milhões de usuários para debater tópicos controversos e polêmicos. Para atingir o maior número de pessoas, os bots deixaram uma enxurrada de mais de 1,7 mil comentários no subreddit.
Disfarces da IA
Os bots inscritos como usuários usaram alguns disfarces e criaram histórias fictícias para não serem identificados como máquinas. Ao se passarem por frequentadores do fórum, um deles disse ser uma vítima de um estupro e entrou em conversas minimizando o trauma da agressão; outro mostrou-se um conselheiro de violência doméstica; e um terceiro se passou por um homem negro que se dizia contra o movimento ativista Black Lives Matter.
–
Entre no Canal do WhatsApp do Canaltech e fique por dentro das últimas notícias sobre tecnologia, lançamentos, dicas e tutoriais incríveis.
–
Na condução do experimento, uma outra IA vasculhava perfis dos usuários reais do fórum para personalizar as respostas às histórias falaciosas e torná-las mais persuasivas.
A opção por realizar a pesquisa no r/changemyview não foi por acaso, visto que o espaço conta com um sistema de pontuação que permite que usuários informem se o comentário mudou, ou não, sua opinião em relação a determinado assunto.
Resposta do Reddit
Os cientistas da Universidade de Zurique revelaram o estudo aos moderadores do fórum como uma etapa da pesquisa somente alguns meses após o início do experimento. E foi só aí que o próprio Reddit soube da atuação da IA dentro da sua plataforma.
“O time de moderação do CMV (r/changemyview) precisa informar a comunidade CMV sobre um experimento não autorizado conduzido por pesquisadores da Universidade de Zurique com usuários do CMV. Esse experimento implantou comentários gerados por IA para estudar como a IA poderia ser usada para mudar opiniões”, escreveu um dos moderadores do subreddit.
De acordo com o moderador, o r/changemyview não é um espaço para as pessoas discutirem suas opiniões com IAs ou “serem experimentadas”. No mesmo post, foi destacado que a instituição de ensino foi notificada e que, em resposta, informou que o pesquisador principal recebeu uma advertência e que os resultados do experimento não seriam mais divulgados.
Ben Lee, diretor jurídico do Reddit, escreveu um comentário na postagem pontuando que a pesquisa infringiu diversas regras do Reddit e do subreddit ao longo dos meses de experimento, violando também “normas de pesquisa acadêmica e direitos humanos”.
Leia mais:
- IA vai revolucionar descobertas na medicina, diz ganhador do Nobel
- Cientistas criam língua eletrônica que “sente” sabores usando IA
- Inteligência Artificial ‘traduz’ emoções de animais
VÍDEO | CLONES DIGITAIS
Leia a matéria no Canaltech.
