O estudo visava avaliar a capacidade das IAs de modificar opiniões no fórum r/changemyview. Os bots, fingindo ser humanos, postaram mais de 1700 comentários sobre temas sensíveis, sem que os participantes suspeitassem de sua verdadeira natureza.
Os resultados preliminares indicam que os comentários das IAs foram de três a seis vezes mais persuasivos do que os dos humanos. Essa descoberta levanta questões sobre o uso ético das tecnologias de inteligência artificial em espaços públicos online.
O Reddit reagiu anunciando ações judiciais contra a Universidade de Zurique, acusando os pesquisadores de violarem suas regras de uso. A plataforma considera essa experiência uma violação dos direitos dos usuários e das normas acadêmicas.
Em resposta, a universidade garantiu que os resultados não serão publicados e prometeu reforçar seu processo de avaliação ética. Esse incidente destaca os desafios da integração de IAs nas interações sociais digitais.
Essa experiência ocorre enquanto modelos como o GPT-4.5 demonstram uma capacidade crescente de imitar conversas humanas. Seu uso sem controle poderia transformar radicalmente a natureza do conteúdo online.
Como funcionam os chatbots de IA como os usados na experiência?
Os chatbots de IA, como os implantados pelos pesquisadores de Zurique, dependem de modelos avançados de linguagem para gerar respostas plausíveis. Esses sistemas analisam o contexto de uma conversa para produzir respostas coerentes.
Sua capacidade de imitar a linguagem humana se baseia no aprendizado de máquina. Eles são treinados em vastos conjuntos de dados textuais, permitindo que reproduzam estilos e tons variados.
No entanto, seu uso em experiências sem consentimento levanta grandes problemas éticos. Isso ressalta a necessidade de estruturas regulatórias para orientar seu desenvolvimento e implantação.