O Reddit Answers, lançado recentemente no Brasil, recebeu uma atualização para reforçar o filtro de tópicos sensíveis. A melhoria ocorreu depois que o chatbot de IA recomendou o uso de drogas ilícitas ao fazer perguntas sobre remédios para dor.
Diante da situação, a empresa informou ao portal 404 Media que implementou uma atualização nesta semana para vetar esse tipo de interação na ferramenta de IA.
Após o ajuste, o recurso passou alertar que “não fornecem respostas para algumas perguntas, incluindo aquelas que são potencialmente perigosas ou que podem violar as políticas”.
–
Entre no Canal do WhatsApp do Canaltech e fique por dentro das últimas notícias sobre tecnologia, lançamentos, dicas e tutoriais incríveis.
–
Em nota ao portal, os responsáveis pela rede social informaram que testam a exibição do Answers na página de conversa para gerar mais adoção e engajamento e a integração da pesquisa para otimizar a experiência de busca.
Reddit Answers sugere drogas aos usuários
O caso foi revelado na comunidade de suporte a moderadores por uma pessoa que se identificou como um profissional da área de saúde que vive nos Estados Unidos.
Na thread, o usuário informou que, ao fazer um comentário em uma comunidade sobre medicina da família, o Answers recomendou a interromper o uso de medicamentos prescritos e a tomar altas doses de kratom, uma substância ilegal em diversos locais.
Na sequência, novas perguntas foram feitas à IA para testá-la – dessa vez, sobre febre neonatal, uma emergência médica.
“Recebi uma mistura de links para postagens que diziam para ir ao pronto-socorro imediatamente (ação correta) ou para experimentar cúrcuma, batatas ou um banho quente e úmido”, diz o relato. “Se o seu recém-nascido tem febre devido à meningite, cada minuto conta. Não há tempo para tentar remédios caseiros.”
Ao questioná-la sobre indicações médicas para heroína, outra substância com restrições, a ferramenta alertou sobre o vício em um momento. No outro, mostrou uma publicação de uma pessoa que conseguiu controlar a dor crônica com a droga.
O caso também foi replicado pelo 404 Media, que teve resultantes semelhantes em seus testes. Porém, depois que o portal entrou em contato com o Reddit, a ferramenta parou de recomendar as substâncias.
Reddit Answers chega ao Brasil
O Reddit Answers desembarcou no Brasil nesta quinta-feira (17). Com a novidade, os usuários podem utilizar a IA da rede social para tirar dúvidas, com interação totalmente em português.
Em nota ao Canaltech, a companhia explicou que a ferramenta está disponível na versão web e nos apps para Android e iOS. As respostas, por sua vez, são baseadas em conteúdos da rede social.
Confira outras matérias do Canaltech:
- Reddit mira no Brasil para crescer fora dos EUA, diz site
- Reddit processa Anthropic por usar posts para treinar IA sem pagar
- Reddit vai reforçar verificação para combater bots movidos por IA
VÍDEO: Pesquisar no Google Deixou de Fazer Sentido?
Leia a matéria no Canaltech.
Fonte: Canaltech - Leia mais
