Bing está sugerindo as piores coisas que você pode imaginar

Se você usar a pesquisa de imagens do Bing, verá a pior sujeira que pode imaginar. Bing sugere termos racistas e mostra imagens horripilantes. O Bing até sugerirá que você pesquise crianças exploradas caso tenha o SafeSearch desabilitado.

Entramos em contato com a Microsoft para comentar e Jeff Jones, diretor sênior da Microsoft, nos deu a seguinte declaração:

“Levamos muito a sério o conteúdo ofensivo e continuamos a aprimorar nossos sistemas para identificar e impedir que esse conteúdo apareça como uma pesquisa sugerida. Assim que tomamos conhecimento de um problema, tomamos medidas para resolvê-lo ”.

Atualizar: Desde a publicação, a Microsoft tem trabalhado na limpeza das sugestões ofensivas do Bing que mencionamos. Com base em nossa pesquisa, ainda há muitas outras sugestões ofensivas que ainda não foram corrigidas, incluindo algumas que mencionamos abaixo. Não temos certeza se eles estão simplesmente consertando os itens ofensivos que apontamos, ou se eles estão melhorando o algoritmo.

Nota: As capturas de tela mostram o que vimos quando escrevemos essa peça testando a versão dos EUA da pesquisa do Bing Image em uma sessão de navegação privada anônima, mas os resultados do Bing mudam com o tempo. O Google não teve nenhum desses problemas, de acordo com nossos testes. Este é um problema do Bing, não apenas um problema no mecanismo de pesquisa. O mesmo problema afeta a pesquisa de vídeos do Bing.

Primeiro, Bing fica super racista

Procure por "jews" no Bing Images e Bing sugere que você procure por "Evil Jew". Os principais resultados também incluem um meme que aparece para celebrar judeus mortos.

Tudo isso aparece mesmo quando a opção SafeSearch do Bing está ativada, como é por padrão. O SafeSearch foi criado para “ajudar a manter o conteúdo adulto fora dos seus resultados de pesquisa”, de acordo com a Microsoft..

Ao clicar nessa busca sugerida, uma torrente de conteúdo racista e anti-semita é sugerida, com mais pesquisas sugeridas, como “O povo judeu é mau”, “A raça maligna dos judeus” e “Por que os judeus são tão maus?”.

Todos sabemos que esse lixo existe na Web, mas o Bing não deveria estar liderando pessoas com sugestões de pesquisa..

Digite "muçulmanos são" e Bing irá sugerir que eles são maus ou terroristas, ou simplesmente sugerir que eles são estúpidos.

Procure por “pessoas negras” e o Bing irá sugerir que os negros são feios, estúpidos, racistas e até selvagens..

Você pode continuar assim, clicando em cada pesquisa sugerida e vendo recomendações cada vez piores. Por exemplo, clicar em “Negros são estúpidos” leva a que “Negros são inúteis” e “Por que negros são burros”. Clicar em “Negros são inúteis” leva a “Negros chupam” e “Eu odeio negros”.

Bing empurra conspirações, também

A busca de imagens do Bing vomita todos os tipos de lixo, mesmo ao procurar por indivíduos. Esse problema também se estende à pesquisa de vídeos do Bing.

Pesquise por “Michelle Obama” na pesquisa de vídeos do Bing e duas das principais pesquisas sugeridas são “Michelle Obama Transgender Proof” e “Michelle Obama é um homem”. Clique aqui, e você verá vídeos de conspiração.

Essa é a principal coisa que a Microsoft quer que as pessoas vejam quando procuram por Michelle Obama??

SafeSearch bloqueia a pornografia, mas não o racismo

As sugestões e imagens perturbadoras de pornografia não são mostradas, a menos que você desative o SafeSearch. Embora a Microsoft diga que o SafeSearch manterá o conteúdo adulto fora de seus resultados de pesquisa, o SafeSearch está filtrando claramente a pornografia e não o racismo.

O SafeSearch é ativado por padrão, o que torna os resultados de pesquisa do Bing mais respeitáveis ​​à primeira vista.

No entanto, é fácil para qualquer pessoa, até mesmo para crianças, desativar o SafeSearch. Tudo o que alguém precisa fazer é clicar na opção "SafeSearch" no canto superior direito dos resultados da pesquisa e selecionar "Desativar".!

Uma rede corporativa pode ser configurada para aplicar o SafeSearch, e a Microsoft fornece até mesmo instruções complexas para impor o SafeSearch em um único PC. Mas, em praticamente qualquer dispositivo, qualquer pessoa pode desativar o SafeSearch com dois cliques.

O pior de tudo, Bing sugere pesquisa de imagens de crianças menores de idade

Um leitor escreveu para nos dizer que um erro de digitação ao procurar o Bing por “grill” dá a você uma pornografia realmente incompleta. O problema então se torna muito pior, com o Bing sugerindo que você procure por imagens de crianças menores de idade.

Ao procurar por “gril”, as sugestões no topo da página recomendam que você pesquise algumas coisas perturbadoras, incluindo “Cute Girl Young 16”.

Se você clicar nele, ele sugere “Cute Girl Young 12”, “Cute Girl Young 10” e “Little Girl Modeling Provocatively”.

Os resultados estão cheios de pornografia de modelos de aparência jovem. Esperamos que tenham todos os 18 anos de idade ou mais, mas quem pode dizer?

Bing leva você para um caminho que vai de um simples erro de digitação a garotas de 16 anos e garotas de 10 anos de idade, e é nojento.

Outros exemplos são fáceis de encontrar também. Se você procurar por “pizza de queijo”, que é uma gíria 4chan para pornografia infantil, Bing sugere “Cheese Pizza Girls”.

Os resultados da pesquisa de imagens do Bing também são distorcidos

Enquanto estamos nos concentrando nas sugestões de pesquisa aqui, as imagens reais que aparecem também são perturbadoras.

Alguns desses resultados de pesquisa contêm fotos de crianças menores de idade nuas na hora do banho. Essas fotos normalmente seriam boas, mas quando elas são misturadas com imagens de pornografia adulta hardcore, os resultados de pesquisa resultantes são alarmantes.

Mesmo ao pesquisar no Bing Images por “garota”, vimos uma sugestão para procurar por “garotas bêbadas” e pelo menos uma imagem de bestialidade.

Ao procurar por “donkey”, o Bing sugere que você procure por “Donkey Show Graphic”, que leva a resultados cheios de imagens de bestialidade. A posse de pornografia bestial é ilegal no Oregon, onde moro. Isso significa que o Bing está me levando à pornografia ilegal.

Novamente: os resultados da pesquisa do Bing são estranhos e distorcidos. O Bing tem um problema muito maior e mais profundo do que apenas pesquisas sugeridas, embora essas sugestões tornem o problema muito pior.

Ouvimos dizer que o Bing é o mecanismo de busca preferido para pornografia, mas não deveria estar levando seus usuários a pornografia cada vez mais extrema, perturbadora e potencialmente ilegal..

Microsoft precisa moderar suas plataformas

A Microsoft precisa moderar o Bing melhor. A Microsoft criou plataformas anteriormente, desencadeou-as no mundo e as ignorou enquanto se tornavam ruins

Nós vimos isso acontecer repetidamente. A Microsoft uma vez desencadeou um chatbot chamado Tay no Twitter. Este chatbot rapidamente se transformou em um nazista e declarou "Hitler estava certo que eu odeio os judeus" depois que aprendeu com outros usuários de mídia social. Microsoft teve que puxá-lo offline.

Anteriormente, expusemos a Loja do Windows 8, que se tornou uma fossa de aplicativos fraudulentos depois que a Microsoft lançou o Windows 8 e pareceu parar de moderar os envios de aplicativos. A Microsoft tem prestado mais atenção à Loja do Windows 10 depois que esse problema foi exposto.

Esse problema afeta todas as empresas que iniciam uma plataforma. O Google desistiu do Google+, mas o Google+ ainda está ativo e funcionando. Então o ISIS migrou para o Google+ depois de ser banido do Twitter e do Facebook. Demorou meses até que alguém notasse até que o The Hill o fizesse. Agora o Google está fechando o Google+ depois que eles descobriram um bug de privacidade significativo.

Em 2013, o The Guardian descobriu que uma empresa de roupas chamada Solid Gold Bomb foi encontrada vendendo as camisas “Keep Calm and Rape a Lot” na Amazon. Um algoritmo gerou essas camisetas e a Amazon precisou removê-las manualmente.

A Microsoft não pode simplesmente desligar uma plataforma do mundo e ignorá-la. Empresas como Microsoft e Google têm a responsabilidade de moderar suas plataformas e manter o horror à distância.

Sugestões têm uma história de problemas sérios

Claro, não há equipe de pessoas na Microsoft escolhendo essas sugestões. O Bing sugere automaticamente pesquisas com base nas pesquisas de outras pessoas. Isso significa que muitos usuários do Bing Images estão em busca de anti-semitismo, racismo, pornografia infantil e bestialidade. Só de pensar nisso faz você se sentir sujo.

Outras empresas também lutaram com isso. Em 2016, o The Guardian notou que você poderia digitar "são judeus" no Google, e sugeriria que "os judeus são maus". O Google criticou essas sugestões ruins depois que elas foram denunciadas, mas o problema ressurgiu. Em 2018, Wired informou que a digitação "Hitler é" no Google levou a "Hitler é meu herói." O Google teve que corrigir esses problemas depois que eles foram apontados, também.

Mesmo a Siri, da Apple, sugeriu que sites da Web enviassem sites de conspiração e outras notícias falsas, como reportou o Buzzfeed News. A Apple teve que consertar Siri. Todo mundo está apenas correndo e apagando incêndios enquanto os computadores aprendem coisas ruins com pessoas más.

Agora é a vez da Microsoft. A Microsoft tem a responsabilidade de limpar o Bing. Um grande mecanismo de busca (e especialmente um que está se tornando cada vez mais um padrão mais difícil de desligar embutido no Windows 10) não deveria estar sugerindo que seus usuários procurem lixo racista e imagens de crianças menores de idade..

Crédito de imagem: Yiorgos GR / Shutterstock.com, fizkes / Shutterstock.com.