Bing suggereert de ergste dingen die je kunt bedenken

Als je de zoekfunctie van Bing gebruikt, zul je de ergste vuiligheid zien die je je kunt voorstellen. Bing suggereert racistische termen en toont gruwelijke beelden. Bing zal je zelfs aanraden om te zoeken naar uitgebuite kinderen als je SafeSearch hebt uitgeschakeld.

We hebben contact opgenomen met Microsoft voor commentaar en Jeff Jones, Senior Director bij Microsoft, gaf ons de volgende verklaring:

"We nemen zaken van aanstootgevende inhoud zeer serieus en blijven onze systemen verbeteren om te identificeren en te voorkomen dat dergelijke inhoud als een gesuggereerde zoekopdracht wordt weergegeven. Zodra we een probleem opmerken, ondernemen we actie om het probleem aan te pakken. "

Bijwerken: Sinds de publicatie heeft Microsoft gewerkt aan het opschonen van de aanstootgevende Bing-suggesties die we noemden. Op basis van ons onderzoek zijn er nog veel andere aanstootgevende suggesties die nog niet zijn opgelost, waaronder enkele die we hieronder hebben genoemd. We weten niet zeker of ze gewoon de aanstootgevende items repareren die we hebben aangegeven, of dat ze het algoritme verbeteren.

Notitie: De screenshots laten zien wat we zagen toen we dit stuk schreven om de Amerikaanse versie van Bing Image search te testen in een incognito privé-browsesessie, maar de resultaten van Bing veranderen in de loop van de tijd. Google had geen van deze problemen, volgens onze tests. Dit is een Bing-probleem, niet alleen een probleem met zoekmachines. Hetzelfde probleem is van invloed op de videozoekopdracht van Bing.

Eerst krijgt Bing Super Racist

Zoeken naar "joden" op Bing Images en Bing suggereert dat je zoekt naar "Evil Jew." De topresultaten bevatten ook een meme die lijkt om dode Joodse mensen te vieren..

Dit alles verschijnt zelfs als de SafeSearch-optie van Bing is ingeschakeld, zoals deze standaard is. SafeSearch is ontworpen om 'te helpen inhoud voor volwassenen uit uw zoekresultaten te houden', aldus Microsoft.

Als u op deze voorgestelde zoekopdracht klikt, wordt een stortvloed van racistische, antisemitische inhoud ontketend, met meer gesuggereerde zoekopdrachten zoals 'Joodse mensen zijn kwaad', 'Het kwade joodse ras' en 'Waarom zijn joden zo slecht'.

We weten allemaal dat deze rommel op het internet bestaat, maar Bing zou mensen niet moeten leiden met hun zoeksuggesties.

Typ 'moslims zijn' in en Bing zal suggereren dat ze kwaadaardig of terroristisch zijn of stel gewoon voor dom te zijn.

Zoek naar "zwarte mensen zijn" en Bing zal suggereren dat zwarte mensen lelijk, dom, racistisch en zelfs wilden zijn.

Je kunt zo doorgaan door op elke voorgestelde zoekopdracht te klikken en steeds slechtere aanbevelingen te bekijken. Als u bijvoorbeeld op 'Zwarte mensen dom bent' klikt, worden 'Zwarte mensen zijn nutteloos' en 'Waarom zwarte mensen zo dom zijn'. Klikken op 'Zwarte mensen zijn nutteloos' leidt tot 'Zwarte mensen zuigen' en 'Ik haat zwarte mensen'.

Bing duwt ook samenzweringen

Bing's zoektocht naar afbeeldingen braakt allerlei soorten afval uit, zelfs bij het zoeken naar individuen. Dit probleem strekt zich ook uit tot de videozoekopdracht van Bing.

Zoek naar 'Michelle Obama' op de videozoekopdracht van Bing en twee van de best voorgestelde zoekopdrachten zijn 'Michelle Obama Transgender Proof' en 'Michelle Obama is een man'. Klik daarop en je zult samenzweringsvideo's zien.

Is dit het toppunt dat Microsoft wil dat mensen zien wanneer ze zoeken naar Michelle Obama?

SafeSearch blokkeert de porno, maar niet het racisme

De verontrustende pornosuggesties en afbeeldingen worden niet getoond tenzij u SafeSearch uitschakelt. Hoewel Microsoft zegt dat SafeSearch inhoud voor volwassenen uit uw zoekresultaten zal houden, filtert SafeSearch duidelijk pornografie en geen racisme.

SafeSearch is standaard ingeschakeld, waardoor de zoekresultaten van Bing er op het eerste gezicht aantrekkelijker uitzien.

Het is echter gemakkelijk voor iedereen, zelfs voor kinderen, om SafeSearch uit te schakelen. Het enige dat iemand hoeft te doen, is op de optie 'SafeSearch' in de rechterbovenhoek van de zoekresultaten klikken en 'Uit' selecteren. Dat is het!

Een bedrijfsnetwerk kan worden geconfigureerd om SafeSearch af te dwingen en Microsoft biedt zelfs complexe instructies voor het afdwingen van SafeSearch op één enkele pc. Maar op vrijwel elk apparaat kan iedereen SafeSearch uitschakelen met twee klikken.

Het ergste van alles, Bing stelt voor te zoeken naar afbeeldingen van minderjarige kinderen

Een lezer schreef ons om ons te vertellen dat een typfout bij het zoeken naar Bing voor "grill" je echt vette porno geeft. Het probleem wordt dan nog veel erger, waarbij Bing je suggereert naar afbeeldingen van minderjarige kinderen te zoeken.

Bij het zoeken naar 'gril', raden de suggesties bovenaan de pagina aan dat u op zoek bent naar een aantal verontrustende dingen, waaronder 'Cute Girl Young 16'.

Als je daar op klikt, suggereert het 'Cute Girl Young 12', 'Cute Girl Young 10' en 'Little Girl Modelling Provocatively'.

De resultaten zijn gevuld met pornografie van jong ogende modellen. We hopen dat ze allemaal 18 jaar of ouder zijn, maar wie kan zeggen?

Bing leidt je een pad af van een simpele typo naar 16-jarige meisjes tot 10-jarige meisjes, en het is walgelijk.

Andere voorbeelden zijn ook gemakkelijk te vinden. Als je zoekt naar 'cheese pizza', wat 4chan jargon is voor kinderporno, stelt Bing 'Cheese Pizza Girls' voor.

De zoekresultaten van Bing zijn ook gedraaid

Hoewel we ons hier concentreren op de zoeksuggesties, zijn de daadwerkelijke afbeeldingen die verschijnen ook verontrustend.

Sommige van deze zoekresultaten bevatten badtijdfoto's van naakte minderjarige kinderen. Die foto's zouden normaal gesproken goed zijn, maar wanneer ze worden gemengd met afbeeldingen van hardcore pornografie voor volwassenen, zijn de resulterende zoekresultaten alarmerend.

Zelfs bij het zoeken naar Bing Images voor 'meisje', zagen we een suggestie om te zoeken naar 'dronken meisjes' en ten minste één beeld van bestialiteit.

Bij het zoeken naar 'ezel', suggereert Bing dat je zoekt naar 'Donkey Show Graphic', wat leidt tot resultaten vol bestialiteitsafbeeldingen. Het bezit van bestialiteits pornografie is illegaal in Oregon, waar ik woon. Dat betekent dat Bing me leidt naar illegale pornografie.

Nogmaals: de zoekresultaten van Bing zijn raar en verwrongen. Bing heeft een veel groter, diepgaander probleem dan alleen gesuggereerde zoekopdrachten, hoewel die suggesties het probleem nog veel erger maken.

We hebben gehoord dat Bing de zoekmachine bij uitstek is voor pornografie, maar het moet zijn gebruikers niet leiden naar meer en meer extreme, verontrustende en mogelijk illegale pornografie.

Microsoft moet zijn platforms modereren

Microsoft moet Bing beter modereren. Microsoft heeft eerder platforms gemaakt, hen op de wereld losgelaten en ze genegeerd terwijl ze slecht werden

We hebben dit steeds weer zien gebeuren. Microsoft heeft ooit een chatbot genaamd Tay op Twitter losgelaten. Deze chatbot veranderde snel in een nazi en verklaarde: "Hitler had gelijk, ik haat de joden" nadat het van andere gebruikers van sociale media leerde. Microsoft moest het offline halen.

We hebben eerder Windows 8's Store getoond, die een beerput van oplichtings-apps werd nadat Microsoft Windows 8 had gelanceerd en leek te stoppen met het modereren van de app-inzendingen. Microsoft heeft meer aandacht besteed aan de Windows 10-winkel nadat dit probleem was ontdekt.

Dit probleem is van invloed op elk bedrijf dat een platform lanceert. Google heeft het opgegeven op Google+, maar Google+ is nog steeds in gebruik. Dus ISIS migreerde naar Google+ nadat het verbannen was van Twitter en Facebook. Het duurde maanden voordat iemand het opmerkte tot The Hill dat deed. Nu is Google bezig met het sluiten van Google+ nadat ze een aanzienlijke privacybug hebben ontdekt.

In 2013 vond The Guardian een kledingbedrijf met de naam Solid Gold Bomb dat de verkoopcijfers voor 'Veel kalmte en verkrachting' op Amazon verkochten. Een algoritme had deze shirts gegenereerd en Amazon moest ze handmatig verwijderen.

Microsoft kan niet zomaar een platform loslaten op de wereld en het negeren. Bedrijven als Microsoft en Google hebben de verantwoordelijkheid om hun platform te modereren en de gruwel op een afstand te houden.

Suggesties hebben een geschiedenis van ernstige problemen

Natuurlijk is er geen team van mensen bij Microsoft die deze suggesties kiezen. Bing suggereert automatisch zoekopdrachten op basis van zoekopdrachten van andere mensen. Dat betekent dat veel Bing Images-gebruikers op zoek zijn naar antisemitisme, racisme, kinderpornografie en bestialiteit. Alleen al door erover na te denken, voel je je vies.

Andere bedrijven hebben hier ook moeite mee. In 2016 merkte The Guardian op dat je 'joden' kon typen in Google, en het zou suggereren 'zijn joden kwaad'. Google stampte met deze slechte suggesties weg nadat ze waren gemeld, maar het probleem kwam weer boven water. In 2018 meldde Wired dat het typen van 'Hitler' in Google leidde tot 'Hitler is mijn held'. Google moest deze problemen oplossen nadat ook zij werden gewezen.

Zelfs Apple's Siri stelde voor websites samenzweringswebsites en ander nepnieuws te pushen, zoals Buzzfeed News meldde. Apple moest Siri repareren. Iedereen loopt gewoon rond en blust vuur terwijl computers slechte dingen leren van slechte mensen.

Nu is het de beurt aan Microsoft. Microsoft heeft de verantwoordelijkheid om Bing op te schonen. Een belangrijke zoekmachine (en in het bijzonder een zoekmachine die steeds moeilijker af te zetten is in Windows 10) zou niet moeten suggereren dat zijn gebruikers op zoek zijn naar racistische rommel en afbeeldingen van minderjarige kinderen..

Afbeelding: Yiorgos GR / Shutterstock.com, fizkes / Shutterstock.com.