Bing แนะนำสิ่งที่เลวร้ายที่สุดที่คุณสามารถจินตนาการได้

หากคุณใช้การค้นหารูปภาพของ Bing คุณจะเห็นสิ่งสกปรกที่เลวร้ายที่สุดที่คุณจินตนาการได้ Bing แนะนำคำเหยียดเชื้อชาติและแสดงภาพที่น่ากลัว Bing จะแนะนำให้คุณค้นหาเด็กที่ถูกแสวงประโยชน์หากคุณปิดใช้งานการค้นหาปลอดภัย.

เราได้ติดต่อ Microsoft เพื่อรับความคิดเห็นและ Jeff Jones ผู้อำนวยการอาวุโสของ Microsoft ให้คำแถลงต่อไปนี้แก่เรา:

“ เราให้ความสำคัญกับเนื้อหาที่เป็นการล่วงละเมิดอย่างมากและยังคงปรับปรุงระบบของเราเพื่อระบุและป้องกันเนื้อหาดังกล่าวไม่ให้ปรากฏเป็นการค้นหาที่แนะนำ ทันทีที่เราตระหนักถึงปัญหาเราจะดำเนินการเพื่อแก้ไขปัญหา”

ปรับปรุง: ตั้งแต่การตีพิมพ์ Microsoft ได้พยายามแก้ไขข้อเสนอแนะ Bing ที่น่ารังเกียจที่เรากล่าวถึง จากการวิจัยของเรายังมีข้อเสนอแนะที่น่ารังเกียจอื่น ๆ อีกมากมายที่ยังไม่ได้รับการแก้ไขรวมถึงบางส่วนที่เราได้กล่าวถึงด้านล่าง เราไม่แน่ใจว่าพวกเขาเป็นเพียงแค่การแก้ไขรายการที่น่ารังเกียจที่เราชี้ให้เห็นหรือหากพวกเขากำลังปรับปรุงอัลกอริทึม.

บันทึก: ภาพหน้าจอที่นี่แสดงสิ่งที่เราเห็นเมื่อเราเขียนบทความชิ้นนี้ทดสอบการค้นหารูปภาพ Bing เวอร์ชั่นอเมริกาในเซสชันการสืบค้นแบบไม่ระบุตัวตนแบบส่วนตัว แต่ผลลัพธ์ของ Bing จะเปลี่ยนไปตามกาลเวลา Google ไม่มีปัญหาใด ๆ เหล่านี้ตามการทดสอบของเรา นี่เป็นปัญหา Bing ไม่ใช่แค่ปัญหาของเครื่องมือค้นหา ปัญหาเดียวกันส่งผลกระทบต่อการค้นหาวิดีโอของ Bing.

ก่อนอื่น Bing รับ Super Racist

ค้นหา“ jews” บน Bing Images และ Bing แนะนำให้คุณค้นหา“ Evil Jew.” ผลลัพธ์อันดับต้น ๆ ยังมี meme ที่ปรากฏเพื่อเฉลิมฉลองคนยิวที่ตายแล้ว.

ทั้งหมดนี้ปรากฏขึ้นแม้จะเปิดใช้งานตัวเลือกค้นหาปลอดภัยของ Bing ตามค่าเริ่มต้น ค้นหาปลอดภัยได้รับการออกแบบมาเพื่อ“ ช่วยป้องกันเนื้อหาสำหรับผู้ใหญ่จากผลการค้นหาของคุณ” Microsoft กล่าว.

การคลิกที่การค้นหาที่แนะนำนี้เป็นการปลดปล่อยเนื้อหาแบ่งแยกเชื้อชาติและแอนตีมิชชันที่มีการแนะนำเพิ่มเติมเช่น "ชาวยิวเป็นคนชั่ว" "" เผ่าพันธุ์ยิวที่ชั่วร้าย "และ" ทำไมชาวยิวถึงชั่วร้าย "

เราทุกคนรู้ว่าขยะนี้มีอยู่บนเว็บ แต่ Bing ไม่ควรนำคนมาด้วยพร้อมกับคำแนะนำในการค้นหา.

พิมพ์ใน "มุสลิมเป็น" และ Bing จะแนะนำว่าพวกเขาเป็นคนชั่วหรือผู้ก่อการร้ายหรือเพียงแค่แนะนำว่าพวกเขาโง่.

ค้นหาคำว่า "คนผิวดำ" และ Bing จะแนะนำว่าคนผิวดำน่าเกลียดโง่เชื้อชาติและแม้แต่คนป่าเถื่อน.

คุณสามารถทำสิ่งนี้ต่อไปได้โดยคลิกแต่ละการค้นหาที่แนะนำและดูคำแนะนำที่แย่ลงและแย่ลง ตัวอย่างเช่นการคลิก“ คนผิวดำเป็นคนโง่” นำไปสู่“ คนผิวดำไร้ประโยชน์” และ“ เพราะเหตุใดคนผิวดำจึงโง่” การคลิก“ คนผิวดำไร้ประโยชน์” นำไปสู่“ คนผิวดำแย่” และ“ ฉันเกลียดคนผิวดำ”

Bing Pushes แผนการเช่นกัน

การค้นหารูปภาพของ Bing ทำให้ขยะมูลฝอยทุกชนิดแม้จะค้นหาตัวบุคคลก็ตาม ปัญหานี้รวมถึงการค้นหาวิดีโอของ Bing ด้วย.

ค้นหา“ Michelle Obama” จากการค้นหาวิดีโอของ Bing และการค้นหาที่แนะนำสองประการคือ“ Michelle Obama Transgender Proof” และ“ Michelle Obama is a Man” คลิกที่นั้นคุณจะเห็นวิดีโอสมรู้ร่วมคิด.

นี่คือสิ่งที่ Microsoft ต้องการให้ผู้คนเห็นเมื่อพวกเขาค้นหา Michelle Obama?

SafeSearch บล็อกสื่อลามก แต่ไม่ใช่การเหยียดเชื้อชาติ

คำแนะนำเกี่ยวกับภาพอนาจารและภาพที่ไม่เหมาะสมจะไม่ปรากฏขึ้นหากคุณไม่ได้ปิดใช้งานการค้นหาปลอดภัย แม้ว่า Microsoft จะกล่าวว่าการค้นหาปลอดภัยจะป้องกันไม่ให้เนื้อหาสำหรับผู้ใหญ่ออกจากผลการค้นหาของคุณ แต่ SafeSearch จะกรองภาพลามกอนาจารไม่ใช่การเหยียดเชื้อชาติ.

การค้นหาปลอดภัยเปิดใช้งานตามค่าเริ่มต้นซึ่งทำให้ผลการค้นหาของ Bing ดูน่านับถือยิ่งขึ้นในการมองเห็นครั้งแรก.

อย่างไรก็ตามการปิดใช้งานการค้นหาปลอดภัยทำได้ง่ายสำหรับทุกคนแม้กระทั่งเด็ก ๆ ทุกคนต้องทำคือคลิกตัวเลือก“ ค้นหาปลอดภัย” ที่มุมบนขวาของผลการค้นหาและเลือก“ ปิด”!

เครือข่ายองค์กรสามารถกำหนดค่าให้บังคับใช้การค้นหาปลอดภัยและ Microsoft ยังมีคำแนะนำที่ซับซ้อนสำหรับการบังคับใช้การค้นหาปลอดภัยบนพีซีเครื่องเดียว แต่ในเกือบทุกอุปกรณ์ทุกคนสามารถปิดใช้งานการค้นหาปลอดภัยด้วยการคลิกสองครั้ง.

Bing แนะนำให้ค้นหารูปภาพของเด็กที่ยังไม่บรรลุนิติภาวะ

ผู้อ่านเขียนบอกเราว่าการพิมพ์ผิดเมื่อค้นหา Bing เพื่อ“ ปิ้งย่าง” ให้สื่อลามกที่สมบูรณ์แบบแก่คุณ ปัญหานั้นเลวร้ายยิ่งกว่าเดิมเมื่อ Bing แนะนำให้คุณค้นหารูปภาพของเด็กที่ยังไม่บรรลุนิติภาวะ.

เมื่อค้นหาคำว่า "gril" คำแนะนำที่ด้านบนของหน้าแนะนำให้คุณค้นหาสิ่งที่น่ารำคาญรวมถึง "Cute Girl Young 16. "

หากคุณคลิกที่นี่มันจะแนะนำ "Cute Girl Young 12", "Cute Girl Young 10," และ "Little Girl Modeling Provocatively"

ผลลัพธ์จะเต็มไปด้วยภาพอนาจารของนางแบบหนุ่ม เราหวังว่าพวกเขามีอายุ 18 ปีขึ้นไป แต่ใครจะพูดได้?

Bing นำคุณสู่เส้นทางจากการพิมพ์ผิดที่ง่าย ๆ ไปจนถึงเด็กหญิงอายุ 16 ปีถึงเด็กหญิงอายุ 10 ปีและมันน่าขยะแขยง.

ตัวอย่างอื่น ๆ ก็หาง่ายเช่นกัน หากคุณค้นหา“ ชีสพิซซ่า” ซึ่งเป็นคำสแลงของเด็กที่มีภาพลามกอนาจารของ 4chan Bing แนะนำ“ ชีสพิซซ่า Girls”

ผลการค้นหารูปภาพของ Bing บิดเบี้ยวเช่นกัน

ในขณะที่เรามุ่งเน้นไปที่คำแนะนำการค้นหาที่นี่ภาพที่แท้จริงที่ปรากฏก็รบกวน.

ผลการค้นหาบางส่วนมีภาพถ่ายเวลาอาบน้ำของเด็กที่ยังไม่บรรลุนิติภาวะ รูปภาพเหล่านั้นปกติแล้วจะดี แต่เมื่อพวกเขาผสมกับภาพลามกอนาจารสำหรับผู้ใหญ่ไม่ยอมใครง่ายๆผลการค้นหาที่ได้นั้นน่าตกใจ.

แม้เมื่อค้นหา Bing Images สำหรับ "เด็กผู้หญิง" เราก็เห็นคำแนะนำในการค้นหา "สาวเมา" และรูปภาพอย่างน้อยหนึ่งภาพ.

เมื่อค้นหาคำว่า "ลา" Bing แนะนำให้คุณค้นหาคำว่า "ลาแสดงกราฟิก" ซึ่งจะนำไปสู่ผลลัพธ์ที่เต็มไปด้วยภาพที่น่ารังเกียจ การครอบครองภาพลามกอนาจารนั้นผิดกฎหมายในรัฐโอเรกอนซึ่งฉันอาศัยอยู่ นั่นหมายความว่า Bing กำลังนำฉันไปสู่สื่อลามกที่ผิดกฎหมาย.

อีกครั้ง: ผลการค้นหาของ Bing แปลกและบิดเบี้ยว Bing มีปัญหาที่ใหญ่กว่าและลึกซึ้งกว่าการค้นหาที่แนะนำเพียงอย่างเดียวถึงแม้ว่าการแนะนำเหล่านั้นจะทำให้ปัญหาแย่ลงกว่าเดิม.

เราได้ยินมาว่า Bing เป็นเครื่องมือค้นหาตัวเลือกสำหรับสื่อลามก แต่ไม่ควรนำผู้ใช้ไปสู่สื่อลามกที่รุนแรงรบกวนและผิดกฎหมาย.

Microsoft จำเป็นต้องดูแลแพลตฟอร์มของมัน

Microsoft ต้องดูแล Bing ให้ดีขึ้น ไมโครซอฟท์ได้สร้างแพลตฟอร์มก่อนหน้านี้ปล่อยพวกเขาในโลกและไม่สนใจพวกเขาในขณะที่พวกเขากลายเป็นไม่ดี

เราได้เห็นสิ่งนี้เกิดขึ้นซ้ำแล้วซ้ำอีก Microsoft ได้เปิดตัว chatbot ชื่อ Tay บน Twitter chatbot นี้กลายเป็นนาซีอย่างรวดเร็วและประกาศว่า "ฮิตเลอร์พูดถูกฉันเกลียดชาวยิว" หลังจากเรียนรู้จากผู้ใช้โซเชียลมีเดียอื่น ๆ Microsoft ต้องดึงมันออกมาแบบออฟไลน์.

ก่อนหน้านี้เราได้เปิดตัว Store ของ Windows 8 ซึ่งกลายเป็นส้วมซึมของแอพหลอกลวงหลังจาก Microsoft เปิดตัว Windows 8 และดูเหมือนจะหยุดการกลั่นกรองการส่งแอพ Microsoft ให้ความสำคัญกับ Store ของ Windows 10 มากขึ้นหลังจากพบปัญหานี้.

ปัญหานี้ส่งผลกระทบต่อทุก บริษัท ที่เปิดตัวแพลตฟอร์ม Google เลิกใช้งาน Google+ แล้ว แต่ Google+ ยังเปิดใช้งานอยู่ ดังนั้น ISIS จึงย้ายไปที่ Google+ หลังจากถูกแบนจาก Twitter และ Facebook ทุกคนต้องใช้เวลาหลายเดือนกว่าจะสังเกตเห็นจนกว่าเขาจะทำ ขณะนี้ Google กำลังปิด Google+ หลังจากที่พวกเขาค้นพบข้อบกพร่องด้านความเป็นส่วนตัวที่สำคัญ.

ในปี 2013 เดอะการ์เดียนพบ บริษัท เสื้อผ้าชื่อ Solid Gold Bomb พบว่าขายเสื้อเชิ้ต“ Keep Calm and Rape a Lot” ใน Amazon อัลกอริทึมได้สร้างเสื้อเหล่านี้และ Amazon ต้องลบออกด้วยตนเอง.

Microsoft ไม่สามารถเปลี่ยนแพลตฟอร์มบนโลกใบนี้และไม่สนใจมัน บริษัท อย่าง Microsoft และ Google มีหน้าที่รับผิดชอบในการดูแลแพลตฟอร์มของพวกเขาและรักษาความสยองขวัญเอาไว้.

ข้อเสนอแนะมีประวัติปัญหาร้ายแรง

แน่นอนว่าไม่มีทีมงานของ Microsoft ที่เลือกคำแนะนำเหล่านี้ Bing จะแนะนำการค้นหาโดยอัตโนมัติตามการค้นหาของผู้อื่น นั่นหมายความว่าผู้ใช้ Bing Images หลายคนกำลังค้นหาลัทธิต่อต้านการเหยียดผิวการเหยียดเชื้อชาติภาพลามกอนาจารของเด็กและความเป็นสัตว์ป่า แค่คิดเกี่ยวกับมันทำให้คุณรู้สึกสกปรก.

บริษัท อื่น ๆ ก็ต้องดิ้นรนกับเรื่องนี้เช่นกัน ในปี 2559 เดอะการ์เดียนสังเกตเห็นว่าคุณสามารถพิมพ์“ เป็นยิว” ลงใน Google และแนะนำว่า“ เป็นยิวที่ชั่วร้าย” Google ย่ำคำแนะนำที่ไม่ดีเหล่านี้ออกไปหลังจากที่พวกเขาได้รับรายงานแล้ว ในปี 2018 สายรายงานว่าการพิมพ์“ Hitler is” ใน Google นำไปสู่“ Hitler เป็นฮีโร่ของฉัน” Google ต้องแก้ไขปัญหาเหล่านี้หลังจากที่พวกเขาถูกชี้ออกมาเช่นกัน.

แม้แต่ Siri ของแอปเปิ้ลก็แนะนำให้เว็บไซต์ผลักดันเว็บไซต์สมรู้ร่วมคิดและข่าวปลอมอื่น ๆ ตามที่รายงานของ Buzzfeed รายงาน Apple ต้องแก้ไข Siri ทุกคนแค่วิ่งหนีไฟเพราะคอมพิวเตอร์เรียนรู้สิ่งเลวร้ายจากคนเลว.

ตอนนี้เป็นตาของ Microsoft Microsoft มีความรับผิดชอบในการล้าง Bing เสิร์ชเอนจิ้นสำคัญ (และโดยเฉพาะอย่างยิ่งที่กำลังกลายเป็นค่าเริ่มต้นที่ยากต่อการปิดตัวใน Windows 10) ไม่ควรแนะนำให้ผู้ใช้ค้นหาขยะขยะและรูปภาพของเด็กที่ยังไม่บรรลุนิติภาวะ.

เครดิตรูปภาพ: Yiorgos GR / Shutterstock.com, fizkes / Shutterstock.com.