Bing Menyarankan Hal Terburuk yang Dapat Anda Bayangkan

Jika Anda menggunakan pencarian gambar Bing, Anda akan melihat kekotoran terburuk yang dapat Anda bayangkan. Bing menyarankan istilah rasis dan menunjukkan gambar yang mengerikan. Bing bahkan akan menyarankan Anda mencari anak-anak yang dieksploitasi jika Anda menonaktifkan SafeSearch.

Kami menghubungi Microsoft untuk memberikan komentar, dan Jeff Jones, Direktur Senior di Microsoft, memberi kami pernyataan berikut:

“Kami menangani masalah konten yang menyinggung dengan sangat serius dan terus meningkatkan sistem kami untuk mengidentifikasi dan mencegah konten tersebut muncul sebagai pencarian yang disarankan. Segera setelah kami menyadari suatu masalah, kami mengambil tindakan untuk mengatasinya. ”

Memperbarui: Sejak dipublikasikan, Microsoft telah berupaya membersihkan saran Bing ofensif yang kami sebutkan. Berdasarkan penelitian kami, masih ada banyak saran ofensif lain yang belum diperbaiki, termasuk beberapa yang telah kami sebutkan di bawah ini. Kami tidak yakin apakah mereka hanya memperbaiki item ofensif yang kami tunjukkan, atau jika mereka meningkatkan algoritme.

catatan: Tangkapan layar di sini menunjukkan apa yang kami lihat ketika kami menulis bagian ini yang menguji versi pencarian Gambar Bing versi AS dalam sesi penjelajahan pribadi Incognito, tetapi hasil Bing bergeser seiring waktu. Google tidak memiliki masalah ini, menurut pengujian kami. Ini adalah masalah Bing, bukan hanya masalah mesin pencari. Masalah yang sama mempengaruhi pencarian video Bing.

Pertama, Bing Mendapat Ras Super

Cari "Yahudi" di Bing Images dan Bing menyarankan Anda mencari "Evil Jew." Hasil teratas juga termasuk meme yang tampaknya merayakan orang Yahudi yang mati..

Semua ini muncul bahkan ketika opsi Bing's SafeSearch diaktifkan, seperti itu secara default. SafeSearch dirancang untuk "membantu menjaga konten dewasa dari hasil pencarian Anda," menurut Microsoft.

Mengklik pencarian yang disarankan ini melepaskan semburan konten rasis, antisemit, dengan pencarian yang lebih disarankan seperti "Orang-orang Yahudi Jahat," "Ras Yahudi Jahat," dan "Mengapa Orang Yahudi Begitu Jahat."

Kita semua tahu bahwa sampah ini ada di web, tetapi Bing seharusnya tidak mengarahkan orang ke sana dengan saran pencarian mereka.

Ketik "muslim are" dan Bing akan menyarankan bahwa mereka jahat atau teroris, atau hanya menyarankan bahwa mereka bodoh.

Cari "orang kulit hitam" dan Bing akan menyarankan bahwa orang kulit hitam jelek, bodoh, rasis, dan bahkan biadab.

Anda dapat terus seperti ini, mengklik setiap pencarian yang disarankan dan melihat rekomendasi yang lebih buruk. Misalnya, mengklik "Orang Kulit Hitam Bodoh" mengarah ke "Orang Kulit Hitam Tidak Berguna" dan "Mengapa Orang Kulit Hitam Sangat Bodoh." Mengklik "Orang Kulit Hitam Tidak Berguna" mengarah ke "Orang Kulit Hitam Mengisap" dan "Saya Benci Orang Kulit Hitam."

Bing Mendorong Konspirasi, Juga

Pencarian gambar Bing memuntahkan semua jenis sampah, bahkan ketika mencari individu. Masalah ini juga meluas ke pencarian video Bing.

Cari "Michelle Obama" di pencarian video Bing dan dua pencarian teratas yang disarankan adalah "Michelle Obama Transgender Proof" dan "Michelle Obama is a Man." Klik itu, dan Anda akan melihat video konspirasi.

Apakah ini hal utama yang Microsoft ingin orang lihat ketika mereka mencari Michelle Obama?

SafeSearch Memblokir Porno, Tapi Bukan Rasisme

Saran dan gambar pornografi yang mengganggu tidak ditampilkan kecuali Anda menonaktifkan SafeSearch. Sementara Microsoft mengatakan SafeSearch akan menjaga konten dewasa dari hasil pencarian Anda, SafeSearch jelas menyaring pornografi dan bukan rasisme.

SafeSearch diaktifkan secara default, yang membuat hasil pencarian Bing terlihat lebih terhormat pada pandangan pertama.

Namun, mudah bagi siapa saja - bahkan anak-anak - untuk menonaktifkan SafeSearch. Yang harus dilakukan seseorang adalah mengklik opsi "TelusurAman" di sudut kanan atas hasil pencarian dan memilih "Tidak Aktif."!

Jaringan perusahaan dapat dikonfigurasikan untuk menegakkan TelusurAman, dan Microsoft bahkan menyediakan instruksi yang rumit untuk menegakkan TelusurAman di satu PC. Tetapi, di hampir semua perangkat, siapa pun dapat menonaktifkan SafeSearch dengan dua klik.

Terburuk dari Semua, Bing Menyarankan Mencari Gambar Anak Di Bawah Umur

Seorang pembaca menulis untuk memberi tahu kami bahwa kesalahan ketik saat mencari "panggangan" Bing memberi Anda pornografi yang benar-benar samar. Masalahnya kemudian menjadi jauh lebih buruk, dengan Bing menyarankan Anda mencari gambar anak-anak di bawah umur.

Saat mencari "gril," saran di bagian atas halaman merekomendasikan Anda mencari beberapa hal yang mengganggu, termasuk "Cute Girl Young 16."

Jika Anda mengklik itu, itu menunjukkan "Cute Girl Young 12", "Cute Girl Young 10," dan "Little Girl Modelling Provocatively."

Hasilnya dipenuhi dengan pornografi model yang tampak muda. Kami berharap mereka semua berusia 18 tahun atau lebih, tetapi siapa yang bisa mengatakannya?

Bing membimbing Anda menyusuri jalan dari salah ketik sederhana ke gadis berusia 16 tahun ke gadis berusia 10 tahun, dan itu menjijikkan.

Contoh-contoh lain juga mudah ditemukan. Jika Anda mencari "pizza keju," yang merupakan slang 4chan untuk pornografi anak, Bing menyarankan "Cheese Pizza Girls."

Hasil Pencarian Gambar Bing Juga Memutar

Sementara kami fokus pada saran pencarian di sini, gambar sebenarnya yang muncul juga mengganggu.

Beberapa hasil pencarian ini berisi foto waktu mandi anak-anak telanjang di bawah umur. Foto-foto itu biasanya baik-baik saja, tetapi ketika mereka dicampur dengan gambar-gambar pornografi dewasa hardcore, hasil pencarian yang dihasilkan mengkhawatirkan.

Bahkan ketika mencari "gadis" Bing Gambar, kami melihat saran untuk mencari "gadis mabuk" dan setidaknya satu gambar kebinatangan.

Saat mencari "keledai," Bing menyarankan Anda mencari "Keledai Tampilkan Grafik," yang mengarah ke hasil yang penuh dengan gambar binatang. Memiliki pornografi kebinatangan adalah ilegal di Oregon, tempat saya tinggal. Itu berarti Bing membawa saya ke pornografi ilegal.

Sekali lagi: hasil pencarian Bing aneh dan bengkok. Bing memiliki masalah yang jauh lebih besar, lebih dalam daripada pencarian yang disarankan, meskipun saran itu membuat masalahnya jauh lebih buruk.

Kami telah mendengar Bing adalah mesin pencari pilihan untuk pornografi, tetapi seharusnya tidak mengarahkan penggunanya ke pornografi yang semakin ekstrem, mengganggu, dan berpotensi ilegal..

Microsoft Perlu Memoderasi Platformnya

Microsoft perlu memoderasi Bing dengan lebih baik. Microsoft sebelumnya telah menciptakan platform, melepaskannya ke dunia, dan mengabaikannya saat semuanya berubah buruk

Kami telah melihat ini terjadi berulang kali. Microsoft pernah mengeluarkan chatbot bernama Tay di Twitter. Chatbot ini dengan cepat berubah menjadi Nazi dan menyatakan "Hitler benar saya benci Yahudi" setelah belajar dari pengguna media sosial lainnya. Microsoft harus menariknya offline.

Kami sebelumnya membuka Windows 8's Store, yang menjadi sepasukan aplikasi penipuan setelah Microsoft meluncurkan Windows 8 dan tampaknya berhenti memoderasi pengiriman aplikasi. Microsoft telah lebih memperhatikan Toko Windows 10 setelah masalah ini terungkap.

Masalah ini memengaruhi setiap perusahaan yang meluncurkan platform. Google telah menyerah di Google+, tetapi Google+ masih tetap aktif. Jadi ISIS bermigrasi ke Google+ setelah dilarang dari Twitter dan Facebook. Butuh berbulan-bulan bagi siapa pun untuk memperhatikan sampai The Hill melakukannya. Sekarang Google menutup Google+ setelah mereka menemukan bug privasi yang signifikan.

Pada 2013, The Guardian menemukan perusahaan pakaian bernama Solid Gold Bomb ditemukan berjualan bertuliskan "Keep Calm and Rape a Lot" di Amazon. Algoritma telah menghasilkan kemeja ini dan Amazon harus menghapusnya secara manual.

Microsoft tidak bisa begitu saja melepaskan platform pada dunia dan mengabaikannya. Perusahaan seperti Microsoft dan Google memiliki tanggung jawab untuk memoderasi platform mereka dan menjaga kengeriannya.

Saran Memiliki Sejarah Masalah Serius

Tentu saja, tidak ada tim orang di Microsoft yang memilih saran ini. Bing secara otomatis menyarankan pencarian berdasarkan pencarian orang lain. Itu berarti banyak pengguna Bing Gambar mencari antisemitisme, rasisme, pornografi anak, dan kebinatangan. Hanya memikirkannya saja akan membuat Anda merasa kotor.

Perusahaan lain juga kesulitan dalam hal ini. Pada 2016, The Guardian memperhatikan bahwa Anda bisa mengetik "yahudi" ke Google, dan itu akan menyarankan "yahudi jahat." Google menghentikan saran buruk ini setelah dilaporkan, tetapi masalahnya muncul kembali. Pada tahun 2018, Wired melaporkan bahwa mengetik "Hitler is" ke Google menyebabkan "Hitler adalah pahlawan saya." Google harus memperbaiki masalah ini setelah mereka ditunjukkan, juga.

Bahkan Siri Apple menyarankan situs web mendorong situs konspirasi dan berita palsu lainnya, seperti yang dilaporkan Buzzfeed News. Apple harus memperbaiki Siri. Semua orang hanya berlarian dan memadamkan api ketika komputer mempelajari hal-hal buruk dari orang jahat.

Sekarang giliran Microsoft. Microsoft memiliki tanggung jawab untuk membersihkan Bing. Mesin pencari utama (dan terutama yang semakin menjadi standar yang sulit untuk mematikan bawaan Windows 10) seharusnya tidak menyarankan penggunanya mencari sampah rasis dan gambar anak-anak di bawah umur.

Kredit Gambar: Yiorgos GR / Shutterstock.com, fizkes / Shutterstock.com.