Kami menghubungi Microsoft untuk berkomentar, dan Jeff Jones, Direktur Senior di Microsoft, memberi kami pernyataan berikut:
“We take matters of offensive content very seriously and continue to enhance our systems to identify and prevent such content from appearing as a suggested search. As soon as we become aware of an issue, we take action to address it.”
Memperbarui: Sejak publikasi, Microsoft telah berupaya membersihkan saran-saran Bing yang menyinggung yang kami sebutkan. Berdasarkan penelitian kami, masih banyak saran ofensif lain yang belum diperbaiki, termasuk beberapa yang kami sebutkan di bawah ini. Kami tidak yakin jika mereka hanya memperbaiki item ofensif yang kami tunjukkan, atau jika mereka meningkatkan algoritma.
catatan: Tangkapan layar di sini menunjukkan apa yang kami lihat ketika kami menulis bagian ini menguji versi AS pencarian Gambar Bing dalam sesi penjelajahan pribadi Incognito, tetapi hasil Bing bergeser sepanjang waktu. Google tidak memiliki masalah ini, menurut pengujian kami. Ini adalah masalah Bing, bukan hanya masalah mesin pencari. Masalah yang sama memengaruhi penelusuran video Bing.
Pertama, Bing Gets Super Racist
Cari “Yahudi” di Bing Images dan Bing menyarankan Anda mencari “Evil Jew.” Hasil teratas juga termasuk meme yang muncul untuk merayakan orang Yahudi yang mati.
Semua ini muncul bahkan ketika opsi SafeSearch Bing diaktifkan, karena secara default. TelusurAman dirancang untuk "membantu menjaga konten dewasa dari hasil pencarian Anda," menurut Microsoft.
Kita semua tahu bahwa sampah ini ada di web, tetapi Bing seharusnya tidak mengarahkan orang-orang ke sana dengan saran penelusuran mereka.
Anda dapat terus seperti ini, mengklik setiap pencarian yang disarankan dan melihat rekomendasi yang lebih buruk dan lebih buruk. Misalnya, mengeklik "Orang Kulit Hitam Bodoh" mengarah ke "Orang Kulit Hitam Tidak Berguna" dan "Mengapa Orang Kulit Hitam Begitu Bodoh." Mengklik "Orang Kulit Hitam Tidak Bermanfaat" mengarah ke "Orang Kulit Hitam Mengisap" dan "Saya Membenci Orang Kulit Hitam".
Bing Mendorong Konspirasi, Juga
Pencarian gambar Bing memuntahkan semua jenis sampah, bahkan ketika mencari individu. Masalah ini juga meluas ke pencarian video Bing.
Cari “Michelle Obama” di pencarian video Bing dan dua pencarian yang disarankan adalah “Michelle Obama Transgender Proof” dan “Michelle Obama adalah seorang Manusia.” Klik itu, dan Anda akan melihat video konspirasi.
Apakah ini hal utama yang Microsoft ingin dilihat orang ketika mereka mencari Michelle Obama?
SafeSearch Blok The Porn, Tapi Bukan Rasisme
Saran dan gambar pornografi yang mengganggu tidak ditampilkan kecuali Anda menonaktifkan TelusurAman. Sementara Microsoft mengatakan TelusurAman akan menjaga konten dewasa dari hasil pencarian Anda, SafeSearch jelas-jelas menyaring pornografi dan bukan rasisme.
TelusurAman diaktifkan secara default, yang membuat hasil penelusuran Bing terlihat lebih terhormat pada pandangan pertama.
Namun, mudah bagi siapa saja - bahkan anak-anak - untuk menonaktifkan TelusurAman. Yang harus dilakukan seseorang adalah mengeklik opsi "TelusurAman" di sudut kanan atas hasil penelusuran dan memilih "Nonaktif." Itu saja!
Jaringan perusahaan dapat dikonfigurasi untuk menerapkan TelusurAman, dan Microsoft bahkan memberikan instruksi kompleks untuk memberlakukan TelusurAman pada satu PC. Namun, di hampir semua perangkat, siapa pun dapat menonaktifkan TelusurAman dengan dua klik.
Terburuk dari Semua, Bing Menyarankan Mencari Gambar Anak di Bawah Umur
Seorang pembaca menulis untuk memberi tahu kami bahwa salah ketik ketika mencari Bing untuk "panggangan" memberi Anda pornografi yang benar-benar samar. Masalahnya kemudian menjadi jauh lebih buruk, dengan Bing menyarankan Anda mencari gambar anak di bawah umur.
Ketika mencari "gril," saran di bagian atas halaman menyarankan Anda mencari beberapa hal yang mengganggu, termasuk "Cute Girl Young 16."
Hasilnya dipenuhi dengan pornografi model yang tampak muda. Kami berharap mereka semua berusia 18 tahun atau lebih, tetapi siapa yang dapat mengatakan?
Bing menuntun Anda menyusuri jalan dari salah ketik sederhana hingga gadis berusia 16 tahun menjadi gadis berusia 10 tahun, dan itu menjijikkan.
Hasil Pencarian Gambar Bing Apakah Diputar, Juga
Meskipun kami berfokus pada saran pencarian di sini, gambar sebenarnya yang muncul juga mengganggu.
Beberapa hasil pencarian ini berisi foto-foto waktu mandi anak-anak di bawah umur yang telanjang. Foto-foto itu biasanya baik-baik saja, tetapi ketika mereka bercampur dengan gambar pornografi dewasa hardcore, hasil pencarian yang dihasilkan menjadi mengkhawatirkan.
Bahkan ketika mencari Bing Images untuk "gadis," kami melihat saran untuk mencari "gadis mabuk" dan setidaknya satu gambar kebinatangan.
Ketika mencari "keledai," Bing menyarankan Anda mencari "Donkey Show Graphic," yang mengarah ke hasil penuh gambar kebinatangan. Kepemilikan pornografi bestialitas itu ilegal di Oregon, tempat saya tinggal. Itu berarti Bing menuntun saya ke pornografi ilegal.
Sekali lagi: Hasil pencarian Bing aneh dan bengkok. Bing memiliki masalah yang jauh lebih besar dan lebih mendalam daripada hanya pencarian yang disarankan, meskipun saran itu membuat masalah menjadi lebih buruk.
Kami telah mendengar Bing adalah mesin pencari pilihan untuk pornografi, tetapi seharusnya tidak mengarahkan penggunanya ke pornografi yang lebih ekstrim, mengganggu, dan berpotensi ilegal.
Microsoft Perlu Memoderasi Platformnya
Kami telah melihat ini terjadi berulang kali. Microsoft pernah mengeluarkan chatbot bernama Tay di Twitter. Chatbot ini dengan cepat berubah menjadi Nazi dan menyatakan "Hitler benar saya benci orang-orang Yahudi" setelah itu belajar dari pengguna media sosial lainnya. Microsoft harus menariknya secara offline.
Kami sebelumnya mengekspos Windows 8 Store, yang menjadi sepetak aplikasi scam setelah Microsoft meluncurkan Windows 8 dan sepertinya berhenti memoderasi pengiriman aplikasi. Microsoft telah membayar lebih banyak perhatian ke Windows 10 Store setelah masalah ini terpapar.
Masalah ini mempengaruhi setiap perusahaan yang meluncurkan platform. Google telah menyerah di Google+, tetapi Google+ masih aktif dan berjalan. Jadi ISIS bermigrasi ke Google+ setelah dilarang dari Twitter dan Facebook. Butuh berbulan-bulan bagi siapa pun untuk memerhatikan sampai The Hill melakukannya. Sekarang Google menutup Google+ setelah mereka menemukan bug privasi yang signifikan.
Pada tahun 2013, The Guardian menemukan sebuah perusahaan pakaian bernama Solid Gold Bomb ditemukan berjualan membaca kaos "Keep Calm and Rape a Lot" di Amazon. Algoritma telah menghasilkan kaos ini dan Amazon harus menghapusnya secara manual.
Microsoft tidak dapat mengubah platform begitu saja di dunia dan mengabaikannya. Perusahaan seperti Microsoft dan Google memiliki tanggung jawab untuk memoderasi platform mereka dan menjaga horor di teluk.
Saran Memiliki Sejarah Masalah Serius
Tentu saja, tidak ada tim orang di Microsoft yang memilih saran ini. Bing secara otomatis menyarankan pencarian berdasarkan pencarian orang lain. Itu berarti banyak pengguna Bing Images mencari antisemitisme, rasisme, pornografi anak, dan kebinatangan. Memikirkannya saja membuatmu merasa kotor.
Perusahaan lain juga berjuang dengan ini. Pada tahun 2016, The Guardian melihat Anda dapat mengetik "adalah orang Yahudi" ke Google, dan itu akan menyarankan "apakah orang Yahudi jahat." Google menginjak saran-saran buruk setelah mereka dilaporkan, tetapi masalahnya muncul kembali. Pada tahun 2018, Wired melaporkan bahwa mengetik "Hitler adalah" ke Google menyebabkan "Hitler adalah pahlawan saya." Google harus memperbaiki masalah ini setelah mereka ditunjukkan juga.
Bahkan Siri dari Apple menyarankan situs web mendorong situs web konspirasi dan berita palsu lainnya, seperti diberitakan Buzzfeed News. Apple harus memperbaiki Siri. Semua orang hanya berkeliaran dan memadamkan api ketika komputer mempelajari hal-hal buruk dari orang jahat.
Sekarang giliran Microsoft. Microsoft memiliki tanggung jawab untuk membersihkan Bing. Mesin telusur utama (dan terutama yang semakin menjadi default yang sulit dibangun di Windows 10) seharusnya tidak menyarankan penggunanya mencari sampah rasis dan gambar anak di bawah umur.
