Bagaimana Kecerdasan Buatan Akan Mengubah Kehidupan Kita, Menjadi Lebih Baik atau Lebih Buruk

Jika Anda telah memperhatikan media selama setahun terakhir, Anda mungkin mendapat kesan bahwa hanya masalah waktu sebelum ancaman kecerdasan buatan datang untuk menghancurkan kita semua..

Catatan Editor: ini adalah penyimpangan dari format cara-dan dan penjelajahan normal kami tempat kami membiarkan penulis kami meneliti dan menyajikan pandangan yang menggugah pikiran tentang teknologi. 

Dari film-film besar musim panas seperti Avengers: Age of Ultron dan Transendensi bau Johnny Depp, hingga film indie yang lebih kecil seperti Ex-Machina atau drama hit Channel 4 Humans, penulis skenario sepertinya tidak bisa mendapatkan cukup banyak piala yang tidak peduli apa bentuk AI akhirnya memakan waktu dalam beberapa dekade mendatang, Anda bisa bertaruh itu akan menjadi pelajaran bagi umat manusia tentang menjadi korban keangkuhannya sendiri.

Tapi apakah ada ketakutan pada mesin ini yang dibenarkan? Dalam fitur ini, kita akan memeriksa dunia AI dari perspektif para ilmuwan, insinyur, programmer, dan pengusaha yang bekerja di lapangan hari ini dan meringkas apa yang mereka yakini sebagai revolusi besar berikutnya dalam kecerdasan manusia dan komputer.

Jadi, haruskah Anda mulai menimbun peluru untuk perang yang akan datang dengan Skynet, atau menendang kaki Anda sementara pasukan drone yang patuh mengurus setiap keinginan Anda? Baca terus untuk mengetahui.

Kenalilah Musuh-Mu

Untuk memulainya, ada baiknya mengetahui apa yang sebenarnya kita bicarakan ketika kita menggunakan istilah selimut "AI". Kata itu telah dilontarkan dan didefinisi ulang seratus kali sejak konsep komputer sadar diri pertama kali diusulkan oleh ayah tidak resmi AI, John McCarthy, pada tahun 1955 ... tetapi apa artinya sebenarnya?

Yah, pertama-tama, pembaca harus tahu bahwa kecerdasan buatan seperti yang kita pahami saat ini sebenarnya terbagi dalam dua kategori terpisah: "ANI" dan "AGI".

Yang pertama, kependekan dari Artificial Narrow Intelligence, mencakup apa yang secara umum disebut sebagai AI "lemah", atau AI yang hanya dapat beroperasi dalam satu area spesialisasi terbatas. Think Deep Blue, superkomputer yang dirancang oleh IBM untuk mengalahkan catur dunia pada tahun 1997. Deep Blue dapat melakukan satu hal dengan sangat baik: mengalahkan manusia di catur ... tapi hanya itu saja.

Anda mungkin tidak menyadarinya, tetapi kita sudah dikelilingi oleh ANI dalam kehidupan kita sehari-hari. Mesin yang melacak kebiasaan belanja Anda di Amazon dan menghasilkan rekomendasi berdasarkan ribuan variabel yang berbeda dibangun di atas ANI yang belum sempurna yang “mempelajari” apa yang Anda sukai dari waktu ke waktu dan memilih produk yang serupa. Contoh lain bisa berupa filter spam email pribadi, sistem yang memilah-milah jutaan pesan sekaligus untuk memutuskan mana yang nyata, dan kebisingan tambahan apa yang bisa didorong ke samping.

ANI adalah penerapan kecerdasan mesin yang bermanfaat dan relatif tidak berbahaya yang dapat dimanfaatkan oleh semua umat manusia, karena meskipun mampu memproses miliaran jumlah dan permintaan sekaligus, ia masih beroperasi dalam lingkungan terbatas yang dibatasi oleh jumlah transistor yang kami izinkan. untuk memiliki pada waktu tertentu. Di sisi lain, AI yang semakin kita waspadai adalah sesuatu yang disebut "Kecerdasan Umum Buatan", atau AGI.

Seperti yang ada saat ini, menciptakan apa pun yang bahkan dapat disebut sebagai AGI tetap menjadi Cawan Suci ilmu komputer, dan - jika tercapai - secara fundamental dapat mengubah segala sesuatu tentang dunia seperti yang kita ketahui. Ada banyak berbagai rintangan untuk mengatasi tantangan dalam menciptakan AGI sejati yang setara dengan pikiran manusia, tak terkecuali bahwa meskipun ada banyak kesamaan antara cara otak kita bekerja dan bagaimana komputer memproses informasi, ketika turun, untuk benar-benar menafsirkan hal-hal seperti yang kita lakukan; mesin memiliki kebiasaan buruk terpaku pada detail dan kehilangan hutan untuk pepohonan.

"Aku Takut Aku tidak bisa membiarkanmu melakukan itu, Dave"

Ketika komputer Watson IBM terkenal belajar cara mengutuk setelah membaca Urban Dictionary, kami memperoleh pemahaman tentang seberapa jauh kami dari AI yang benar-benar mampu memilah-milah hal-hal kecil dari pengalaman manusia dan menciptakan gambaran yang akurat tentang betapa "Berpikir" seharusnya dibuat.

Lihat, selama pengembangan Watson, para insinyur mengalami kesulitan mencoba mengajarkannya pola bicara alami yang lebih dekat dengan kita sendiri, daripada mesin mentah yang berbicara dalam kalimat yang sempurna. Untuk memperbaikinya, mereka pikir itu akan menjadi ide yang baik untuk menjalankan keseluruhan Kamus Urban melalui bank ingatannya, segera setelah itu Watson menanggapi salah satu tes tim dengan menyebutnya "omong kosong * t".

Teka-teki di sini adalah bahwa meskipun Watson tahu itu mengutuk dan bahwa apa yang dikatakannya ofensif, itu tidak sepenuhnya mengerti Mengapa tidak seharusnya menggunakan kata itu, yang merupakan komponen kritis yang memisahkan standar ANI hari ini dari berkembang menjadi AGI masa depan. Tentu, mesin ini dapat membaca fakta, menulis kalimat, dan bahkan mensimulasikan jaringan saraf tikus, tetapi ketika sampai pada pemikiran kritis dan keterampilan penilaian, AI saat ini masih tertinggal dengan menyedihkan di belakang kurva.

Kesenjangan antara mengetahui dan memahami itu tidak perlu disangkal, dan inilah yang ditunjukkan oleh para pesimis ketika berargumen bahwa kita masih jauh dari menciptakan AGI yang mampu mengetahui sendiri apa yang kita lakukan. Ini adalah jurang yang sangat luas, yang tidak bisa diakui oleh para insinyur komputer atau psikolog manusia dalam definisi modern tentang apa yang membuat makhluk sadar., sadar.

Bagaimana jika Skynet Menjadi Sadar Diri?

Tetapi, bahkan jika kita entah bagaimana berhasil menciptakan AGI dalam dekade berikutnya (yang cukup optimis dengan proyeksi saat ini), itu semua harus menjadi saus dari sana keluar, kan? Manusia yang hidup dengan AI, AI bergaul dengan manusia di akhir pekan setelah hari yang panjang di pabrik angka-angka. Berkemas dan kami selesai di sini?

Semoga kita bukan hanya pemuat boot biologis untuk kecerdasan digital. Sayangnya, itu semakin mungkin

- Elon Musk (@elonmusk) 3 Agustus 2014

Ya tidak cukup. Masih ada satu lagi kategori AI yang tersisa, dan itu adalah kategori yang telah diperingatkan oleh semua film dan acara TV selama bertahun-tahun: ASI, atau dikenal sebagai "kecerdasan super buatan". Secara teori, ASI akan lahir dari AGI yang gelisah dengan nasibnya dalam kehidupan, dan membuat keputusan yang direncanakan untuk melakukan sesuatu tentang hal itu sendiri tanpa izin terlebih dahulu dari kami. Kekhawatiran yang diajukan oleh banyak peneliti di bidang ini adalah bahwa begitu AGI mencapai perasaan, tidak akan puas dengan apa yang didapatnya, dan akan melakukan apa pun untuk meningkatkan kemampuannya sendiri dengan cara apa pun yang diperlukan..

Garis waktu yang memungkinkan adalah sebagai berikut: manusia menciptakan mesin, mesin menjadi sepintar manusia. Mesin, yang sekarang sepintar manusia yang menciptakan mesin sepintar diri mereka sendiri (tetap bersama saya di sini), mempelajari seni replikasi diri, evolusi diri, dan peningkatan diri. Tidak lelah, tidak sakit, dan bisa tumbuh tanpa henti sementara kita mengisi ulang baterai di tempat tidur.

Ketakutan adalah bahwa itu akan menjadi masalah hanya beberapa nanodetik sebelum AGI dengan mudah melampaui kecerdasan semua manusia yang hidup hari ini, dan jika terhubung ke web, hanya perlu menjadi satu simulasi neuron yang lebih pintar daripada yang diambil oleh peretas paling pintar di dunia. kontrol setiap sistem yang terhubung internet di planet ini.

Setelah ia mendapatkan kontrol, maka ia dapat memiliki potensi untuk menggunakan kekuatannya untuk perlahan-lahan mulai mengumpulkan pasukan mesin yang sama cerdasnya dengan penciptanya dan mampu berkembang pada tingkat eksponensial karena semakin banyak node yang ditambahkan ke jaringan. Dari sini, semua model yang tergambar pada kurva kecerdasan mesin segera meluncur melewati atap.

Yang mengatakan, bagaimanapun, mereka terutama masih didasarkan pada spekulasi daripada apa pun yang nyata. Ini menyisakan banyak ruang untuk asumsi atas nama puluhan pakar yang berbeda di kedua sisi masalah, dan bahkan setelah bertahun-tahun perdebatan sengit, masih belum ada konsensus bersama tentang apakah ASI akan menjadi dewa penyayang, atau melihat manusia sebagai spesies yang membakar karbon, suka makan makanan seperti kita dan menghapus kita dari buku-buku sejarah seperti kita menggosok jejak semut dari meja dapur.

Dia Mengatakan, Dia Mengatakan: Haruskah Kita Takut?

Jadi, sekarang kita mengerti apa itu AI, bentuk-bentuk berbeda yang mungkin memakan waktu, dan bagaimana sistem itu bisa menjadi bagian dari kehidupan kita dalam waktu dekat, pertanyaannya tetap: apakah kita harus takut?

Merasa tertarik pada ketertarikan publik terhadap AI selama setahun terakhir, banyak ilmuwan, insinyur, dan wirausahawan top dunia telah memanfaatkan kesempatan ini untuk memberikan dua sen mereka tentang seperti apa sebenarnya kecerdasan buatan di luar panggung suara Hollywood. dalam beberapa dekade mendatang.

Di satu sisi, Anda memiliki kesuraman dan malapetaka seperti Elon Musk, Stephen Hawking, dan Bill Gates, yang semuanya berbagi kekhawatiran bahwa tanpa perlindungan yang tepat diberlakukan, itu hanya akan menjadi masalah waktu sebelum ASI memimpikan cara untuk memusnahkan umat manusia.

"Orang dapat membayangkan teknologi seperti itu mengakali pasar keuangan, mengalahkan peneliti manusia, memanipulasi pemimpin manusia, dan mengembangkan senjata yang bahkan tidak dapat kita pahami", tulis Hawking dalam sebuah surat terbuka kepada komunitas AI tahun ini..

"Sedangkan dampak jangka pendek AI tergantung pada siapa yang mengendalikannya, dampak jangka panjang tergantung pada apakah ia dapat dikontrol sama sekali."

Di sisi lain, kami menemukan potret yang lebih cerah yang dilukis oleh futuris seperti Ray Kurzweill, kepala peneliti Microsoft Eric Horovitz, dan semua orang lain pendiri Apple favorit; Steve Wozniak. Baik Hawking dan Musk dianggap sebagai dua pemikir terbesar dari generasi kita, jadi untuk mempertanyakan prediksi mereka tentang kerusakan yang mungkin ditimbulkan teknologi dalam jangka panjang bukanlah hal yang mudah. Tapi, serahkan pada orang-orang terkenal seperti Wozniak untuk melangkah di mana orang lain hanya berani.

Ketika ditanya bagaimana dia percaya ASI dapat memperlakukan manusia, Woz itu tumpul dalam optimisme teduh: "Apakah kita akan menjadi dewa? Akankah kita menjadi hewan peliharaan keluarga? Atau akankah kita menjadi semut yang diinjak? Saya tidak tahu tentang itu, ”ia bertanya dalam sebuah wawancara dengan Australian Financial Review. "Tapi ketika aku memikirkan hal itu di kepalaku tentang apakah aku akan diperlakukan di masa depan sebagai hewan peliharaan untuk mesin pintar ini ... yah aku akan memperlakukan anjing peliharaanku sendiri dengan sangat baik."

Dan di sinilah kita menemukan dilema filosofis bahwa tidak ada seorang pun yang merasa nyaman datang ke konsensus tentang: apakah ASI akan melihat kita sebagai rumah tangga yang tidak berbahaya untuk dimanja dan dirawat, atau hama yang tidak disukai yang layak mendapatkan pemusnahan yang cepat dan tidak menyakitkan?

Hasta la Vista, Sayang

Meskipun akan menjadi tugas bodoh untuk mengklaim tahu persis apa yang terjadi di kepala kehidupan nyata Tony Stark, saya pikir ketika Musk dan teman-teman memperingatkan kita tentang bahaya AI, mereka tidak merujuk pada apa pun yang menyerupai Terminator , Ultron, atau Ava.

Bahkan dengan sejumlah besar inovasi di ujung jari kita, robot yang kita miliki saat ini hampir tidak dapat berjalan satu mil per jam sebelum mereka mencapai penghalang yang tidak dapat dilewati, bingung, dan makan trotoar dengan cara yang lucu. Dan sementara orang mungkin mencoba menunjukkan Hukum Moore sebagai contoh seberapa cepat teknologi robotika memiliki potensi untuk maju di masa depan, yang lain hanya perlu melihat Asimo, yang pertama kali debut hampir 15 tahun yang lalu, dan belum membuat apa pun. perbaikan yang signifikan sejak itu.

Sebanyak yang kita inginkan, robot tidak mendekati model kemajuan eksponensial yang sama seperti yang kita lihat dalam perkembangan prosesor komputer. Mereka dibatasi oleh batas fisik dari seberapa besar daya yang dapat kita masukkan ke dalam baterai, sifat mekanisme hidrolik yang salah, dan perjuangan tanpa akhir untuk menguasai pertarungan melawan pusat gravitasi mereka sendiri.

Jadi untuk saat ini; tidak, meskipun AGI atau ASI yang sebenarnya berpotensi dapat dibuat dalam superkomputer statis di beberapa server server di Arizona, masih sangat tidak mungkin bahwa kita akan menemukan diri kita berlari melalui jalan-jalan Manhattan saat gerombolan kerangka logam memotong kita dari belakang.

Alih-alih, AI yang Elon dan Hawking sangat ingin memperingatkan dunia terhadapnya adalah varietas "pengganti karier", yang bisa berpikir lebih cepat dari kita, mengatur data dengan lebih sedikit kesalahan, dan bahkan belajar bagaimana melakukan pekerjaan kita dengan lebih baik daripada yang bisa kita harapkan - semua tanpa meminta asuransi kesehatan atau cuti beberapa hari untuk membawa anak-anak ke Disneyland pada liburan musim semi.

Barista Bot dan Cappuccino Sempurna

Beberapa bulan yang lalu NPR merilis alat praktis di situs webnya, di mana pendengar podcast dapat memilih dari daftar karier yang berbeda untuk mengetahui persentase risiko yang dibawa oleh pekerjaan spesifik mereka untuk diotomatisasi di beberapa titik dalam 30 tahun ke depan.

Untuk berbagai pekerjaan, termasuk tetapi tidak terbatas pada: posisi klerikal, keperawatan, TI, diagnostik, dan bahkan kafe bar, robot, dan rekan ANI mereka hampir pasti akan membuat jutaan dari kita keluar dari pekerjaan dan masuk ke dalam barisan roti lebih cepat daripada banyak kita berpikir. Tetapi ini adalah mesin yang akan diprogram untuk melakukan satu tugas dan satu tugas saja, dan memiliki sedikit (jika ada) kemampuan untuk bergerak melampaui serangkaian instruksi khusus yang telah diprogram yang kami instal dengan cermat sebelumnya..

Ini berarti bahwa setidaknya di masa mendatang (pikirkan 10-25 tahun), ANI akan menjadi ancaman nyata dan nyata bagi cara hidup kita jauh lebih daripada AGI teoretis atau ASI. Kita sudah tahu bahwa otomatisasi adalah masalah yang berkembang yang secara drastis akan mengubah cara pendapatan dan hak istimewa didistribusikan di seluruh dunia pertama dan ketiga. Namun, apakah robot-robot itu pada akhirnya akan berusaha untuk memperdagangkan mesin jahit mereka dengan senapan mesin masih menjadi topik yang dipanaskan (dan seperti yang akan Anda ketahui), pada akhirnya menjadi perdebatan yang remeh..

Dengan Kekuatan Besar, Datang Singularitas Hebat

“Kau tahu, aku tahu steak ini tidak ada. Saya tahu bahwa ketika saya memasukkannya ke dalam mulut saya, Matriks memberitahu otak saya bahwa itu lezat dan lezat. Setelah sembilan tahun, Anda tahu apa yang saya sadari? ”

"Ketidaktahuan adalah kebahagiaan." - Cypher

Meskipun ini masih merupakan masalah pendapat yang sangat diperdebatkan, untuk saat ini konsensus banyak ilmuwan dan insinyur top di bidang penelitian AI terlihat bahwa kita berada pada risiko yang jauh lebih besar untuk menjadi mangsa kenyamanan yang ada di dunia kecerdasan buatan. bisa menyediakan, alih-alih ditembak jatuh oleh versi nyata Skynet. Dengan demikian, ini adalah kemungkinan yang memprihatinkan bahwa kematian kita akhirnya mungkin tidak muncul sebagai hasil dari kemajuan yang lambat dan metodis menuju yang tidak diketahui. Alih-alih, itu lebih mungkin muncul sebagai konsekuensi yang tidak disengaja dari persimpangan yang terburu-buru dan terlalu antusias dari keangkuhan kita sendiri dan kecerdikan membanting bersama untuk menciptakan singularitas teknologi besar berikutnya..

Pikirkan lebih sedikit Terminator, dan lainnya Wall-E. Seperti armada robot yang menggemukkan manusia dalam film Pixar, kita manusia tidak memiliki masalah menjaga simpanse di kebun binatang, dan perbedaannya adalah apakah AI akan cukup baik untuk melakukan hal yang sama dengan kita.

Dari perspektif ini, lebih masuk akal untuk takut pada kenyataan di mana manusia terhubung ke simulasi VR yang luas di seluruh planet à la Matriks, digemukkan ke insang oleh makanan favorit mereka, dan memberikan semua yang mereka inginkan sementara mesin mengurus sisanya. Tempat di mana ASI yang berevolusi tidak melihat kita sebagai bug untuk mengikis sepatunya, tetapi sebagai kantung daging monyet yang menggemaskan kita, mudah untuk menyenangkan dan layak mendapatkan setidaknya sedikit kredit untuk menciptakan yang tahu segalanya, all-viewing quasi-god yang akhirnya mengambil alih planet ini.

Dalam hal ini, semuanya bermuara pada definisi Anda tentang apa artinya "hidup" melalui revolusi AI. Gagasan bahwa sesuatu yang 'tidak berguna' harus dihilangkan adalah konsep manusia yang eksklusif, sebuah pola pikir bahwa kita tidak seharusnya langsung mengharapkan penguasa mesin kita untuk mengadopsi dari ruang lingkup moral kita yang terbatas. Mungkin evolusi akhirnya dari kecerdasan digital kita tidak akan menjadi kejahatan murni, tetapi belas kasih tanpa batas, tanpa bias untuk semua makhluk hidup; tidak peduli seberapa egois, membenarkan diri sendiri, atau merusak diri mereka sendiri.

Jadi ... Haruskah Kita Khawatir Tentang Ini?

Itu tergantung pada siapa Anda bertanya.

Jika Anda memilih dua insinyur teknologi dan ahli matematika paling cerdas di dunia modern, Anda akan mendapatkan empat jawaban berbeda, dan angkanya tidak berubah dari kematian bahkan semakin banyak orang yang Anda tambahkan ke papan skor. Apa pun itu, masalah inti yang harus kita selesaikan bukanlah tentang "apakah AI akan datang?" Karena memang demikian, dan tidak ada dari kita yang bisa menghentikannya. Melihat begitu banyak perspektif yang berbeda, pertanyaan sesungguhnya yang tak seorang pun nyaman menjawab dengan terlalu banyak perhatian adalah: "Apakah akan berbelas kasih?"

Bahkan setelah beberapa pemikir besar dunia mempertimbangkan masalah ini, gambaran seperti apa kecerdasan mesin 20, 30, atau 50 tahun ke depan masih muncul dengan cukup suram. Karena bidang AI terus berubah menjadi sesuatu yang lain setiap kali chip komputer baru diproduksi atau bahan transistor dikembangkan, mengklaim otoritas tertinggi pada apa yang mungkin atau mungkin tidak terjadi adalah sedikit seperti mengatakan Anda “tahu” bahwa gulungan dadu pasti untuk muncul mata ular pada lemparan berikutnya.

Satu hal yang dapat kami laporkan dengan percaya diri adalah bahwa jika Anda khawatir akan mendapatkan slip merah muda minggu depan dari mesin kasir komputerisasi Anda, cobalah untuk tidak terlalu terjebak dengan hal itu. Taco Bell masih akan buka untuk hari Selasa Taco, dan seorang manusia pasti akan mengambil pesanan Anda di jendela, (dan lupa saus hijau, lagi). Menurut sebuah studi yang dilakukan oleh James Barrat pada KTT AGI tahun lalu di Quebec, juri pada timeline sulit untuk AI masih keluar. Kurang dari setengah dari semua yang hadir mengatakan bahwa mereka percaya kami akan mencapai AGI yang benar sebelum tahun 2025, sementara lebih dari 60 persen mengatakan itu akan memakan waktu hingga setidaknya tahun 2050, jika tidak berikutnya ke abad berikutnya dan seterusnya.

Menempatkan kencan yang sulit pada kencan kita dengan takdir digital agak seperti mengatakan Anda tahu itu akan turun hujan pada tanggal hari ini 34 tahun dari sekarang. Kesenjangan antara AGI sejati dan kecerdasan buatan super canggih sangat tipis sehingga segala sesuatunya berjalan dengan benar, atau sangat salah, sangat, sangat cepat. Dan meskipun komputer kuantum berada di atas cakrawala dan kita semua memiliki ponsel cerdas jaringan di saku kita yang dapat mengirimkan sinyal ke ruang angkasa, kita masih saja belum menggaruk permukaan pemahaman tentang "mengapa" mengapa kita berpikir tentang berbagai hal seperti kita lakukan, atau di mana kesadaran bahkan berasal dari tempat pertama.

Membayangkan kita dapat secara tidak sengaja membuat pikiran buatan penuh dengan semua kesalahan kita sendiri dan kesalahan evolusi - bahkan sebelum kita tahu apa yang membuat kita menjadi diri kita - adalah inti dari ego manusia yang mengamuk.

Pada akhirnya, terlepas dari keinginan kami yang tak henti-hentinya untuk memutuskan siapa yang akan keluar di puncak dalam perang yang akan datang dan / atau perjanjian damai antara manusia dan mesin, itu adalah kontes harapan terbatas vs kemungkinan tanpa batas, dan semua yang kami lakukan adalah berdebat semantik diantara. Tentu, jika Anda baru lulus dari sekolah menengah dan ingin mendapatkan sertifikasi mengemudi taksi, CEO Uber memiliki setengah juta alasan mengapa Anda mungkin harus berpikir tentang mencari karier di tempat lain.

Tetapi jika Anda menimbun senjata dan kacang kaleng untuk kiamat AI, Anda mungkin lebih baik menghabiskan waktu Anda belajar cara melukis, kode, atau menulis novel besar Amerika berikutnya. Bahkan pada perkiraan paling konservatif akan diperlukan beberapa dekade sebelum mesin belajar bagaimana menjadi Monet, atau mengajar dirinya sendiri C # dan Jawa, karena manusia dipenuhi dengan jenis kreativitas, kecerdikan, dan kemampuan untuk mengekspresikan diri kita yang terdalam seperti tidak ada pembuat kopi otomatis pernah bisa.

Ya, kita mungkin kadang-kadang sedikit emosional, turun dengan pilek di tempat kerja, atau perlu tidur siang di tengah hari, tapi mungkin justru karena kita manusia bahwa ancaman menciptakan sesuatu yang lebih besar dari kita di dalam mesin masih jauh, jauh sekali.

Kredit Gambar: Disney Pixar, Paramount Pictures, Bosch, Youtube / TopGear, Flickr / LWP Communications Flickr / BagoGames, Wikimedia Foundation, Twitter, WaitButMengapa 1, 2