Sesuatu tentang Alice dan Bob

Bot dengan keterampilan bahasa kreatif telah merebut imajinasi populer. Mereka juga menghidupkan kembali kecemasan tentang robocalypse

Alice dan Bob, Alice dan Bob Facebook, bot Facebook, bot kecerdasan buatanAlice dan Bob, bot Facebook yang menjadi terkenal karena kekurangan logika pemrograman yang tidak terduga, adalah bagian dari eksperimen untuk membangun mesin negosiasi. CR Sasikumaro

Internet telah dihebohkan dengan berita utama yang sarat dengan malapetaka yang secara dramatis menyatakan bahwa Facebook harus menghentikan bot kecerdasan buatan (AI) yang mengembangkan bahasa mereka sendiri, di mana mereka melakukan percakapan pribadi yang tidak manusiawi. Mereka membaca seperti penggoda untuk globocalypse Terminator, yang merupakan mimpi terburuk primata yang menggunakan alat - untuk digantikan oleh ciptaannya sendiri, mesin.

Kenyataannya kurang dramatis tetapi lebih menarik. Bot adalah agen otonom yang awalnya diprogram untuk melakukan tugas rumah tangga di saluran komunikasi, atau untuk mencoba dan lulus tes Turing. Mereka dapat mengontrak Anda, menendang Anda keluar jika Anda berperilaku tidak pantas, membiarkan ruang obrolan tetap terbuka saat tidak ada orang di rumah, memberikan informasi dan menyamar sebagai manusia. Pada sistem Obrolan Relay Internet, bot Eggdrop adalah favorit sepanjang masa.

Cucu dari bot petugas kebersihan tersebut tertanam di agen pencarian dan messenger modern dan memiliki kemampuan AI. Mereka berbicara dengan pengguna seperti layaknya manusia, menanggapi pertanyaan rutin dan menawarkan saran. Jika ponsel Anda tampaknya mengetahui pikiran Anda dan menarik hal-hal yang tepat tanpa harus diminta, sebagian besar kredit harus diberikan kepada bot yang bekerja di belakang layar. Seperti manusia, bot dapat belajar dari pengalaman dan ditakdirkan untuk hal-hal yang lebih besar dalam situasi dunia nyata.

Alice dan Bob, bot Facebook yang menjadi terkenal karena kekurangan logika pemrograman yang tidak terduga, adalah bagian dari eksperimen untuk membangun mesin negosiasi. Mereka hanya mencari cara untuk berbagi satu set objek, seperti bola, sehingga tidak ada pihak yang merasa tertipu. Saat tawar-menawar, Alice membuat pernyataan yang awalnya tidak bisa dipahami seperti, Balls tidak ada artinya bagi saya bagi saya bagi saya bagi saya bagi saya bagi saya ... Dan berita utama yang menakutkan mengikuti.

Pembelajaran didorong oleh insentif, seperti yang diketahui oleh guru dan orang tua. Dalam hal ini, sistem penghargaan dari latihan didefinisikan — pembagian yang lebih baik dan kepuasan bersama, inti dari tawar-menawar. Tetapi tidak ada insentif bagi bot untuk terus berkomunikasi dalam bahasa Inggris, yang merupakan bahasa yang terkenal tidak logis. Jadi mereka menyelinap ke dalam argumen seperti Newspeak yang disederhanakan dan lebih efisien, yang tidak sepenuhnya bahasa Inggris, tetapi bukannya tidak dapat dipahami seperti yang diiklankan.

Pernyataan Alice, yang telah disalahartikan sebagai pernyataan independensi mesin, hanya menunjukkan kekecewaan karena perubahan singkat (memiliki nol), dan masing-masing bagi saya mewakili objek yang dia tuntut. Dia melakukan pekerjaan yang telah diprogramkan untuknya: Menawar sekeras penjaga toko di Grand Bazaar Istanbul. Dan jika dia menemukan bahwa bahasa Inggris Ratu menghalangi, dia tidak sendirian. Banyak ras di bekas jajahan merasa bahwa bahasa tuan menghalangi komunikasi di komunitas mereka.

Hanya negosiator manusia profesional yang perlu cemas jika raksasa Silicon Valley berinvestasi dalam program tawar-menawar. Teroris dan pendaki puncak juga harus takut akan pensiun, karena dalam situasi penyanderaan dan kesepakatan internasional, mereka mungkin menemukan diri mereka menghadapi mesin yang tidak dapat dipahami dan keras kepala yang jauh lebih pintar daripada Deep Blue, superkomputer IBM yang menantang juara catur Garry Kasparov pada tahun 1996.

Dorongan untuk mengembangkan bahasa pribadi adalah sifat yang sangat manusiawi. Sebelum bursa terkomputerisasi, pialang saham di lantai perdagangan mengkomunikasikan tawaran dengan sinyal tangan yang tidak dapat dipahami oleh orang lain. Selama berabad-abad, penegak hukum telah dibingungkan oleh tipu muslihat pencuri, bahasa buatan narapidana yang merupakan omong kosong bagi sipir penjara. Di antara penjahat berbahasa Inggris abad ke-20, kata arkitnay yang tidak masuk akal berarti, Diam, seseorang menguping. Di India, William Henry Sleeman mempelajari Ramaseeana, cant of Thuggee, dan menerbitkan kosa kata pada tahun 1836. Salah satu drama Tom Stoppard yang paling sedikit dimainkan tetapi paling menarik adalah Dogg's Hamlet, di mana anak-anak sekolah memainkan Shakespeare dalam bahasa mereka, Dogg. Itu agak seperti sandi transposisi. Misalnya, sore berarti halo di Dogg.

Jangankan para doomsayer, yang menarik dari Alice dan Bob adalah bahwa dalam menciptakan sebuah bahasa, mereka telah mengkhianati sifat yang sangat manusiawi, yang tidak secara eksplisit diprogram untuk mereka tunjukkan. Enam puluh tahun yang lalu, bot pertama ditulis untuk mengeksplorasi dengan tepat pertanyaan ini: Bisakah mesin diprogram untuk berperilaku seperti manusia? Bisakah mereka lulus tes Turing? Dinyatakan dalam artikel 1950 berjudul Computing Machinery and Intelligence, Turing pada dasarnya menyarankan bahwa jika komunikasi mesin tampak seperti manusia, maka mesin itu harus dianggap sebagai manusia.

Bot pemrosesan bahasa alami pertama yang keluar dari lab dan mendapatkan popularitas massal adalah Eliza, dibuat pada tahun 1964 oleh Joseph Weisenbaum di MIT. Dia menulisnya untuk menunjukkan bahwa komunikasi tekstual manusia-mesin tidak dapat naik ke tingkat percakapan manusia. Sebaliknya, Eliza menaikkan ekspektasi publik bahwa ia akan lulus tes Turing. Tiga puluh tahun kemudian, harapan yang lebih besar diilhami oleh Julia, yang diciptakan oleh pendiri Lycos Michael Mauldin untuk bersaing memperebutkan Hadiah Loebner, pengujian Cawan Suci Turing. Tapi di luar titik, obrolan Julia berkelok-kelok menjadi renungan acak tentang sifat-sifat anjing dan kucing (Anda dapat mengobrol dengan versi modernnya di scratch.mit.edu/projects/2208608).

Sekarang, bot dengan keterampilan bahasa kreatif telah merebut imajinasi populer, menyalakan kembali kecemasan tentang robocalypse. Namun perkembangan di lab AI Google sebenarnya lebih menarik. Pada September 2016, Google meluncurkan Neural Machine Translation System-nya, yang menerapkan pembelajaran mendalam pada bahasa. Dua bulan kemudian, mereka mendorong amplop itu: Jika sebuah mesin belajar menerjemahkan, katakanlah, antara bahasa Hindi dan Jerman, dan antara bahasa Hindi dan Inggris, dapatkah mesin itu menerjemahkan antara bahasa Inggris dan Jerman tanpa bahasa penghubung bahasa Hindi? Itu bisa, menunjukkan bahwa jaringan saraf telah mempelajari sesuatu yang mendasar tentang bagaimana pikiran menghubungkan konsep dan tata bahasa untuk memalsukan bahasa. Ikan Babel kecil, kuning, seperti lintah, penerjemah universal hidup yang diimpikan oleh Douglas Adams di akhir tahun tujuh puluhan, sekarang melayang di dekat telinga Anda.

Tentu saja, karena tidak ada prognosis jangka panjang untuk AI, peringatan kepada orang-orang yang seharusnya lebih tahu, seperti Elon Musk dan Stephen Hawking, harus diperhatikan. Harus ada regulasi, terlepas dari protes para pendukung kebebasan berinovasi, seperti Mark Zuckerberg. Dan konsensus umum harus dikembangkan, menyepakati garis yang tidak boleh dilintasi, seperti dalam kasus intervensi dalam genom manusia. Tetapi tidak dapat disangkal bahwa eksperimen di Facebook dan Google memajukan tujuan awal AI, yaitu untuk memodelkan dan memahami aspek pikiran manusia. Kisah-kisah media seram yang mereka tarik adalah sensasi yang lewat. Keesokan harinya, mereka cocok untuk membungkus ikan.