Advertisements

Bagaimana kalau saya berbuat salah

(AI: what if I do wrong)

Oleh: Ricky Suwarno

AI merupakan salah satu bagian terpenting dalam agenda nasional Negara kita. Making Indonesia 4.0. yang diluncurkan Presiden Joko Widodo. Revolusi industry 4.0 diharapkan dapat menghasilkan transformasi yang pesat dan menyeluruh.

Beberapa saat yang lalu, Robot medis terkenal dari IBM, Watson, melakukan kesalahan besar. Memberikan obat yang salah kepada pasien. Para dokter menemukan bahwa Watson telah memberikan sejumlah saran perawatan yang tidak aman. Dan salah. Dan bahkan meresepkan obat yang mudah pendarahan untuk pasien kanker. Dengan penyakit hemoragik. Saat ini, lebih dari 200 rumah sakit di seluruh dunia menggunakan jasa Watson. Dan sepertiga dari mereka berada di China.

Secara kebetulan, pada saat yang berdekatan, software pengenalan wajah atau facial recognition Amazon juga membuat kesalahan. Dengan mengidentifikasi lebih dari 20 anggota konggres sebagai criminal. Ya, walaupun tidak ada alasan khusus mengenai berita tersebut. Tetapi menurut tingkat pengenalan gambar saat ini di dunia, kesalahan berskala besar seperti ini, seharusnya tidak menjadi masalah yang tidak memadai. Masalah utama sebenarnya berada pada bug. Program pengenalan wajah Amazon memiliki celah kebocoran yang besar. Atau insinyur secara tidak sengaja melakukan kesalahan yang mudah diaktifkan selama implementasi algorithme. Sehingga lebih dari 500 anggota congress salah di identifikasi lebih dari 20 kali.

Saya rasa, ada perbedaan besar antara kesalahan computer dan kesalahan manusia. Kesalahan manusia biayanya tercermin dalam satu kasus tertentu. Misalnya, jika seseorang harus mengidentifikasi anggota kongres. baginya, hampir tidak mungkin untuk mengenali semua wajah konggress dengan akurat. Tetapi kalaupun salah mengenali, yah cuma beberapa saja. Biasanya tidak akan terjadi kesalahan atas semuanya.

Jika Seorang dokter salah meresepkan obat ke seorang pasien, mungkin hanya mempengaruhi satu pasien di rumah sakit tersebut. Tetapi lain halnya dengan computer. Mereka biasanya tidak keliru. Tetapi kalau keliru, adalah kesalahan secara massa. Dan besar. Sebagai contohnya, kasus crash pasar saham di AS. Dimana computer menghancurkan saham. Dan akhirnya membiarkan harga saham merosot dalam sekejap. Manusia waktu merancang saham yang dioperasikan computer, untuk memastikan pada saat saham jatuh, sebagai pembantu, manusia dapat segera menghentikan kerugian. dan menjual saham di tangan mereka dengan segera. Operasi ini kadang memicu stop loss dari computer yang lain. Sehingga menyebabkan banyak computer lain ikutan menjual saham dalam computer mereka. Ibarat longsor salju di pasar saham.

Demikian pula halnya, Black Monday pada bulan November 1987 di Bursa Saham New York. Terjadi situasi yang sama. Dimana akhirnya, mereka harus menghentikan semua operasi computer. Dan beralih ke operasi manual.

Walaupun para perusahaan besar sekuritas telah memperbaharui prosedur operasi cerdas mereka. Tetapi crash pasar saham 9.11 di tahun 2001, crash saham jatuh di tahun 2008, bahkan setelah krisis keuangan 2010 berlalu, kecelakaan pasar saham masih tidak bisa dihindari.

Mengapa AI mudah melakukan kesalahan besar. Kesalahan besarnya sebenarnya, setara dengan keberhasilan besarnya juga. Karena AI sendiri adalah sebuah jaringan. Kecerdasannya berasal dari efek jaringan.

Seperti yang telah banyak saya bicarakan dalam artikel sebelumnya, kecerdasan buatan saat ini didasarkan pada data besar. Dan pengumpulan serta pembagian data memiliki efek jaringannya sendiri.

Saat ini, banyak aplikasi pintar, keputusan mereka walaupun dibuat di computer yang berbeda, tetapi computer ini menggunakan program yang sama. Seperti kamera pintar di stasiun bullet train di salah satu distrik di Beijing. Untuk mengidentifikasi criminal, walaupun kriminal pergi ke distrik yang lain, mereka juga akan teridentifikasi. Kamera pintar di masa depan akan saling berkomunikasi satu sama lain. Memberitahu kamera pintar di daerah lain bahwa criminal ini telah muncul. Namun, jika program ini salah identifikasi, semua distrik kamera pintar juga akan salah identifikasi. Seperti halnya beberapa saat ini ketika saya baru balik dari luar negeri memasuki Customs. Sewaktu waja di scan, komputer me-link saya dgn org lain. Sehingga petugas haruso yap saya berkali kali memastikan pengamtan mereka tidak salah. Jika orang yang dianggap criminal berusaha menjelaskan dengan computer, bisa dibayangkan pasti akan terjadi pertengkaran hebat.

Lebih lucunya lagi, penelitian AI benar-benar tanpa batas. Komunikasi para pakar adalah real time. Selama metode pembelajaran mesin yang baik ditemukan, pakar-pakar ini akan langsung mempresentasikan lewat internet. Seminggu kemudian, lab yang focus padanya mulai memverifikasi hasilnya. Dan bila berhasil, akan segera digunakan untuk pengembangan produk komersil. Oleh karena itu, secara jujur, berdasarkan fakta di atas, pengenalan wajah, Alpha Go mengalahkan Ke Jie, maupun Auto driving yang digunakan di seluruh dunia, Algorithma pembelajaran mesin semuanya serupa.

Aspek ini membuat kemajuan riset AI dunia sangat pesat. Tetapi cacatnya juga akan cepat di salin ke dunia lain.

Jika suatu hari, auto driving mendominasi sebagian besar jalan raya kita. Dan mungkin hanya karena satu bug dapat menyebabkan ratusan kendaraan saling bertabrakan satu sama lain. Karena bug ini dapat secara bersamaan di aktifkan dalam banyak mobil. Sama seperti crash pasar saham. Dalam kehidupan sehari-hari, sebenarnya banyak hal yang rumit. Dimana sebelum timbulnya masalah, banyak hal yang tidak bisa diperkirakan.

Seperti di abad 20 tahun 70an, cold war antara AS-Soviet. AS mulai membangun banyak system pertahanan rudal regional. Pengembangan, desain, dan pengujian produk militer jauh lebih rumit dibanding produk internet. Namun dalam tes pertama, muncullah lelucon. Rudal Soviet belum diluncurkan, anti rudal AS sudah ditembakkan. Setelah penyelidikan, ternyata Penyebab dibelakangnya karena munculnya bulan di malam hari.

Setelah insiden ini, kita mungkin berpikir ini adalah adegan yang mudah diterka. Tetapi begitu banyak orang tidak berpikir sebelumnya. Seperti halnya Angsa hitam bukanlah spesies yang langka. Tetapi sebelum angsa hitam ditemukan, semua orang tidak berpikir bahwa seekor angsa bisa berwarna hitam.

Cara pemikiran manusia pada dasarnya independen. Walaupun penilaian kita masing-masing akan saling mempengaruhi. Tetapi tidak akan persis sama. Kelemahan ini sulit menjadi suatu kekuatan. Tetapi ini juga membawa keuntungan. Meskipun kesalahan kecil kita terus berlanjut, tetapi tidak akan menjadi kesalahan besar. Kesalahan besar dalam sejarah manusia biasanya terjadi setelah orang-orang di cuci otak, dan berubah menjadi mesin. Tanpa ada analisa sendiri.

ketika orang menghadapi masalah yang tidak diketahui, mereka tidak akan jatuh dalam putaran tak terbatas seperti mesin. Tetapi akan memeriksa situasi tersebut berdasarkan nilai-nilai lain. Ketika auto driving Google berhadapan dengan karung pasir kecil di jalanan, dia akan menghindarinya sesuai dengan rencana yang ditentukan. Dan akibatnya, akan bertabrakan dengan bus besar disampingnya. Tetapi ketika kita menghadapi hal yang serupa, kita akan menilai apakah ini memiliki resiko terguling jika tabrakan dalam waktu yang singkat. Jika karung pasir itu sangat kecil ,kita bisa menindas secara langsung daripada menghindarinya. Ini adalah manfaat penilaian manusia untuk situasi yang tidak diketahui sebelumnya.

Manusia adalah roh dari segalanya. Manusia menggunakan kepintaran untuk menghindari banyak bencana. Meskipun kita terus membuat kesalahan.

Jadi, dimasa kecerdasan buatan yang akan datang, apa yang harus kita lakukan adalah menjaga keanekaragaman. Daripada mengikuti satu ide. Metode. Atau perintah seperti mesin. Kita harus terus mencoba, menguji dan mencari jawaban atas semua misteri yang tidak diketahui sebelumnya.

Again, just like what my grandma says, keuntungan menerima semua hasil rekayasa dari generasi sebelumnya adalah kita bisa menghemat waktu. memakai jalan pintas. Menerusi teknologi yang telah ada. Tetapi, Kerugiannya, masalah yang tidak terselesaikan pada generasi sebelumnya juga akan menjadi masalah generasi kita. Ataupun, masalah yang telah teratasi di generasi sebelumnya, telah berubah pada generasi berikutnya. Dan kita tidak bisa melakukan apa-apa.

Artinya, kita kadang dididik seperti mesin. Dan bila ada bug sistematis, kita akan jatuh dalam lingkaran tak terbatas. Dan tidak dapat lolos dari generasi ke generasi. Itulah mengapa, cuma menghafal bukanlah metode terbaik dalam pendidikan. Karena setelah manusia pandai berpikir dan memahami, akan membantu kita membentuk pikiran tersendiri. Manusia bukanlah mesin. Kita ditakdirkan untuk menggunakan inisiatif menyelesaikan masalah yang tidak teratasi oleh pendahulu kita sebelumnya. Kita harus melangkah lebih jauh dari mereka.

Yang terpenting, kita tidak boleh mengulangi kesalahan yang sama dari generasi ke generasi. Jika demikian, kita dengan mesin yang ada bug nya tidak jauh berbeda.

Advertisements
Categories: artificial intelligence indonesia, Bekraf, Big data, Blockchain, Data, Facebook, IoT, Kecerdasan buatan, Machine learning, Making Indonesia 4.0, Presiden Jokowi WidodoTags: , , , , , , , , , , , , ,

Leave a Reply

This site uses Akismet to reduce spam. Learn how your comment data is processed.

%d bloggers like this: