Ketika AI melakukan kesalahan Diagnosis

Ketika AI melakukan kesalahan Diagnosis dalam pasar saham dan Medis, ataupun Mobil Otonom dan lain sebagainya akan membawa dampak Bola Salju. Artificial Intelligence atau Kecerdasan Buatan merupakan salah satu bagian terpenting dalam agenda nasional Negara kita. Making Indonesia 4.0 yang diluncurkan Presiden Joko Widodo. Revolusi industry 4.0 diharapkan dapat menghasilkan transformasi yang pesat dan menyeluruh.

Beberapa saat yang lalu, Robot medis terkenal dari IBM, Watson, melakukan kesalahan besar. Memberikan obat yang salah kepada pasien. Para dokter menemukan bahwa Watson telah memberikan sejumlah saran perawatan yang tidak aman. Dan salah.

Watson bahkan keliru meresepkan obat yang mudah menyebabkan pendarahan pada pasien kanker. Dengan penyakit hemoragik. Saat ini, lebih dari 200 rumah sakit di seluruh dunia menggunakan jasa Watson. Sepertiga dari mereka berada di China.

Ketika AI melakukan kesalahan Diagnosis

Secara kebetulan, pada saat yang berdekatan, software pengenalan wajah atau facial recognition Amazon juga membuat kesalahan. Dengan mengidentifikasi lebih dari 20 anggota konggres sebagai kriminal. Ya, walaupun tidak ada alasan khusus mengenai berita tersebut. Tetapi menurut tingkat pengenalan gambar saat ini di dunia, kesalahan berskala besar seperti ini, seharusnya tidak menjadi masalah yang tidak memadai.

Masalah utama sebenarnya berada pada “bug.” Program pengenalan wajah Amazon memiliki celah kebocoran yang besar. Atau insinyur secara tidak sengaja melakukan kesalahan yang mudah diaktifkan selama implementasi algorithme. Sehingga lebih dari 500 anggota kongress salah di identifikasi lebih dari 20 kali.

Saya rasa, ada perbedaan besar antara kesalahan komputer dan kesalahan manusia. Kesalahan manusia biayanya tercermin dalam satu kasus tertentu. Misalnya, jika seseorang harus mengidentifikasi anggota kongres. Baginya, hampir tidak mungkin untuk mengenali semua wajah konggress dengan akurat. Tetapi kalaupun salah mengenali, yah cuma beberapa orang saja. Biasanya tidak akan terjadi kesalahan atas semuanya.

Jika Seorang dokter salah meresepkan obat ke seorang pasien, mungkin hanya mempengaruhi satu pasien di rumah sakit tersebut. Tetapi lain halnya dengan Komputer. Mereka biasanya tidak keliru. Tetapi kalau sekali keliru, adalah kesalahan secara massa Dan besar.

Sebagai contohnya, kasus crash pasar saham di AS. Dimana komputer menghancurkan saham. Dan akhirnya menyebabkan harga saham merosot dalam sekejap. Manusia waktu merancang saham yang dioperasikan komputer, untuk memastikan pada saat saham jatuh, sebagai pembantu, manusia dapat segera menghentikan kerugian.

Dengan menjual saham di tangan mereka segera. Operasi ini kadang memicu “stop loss” dari komputer yang lain. Sehingga menyebabkan banyak komputer lain ikutan menjual saham dalam komputer mereka. Ibarat longsor salju di pasar saham.

Demikian pula halnya, Black Monday pada bulan November 1987 di Bursa Saham New York. Terjadi situasi yang sama. Dimana akhirnya, mereka harus menghentikan semua operasi komputer. Dan beralih ke operasi manual.

Walaupun para perusahaan besar sekuritas telah memperbaharui prosedur operasi cerdas mereka. Tetapi crash pasar saham 9.11 di tahun 2001, crash saham jatuh di tahun 2008, bahkan setelah krisis keuangan 2010 berlalu, kecelakaan pasar saham masih tidak bisa dihindari.

Mengapa AI mudah melakukan kesalahan besar. Kesalahan besarnya sebenarnya, setara dengan keberhasilan besarnya juga. Karena AI sendiri adalah sebuah jaringan. Kecerdasannya berasal dari efek jaringan.

Seperti yang telah banyak saya bicarakan dalam artikel sebelumnya, kecerdasan buatan saat ini didasarkan pada data besar. Pengumpulan serta pembagian data memiliki efek jaringannya sendiri.

Saat ini, banyak aplikasi pintar, keputusan mereka walaupun dibuat di komputer yang berbeda, tetapi komputer ini menggunakan program yang sama. Seperti kamera pintar di stasiun bullet train di salah satu distrik di Beijing. Untuk mengidentifikasi kriminal, walaupun pelaku kejahatan tersebut pergi ke distrik yang lain, mereka juga akan teridentifikasi.

Kamera pintar di masa depan akan saling berkomunikasi satu sama lain. Memberitahu kamera pintar di daerah lain bahwa kriminal ini telah muncul. Namun, jika program ini salah identifikasi, semua distrik kamera pintar juga akan salah identifikasi. Seperti halnya, ketika saya baru balik dari Indonesia memasuki Customs di Shanghai.

Sewaktu wajah saya di scan, komputer Customs mungkin me-link saya dgn org lain. Sehingga petugas harus bertanya saya berulang kali memastikan pengamatan mereka tidak salah. Jika orang yang dianggap kriminal berusaha menjelaskan dengan komputer, bisa dibayangkan pasti akan terjadi pertengkaran hebat.

Lebih lucunya lagi, penelitian AI benar-benar tanpa batas. Komunikasi para pakar adalah real time. Selama metode pembelajaran mesin yang baik ditemukan, pakar-pakar ini akan langsung mempresentasikan lewat internet.

Seminggu kemudian, lab yang fokus padanya mulai memverifikasi hasilnya. Dan bila berhasil, akan segera digunakan untuk pengembangan produk komersial. Oleh karena itu, secara jujur, berdasarkan fakta di atas, pengenalan wajah, Alpha Go mengalahkan pecatur GO Dunia nomor satu Ke Jie, maupun Mobil Otonom yang digunakan di seluruh dunia, Algorithma pembelajaran mesin semuanya serupa.

Aspek ini membuat kemajuan riset AI dunia sangat pesat. Tetapi cacatnya juga akan cepat di salin ke dunia lain.

Jika suatu hari, Mobil Otonom mendominasi sebagian besar jalan raya kita. Dan mungkin hanya karena satu bug dapat menyebabkan ratusan kendaraan saling bertabrakan satu sama lain di atas jalan raya. Karena bug ini dapat secara bersamaan di aktifkan dalam banyak mobil.

Sama seperti crash pasar saham. Dalam kehidupan sehari-hari, sebenarnya banyak hal yang rumit. Dimana sebelum timbulnya masalah, banyak hal yang tidak bisa diperkirakan.

Seperti di abad 20 tahun 70an, Perang Dingin antara AS-Soviet. AS mulai membangun banyak system pertahanan rudal regional. Pengembangan, desain, dan pengujian produk militer jauh lebih rumit dibanding produk internet. Namun dalam tes pertama, muncullah lelucon. Rudal Soviet belum diluncurkan, anti rudal AS sudah ditembakkan. Setelah penyelidikan, ternyata Penyebab dibelakangnya karena munculnya bulan di malam hari.

Setelah insiden ini, kita mungkin berpikir ini adalah adegan yang mudah diterka. Tetapi begitu banyak orang tidak berpikir sebelumnya. Seperti halnya Angsa hitam bukanlah spesies yang langka. Tetapi sebelum angsa hitam ditemukan, semua orang tidak berpikir bahwa seekor angsa bisa berwarna hitam.

Cara pemikiran manusia pada dasarnya independen. Walaupun penilaian kita masing-masing akan saling mempengaruhi. Tetapi tidak akan persis sama. Kelemahan ini sulit menjadi suatu kekuatan. Tetapi ini juga membawa keuntungan. Meskipun kesalahan kecil kita terus berlanjut, tetapi tidak akan menjadi kesalahan besar.

Kesalahan besar dalam sejarah manusia biasanya terjadi setelah orang-orang di cuci otak, dan berubah menjadi mesin. Tanpa ada kemampuan analisa sendiri lagi. Seperti halnya Ketika AI melakukan kesalahan Diagnosis dengan Dampak berkelanjutan.

Ketika manusia menghadapi masalah yang tidak diketahui, mereka tidak akan jatuh dalam putaran tak terbatas seperti mesin. Tetapi akan memeriksa situasi tersebut berdasarkan nilai-nilai lain. Ketika Mobil Otonom Google berhadapan dengan karung pasir kecil di jalanan, dia akan menghindarinya sesuai dengan program yang ditentukan.

Akibatnya, akan bertabrakan dengan bus besar disampingnya. Tetapi ketika kita menghadapi hal yang serupa, kita akan menilai apakah ini memiliki resiko terguling jika tabrakan dalam waktu yang singkat. Jika karung pasir itu sangat kecil,kita bisa menindas secara langsung daripada menghindarinya. Ini adalah manfaat penilaian manusia untuk situasi yang tidak diketahui sebelumnya.

Manusia adalah roh dari segalanya. Manusia menggunakan kepintaran untuk menghindari banyak bencana. Meskipun kita terus membuat kesalahan.

Jadi, dimasa kecerdasan buatan yang akan datang, apa yang harus kita lakukan adalah menjaga keanekaragaman. Daripada mengikuti satu ide. Metode. Atau perintah seperti mesin. Kita harus terus mencoba, menguji dan mencari jawaban atas semua misteri yang tidak diketahui sebelumnya.

Just like what my grandma says, keuntungan menerima semua hasil rekayasa dari generasi sebelumnya adalah kita bisa menghemat waktu. memakai jalan pintas. Menerusi teknologi yang telah ada.

Tetapi, Kerugiannya, masalah yang tidak terselesaikan pada generasi sebelumnya juga akan menjadi masalah generasi kita. Ataupun, masalah yang telah teratasi di generasi sebelumnya, telah berubah pada generasi berikutnya. Dan kita tidak bisa melakukan apa-apa.

Ketika AI melakukan kesalahan Diagnosis
Kesalahan AI dalam pasar saham AS telah membawa akibat fatal yang sulit dihindari (Image:Quora)

Artinya, kita kadang dididik seperti mesin. Dan bila ada bug sistematis, kita akan jatuh dalam lingkaran tak terbatas. Dan tidak dapat lolos dari generasi ke generasi. Itulah mengapa, cuma menghafal bukanlah metode terbaik dalam pendidikan. Karena setelah manusia pandai berpikir dan memahami, akan membantu kita membentuk pikiran tersendiri.

Manusia bukanlah mesin. Kita ditakdirkan untuk menggunakan inisiatif menyelesaikan masalah yang tidak teratasi oleh pendahulu kita sebelumnya. Kita harus melangkah lebih jauh dari mereka.

Yang terpenting, kita tidak boleh mengulangi kesalahan yang sama dari generasi ke generasi. Jika demikian, kita tidak jauh berbeda dengan mesin yang ada bug nya.

Leave a Reply

This site uses Akismet to reduce spam. Learn how your comment data is processed.