Kepercayaan dibina melalui proses, bukan gembar-gembur model
Kepercayaan terhadap AI ialah kesediaan seseorang untuk menggunakan cadangan sistem setelah memahami cara ia berfungsi, mutu asas datanya dan keadaan yang boleh mengehadkan ketepatannya. Sebab itu, model paling canggih pun tidak memadai jika data yang diterimanya bercelaru atau alasannya tidak dapat diterangkan. Pengalaman membangunkan pengesanan anomali bagi rangkaian telekomunikasi selama dua tahun menguatkan hujah ini: kerja tersebut memantau gangguan pada pemesejan, panggilan suara dan petunjuk prestasi rangkaian di sebuah pengendali berskala nasional. Isyarat bagi setiap jenis data berbeza, jadi satu model serba guna berisiko memberikan prestasi sederhana untuk semuanya. Pengajaran pentingnya bukan supaya organisasi mengejar algoritma paling baharu, tetapi supaya mereka menyusun saluran data AI dengan teliti, mentakrifkan keadaan normal dan memilih pendekatan yang sesuai bagi setiap tugas. Tanpa asas itu, ketepatan di atas kertas sukar menghasilkan kepercayaan dalam operasi harian.
Dalam telekomunikasi, saluran data mengatasi kecanggihan algoritma
Gangguan pemesejan, seperti peralihan daripada RCS kepada SMS, boleh muncul sebagai perubahan mendadak dalam data yang bervolum rendah dan berubah-ubah. Sebaliknya, masalah petunjuk prestasi rangkaian boleh berupa kemerosotan perlahan dalam jutaan ukuran yang dipengaruhi pola harian dan mingguan. Memaksa satu model menangani kedua-dua bentuk isyarat itu ialah pilihan seni bina yang lemah. Penyelesaian yang lebih munasabah ialah pengesanan berlapis: kelompok data untuk mengenal pasti pola biasa pemesejan, pengesan anomali untuk menandakan penyimpangan, serta pemodelan garis dasar sejarah bagi petunjuk rangkaian. Analisis data AI yang berguna bergantung pada data bersih, pelabelan yang memadai dan pemprosesan yang menjaga konteks. Menyusun ciri aliran pemesejan, membahagikan siri masa dengan betul dan menangani lokasi yang hilang menyumbang sebahagian besar kerja sebenar. Model sederhana boleh berfungsi dengan baik apabila saluran datanya teratur; amaran palsu pula boleh membuat jurutera mengabaikan sistem dalam beberapa minggu.
Di sinilah banyak projek tersasar: pasukan berlumba memilih model sebelum memastikan data yang masuk benar-benar menggambarkan keadaan rangkaian. Apabila amaran kerap tersilap, jurutera hilang keyakinan dan berhenti bertindak terhadap isyarat yang mungkin penting. Maka, sasaran praktikalnya bukan satu model besar yang kononnya menyelesaikan semua masalah. Jangkaannya lebih realistik jika pasukan membina tiga atau empat model khusus yang ringkas sebelum menghasilkan satu model yang lebih mengagumkan, sambil mengutamakan saluran data sebagai halangan utama.
Cadangan lokasi perlu menunjukkan alasan dan hadnya
Dalam pemilihan lokasi runcit, cabarannya bukan sekadar meramal trafik pengunjung atau jualan. Pasukan hartanah perlu menilai tempat baharu yang belum mempunyai kedai atau rekod prestasi, kemudian membuat keputusan jangka panjang berasaskan ramalan tersebut. Pengguna lebih mudah menerima cadangan apabila mereka nampak faktor yang membentuk ramalan dan tahu bahagian yang kurang pasti. Pengalaman membina model pemilihan lokasi menunjukkan bahawa soalan “mengapa saya patut percaya?” boleh menentukan sama ada sistem digunakan, walaupun ketepatan model turut penting. Penjelasan juga menjadikan campur tangan manusia lebih berguna: pakar lapangan boleh menilai gangguan setempat yang tidak diketahui model, tetapi perlu tahu perkara yang sudah diambil kira supaya mereka tidak mengira faktor yang sama dua kali. Dengan model AI yang boleh dijelaskan, perbincangan berubah daripada pertentangan antara angka dan naluri kepada semakan bersama terhadap faktor tertentu.
Penjelasan sahaja masih belum cukup. Pasukan menguji ramalan pada lokasi yang hasilnya sudah diketahui, termasuk lokasi yang tidak digunakan ketika latihan, lalu mengelompokkan tempat mengikut sejauh mana ramalan tersasar. Peta ralat yang terhasil membantu penyemak melihat jenis lokasi yang sesuai untuk dipercayai dan jenis yang memerlukan pertimbangan manusia. Penjelasan menunjukkan sebab model memberikan sesuatu angka; peta ralat pula menunjukkan sejauh mana alasan itu terbukti tepat dalam keadaan yang serupa. Model juga tidak dapat menjangka peristiwa yang tidak pernah dipelajarinya, maka lapisan pengesanan berasingan diperlukan untuk menandakan perubahan luar biasa dan membawa masuk konteks seperti cuaca serta berita setempat.
Kepercayaan memerlukan data yang boleh diperiksa dan alasan yang boleh dicabar
Dua contoh ini menolak anggapan bahawa kepercayaan terhadap AI boleh dicapai hanya dengan menaikkan skor ketepatan atau menggunakan algoritma yang lebih rumit. Dalam telekomunikasi, mutu saluran data menentukan sama ada gangguan muncul sebagai isyarat atau tenggelam dalam hingar. Dalam pemilihan lokasi pula, penerimaan bergantung pada kemampuan pengguna memahami sebab ramalan dibuat, mengenali hadnya dan melihat rekod prestasinya dalam keadaan sebanding. Kedua-duanya memerlukan proses yang boleh disemak: data yang sesuai, kaedah yang sepadan dengan tugas, batasan yang dinyatakan dengan jelas serta ruang untuk pertimbangan manusia. Tanpa unsur tersebut, model yang tepat pun mudah ditolak selepas satu kegagalan yang ketara. Kesimpulannya, organisasi patut membina aliran kerja yang boleh dipercayai sebelum mengejar model yang kelihatan hebat. AI lebih mudah diterima apabila orang bukan sekadar diberi jawapan, tetapi turut diberi bukti tentang cara jawapan itu terbentuk dan bila mereka patut memilih pertimbangan sendiri.
