Discover your interests, together

Real deals, honest reviews and shopping stories from people who share your interests — every day on Milik.

Discover your interests, togetherReal deals, honest reviews and shopping stories from people who share your interests — every day on Milik.

Mengapa AI Skala Besar Gagal di Organisasi

Mengapa AI Skala Besar Gagal di Organisasi
Interest|AI Practical Tips

Masalah Utama: AI Hebat di Demo, Gagal di Realiti

Implementasi AI enterprise ialah usaha menggabungkan model kecerdasan buatan dengan data, proses dan manusia dalam organisasi bagi menyelesaikan masalah bisnes sebenar secara konsisten, boleh diaudit dan boleh diulang, bukan sekadar demo pintar di bilik mesyuarat. Hari ini, pasukan boleh bergerak daripada prompt AI ke prototaip dengan sangat pantas, tetapi prototaip ini kerap runtuh apabila menyentuh operasi lapangan seperti servis medan, pembuatan atau pengurusan fasiliti, di mana ketepatan, konsistensi dan akauntabiliti amat kritikal. Di sinilah kelemahan lazim LLM generik terserlah: ia sentiasa memberi jawapan, tetapi bukan semestinya jawapan yang betul dalam konteks yang tepat setiap kali. Sementara itu, organisasi masih mengulangi kesalahan lama dunia carian dan sistem cadangan, seolah-olah setiap masalah perlu diselesaikan dengan model baharu walaupun cabaran asasnya sama.

Pelajaran Amazon: Model AI Khusus Lebih Bernilai daripada LLM Serba Tahu

Pengalaman membina sistem personalisasi di Amazon menunjukkan satu hakikat pahit: model kuat tidak cukup jika tidak diikat kepada masalah bisnes sebenar, data yang betul dan sistem operasi yang boleh dipercayai. Dalam alur kerja lapangan, isu sebenar bukan “boleh jawab atau tidak”, tetapi “boleh jawab betul setiap masa atau tidak”. LLM luas pengetahuan cenderung berubah-ubah: soalan sama dengan frasa berbeza boleh menghasilkan output berbeza. Variasi sebegini berbahaya apabila teknisyen HVAC memerlukan jawapan yang bergantung pada sejarah aset, corak kegagalan yang diketahui dan protokol keselamatan tertentu. Sistem yang dilatih atas pengetahuan internet umum boleh memburukkan masalah, bukan menyelesaikannya. Model AI khusus tugas yang kecil pula boleh diikat pada data operasi hidup, dikekang oleh peraturan perniagaan dan tertanam dalam workflow sedia ada. Inilah inti sebenar model AI khusus: kurang “cerdik umum”, lebih relevan dan boleh dipercayai untuk kerja yang berulang dan berisiko tinggi.

DoorDash: Hybrid AI Lebih Murah dan Praktikal Berbanding LLM Sahaja

Kisah SafeChat di DoorDash patut dijadikan rujukan wajib setiap projek implementasi AI enterprise. Mereka berdepan lebih 4 juta mesej chat sehari, 400,000 panggilan dan 200,000 imej. Objektifnya jelas: setiap mesej yang dihantar mesti diklasifikasikan sebagai selamat. Respons awal pihak bisnes? “Lempar LLM pada masalah ini” — panggil LLM untuk menilai setiap mesej, blok jika tidak selamat. Secara teori boleh, tetapi dalam praktik, latensi 2–10 saat bagi setiap panggilan LLM dan kos tinggi menjadikannya tidak realistik. DoorDash memilih pendekatan hybrid: mereka meluangkan masa memahami data, kemudian membina pengelasan kecil dalaman yang perlu pantas (kurang 100ms), murah (hanya kos infrastruktur), dan fokus pada satu tugas: mengenal pasti mesej yang jelas selamat. Hanya kurang 10% mesej yang tidak boleh diputuskan oleh model dalaman akan dihantar ke LLM. Hasilnya, sistem moderasi yang mampu skala, kos lebih rendah dan masih cukup sensitif untuk kes-kes berisiko – dengan sekitar 50% pengurangan insiden keselamatan berkaitan verbal abuse.

Mengapa AI Skala Besar Gagal di Organisasi

LinkedIn: Skala AI Organisasi Perlukan Seni Bina Multi-Agent

Di LinkedIn, cabaran skala AI organisasi terlihat jelas dalam code review. Dengan jumlah pull request yang besar, bergantung sepenuhnya pada manusia atau satu AI generik di hadapan GitHub tidak lagi berkesan. Mereka membina platform semakan kod berasaskan AI yang menganggap code review sebagai infrastruktur produksi, memahami konteks organisasi dan meminimumkan halusinasi serta maklum balas berisyarat rendah. Seni bina multi-agent mereka menggunakan beberapa “penyemak” AI bebas dengan model dan pendekatan penaakulan berbeza, digabung dengan penyesuaian mendalam merentasi polisi organisasi, konvensyen repositori dan peraturan khusus konteks. Platform ini berjalan atas seni bina Kubernetes dengan pipeline berasaskan peristiwa, queue berkekalan dan pekerja yang boleh diskala mendatar, membolehkan pemantauan latensi, kadar penerimaan dan kegagalan penyedia. Dalam penilaian 5,230 komen semakan merentasi 1,727 PR, 63.9% cadangan diterima, termasuk 80% ralat logik dan 100% pepijat concurrency. Ini demonstrasi jelas bahawa multi-agent architecture bukan hiasan, tetapi keperluan untuk code review berskala besar yang berguna kepada jurutera.

Mengelak Kitaran Kesilapan: Dari Data, Bukan Demo

Satu corak sama muncul di banyak implementasi AI enterprise: organisasi obses dengan model, tapi cuai pada retrieval, konteks dan pengukuran dunia sebenar. Dalam sistem carian dan cadangan, masalah lazim bukan model lemah, tetapi retrieval yang tidak tepat, indeks yang ketinggalan atau izin akses yang salah. Apabila jawapan AI disalin ke dokumen dan kemudian dianggap sebagai sumber rujukan, sistem boleh menguatkan kesilapannya sendiri. Dalam sokongan pelanggan, bot yang menutup tiket dengan cepat mungkin nampak berjaya di dashboard, tetapi pelanggan kembali dengan isu sama — beban kerja sebenar bertambah. Di medan, teknisyen yang menerima nasihat HVAC salah atau tidak berasas kepada sejarah aset membayar harga dengan kerja ulangan dan risiko keselamatan. Strategi ke hadapan bukan menggandakan “lebih banyak LLM”, tetapi memisahkan tanggungjawab: lapisan operasi yang menjaga data, izin dan logik, digandingkan dengan model bahasa sebagai penasihat – khususnya di kawasan berisiko tinggi, di mana AI patut diberi kuasa tambahan hanya selepas prestasi dunia sebenar membuktikan ia layak.

Milik earns a commission when you shop through our links, at no extra cost to you.

You May Also Like

Comments
Say something...
No comments yet. Be the first to share your thoughts!