AI berkembang menjadi semakin canggih.
AI dapat menulis laporan, merangkum rapat, menganalisis data dalam jumlah besar, menghasilkan konten, mengenali pola, menjawab pertanyaan pelanggan, dan semakin sering mengambil tindakan atas nama manusia.
Bagi bisnis, potensinya jelas: proses yang lebih cepat, beban operasional yang lebih rendah, akses informasi yang lebih baik, dan lebih banyak peluang untuk mengotomatisasi pekerjaan berulang.
Namun ada pertanyaan penting yang perlu diajukan sebelum bisnis menyerahkan lebih banyak tanggung jawab kepada AI:
Hanya karena AI mampu melakukan sesuatu, apakah berarti AI harus melakukannya tanpa pengawasan?
Jawabannya belum tentu.
AI dapat mempercepat bisnis, membantu orang mengambil keputusan yang lebih baik, bahkan mengotomatisasi bagian besar dari suatu alur kerja. Namun bisnis tetap harus menentukan di mana AI boleh bertindak mandiri, di mana AI harus meminta persetujuan, dan di mana penilaian manusia harus tetap terlibat.
Tujuannya bukan memperlambat AI. Tujuannya memastikan otomasi tidak bergerak lebih cepat daripada kemampuan bisnis untuk mengendalikannya.
AI Sangat Kuat—Tetapi Tidak Otomatis Memahami Bisnis Anda
Salah satu kekuatan terbesar AI juga merupakan salah satu keterbatasannya.
AI dapat memproses informasi dengan sangat cepat. Dengan data dan instruksi yang tepat, AI dapat menemukan pola serta menghasilkan rekomendasi jauh lebih cepat daripada proses manual.
Namun sistem AI tidak otomatis memahami seluruh konteks di balik keputusan bisnis.
Bayangkan sistem berbasis AI menemukan persediaan suatu produk sangat rendah lalu merekomendasikan pembelian 5.000 unit tambahan. Berdasarkan data yang tersedia, rekomendasi tersebut mungkin terlihat masuk akal.
Tetapi bagaimana jika produk itu akan dihentikan bulan depan? Bagaimana jika pelanggan besar baru saja membatalkan pesanan? Atau produk tersebut bersifat musiman sehingga kekurangan persediaan hanya sementara?
AI mungkin mampu mengenali pola. Bisnis tetap harus memahami konteksnya.
Perbedaan ini semakin penting ketika perusahaan beralih dari AI yang hanya menghasilkan informasi menuju AI yang merekomendasikan atau menjalankan tindakan.
Manfaat AI Memang Nyata
Ini bukan berarti perusahaan harus terlalu berhati-hati hingga menghindari AI. Justru sebaliknya. Bila digunakan secara tepat, AI dapat memberikan nilai yang besar.
Kecepatan
AI dapat memproses dan merangkum informasi dalam jumlah besar jauh lebih cepat daripada pekerjaan manual.
Konsistensi
Untuk tugas berulang, AI dapat membantu menerapkan proses yang sama secara konsisten dan mengurangi sebagian ketidakkonsistenan manual.
Pengenalan Pola
AI dapat menemukan pola tidak biasa, hubungan, dan potensi anomali di dalam kumpulan data yang besar.
Skalabilitas
AI dapat mendukung pertumbuhan volume kerja tanpa setiap tambahan tugas harus dikerjakan secara manual.
Dukungan Keputusan
AI dapat menghasilkan rekomendasi, ringkasan, skenario, dan wawasan yang membantu orang mengambil keputusan lebih cepat.
Kapabilitas ini sangat menarik untuk layanan pelanggan, pelaporan, pemrosesan dokumen, analisis data, peramalan, dan operasi bisnis.
Tantangannya bukan apakah AI dapat memberikan nilai. AI jelas dapat melakukannya. Tantangannya adalah menentukan seberapa besar tanggung jawab yang patut diberikan kepadanya.
Risiko Membiarkan AI Berjalan dengan Autopilot
Risiko terbesar bukan semata-mata AI melakukan kesalahan. AI dapat menghasilkan informasi yang keliru, salah memahami konteks, atau memberi rekomendasi berdasarkan data yang tidak lengkap.
Risiko yang lebih besar adalah membangun proses ketika tidak ada seorang pun yang memeriksa apakah kesalahan tersebut berdampak penting.
Bayangkan alur berikut:
AI → Keputusan → Tindakan
Cepat, tetapi apa yang terjadi ketika AI membuat asumsi yang salah?
Alur yang lebih terkendali dapat berupa:
AI → Rekomendasi → Validasi → Tindakan
Untuk proses berisiko lebih tinggi:
AI → Rekomendasi → Tinjauan Manusia → Persetujuan → Tindakan
Ini bukan berarti setiap surel buatan AI harus disetujui manajer. Tingkat pengawasan perlu disesuaikan dengan dampak potensial dari keputusan tersebut.
Tugas berisiko rendah sering kali dapat sangat diotomatisasi. Keputusan finansial, operasional, hukum, atau yang berhubungan langsung dengan pelanggan mungkin memerlukan validasi tambahan.
Tujuannya bukan menempatkan manusia di depan setiap tindakan AI.
Tujuannya adalah menempatkan kontrol yang tepat pada titik yang tepat.
Contoh Nyata: Chatbot Air Canada
Hal ini bukan sekadar kekhawatiran teoretis.
Pada 2024, Air Canada menghadapi perkara terkait chatbot layanan pelanggannya. Seorang penumpang menanyakan kebijakan tarif kedukaan dan chatbot memberikan informasi keliru bahwa penyesuaian tarif dapat diperoleh setelah tiket dibeli.
Perkara tersebut dibawa ke Civil Resolution Tribunal Kanada, yang kemudian menyatakan Air Canada bertanggung jawab atas informasi chatbot dan memerintahkan pembayaran kompensasi.
Pelajarannya bukan hanya bahwa “AI melakukan kesalahan.” Pelajaran yang lebih penting adalah bisnis tetap bertanggung jawab atas apa yang disampaikan sistem AI kepada pelanggan.
Dari sudut pandang pelanggan, chatbot bukan perusahaan terpisah. Chatbot adalah bagian dari pengalaman pelanggan Air Canada.
Mengotomatisasi proses bisnis tidak otomatis memindahkan tanggung jawab kepada AI.
Jika AI mewakili perusahaan, memberikan rekomendasi dalam operasi, atau bertindak atas nama organisasi, bisnis tetap membutuhkan kontrol yang tepat.
Tidak Semua Tugas AI Membutuhkan Tingkat Kontrol yang Sama
Pengawasan AI bukan keputusan serba-atau-tidak-sama-sekali. Tugas yang berbeda membutuhkan tingkat pengawasan yang berbeda.
Tingkat kontrol yang tepat bergantung pada organisasi, industri, proses, dan konsekuensi potensialnya.
Asisten AI yang menyiapkan draf awal laporan internal mungkin hanya membutuhkan pengawasan ringan. Sistem AI yang merekomendasikan transaksi finansial besar harus diperlakukan sangat berbeda.
Pendekatan ini sejalan dengan AI Risk Management Framework dari National Institute of Standards and Technology (NIST), yang mengelola risiko AI melalui fungsi Govern, Map, Measure, dan Manage.
AI yang bertanggung jawab tidak hanya bertanya:
“Bisakah ini diotomatisasi?”
Tetapi juga:
“Apa yang dapat terjadi jika sistem ini keliru?”
Kapabilitas AI + Konteks Bisnis + Kontrol
Pendekatan praktis bagi bisnis dapat dibangun dari tiga elemen:
1. Kapabilitas AI
Identifikasi hal yang secara realistis dapat ditingkatkan AI. Apakah AI dapat mengurangi pekerjaan berulang, memproses informasi lebih cepat, menemukan anomali, atau memberi informasi yang lebih baik kepada karyawan?
2. Konteks Bisnis
Tentukan apa yang perlu dipahami AI sebelum memberikan rekomendasi atau bertindak. Aturan bisnis apa yang berlaku? Pengecualian apa yang ada? Informasi apa yang mungkin tidak tersedia? Keputusan mana yang memerlukan pengetahuan organisasi?
3. Kontrol
Tentukan apa yang harus terjadi sebelum rekomendasi AI berubah menjadi tindakan bisnis nyata.
- validasi otomatis
- aturan bisnis
- batas persetujuan
- penanganan pengecualian
- jejak audit
- pemantauan
- tinjauan manusia
Ketiganya membentuk model yang lebih praktis:
Kapabilitas AI → Konteks Bisnis → Aturan dan Validasi → Penilaian Manusia Saat Dibutuhkan → Tindakan Bisnis
Pendekatan ini memungkinkan bisnis memperoleh manfaat otomasi tanpa menganggap setiap keluaran AI otomatis layak menjadi keputusan.
Tujuannya Bukan Mengurangi AI, Melainkan Mengadopsinya dengan Lebih Baik
Adopsi AI tidak harus berarti menyerahkan kontrol. Implementasi yang paling efektif justru dapat tercipta ketika AI dan manusia memiliki peran yang jelas.
AI dapat menangani hal yang paling dikuasainya:
Memproses. Menganalisis. Mengidentifikasi. Merekomendasikan. Mengotomatisasi.
Manusia dapat berfokus pada hal yang membutuhkan:
Konteks. Penilaian. Akuntabilitas. Strategi.
Daripada bertanya, “Seberapa banyak proses ini dapat kita serahkan kepada AI?”, bisnis dapat bertanya:
“Bagian mana yang sebaiknya ditangani AI, dan di bagian mana manusia harus tetap memegang kendali?”
Itulah pertanyaan yang jauh lebih berguna.
AI Seharusnya Mempercepat Keputusan—Bukan Menghapus Tanggung Jawab
AI akan menjadi bagian yang semakin penting dari cara bisnis beroperasi. Teknologinya akan terus berkembang, agen AI semakin mampu, dan lebih banyak sistem dapat berinteraksi dengan aplikasi bisnis serta mengambil tindakan dengan semakin sedikit keterlibatan manusia.
Karena itu, implementasi yang matang menjadi semakin penting.
Masa depan otomasi bisnis tidak harus berarti manusia menghilang dari proses. Masa depan tersebut dapat berarti manusia menghabiskan lebih sedikit waktu untuk pekerjaan berulang dan lebih banyak waktu untuk memberikan konteks, penilaian, serta akuntabilitas yang belum dapat diberikan mesin secara andal.
AI tidak perlu menggantikan pengambilan keputusan manusia untuk menciptakan nilai yang besar.
Sering kali, nilai terbesarnya adalah membantu manusia mengambil keputusan yang lebih baik dengan lebih cepat.
Tujuannya bukan memberikan kendali penuh kepada AI. Tujuannya adalah memberikan tanggung jawab yang tepat—dengan kontrol yang tepat.
Di SDN, Kami Percaya Teknologi Harus Menyederhanakan Bisnis—Bukan Memperumit Tanggung Jawab
AI dapat menyederhanakan proses, mempercepat operasi, dan membantu bisnis memanfaatkan data dengan lebih baik. Namun transformasi yang berhasil membutuhkan lebih dari sekadar memperkenalkan teknologi baru.
Transformasi membutuhkan pemahaman atas proses bisnis, identifikasi titik tempat otomasi menciptakan nilai, dan keseimbangan yang tepat antara teknologi, aturan, dan penilaian manusia.
SDN membantu bisnis menyederhanakan operasi, menghubungkan sistem, dan membangun solusi teknologi praktis yang mendukung keputusan lebih baik—dengan konteks bisnis dan akuntabilitas tetap berada di pusatnya.
Menyederhanakan Bisnis. Memungkinkan Transformasi.
Referensi
Moffatt v. Air Canada, 2024 BCCRT 149. Putusan Civil Resolution Tribunal melalui CanLII
Tabassi, E., Artificial Intelligence Risk Management Framework (AI RMF 1.0), NIST AI 100-1, 2023. Publikasi NIST
National Institute of Standards and Technology, Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile, NIST AI 600-1, 2024. Profil AI Generatif NIST