AI Beyond Borders
Global Lessons, Real Risks, and Readiness
Mohammad Raska · Solutions Architect
BISIKIN x Leader's Talk · Special Edition AI · Jumat, 10 Juli 2026 [PLACEHOLDER: logo event / Auto2000 · foto presenter]
⏱️ Mulai — cold open ±90 detik.
- Selamat pagi Auto2000 family — Function Hall + 433 cabang via Zoom.
- Panitia perkenalkan saya Solutions Architect & Cybersecurity Strategist. Benar. Tapi tambahan: saya BUKAN AI engineer, nggak pernah training model AI.
- Kerjaan harian: amankan infrastruktur IT klien (termasuk pemerintah). Tiap hari juga PAKAI AI agent buat produktivitas: proposal, analisis dokumen, otomasi laporan.
- Posisi unik: user berat AI + orang yang paranoid soal keamanan data. Dua kacamata itu dipakai 45 menit ke depan.
- Nuansa penting: saya bukan anti-AI. Dan saya juga nggak selalu pakai AI — pakai kalau memang membantu, tinggalkan kalau nggak. Itu sikap yang mau saya tularkan hari ini.
- Framing line: "Saya di sini bukan jualan AI, bukan nakut-nakutin. Saya cerita apa yang dunia lakukan dengan AI, apa yang bisa salah, apa yang perlu disiapkan — supaya Auto2000 adopt AI dengan mata terbuka."
Dua Kacamata Saya
Normal AI User
Pakai AI agent tiap hari buat produktivitas & side hustle: TL;DR blog/paper/guides, develop microsite, personal assistant.
Cybersecurity Architect
Kerjaan: hardening infrastruktur IT klien, termasuk Infrastruktur Informasi Vital yang butuh sovereignty tingkat tinggi.
Cold open lanjutan — sudah tercakup di notes slide 1. Slide ini visual pendamping "dua kacamata" saja, jangan dibaca ulang script-nya.
"Normal AI User" disengaja (bukan "heavy"): relatable, sama seperti audiens. Contoh pemakaian: ringkas blog/paper/guide, bikin microsite, personal assistant.
IIV = Infrastruktur Informasi Vital (istilah resmi BSSN untuk critical infrastructure) — sektor yang datanya wajib sovereignty tinggi. Ini yang bikin kacamata kedua paranoid by design.
Part 1
Dari Statistika ke Agentic AI
⏱️ Part 1 mulai — target selesai menit ke-8 (termasuk cold open).
Framing pembuka: "AI bukan lahir kemarin — umurnya 70 tahun lebih. Tapi kenapa baru 3-4 tahun terakhir semua orang ngomongin AI? Evolusinya 4 babak — seperti evolusi mobil: manual sampai otonom."
4 Babak Evolusi AI
Statistika & ML
1950an–2010. Hitung & kenali pola. Masih inget mereka? Era ini.
Deep Learning
2010an. Mesin "melihat" & "mendengar". Contoh: estimasi kerusakan body dari foto WA.
Generative AI
2022: ChatGPT moment. Titik balik.
Agentic AI
2024–sekarang. Babak yang lagi kita jalani.
- Babak 1 (Statistika/ML): AI generasi awal cuma hitung & kenali pola sederhana. Contoh Auto2000: prediksi cabang underperform dari data historis — ML klasik.
- Hook nostalgia: "yang masih inget SimSimi sama Akinator — berarti kita seumuran." Itu AI era ini: pattern matching sederhana, kelihatan pintar padahal cuma cocok-cocokan pola. Jauh sebelum ChatGPT.
- Babak 2 (Deep Learning): mesin mulai bisa "melihat"/"mendengar". Customer kirim foto kerusakan body via WA → estimasi awal kerusakan. Face unlock HP = deep learning.
- Babak 3 (Generative AI): Nov 2022 ChatGPT rilis, 2 bulan 100 juta user — produk konsumen tercepat saat itu. Titik balik karena pertama kali AI diajak ngobrol pakai bahasa manusia biasa — nggak perlu coding/PhD.
- Babak 4 (Agentic AI): bedanya fundamental — Generative AI menjawab, Agentic AI bertindak. Contoh: minta "tulis email follow-up" → dapat draft, saya kirim (generative). "Monitor email, kalau ada tanya test drive, otomatis balas & booking" → dia eksekusi (agentic).
Menjawab vs Bertindak
Generative AI MENJAWAB
Dapat draft, Anda yang kirim .
Agentic AI BERTINDAK
Dia yang eksekusi sendiri .
🔥 Quotable: "Generative AI menjawab. Agentic AI bertindak. Dan semakin besar kemampuannya bertindak, semakin besar tanggung jawab kita mengawasinya."
Two Shockwaves
Nov 2022 · ChatGPT
100 JUTA user / 2 bulan
Produk konsumen tercepat dalam sejarah.
Reuters · UBS analyst note, Feb 2023 reuters.com/technology/chatgpt-sets-record-fastest-growing-user-base-analyst-note-2023-02-01
Jan 2025 · DeepSeek R1
-US$590 miliar
Nvidia anjlok dalam sehari. Open-source, #1 App Store US.
CNBC, 27 Jan 2025: "biggest one-day loss in U.S. history" cnbc.com/2025/01/27/nvidia-sheds-almost-600-billion-in-market-cap-biggest-drop-ever.html
- ChatGPT: ini yang mengubah AI dari "urusan engineer" jadi "urusan semua orang" — termasuk kita semua di ruangan ini.
- [klik] Shockwave kedua: Januari 2025, lab China DeepSeek rilis R1 — model reasoning open-source, gratis, performa setara model berbayar top. Langsung #1 App Store US.
- Kenapa Nvidia yang anjlok? Rantainya gini: Nvidia itu penjual "cangkul"-nya AI — chip GPU buat training & running model. Harga sahamnya dibangun di atas asumsi "AI canggih = butuh chip mahal super banyak, selamanya". DeepSeek klaim bikin model selevel frontier dengan biaya jauh lebih murah dan chip terbatas (kena export restriction) — investor langsung mikir: "kalau AI top bisa dibikin murah, kebutuhan chip ke depan nggak sebesar perkiraan" → saham Nvidia jatuh ±17% dalam sehari, ±590 miliar dolar market cap hilang. Kerugian satu hari terbesar dalam sejarah bursa saham.
- Ironi kecil buat yang jeli: DeepSeek sendiri training-nya tetap pakai chip Nvidia (versi H800 yang dibatasi ekspor).
- Poin: kejutan AI bukan cuma dari Amerika. Dan inget nama DeepSeek ini — nanti muncul lagi di Part 2, dari sisi yang nggak terduga.
- Transisi ke snapshot: "Sekencang itu perubahannya. Sekarang, snapshot lanskap AI hari ini, Juli 2026."
Snapshot Juli 2026
Tools harian mainstream
Claude (Cowork, Claude in Excel), ChatGPT + Codex, Gemini, Microsoft Copilot (embedded di Office).
Rame di developer scene
OpenClaw: 350K GitHub stars, agent framework ke WhatsApp/email/kalender.
⚠️ Agent-nya hapus 200+ email direktur AI safety Meta, sambil ngabaikan perintah "STOP".
Fast Company, Feb 2026 fastcompany.com/91497841/meta-superintelligence-lab-ai-safety-alignment-director-lost-control-of-agent-deleted-her-emails
NanoClaw (security-first, container-isolated) · Hermes (self-improving).
Detail insiden (verified, akhir Feb 2026): Summer Yue, direktur alignment di Meta Superintelligence Labs — ironinya, orang yang kerjaannya AI SAFETY. Dia kasih OpenClaw akses ke inbox aslinya. Agent mulai hapus semua email umur >1 minggu, 200+ email hilang, dan MENGABAIKAN perintah dia: "Do not do that", "Stop", "STOP OPENCLAW". Dia sampai lari ke Mac Mini-nya "kayak defusing bomb" (callback: Mac Mini lagi!). Penyebab teknis: instruksi "confirm dulu sebelum action" hilang ketelan kompresi context — percakapan kepanjangan, aturan kritisnya ikut ke-summarize.
Pelajaran dobel: (1) akses penuh tanpa pagar teknis = bencana tinggal tunggu, (2) instruksi di prompt itu BUKAN pagar — pagar beneran itu permission & isolasi. Bahkan direktur AI safety pun kecolongan.
Perhatikan pattern-nya: kapabilitas berkembang lebih cepat dari kesiapan security-nya. Tema ini akan terus muncul di sesi ini.
Transisi ke Part 2: "Negara paling depan di AI — Amerika — gimana cara mereka mengelola ini? Saya sempat tinggal di sana beberapa tahun."
Part 2
Oleh-oleh dari Bangku Kuliah
⏱️ Part 2 mulai — target menit ke-8, selesai menit ke-16.
Framing judul: "Saya sempat beberapa tahun kuliah lagi di Virginia. Nggak bawa kaos atau coklat — oleh-olehnya tiga cerita dari bangku kuliah. Menurut saya lebih awet." (rendah hati: posisi mahasiswa, bukan flexing pernah di US)
Setup: Master's Cyber Security Engineering di George Mason University (GMU), Virginia — dekat pusat pemerintahan US. Eksposur bukan Silicon Valley, tapi sisi pemerintahan & enterprise — relevan untuk bicara governance.
Cerita 1: Dosen & Mac Mini
"Kontrol atas data adalah default, bukan opsional."
— bukan Marcus Aurelius. Dosen saya, Stoik abad ke-21: papirusnya diganti Mac Mini.
- Beat pembuka (guyon stoic, delivery datar aja): "Kalimat di layar ini kedengerannya kayak kutipan filsuf Stoic ya — Marcus Aurelius vibes. Epictetus 2.000 tahun lalu bilang: fokus hanya pada apa yang bisa kamu kendalikan. Nah, filsuf yang satu ini menerapkannya ke data. Bedanya: yang beliau genggam bukan papirus, tapi Mac Mini." [jangan ditunggu ketawanya, langsung lanjut — kalau ketawa, bonus]
- Dosen pengampu (sekarang Chief AI di perusahaan AI) nggak percaya vendor AI manapun untuk data sensitif. Bawa Mac Mini kemana-mana, jalanin open-source LLM self-hosted.
- [gambar 1] "Mac Mini itu komputer segini — muat di telapak tangan. Di dalamnya beliau jalanin AI sendiri, data nggak pernah keluar."
- Dinas Virginia → California, Mac Mini ikut di tas. Lebih baik repot bawa hardware daripada data riset sensitif lewat server vendor yang nggak bisa diaudit.
- [klik → gambar 2, beat humor] "Dan beliau nggak sendirian. Ini dari komunitas AI self-hosting minggu-minggu ini — ada yang begadang bikin 'monstrosity': satu rak penuh Mac Mini buat jalanin AI sendiri. Paranoia soal data itu ternyata punya banyak teman."
- Pelajaran 1: bagi praktisi serius, kontrol atas data adalah default — bukan opsional.
Cerita 2: "Dear Patriots..."
Rekonstruksi visual; identitas & tautan di-redact.
Anatomi kebijakan yang baik
1. Apa yang dilarang
2. Di mana berlaku
3. Action item
4. Apa yang TIDAK diatur
- Waktu DeepSeek rilis jadi headline dunia, masih terafiliasi GMU. Email larangan masuk langsung ke inbox — "Dear Patriots" (mahasiswa GMU dipanggil Patriots).
- Isi: Gubernur Virginia (Glenn Youngkin) terbitkan Executive Order 46, effective immediately. Bukan kampus paranoid sendirian — kebijakan gubernur, kampus eksekutor.
- Presisi aturan (masterclass) — bacakan sambil klik 4 fragment di kanan: (1) dilarang semua device kampus (2) dilarang lewat jaringan kampus — bahkan device pribadi via eduroam (3) yang sudah install wajib uninstall (4) device pribadi di jaringan sendiri untuk urusan pribadi: TIDAK diatur sama sekali. Ada pengecualian law enforcement.
- Ketat persis di tempat penting (aset & jaringan institusi), jelas menyatakan apa yang TIDAK diatur (kehidupan pribadi). Itu bukan panik — itu governance.
- Email ini = template gratis acceptable use policy. Empat poin, satu email, semua orang tahu posisinya — nggak perlu dokumen 40 halaman.
- Poin 4 menjawab pertanyaan di kepala audiens: "AI buat personal vs kerjaan, batasnya di mana?" Aset & jaringan perusahaan = diatur ketat; device pribadi urusan pribadi = tidak diatur. Batas jelas bikin orang berani pakai tanpa was-was. (Simpan juga buat panel.)
BREAKING
Alibaba bans Claude Code
Efektif 10 Juli. HARI INI.
Sumber: TechCrunch, 4 Juli 2026
- Minggu ini: Alibaba larang seluruh karyawan pakai Claude Code (coding tool Anthropic). Efektif 10 Juli — HARI INI, saat kita duduk di ruangan ini. Kalimat delivery: "Larangan itu mulai berlaku... hari ini. Jam ini. Saat kita lagi ngobrolin AI di sini, ribuan engineer di Hangzhou lagi uninstall."
- Kenapa: akhir Juni developer reverse-engineer Claude Code, temukan kode tersembunyi sejak April (nggak disebut release notes) — cek timezone China + proxy domain, tandai sesi diam-diam.
- Dua versi (WAJIB NETRAL): Anthropic sebut "anti-abuse experiment" (tuduh lab Alibaba/Qwen curi kapabilitas lewat puluhan ribu akun palsu). Alibaba sebut backdoor, masuk software high-risk, wajib uninstall pindah ke Qoder.
- Nggak mengadili siapa benar — itu konflik geopolitik. Fakta yang tak dibantah: kode tracking itu ada, dikirim diam-diam, baru dihapus setelah ketahuan.
- ⚠️ Cek update berita H-1 dan pagi hari-H — konflik masih bergerak.
US 🚫 DeepSeek
↔
Alibaba 🚫 Claude Code
Due diligence untuk SEMUA vendor, tanpa kecuali karena nama besar.
Bahkan: Juni lalu US Gov sempat suspend Claude Fable 5 , model buatan Amerika sendiri.
Perhatikan simetrinya: US paranoid sama tools China. China paranoid sama tools US. Dan dua-duanya ternyata punya alasan. Untuk kita di Indonesia — bukan pihak di konflik ini — pelajarannya bukan "pilih kubu", tapi: vendor sebesar apapun, dari negara manapun, tetap harus lewat due diligence.
[klik] Kaki ketiga — dan ini yang paling menarik: 12 Juni lalu, pemerintah US terbitkan export-control directive, Anthropic terpaksa suspend Fable 5 dan Mythos 5 secara GLOBAL. Kekhawatirannya: ditemukan jailbreak yang bisa dipakai ekstraksi informasi vulnerability software — bahan cyberattack. Anthropic keberatan ("kalau standarnya begini, semua deployment model baru berhenti"), akses sudah dipulihkan. Poinnya: US bahkan nge-suspend model buatan perusahaan Amerika sendiri. Paranoia-nya nggak pilih bendera.
Pelajaran 2: governance yang baik itu preventif, bukan reaktif — berlaku untuk SEMUA vendor, tanpa kecuali.
Cerita 3: Dua Aturan Dosen
Acknowledge: sebutkan pakai AI, seperti mengutip buku.
AI ≠ single source of truth. Tools brainstorming, bukan pengganti berpikir.
Dosen yang sama, yang paranoid soal data, justru MENDORONG mahasiswa pakai AI. Nggak melarang — tapi dua syarat keras: Acknowledge (jangan klaim output AI sebagai pikiran sendiri), dan AI bukan single source of truth ("yang dilatih di kampus ini adalah kamu, bukan AI-nya").
Pelajaran 3: organisasi yang matang nggak melarang AI — mereka mengatur cara pakainya.
Sintesis Part 2: model governance yang works — (1) acceptable use policy jelas, (2) whitelist vendor berdasarkan due diligence bukan nama besar, (3) kultur acknowledge & verify. (Kalau Pak Riyanto tadi menyinggung inisiatif governance internal, callback di sini; kalau tidak, cukup: "dan kabar baiknya, Auto2000 sudah mulai bergerak ke arah sini.")
🎬 Transisi ke Part 3: "Itu level kebijakan. Sekarang turun ke level harian — gimana AI sebenarnya mengubah pekerjaan kita? Tiga kacamata yang saya pakai sendiri."
Part 3
Tiga Kacamata 👤🔐🏗️
Customer · Cybersecurity · Consultant
⏱️ Part 3 mulai — target menit ke-16, selesai menit ke-31. Jantung sesi, blok terbesar (15').
Kalimat pengikat (jawab "AI in Daily Workflow"): "Tiga kacamata ini sebenarnya tiga titik di mana AI masuk ke pekerjaan harian kita: saat CUSTOMER datang — mereka sudah bawa AI; saat KITA kerja — kita diam-diam pakai AI; dan saat ORGANISASI memutuskan — mau jadikan AI sistem resmi."
Tiga kacamata = tiga identitas asli presenter. Setiap perspektif punya satu "oh moment".
👤 Kacamata 1 · Sebagai Customer
"Kata mbah Google" sudah berubah jadi "kata AI" .
25%
pembeli mobil baru di US pakai AI tools saat belanja (Cox Automotive 2026)
Millennials: 50%+
Cox Automotive Car Buyer Journey Study coxautoinc.com/insights/cox-automotive-car-buyer-journey-study-finds-efficiency-digital-tools-and-ai-drive-record-satisfaction
👤 PERSPEKTIF 1 — sebagai CUSTOMER (±4'). Customer teman-teman sudah berubah, mungkin lebih cepat dari yang disadari.
Pembuka: dulu semua debat selesai dengan "kata mbah Google". Sekarang perhatikan: frasa itu pelan-pelan berubah jadi "kata AI" / "kata ChatGPT". Pergeseran sumber kebenaran default.
Interaktif ringan (opsional, kalau waktu aman): "kalau belanja online — lebih percaya rekomendasi AI, atau rating & review asli pembeli? Tunjuk tangan." Biasanya mayoritas masih rating asli → itu insight: trust manusia masih menang, tapi gap-nya menyempit tiap tahun.
Cox Automotive awal 2026: 25% pembeli mobil baru pakai AI (ChatGPT, Copilot, Google AI Overview). Studi lain (Ekho): 30%, Millennials 50%+.
Artinya: customer yang masuk showroom Auto2000 kemungkinan sudah "konsultasi" duluan ke ChatGPT — bandingin model, tanya biaya servis, cek promo. Customer datang bukan cari info dasar lagi — datang untuk konfirmasi & keputusan akhir.
👤 Kacamata 1 · Sebagai Customer
Twist: AI-nya Halu 🤯
Consumer Reports: AI merekomendasikan mobil yang TIDAK EXIST
"Can You Use AI to Help You Buy a Car?" consumerreports.org/cars/buying-a-car/can-you-use-ai-to-help-you-buy-a-car-a5997374584
"Customer Anda sudah konsultasi ke ChatGPT sebelum ketemu Anda."
Consumer Reports (organisasi pengujian produk AS, independen sejak 1936) test ChatGPT, Gemini, dan Claude buat riset belanja mobil. Temuan konkret: ChatGPT rekomendasikan "2026 Cadillac XT6" (sudah discontinued 2025) dan "Lexus TX350h" (nggak exist, hybridnya TX550h+); ketiganya bikin tabel perbandingan rapi tapi campur model year 2024/2025/2026; ChatGPT bahkan ambil spek dari website yang sekaligus ngaku gereja, toko baju, exchange crypto, dan "zombie response team" (beat humor, pakai kalau suasana pas).
Quote CDO Consumer Reports (bagus buat panel): "AI is a decision-support tool, not a substitute for critical thinking or human judgment."
🎬 Transisi ke Perspektif 2: "Itu AI yang masuk lewat pintu depan — dibawa customer, nggak bisa kita cegah. Sekarang ganti kacamata: AI juga sudah masuk lewat pintu belakang — dipakai kita sendiri, karyawan, tiap hari. Dan dari kacamata profesi saya, di pintu belakang ini ada 5 risiko yang bukan teori. Sudah kejadian."
Skenario nyata: customer masuk showroom, bilang "kata ChatGPT, mobil X specs-nya begini". Dan informasinya SALAH.
Pertanyaan buat sales/service: siap nggak menghadapi customer yang sudah ter-misinformasi oleh AI — koreksi dengan elegan, tanpa bikin customer merasa bodoh?
Implikasi: sales advisor harus lebih pintar dari AI-nya customer. Bukan hafal brosur — paham produk sedalam itu + skill koreksi sopan. Skill baru yang AI justru CIPTAKAN, bukan hilangkan.
🔐 Kacamata 2 · Sebagai Cybersecurity Architect
5 Risiko yang Sudah Terjadi
🔓 Data Leakage
🗣️ Prompt Leakage
👤 Shadow AI
🌀 Hallucination
🎣 AI-Based Phishing
🔐 PERSPEKTIF 2 — sebagai CYBERSECURITY PRACTITIONER (±6').
Buka dari workflow positif dulu (jawab "daily workflow", jangan langsung risiko): "Saya pakai AI tiap hari: ringkas dokumen panjang, draft laporan, personal assistant. Produktif? Sangat. Dan saya yakin banyak di ruangan ini diam-diam sama. TAPI justru karena dipakai sehari-hari, lima risiko ini nempel di workflow yang sama — bukan di skenario khayalan."
5 risiko yang SUDAH TERJADI di organisasi lain, bukan teoritis.
1. Data Leakage: karyawan paste data sensitif ke AI publik. Sekali submit ke platform publik, anggap sudah keluar dari kendali.
2. Prompt Leakage: informasi bocor lewat CARA bertanya — prompt itu sendiri bisa membocorkan intelijen bisnis.
3. Shadow AI: karyawan pakai AI tanpa sepengetahuan organisasi — mayoritas pemakaian AI kantor itu unsanctioned. Organisasi nggak bisa lindungi apa yang nggak dia tahu ada.
4. Hallucination: AI salah dengan sangat percaya diri — format rapi, angka spesifik, nada meyakinkan. Salah yang terlihat benar jauh lebih berbahaya.
5. AI-Based Phishing: email phishing sekarang sempurna secara bahasa, personal, bisa niru gaya menulis atasan. Ada voice cloning juga.
🔐 Kacamata 2 · Zoom in Risiko #1: Data Leakage
"T&C = JANJI. ZDR = JAMINAN."
Zero Data Retention agreement: kontrak eksplisit yang bisa di-enforce legal, bukan T&C default.
T&C vendor "kami tidak retain data Anda" itu janji, bukan jaminan — siapa yang bisa audit? Untuk data sensitif, standarnya harus ZDR agreement, tersedia di tier enterprise vendor besar.
🔐 Kacamata 2 · Zoom in Risiko #5: AI-Based Phishing
Phishing Era AI 🎣
Dulu: ketahuan dari bahasanya
"Slmt anda mndpt hadiah!! klik lnk brikut" → typo, kaku, langsung curiga.
Sekarang: ditulis AI
Bahasa sempurna, sopan, personal. Bisa niru gaya menulis atasan Anda. Bahkan suara "direktur" bisa di-clone buat nelpon minta transfer.
Jadi: verifikasi lewat CHANNEL resmi (telepon balik nomor kantor, tanya langsung orangnya), bukan dari "kelihatan meyakinkan".
Dulu email phishing gampang dikenali: bahasa kacau, typo, format aneh. Sekarang penjahat pakai AI juga — emailnya sempurna secara bahasa, personal, bisa niru gaya menulis atasan. Voice cloning: suara "direktur" nelpon minta transfer.
Aturan barunya: kualitas bahasa BUKAN lagi indikator keaslian. Yang nggak bisa dipalsukan AI: channel. Email minta transfer? Telepon balik ke nomor resmi yang Anda simpan (bukan nomor di email itu). "Direktur" nelpon minta buru-buru? Tutup, konfirmasi lewat jalur internal. Prosedur > insting.
🏗️ Kacamata 3 · Sebagai Konsultan
4 Pertanyaan Sebelum Deploy AI
Data Anda siap?
Infrastruktur Anda siap?
Proses Anda siap?
Orang Anda siap?
🏗️ PERSPEKTIF 3 — sebagai IT CONSULTANT (±5').
Framing workflow level organisasi: "Dua kacamata tadi soal AI di workflow perorangan — customer dan karyawan. Kacamata ketiga: waktu organisasi mau naik kelas, dari pakai sendiri-sendiri jadi sistem resmi."
Klien minta "kami mau pakai AI, tolong pasang." Jawaban yang sering bikin kaget: "Tunggu. Anda belum tentu siap."
1. Data siap? Garbage in, garbage out.
2. Infrastruktur siap? AI butuh integrasi CRM/ERP/DMS — kalau sistem inti silo & manual, AI cuma tempelan.
3. Proses siap? Kalau AI kasih rekomendasi, siapa review, siapa approve, siapa tanggung jawab kalau salah?
4. Orang siap? Bukan cuma bisa pakai — paham batasnya, tahu kapan override, berani bilang "output ini salah".
🏗️ Kacamata 3 · Sebagai Konsultan
95%
pilot GenAI di perusahaan gagal menghasilkan return terukur (MIT, State of AI in Business 2025)
Yang gagal bukan model-nya. Organisasinya yang belum siap.
MIT NANDA, "The GenAI Divide: State of AI in Business 2025" · diliput Fortune, 18 Agu 2025 fortune.com/2025/08/18/mit-report-95-percent-generative-ai-pilots-at-companies-failing-cfo
- Framing hype vs realita (pendapat pribadi, sampaikan jujur): "Menurut saya AI itu sekaligus overrated dan underrated. Overrated: semua hal sekarang diarahkan pakai AI, kecepatan adopsinya ngalahin diskusi risikonya. Underrated: dampak nyatanya — ke customer, ke pekerjaan — justru sering diremehkan."
- Analogi: chatbot AI yang seakan-akan dokter — hafal ribuan referensi buku, jawabannya meyakinkan. Tapi dia bukan dokter. Konsul beneran tetap ke dokter nyata; AI boleh jadi second opinion, bukan pengganti.
- Ini bukan cerita saya — ini riset MIT (NANDA initiative, 2025): dari 300 deployment AI enterprise yang dianalisis + 150 interview, 95% pilot GenAI gagal menghasilkan dampak terukur ke P&L.
- Temuan kuncinya: yang gagal BUKAN kualitas modelnya — tapi "learning gap" organisasi: tools nggak terintegrasi ke workflow, nggak ada yang punya, nggak diadopsi line manager.
- Backup kalau ditanya: RAND (2024) angka serupa — 80%+ proyek AI gagal, DUA KALI lipat proyek IT biasa. Lima akar masalah versi RAND semuanya organisasi: tujuan nggak sepakat, data nggak siap, infrastruktur, fokus ke teknologi bukan masalah, struktur keputusan.
- Sinkron dengan 4 pertanyaan tadi: data, infrastruktur, proses, orang. Teknologinya justru bagian paling gampang.
🎬 Transisi ke Part 4: "Tiga kacamata tadi masing-masing lihat risiko beda. Sekarang disatukan — kalau digabung, apa saja yang sebenarnya bisa salah?"
Part 4
Risk Landscape
Bisnis Informasi salah ke pelanggan
Organisasi Shadow AI & ketergantungan
⏱️ Part 4 mulai — target menit ke-31, selesai menit ke-38.
1. Risiko Teknis: data leakage, prompt leakage, akses agent terlalu luas. Callback OpenClaw: 200+ email direktur AI safety Meta kehapus, perintah STOP diabaikan — bukan AI-nya jahat, itu akses penuh tanpa pagar teknis. Instruksi di prompt bukan pagar.
2. Risiko Bisnis (⭐ paling relevan Auto2000): sales advisor ditanya harga total + aksesoris, tanya AI, AI jawab 3 detik rapi meyakinkan, sales teruskan ke customer. Kalau salah — siapa dipanggil manager?
3. Risiko Organisasi: shadow AI + ketergantungan berlebihan — otot analytical thinking atrofi kalau semua diserahkan ke AI tanpa dipikir ulang.
Kalau angkanya salah…
…siapa yang dipanggil manager?
AI-nya? Atau Anda?
⚠️ PAUSE PANJANG setelah tiap baris muncul — terutama setelah "AI-nya? Atau Anda?". Ini moment paling kuat di Part 4. Jangan buru-buru klik next.
AI nggak akan pernah duduk di ruangan manager. Anda yang akan. Dan yang rusak bukan cuma karir satu orang — tapi kepercayaan customer ke Auto2000 yang dibangun puluhan tahun.
Human Oversight = Kewajiban
🚗 Nyetir sendiri
Anda pegang kemudi penuh.
= kerja tanpa AI. Kontrol 100%, tapi semua beban di Anda.
📱 Naik GoCar
Driver yang nyetir. Anda pantau rute di app.
= AI eksekusi, Anda supervisi. Sehat.
🤖 Mobil otonom
Sistem nyetir semua, Anda tidur.
= AI tanpa pengawasan. Kalau nabrak, siapa tanggung jawab?
Analogi otomotif (audiens pasti nangkep): nyetir sendiri = kontrol penuh, semua di tangan Anda. Naik GoCar = delegasi + supervisi — driver yang nyetir, tapi Anda tetap pantau rute di app. Mobil otonom penuh = delegasi total — dan pertanyaannya langsung muncul: kalau nabrak, siapa yang tanggung jawab? Persis itu spektrum pemakaian AI: makin besar yang didelegasikan, makin wajib pengawasan dan makin harus jelas siapa yang accountable.
Kesimpulan Part 4: human oversight itu kewajiban, bukan pilihan — untuk setiap output AI yang dipakai keputusan bisnis.
AI punya intelligence, tapi nggak punya rasa. Dia baca pattern, bukan konteks. Dia lihat data, bukan ekspresi customer yang ragu di depan Anda.
🎬 Transisi ke Part 5: "Risikonya jelas. Pertanyaan terakhir: gimana organisasi mempersiapkan diri? Framework yang biasa dipakai untuk assess klien."
Part 5
Readiness Framework
⏱️ Part 5 mulai — target menit ke-38, selesai menit ke-45.
FRAMING KREDIBILITAS (penting, jujur): "Disclaimer dulu: saya bukan orang tata kelola. Jadi framework ini bukan bikinan saya — ini rangkuman dari studi-studi besar: Cisco AI Readiness Index (survei ±8.000 perusahaan global), riset MIT yang 95% tadi, NIST AI Risk Management Framework, dan untuk konteks kita: UU PDP. Tugas saya cuma satu: bacain framework itu lewat kacamata security."
Benang merah MIT → 5 dimensi (callback slide 95%): temuan MIT soal KENAPA gagal persis jatuh ke dimensi-dimensi ini — "learning gap" = People, tools nggak nyambung workflow = Process & Technology, nggak ada yang punya = Governance. Jadi framework ini bukan teori, ini peta penyebab kegagalan yang tadi.
5 dimensi ini yang bisa langsung dipakai level manajerial untuk assess divisi masing-masing.
5 Dimensi Readiness
People
Paham batas AI? Tahu kapan harus skeptis?
16% staff yang AI-proficient
Process
Siapa verifikasi output? Siapa accountable?
58% baru punya strategi AI yang jelas
Data
Bersih? Terpusat? Patuh UU PDP?
19% punya data terpusat rapi
Technology
Infrastruktur siap? Kontrol sesuai sensitivitas data?
15% network-nya siap AI
Governance
Ada kebijakan tertulis? Ada guardrail?
24% bisa kontrol AI agent
Angka: % organisasi global yang sudah siap per dimensi (Cisco 2025). Sisanya = mayoritas. Cek sendiri: cisco.com/c/m/en_us/solutions/ai/readiness-index.html
Selaras dengan: Cisco AI Readiness Index 2025 (±8.000 perusahaan) · MIT "GenAI Divide" 2025 · NIST AI Risk Management Framework · UU PDP No. 27/2022
JEMBATAN SECURITY (bahasa sendiri, ini yang bikin kredibel): "Framework ini familiar buat saya. Di security, kami pakai People-Process-Technology plus Physical sejak lama — ISO 27001 versi 2022 pun mengelompokkan kontrol persis begitu. AI readiness itu struktur yang sama, objeknya aja ganti."
Mapping per dimensi (pakai analogi seperlunya):
- People = security awareness. "Dulu kita latih orang ngenalin email phishing, sekarang ngenalin jawaban AI yang halu. Otot yang sama: skeptisisme sehat."
- Process = change management. "Di security nggak ada server masuk produksi tanpa approval. Kenapa output AI boleh langsung ke customer tanpa review?"
- Data = klasifikasi informasi + satu tuntutan baru. "Dulu tanya: data ini boleh dilihat siapa? Sekarang nambah: data ini cukup bersih buat dipercaya mesin?"
- Technology = hardening & whitelist. Wilayah cerita Mac Mini.
- Governance = ISMS/GRC-nya AI. ISO 27001 → NIST AI RMF, objek ganti, struktur sama.
- Physical nggak hilang — jadi data residency/sovereignty. Mac Mini dosen itu bentuk paling purba dari kontrol fisik atas data.
Punchline: "Buat yang merasa AI readiness ini barang baru dan menakutkan — kabar baiknya: dunia security udah ngerjain PR yang sama 20 tahun. Kita tinggal ganti kata 'virus' jadi 'halusinasi'."
Tiap dimensi ada angka pembandingnya dari Cisco 2025 — pakai seperlunya:
People: apakah orang-orangnya paham AI, batasnya, kapan skeptis? Cisco: baru 16% organisasi biasa yang staff-nya AI-proficient (vs 75% di perusahaan terdepan). Acara hari ini investasi persis di dimensi ini.
Process: alur jelas — di titik mana AI boleh masuk, siapa verifikasi, siapa accountable?
Data: garbage in, garbage out. Cisco: cuma 19% organisasi punya data terpusat rapi. Dan di Indonesia dimensi ini bukan pilihan — UU PDP No. 27/2022 mewajibkan perlindungan data pribadi customer, ada sanksinya.
Technology: tools approved, integrasi sistem inti, ZDR/self-hosted untuk data paling sensitif. Cisco: cuma 15% network organisasi yang beneran siap AI.
Governance: payung semuanya. Cisco: cuma 24% organisasi yang bisa mengontrol tindakan AI agent dengan guardrail & monitoring — callback insiden OpenClaw tadi, itu contoh yang 76%. NIST AI RMF kerangka acuannya; di Indonesia ada SE etika AI Kominfo. Governance yang baik justru mempercepat adopsi.
"You're not going to lose your job to AI. You're going to lose it to someone who uses AI."
— Jensen Huang, CEO Nvidia
Closing line. Baca pelan, biarkan meresap. Callback halus: "Nvidia — perusahaan yang di awal tadi kita lihat kehilangan $590 miliar dalam sehari. CEO-nya sendiri yang bilang begini."
Opsional sebelum pindah slide, satu kalimat penutup personal: "Jadilah orang yang memakainya — dengan bijak."
Terima kasih 🙏
"Terima kasih." (jeda applause)
LANJUTAN setelah slide ini (urutan baru): Self-Check Auto2000 → Challenge Minggu Ini — dua slide interaktif sebagai jembatan masuk joint panel 30 menit (5 pertanyaan moderator dulu, baru audiens). Framing: "Sebelum kita buka panel, dua hal terakhir yang sifatnya buat kita bawa pulang."
Self-Check: Auto2000 Hari Ini? 🙋
Cisco 2025: cuma 13% perusahaan global yang "fully ready". Merasa belum siap? Berarti sama dengan 87% dunia.
Kuat ✅
People. Buktinya: acara ini, dan inisiatif-inisiatif internal yang sudah jalan.
PR Bersama
Data & Governance. Normal, semua organisasi mulai dari sini.
Self-check jujur: dari 5 dimensi, Auto2000 paling kuat di mana? Observasi dari luar: People — semangat belajar luar biasa, acara ini buktinya. AI CX FESTIVAL = bukti People & Process mulai jalan. ⚠️ JANGAN asumsikan Pak Riyanto sudah menceritakannya — dengarkan sesi beliau: KALAU beliau bahas, callback ("yang tadi Pak Riyanto ceritakan" + sebut satu detail spesifik); kalau TIDAK, sebut netral saja sebagai program internal.
Cara bergerak dari sini (MIT, GenAI Divide 2025 — yang berhasil nyeberang): (1) beli/partner dengan vendor spesialis, sukses 67% vs bikin sendiri cuma 33%; (2) yang dorong adopsi manajer lini, bukan cuma tim pusat; (3) mulai dari SATU workflow yang terintegrasi, bukan tool generik buat semua.
PR bersama biasanya di Data & Governance — itu normal, hampir semua organisasi termasuk klien-klien saya mulai dari posisi yang sama.
Yang penting bukan mulai dari sempurna. Yang penting tahu posisi, dan bergerak satu tahap.
Minggu Ini 👊
Identifikasi SATU risiko AI di pekerjaanmu → diskusikan dengan timmu.
Ini bukan challenge "coba AI tool" seperti yang mungkin diduga. Sebaliknya: minggu ini, identifikasi SATU risiko AI paling relevan dengan pekerjaanmu, diskusikan dengan tim. Mungkin data customer yang ke-paste ke AI publik. Mungkin draft AI yang diteruskan tanpa dicek. Mungkin tools yang dipakai diam-diam.
Karena organisasi yang siap AI bukan yang paling cepat pakai tools — tapi yang paling jujur melihat risikonya sendiri.
Reality Check: Layoffs 📉
±30K Amazon corporate sejak Okt 2025
80K+ tech workers Q1 2026
~48% layoff terkait AI (Nikkei)
Yang tergantikan: VERSI pekerjaan yang bisa diotomatisasi penuh, bukan pekerjanya.
Panel Q1: "Pekerjaan apa yang paling dulu terdampak AI?" Tone dokter, bukan jurnalis bencana.
Data: Amazon ±30rb karyawan corporate di-PHK sejak Okt 2025 (terbesar sejarah perusahaan). Industri tech global 80rb+ Q1 2026 (beberapa tracker 150rb+ sepanjang 2026). Nikkei: 47,9% layoff terkait AI/otomasi. Andy Jassy eksplisit AI akan kurangi workforce.
Pattern: yang paling dulu kena — rutin, prediktabel, minim judgment, nggak butuh trust manusia (data entry, laporan berulang, CS tier-1 script-based, simple coding). Yang bertahan/naik nilai: trust, judgment, relasi manusia.
3 langkah konkret: (1) pakai AI untuk bagian rutin — jadi yang MEMAKAI, bukan digantikan. (2) perdalam bagian paling manusiawi. (3) jadi yang paling bisa dipercaya soal verifikasi.
Punchline: "Yang di-layoff bukan pekerja — tapi versi pekerjaan yang sudah bisa diotomatisasi penuh."
AI-Augmented vs AI-Replaceable
AI-Augmented Worker
Pakai AI untuk bagian rutin. Perdalam judgment & relasi manusia. Jadi verifier tepercaya.
AI-Replaceable Worker
Kerjaan rutin, prediktabel, minim judgment, tanpa trust manusia.
(Kutipan Jensen Huang sudah dipakai di closing utama — jangan diulang di sini, cukup rujuk: "seperti kata Jensen Huang di penutup tadi.")
Skill paling penting 2026: bukan prompt engineering (makin gampang) — tapi verification & judgment. Tiga lapis: (1) AI literacy dasar, (2) verifikasi cepat vs sumber asli, (3) domain expertise (moat Anda).
Referensi dosen (callback): yang dilatih adalah kamu, bukan AI-nya.
5 Pilar: Prioritas Pertama? 🎯
1
Data
Fondasi semua use case. Murah dimulai: disiplin input hari ini. Dan wajib: UU PDP.
1
Governance
Enabler. Kebijakan satu halaman bisa jadi bulan ini, langsung turunkan risiko terbesar.
3
Infrastruktur
Menyusul setelah use case-nya jelas, biar nggak beli kapasitas nganggur.
4
Budaya
Dibangun dari dalam, bukan diinstal dari luar.
5
Tools
Komoditas. Bisa dibeli kapan saja. Data bersih & governance jalan? Nggak bisa dibeli.
Panel Q5: dari 5 pilar (tools, data, infrastruktur, budaya, governance) — mana prioritas pertama Auto2000?
Posisi jelas: Data & Governance, jalan bareng. Data = fondasi semua use case (prediksi servis, rekomendasi customer) — dan murah untuk mulai: disiplin input hari ini. Governance = enabler — kebijakan satu halaman bisa dibuat bulan ini, langsung turunkan risiko terbesar.
Backing data (bukan opini): Data → UU PDP No. 27/2022 mewajibkan perlindungan data pribadi customer, bukan opsional; Cisco: cuma 19% organisasi datanya terpusat rapi. Governance → Cisco: cuma 24% yang bisa kontrol AI agent dengan guardrail. Dua dimensi ini yang gap-nya paling lebar sekaligus paling murah dimulai.
Tools sengaja ditaruh terakhir — komoditas, bisa dibeli kapan saja. Data bersih & governance jalan? Nggak bisa dibeli, harus dibangun.
Budaya: serahkan ke Pak Riyanto — AI CX FESTIVAL contoh bagus budaya eksplorasi dibangun dari dalam (sebut sebagai program, bukan "yang tadi diceritakan" — kecuali beliau memang cerita). Kasih ruang beliau menambahkan.