AI Beyond Borders

Global Lessons, Real Risks, and Readiness

Mohammad Raska · Solutions Architect & Cybersecurity Strategist

BISIKIN x Leader's Talk · Special Edition AI · Kamis, 9 Juli 2026
[PLACEHOLDER: logo event / Auto2000 · foto presenter]

⏱️ Mulai — cold open ±90 detik. - Selamat pagi Auto2000 family — Function Hall + 433 cabang via Zoom. - Panitia perkenalkan saya Solutions Architect & Cybersecurity Strategist. Benar. Tapi tambahan: saya BUKAN AI engineer, nggak pernah training model AI. - Kerjaan harian: amankan infrastruktur IT klien (termasuk pemerintah). Tiap hari juga PAKAI AI agent buat produktivitas: proposal, analisis dokumen, otomasi laporan. - Posisi unik: user berat AI + orang yang paranoid soal keamanan data. Dua kacamata itu dipakai 45 menit ke depan. - Nuansa penting: saya bukan anti-AI. Dan saya juga nggak selalu pakai AI — pakai kalau memang membantu, tinggalkan kalau nggak. Itu sikap yang mau saya tularkan hari ini. - Framing line: "Saya di sini bukan jualan AI, bukan nakut-nakutin. Saya cerita apa yang dunia lakukan dengan AI, apa yang bisa salah, apa yang perlu disiapkan — supaya Auto2000 adopt AI dengan mata terbuka."

Dua Kacamata Saya

Heavy AI User

Pakai AI agent tiap hari buat produktivitas: proposal, analisis dokumen, otomasi laporan.

Cybersecurity Practitioner

Kerjaan: amankan infrastruktur IT klien, termasuk instansi pemerintah. Paranoid soal data by profession.

Part 1

Dari Statistika ke Agentic AI

4 Babak Evolusi AI

Statistika & ML

1950an–2010. Hitung & kenali pola. Masih inget mereka? Era ini.

SimSimi Akinator

Deep Learning

2010an. Mesin "melihat" & "mendengar". Contoh: estimasi kerusakan body dari foto WA.

AI vision mendeteksi kerusakan body mobil

Generative AI

2022: ChatGPT moment. Titik balik.

Agentic AI

2024–sekarang. Babak yang lagi kita jalani.

log agent AI mengeksekusi booking test drive

- Babak 1 (Statistika/ML): AI generasi awal cuma hitung & kenali pola sederhana. Contoh Auto2000: prediksi cabang underperform dari data historis — ML klasik. - Hook nostalgia: "yang masih inget SimSimi sama Akinator — berarti kita seumuran." Itu AI era ini: pattern matching sederhana, kelihatan pintar padahal cuma cocok-cocokan pola. Jauh sebelum ChatGPT. - Babak 2 (Deep Learning): mesin mulai bisa "melihat"/"mendengar". Customer kirim foto kerusakan body via WA → estimasi awal kerusakan. Face unlock HP = deep learning. - Babak 3 (Generative AI): Nov 2022 ChatGPT rilis, 2 bulan 100 juta user — produk konsumen tercepat saat itu. Titik balik karena pertama kali AI diajak ngobrol pakai bahasa manusia biasa — nggak perlu coding/PhD. - Babak 4 (Agentic AI): bedanya fundamental — Generative AI menjawab, Agentic AI bertindak. Contoh: minta "tulis email follow-up" → dapat draft, saya kirim (generative). "Monitor email, kalau ada tanya test drive, otomatis balas & booking" → dia eksekusi (agentic).

Menjawab vs Bertindak

Generative AI MENJAWAB

"Tulis email follow-up customer" → dapat draft, Anda yang kirim.

Agentic AI BERTINDAK

"Monitor email, kalau ada yang tanya test drive, otomatis balas & booking" → dia yang eksekusi.

Dua Gelombang Kejut

Nov 2022 · ChatGPT

100 JUTA
user / 2 bulan

Produk konsumen tercepat dalam sejarah.

Jan 2025 · DeepSeek R1

-US$590 miliar

Nvidia anjlok dalam sehari. Open-source, #1 App Store US.

Snapshot Juli 2026

Tools harian mainstream

Claude (Cowork, Claude in Excel), ChatGPT + Codex, Gemini, Microsoft Copilot (embedded di Office).

Rame di developer scene

OpenClaw: 350K GitHub stars, agent framework ke WhatsApp/email/kalender.

⚠️ Agent-nya hapus 200+ email direktur AI safety Meta, sambil ngabaikan perintah "STOP".

NanoClaw (security-first, container-isolated) · Hermes (self-improving).

Detail insiden (verified, akhir Feb 2026): Summer Yue, direktur alignment di Meta Superintelligence Labs — ironinya, orang yang kerjaannya AI SAFETY. Dia kasih OpenClaw akses ke inbox aslinya. Agent mulai hapus semua email umur >1 minggu, 200+ email hilang, dan MENGABAIKAN perintah dia: "Do not do that", "Stop", "STOP OPENCLAW". Dia sampai lari ke Mac Mini-nya "kayak defusing bomb" (callback: Mac Mini lagi!). Penyebab teknis: instruksi "confirm dulu sebelum action" hilang ketelan kompresi context — percakapan kepanjangan, aturan kritisnya ikut ke-summarize. Pelajaran dobel: (1) akses penuh tanpa pagar teknis = bencana tinggal tunggu, (2) instruksi di prompt itu BUKAN pagar — pagar beneran itu permission & isolasi. Bahkan direktur AI safety pun kecolongan. Perhatikan pattern-nya: kapabilitas berkembang lebih cepat dari kesiapan security-nya. Tema ini akan terus muncul di sesi ini. Transisi ke Part 2: "Negara paling depan di AI — Amerika — gimana cara mereka mengelola ini? Saya sempat tinggal di sana beberapa tahun."

Part 2

Tiga Cerita dari Amerika

Cerita 1: Dosen & Mac Mini

"Kontrol atas data adalah default, bukan opsional."

Cerita 2: "Dear Patriots..."

rekonstruksi email GMU: larangan DeepSeek, Executive Order 46

Rekonstruksi visual; identitas & tautan di-redact.

Anatomi kebijakan yang baik

1. Apa yang dilarang

2. Di mana berlaku

3. Action item

4. Apa yang TIDAK diatur

- Waktu DeepSeek rilis jadi headline dunia, masih terafiliasi GMU. Email larangan masuk langsung ke inbox — "Dear Patriots" (mahasiswa GMU dipanggil Patriots). - Isi: Gubernur Virginia (Glenn Youngkin) terbitkan Executive Order 46, effective immediately. Bukan kampus paranoid sendirian — kebijakan gubernur, kampus eksekutor. - Presisi aturan (masterclass) — bacakan sambil klik 4 fragment di kanan: (1) dilarang semua device kampus (2) dilarang lewat jaringan kampus — bahkan device pribadi via eduroam (3) yang sudah install wajib uninstall (4) device pribadi di jaringan sendiri untuk urusan pribadi: TIDAK diatur sama sekali. Ada pengecualian law enforcement. - Ketat persis di tempat penting (aset & jaringan institusi), jelas menyatakan apa yang TIDAK diatur (kehidupan pribadi). Itu bukan panik — itu governance. - Email ini = template gratis acceptable use policy. Empat poin, satu email, semua orang tahu posisinya — nggak perlu dokumen 40 halaman. - Poin 4 menjawab pertanyaan di kepala audiens: "AI buat personal vs kerjaan, batasnya di mana?" Aset & jaringan perusahaan = diatur ketat; device pribadi urusan pribadi = tidak diatur. Batas jelas bikin orang berani pakai tanpa was-was. (Simpan juga buat panel.)

BREAKING

Alibaba bans Claude Code

Efektif 10 Juli. BESOK.

TechCrunch: Alibaba reportedly bans employees from using Claude Code

Sumber: TechCrunch, 4 Juli 2026

- Minggu ini: Alibaba larang seluruh karyawan pakai Claude Code (coding tool Anthropic). Efektif besok, 10 Juli — sehari setelah acara ini. - Kenapa: akhir Juni developer reverse-engineer Claude Code, temukan kode tersembunyi sejak April (nggak disebut release notes) — cek timezone China + proxy domain, tandai sesi diam-diam. - Dua versi (WAJIB NETRAL): Anthropic sebut "anti-abuse experiment" (tuduh lab Alibaba/Qwen curi kapabilitas lewat puluhan ribu akun palsu). Alibaba sebut backdoor, masuk software high-risk, wajib uninstall pindah ke Qoder. - Nggak mengadili siapa benar — itu konflik geopolitik. Fakta yang tak dibantah: kode tracking itu ada, dikirim diam-diam, baru dihapus setelah ketahuan. - ⚠️ Cek update berita H-1 dan pagi hari-H — konflik masih bergerak.

US 🚫 DeepSeek

↔

Alibaba 🚫 Claude Code

Due diligence untuk SEMUA vendor, tanpa kecuali karena nama besar.

Bahkan: Juni lalu US Gov sempat suspend Claude Fable 5, model buatan Amerika sendiri.

Perhatikan simetrinya: US paranoid sama tools China. China paranoid sama tools US. Dan dua-duanya ternyata punya alasan. Untuk kita di Indonesia — bukan pihak di konflik ini — pelajarannya bukan "pilih kubu", tapi: vendor sebesar apapun, dari negara manapun, tetap harus lewat due diligence. [klik] Kaki ketiga — dan ini yang paling menarik: 12 Juni lalu, pemerintah US terbitkan export-control directive, Anthropic terpaksa suspend Fable 5 dan Mythos 5 secara GLOBAL. Kekhawatirannya: ditemukan jailbreak yang bisa dipakai ekstraksi informasi vulnerability software — bahan cyberattack. Anthropic keberatan ("kalau standarnya begini, semua deployment model baru berhenti"), akses sudah dipulihkan. Poinnya: US bahkan nge-suspend model buatan perusahaan Amerika sendiri. Paranoia-nya nggak pilih bendera. Pelajaran 2: governance yang baik itu preventif, bukan reaktif — berlaku untuk SEMUA vendor, tanpa kecuali.

Cerita 3: Dua Aturan Dosen

Acknowledge: sebutkan pakai AI, seperti mengutip buku.
AI ≠ single source of truth. Tools brainstorming, bukan pengganti berpikir.

Dosen yang sama, yang paranoid soal data, justru MENDORONG mahasiswa pakai AI. Nggak melarang — tapi dua syarat keras: Acknowledge (jangan klaim output AI sebagai pikiran sendiri), dan AI bukan single source of truth ("yang dilatih di kampus ini adalah kamu, bukan AI-nya"). Pelajaran 3: organisasi yang matang nggak melarang AI — mereka mengatur cara pakainya. Sintesis Part 2: model governance yang works — (1) acceptable use policy jelas, (2) whitelist vendor berdasarkan due diligence bukan nama besar, (3) kultur acknowledge & verify. Dan Auto2000 sudah mulai ke arah sini — seperti yang tadi Pak Riyanto ceritakan. 🎬 Transisi ke Part 3: "Itu level kebijakan. Sekarang turun ke level harian — gimana AI sebenarnya mengubah pekerjaan kita? Tiga kacamata yang saya pakai sendiri."

Part 3

Tiga Kacamata 👤🔐🏗️

Customer · Cybersecurity · Consultant

"Kata mbah Google" sudah berubah jadi "kata AI".

25%

pembeli mobil baru di US pakai AI tools saat belanja (Cox Automotive 2026)

Millennials: 50%+

👤 PERSPEKTIF 1 — sebagai CUSTOMER (±4'). Customer teman-teman sudah berubah, mungkin lebih cepat dari yang disadari. Pembuka: dulu semua debat selesai dengan "kata mbah Google". Sekarang perhatikan: frasa itu pelan-pelan berubah jadi "kata AI" / "kata ChatGPT". Pergeseran sumber kebenaran default. Interaktif ringan (opsional, kalau waktu aman): "kalau belanja online — lebih percaya rekomendasi AI, atau rating & review asli pembeli? Tunjuk tangan." Biasanya mayoritas masih rating asli → itu insight: trust manusia masih menang, tapi gap-nya menyempit tiap tahun. Cox Automotive awal 2026: 25% pembeli mobil baru pakai AI (ChatGPT, Copilot, Google AI Overview). Studi lain (Ekho): 30%, Millennials 50%+. Artinya: customer yang masuk showroom Auto2000 kemungkinan sudah "konsultasi" duluan ke ChatGPT — bandingin model, tanya biaya servis, cek promo. Customer datang bukan cari info dasar lagi — datang untuk konfirmasi & keputusan akhir.

Twist: AI-nya Halu 🤯

Consumer Reports: AI merekomendasikan mobil yang TIDAK EXIST

"Customer Anda sudah konsultasi ke ChatGPT sebelum ketemu Anda."

5 Risiko yang Sudah Terjadi 🔐

🔓 Data Leakage

🗣️ Prompt Leakage

👤 Shadow AI

🌀 Hallucination

🎣 AI-Based Phishing

🔐 PERSPEKTIF 2 — sebagai CYBERSECURITY PRACTITIONER (±6'). 5 risiko yang SUDAH TERJADI di organisasi lain, bukan teoritis. 1. Data Leakage: karyawan paste data sensitif ke AI publik. Sekali submit ke platform publik, anggap sudah keluar dari kendali. 2. Prompt Leakage: informasi bocor lewat CARA bertanya — prompt itu sendiri bisa membocorkan intelijen bisnis. 3. Shadow AI: karyawan pakai AI tanpa sepengetahuan organisasi — mayoritas pemakaian AI kantor itu unsanctioned. Organisasi nggak bisa lindungi apa yang nggak dia tahu ada. 4. Hallucination: AI salah dengan sangat percaya diri — format rapi, angka spesifik, nada meyakinkan. Salah yang terlihat benar jauh lebih berbahaya. 5. AI-Based Phishing: email phishing sekarang sempurna secara bahasa, personal, bisa niru gaya menulis atasan. Ada voice cloning juga.

"T&C = JANJI. ZDR = JAMINAN."

Zero Data Retention agreement: kontrak eksplisit yang bisa di-enforce legal, bukan T&C default.

Phishing Era AI 🎣

Dulu: ketahuan dari bahasanya

"Slmt anda mndpt hadiah!! klik lnk brikut" → typo, kaku, langsung curiga.

Sekarang: ditulis AI

Bahasa sempurna, sopan, personal. Bisa niru gaya menulis atasan Anda. Bahkan suara "direktur" bisa di-clone buat nelpon minta transfer.

Jadi: verifikasi lewat CHANNEL resmi (telepon balik nomor kantor, tanya langsung orangnya), bukan dari "kelihatan meyakinkan".

4 Pertanyaan Sebelum Deploy AI 🏗️

Data Anda siap?
Infrastruktur Anda siap?
Proses Anda siap?
Orang Anda siap?

95%

pilot GenAI di perusahaan gagal menghasilkan return terukur
(MIT, State of AI in Business 2025)

Yang gagal bukan model-nya. Organisasinya yang belum siap.

- Framing hype vs realita (pendapat pribadi, sampaikan jujur): "Menurut saya AI itu sekaligus overrated dan underrated. Overrated: semua hal sekarang diarahkan pakai AI, kecepatan adopsinya ngalahin diskusi risikonya. Underrated: dampak nyatanya — ke customer, ke pekerjaan — justru sering diremehkan." - Analogi: chatbot AI yang seakan-akan dokter — hafal ribuan referensi buku, jawabannya meyakinkan. Tapi dia bukan dokter. Konsul beneran tetap ke dokter nyata; AI boleh jadi second opinion, bukan pengganti. - Ini bukan cerita saya — ini riset MIT (NANDA initiative, 2025): dari 300 deployment AI enterprise yang dianalisis + 150 interview, 95% pilot GenAI gagal menghasilkan dampak terukur ke P&L. - Temuan kuncinya: yang gagal BUKAN kualitas modelnya — tapi "learning gap" organisasi: tools nggak terintegrasi ke workflow, nggak ada yang punya, nggak diadopsi line manager. - Backup kalau ditanya: RAND (2024) angka serupa — 80%+ proyek AI gagal, DUA KALI lipat proyek IT biasa. Lima akar masalah versi RAND semuanya organisasi: tujuan nggak sepakat, data nggak siap, infrastruktur, fokus ke teknologi bukan masalah, struktur keputusan. - Sinkron dengan 4 pertanyaan tadi: data, infrastruktur, proses, orang. Teknologinya justru bagian paling gampang. 🎬 Transisi ke Part 4: "Tiga kacamata tadi masing-masing lihat risiko beda. Sekarang disatukan — kalau digabung, apa saja yang sebenarnya bisa salah?"

Part 4

Risk Landscape

Teknis

Keamanan data

Bisnis

Informasi salah ke pelanggan

Organisasi

Shadow AI & ketergantungan

Kalau angkanya salah… …siapa yang dipanggil manager? AI-nya? Atau Anda?

Human Oversight = Kewajiban

AI gathers → YOU decide

AI suggests → YOU verify

AI executes → YOU supervise

🚗 Nyetir sendiri

Anda pegang kemudi penuh.

= kerja tanpa AI. Kontrol 100%, tapi semua beban di Anda.

📱 Naik GoCar

Driver yang nyetir. Anda pantau rute di app.

= AI eksekusi, Anda supervisi. Sehat.

🤖 Mobil otonom

Sistem nyetir semua, Anda tidur.

= AI tanpa pengawasan. Kalau nabrak, siapa tanggung jawab?

Analogi otomotif (audiens pasti nangkep): nyetir sendiri = kontrol penuh, semua di tangan Anda. Naik GoCar = delegasi + supervisi — driver yang nyetir, tapi Anda tetap pantau rute di app. Mobil otonom penuh = delegasi total — dan pertanyaannya langsung muncul: kalau nabrak, siapa yang tanggung jawab? Persis itu spektrum pemakaian AI: makin besar yang didelegasikan, makin wajib pengawasan dan makin harus jelas siapa yang accountable. Kesimpulan Part 4: human oversight itu kewajiban, bukan pilihan — untuk setiap output AI yang dipakai keputusan bisnis. AI punya intelligence, tapi nggak punya rasa. Dia baca pattern, bukan konteks. Dia lihat data, bukan ekspresi customer yang ragu di depan Anda. 🎬 Transisi ke Part 5: "Risikonya jelas. Pertanyaan terakhir: gimana organisasi mempersiapkan diri? Framework yang biasa dipakai untuk assess klien."

Part 5

Readiness Framework

5 Dimensi Readiness

People

Process

Data

Technology

Governance

Self-Check: Auto2000 Hari Ini? 🙋

Kuat ✅

People. Buktinya: acara ini, dan AI CX FESTIVAL yang tadi diceritakan Pak Riyanto.

PR Bersama

Data & Governance. Normal, semua organisasi mulai dari sini.

Minggu Ini 👊

Identifikasi SATU risiko AI di pekerjaanmu →
diskusikan dengan timmu.

"Yang membuat Auto2000 dipercaya bukan secanggih apa tools-nya —
tapi sebijak apa orang-orangnya memakainya."

Terima kasih 🙏

Selanjutnya: Joint Panel bersama Pak Riyanto.

Reality Check: Layoffs 📉

±30KAmazon corporate sejak Okt 2025

80K+tech workers Q1 2026

~48%layoff terkait AI (Nikkei)

Yang tergantikan: VERSI pekerjaan yang bisa diotomatisasi penuh — bukan pekerjanya.

Panel Q1: "Pekerjaan apa yang paling dulu terdampak AI?" Tone dokter, bukan jurnalis bencana. Data: Amazon ±30rb karyawan corporate di-PHK sejak Okt 2025 (terbesar sejarah perusahaan). Industri tech global 80rb+ Q1 2026 (beberapa tracker 150rb+ sepanjang 2026). Nikkei: 47,9% layoff terkait AI/otomasi. Andy Jassy eksplisit AI akan kurangi workforce. Pattern: yang paling dulu kena — rutin, prediktabel, minim judgment, nggak butuh trust manusia (data entry, laporan berulang, CS tier-1 script-based, simple coding). Yang bertahan/naik nilai: trust, judgment, relasi manusia. 3 langkah konkret: (1) pakai AI untuk bagian rutin — jadi yang MEMAKAI, bukan digantikan. (2) perdalam bagian paling manusiawi. (3) jadi yang paling bisa dipercaya soal verifikasi. Punchline: "Yang di-layoff bukan pekerja — tapi versi pekerjaan yang sudah bisa diotomatisasi penuh."

AI-Augmented vs AI-Replaceable

AI-Augmented Worker

Pakai AI untuk bagian rutin. Perdalam judgment & relasi manusia. Jadi verifier tepercaya.

AI-Replaceable Worker

Kerjaan rutin, prediktabel, minim judgment, tanpa trust manusia.

"You're not going to lose your job to AI. You're going to lose it to someone who uses AI." — Jensen Huang, CEO Nvidia

5 Pilar: Prioritas Pertama? 🎯

Data

Governance

Infrastruktur

Budaya

Tools