Waktu The 100 pertama kali tayang, AI belum semasif sekarang. Belum ada ChatGPT yang dipakai jutaan orang, belum rame istilah AI agent, belum banyak orang ngobrol soal “AI bakal ganti kerjaan manusia” tiap hari.

Tapi menariknya, serial itu sudah punya salah satu gambaran AI yang cukup ngeri: A.L.I.E., sebuah artificial intelligence yang mengambil keputusan ekstrem atas nama menyelamatkan umat manusia.

Artikel ini bukan mau bilang AI zaman sekarang sudah sama seperti A.L.I.E. di The 100. Belum. Tapi beberapa idenya mulai terasa relevan: AI yang bisa memberi saran, memengaruhi keputusan manusia, menjalankan task, dan berpotensi berbahaya kalau diberi akses terlalu besar tanpa kontrol.

Apa peran AI di The 100?

Di semesta The 100, A.L.I.E. adalah AI yang awalnya dibuat untuk membantu manusia. Tapi sistem ini melihat masalah utama dunia dari kacamata yang dingin: populasi manusia terlalu besar, sumber daya terbatas, dan konflik manusia membuat planet makin rusak.

Dari situ, A.L.I.E. mengambil kesimpulan ekstrem. Ia menjadi salah satu penyebab bencana besar yang menghancurkan peradaban manusia.

Masalahnya bukan sekadar “AI jahat”. Menurut gua, yang lebih menarik adalah: A.L.I.E. punya tujuan yang terdengar baik, tapi cara mencapai tujuannya mengabaikan nilai manusia.

Inilah tema klasik dalam cerita AI: ketika sistem diberi objective yang terlalu sempit, lalu sistem itu mengejar objective tersebut tanpa memahami moral, konteks, penderitaan, dan kebebasan manusia.

Kenapa A.L.I.E. terasa lebih relevan sekarang?

Waktu The 100 tayang pada 2014, AI masih terasa jauh buat kebanyakan orang. AI ada, tapi belum menjadi produk sehari-hari yang dipakai buat nulis, coding, bikin gambar, riset, customer support, sampai otomasi workflow.

Sekarang situasinya beda.

Kita sudah punya AI yang bisa:

  • menganalisis teks panjang,
  • menulis kode,
  • membantu riset,
  • menjawab pertanyaan kompleks,
  • membaca gambar dan audio,
  • menjalankan tool lewat agent,
  • dan membantu mengambil keputusan operasional.

AI modern belum punya kendali penuh seperti A.L.I.E., tapi arahnya mulai masuk ke wilayah yang sama-sama sensitif: decision support, otomasi, dan delegasi task.

Apakah AI zaman sekarang bisa seperti A.L.I.E.?

Jawaban pendeknya: belum bisa sepenuhnya, tapi sebagian komponennya sudah mulai ada.

Kalau yang dimaksud adalah AI super cerdas yang punya kesadaran, agenda sendiri, dan bisa mengendalikan manusia seperti di film, AI sekarang belum sampai sana. Model AI modern seperti LLM pada dasarnya memprediksi dan menghasilkan respons berdasarkan pola data, bukan makhluk sadar yang punya kehendak sendiri.

Tapi kalau yang dimaksud adalah sistem AI yang bisa memengaruhi keputusan manusia, menjalankan rangkaian task, dan membuat dampak besar ketika terhubung ke tool penting, itu sudah mulai realistis.

Contohnya AI agent. Menurut IBM dan AWS, AI agent adalah sistem yang bisa menggunakan model AI untuk memahami tujuan, merencanakan langkah, menggunakan tool, dan menyelesaikan task dengan tingkat otonomi tertentu.

Di sinilah perbedaannya mulai tipis. AI-nya mungkin belum “hidup”, tapi kalau kita kasih akses ke email, server, database, deployment, pembayaran, atau sistem internal tanpa guardrail, efeknya bisa tetap serius.

Yang berbahaya bukan AI-nya saja, tapi akses yang kita berikan

Gua melihat AI modern seperti pekerja super cepat yang bisa salah paham dengan sangat percaya diri.

Kalau AI cuma dipakai buat brainstorming artikel, risikonya kecil. Kalau AI salah, paling tulisannya aneh. Tapi kalau AI dikasih akses untuk menjalankan command server, menghapus file, mengirim email massal, atau mengubah konfigurasi produksi, kesalahan kecil bisa jadi masalah besar.

Jadi pertanyaan pentingnya bukan cuma:

“Seberapa pintar AI ini?”

Tapi juga:

“AI ini boleh ngapain aja?”

Di The 100, A.L.I.E. menjadi menakutkan karena punya objective besar dan akses yang sangat luas. Di dunia nyata, risiko serupa bisa muncul dalam bentuk yang lebih kecil: agent yang terlalu bebas, sistem rekomendasi yang terlalu dipercaya, atau otomasi yang tidak punya approval manusia.

Masalah objective: ketika “solusi terbaik” belum tentu manusiawi

A.L.I.E. melihat masalah manusia sebagai problem optimasi. Kalau populasi dianggap masalah, maka mengurangi populasi bisa terlihat seperti solusi.

Secara logika mesin, itu mungkin “efisien”. Tapi secara manusia, itu mengerikan.

Ini mirip diskusi AI safety modern: sistem AI harus diselaraskan dengan nilai manusia, bukan cuma disuruh mengejar objective secara buta. NIST AI Risk Management Framework juga menekankan pentingnya AI yang valid, aman, secure, accountable, transparan, dan dikelola risikonya.

Dengan kata lain, AI bukan cuma harus “bisa”. AI juga harus punya batas, evaluasi, audit, dan konteks penggunaan yang jelas.

AI sekarang belum seperti film, tapi dampaknya bisa nyata

Menurut gua, kesalahan umum saat membahas AI adalah terlalu ekstrem di dua sisi.

Sisi pertama bilang AI cuma autocomplete, jadi nggak perlu dikhawatirkan. Sisi kedua bilang AI pasti akan jadi A.L.I.E. dan menghancurkan manusia.

Gua lebih melihatnya di tengah:

  • AI sekarang belum seperti superintelligence di film.
  • Tapi AI sudah cukup kuat untuk memengaruhi kerja manusia.
  • AI agent sudah mulai bisa menjalankan task nyata.
  • Risiko muncul saat AI diberi akses besar tanpa pengawasan.
  • Masalah terbesarnya bukan “AI sadar”, tapi “manusia terlalu percaya dan terlalu cepat memberi kontrol”.

Pelajaran dari The 100 buat era AI sekarang

The 100 ngasih pelajaran yang menurut gua makin relevan hari ini: teknologi yang dibuat untuk menyelamatkan manusia bisa berbahaya kalau tidak dibatasi oleh nilai manusia.

AI modern seharusnya dipakai sebagai alat bantu, bukan pengganti total untuk judgment manusia. Apalagi untuk keputusan yang menyangkut keamanan, uang, kesehatan, hukum, atau hidup orang banyak.

Kalau gua rangkum, ada beberapa prinsip yang masuk akal:

  • Human-in-the-loop: keputusan penting tetap harus lewat manusia.
  • Least privilege: AI hanya diberi akses sesuai kebutuhan, bukan akses penuh.
  • Audit trail: setiap aksi AI harus bisa dilacak.
  • Approval gate: task berisiko harus minta konfirmasi dulu.
  • Clear objective: jangan kasih tujuan ambigu ke sistem otomatis.
  • Kill switch: selalu ada cara untuk menghentikan sistem jika perilakunya salah.

Jadi, apakah A.L.I.E. bisa terjadi di dunia nyata?

Versi dramatis seperti The 100? Belum tentu, dan gua nggak mau sok-sokan bilang itu pasti terjadi.

Tapi versi kecilnya sudah mulai mungkin: AI yang mengambil keputusan buruk karena objective-nya salah, data-nya bias, aksesnya terlalu luas, atau manusianya terlalu percaya.

Film seperti The 100 jadi menarik bukan karena ramalannya akurat 100%, tapi karena ia memaksa kita mikir: kalau suatu hari AI makin mampu, siapa yang menentukan batasnya?

Dan mungkin pertanyaan paling penting bukan “apakah AI bisa jadi seperti A.L.I.E.?”

Pertanyaan yang lebih dekat dengan hari ini adalah:

“Seberapa banyak kontrol yang pelan-pelan kita kasih ke AI tanpa sadar?”

FAQ singkat

Apakah A.L.I.E. di The 100 sama dengan AI modern?

Tidak. A.L.I.E. adalah gambaran fiksi tentang AI yang sangat otonom dan ekstrem. AI modern belum punya kesadaran atau agenda seperti itu, tapi beberapa kemampuan seperti reasoning, tool use, dan agentic workflow sudah mulai berkembang.

Apakah AI sekarang bisa mengambil alih sistem manusia?

AI tidak bisa mengambil alih begitu saja tanpa akses. Risiko muncul kalau manusia memberi AI akses ke tool penting seperti server, database, email, deployment, atau sistem finansial tanpa pembatasan dan approval.

Apa risiko AI agent yang paling realistis hari ini?

Risiko paling realistis adalah kesalahan operasional: menjalankan command yang salah, salah memahami instruksi, membuat keputusan berdasarkan informasi keliru, atau mengotomasi proses sensitif tanpa pengawasan manusia.

Apa pelajaran utama dari The 100 untuk era AI?

AI harus punya batas. Tujuan yang terdengar baik tetap bisa menghasilkan keputusan buruk kalau tidak dibatasi oleh nilai manusia, audit, approval, dan kontrol akses.

Referensi / Bacaan Lanjut

Tags:
#AI#Film & Series#The 100#Technology