Kemarin gue scroll Hacker News, nemu thread rame banget soal kota Rio de Janeiro di Brasil yang bangga-banggain LLM "asli" mereka bernama Nex-N2. Diklaim dibangun sendiri buat pelayanan publik, pakai dana publik, dan represented sebagai bukti kemandirian teknologi negara berkembang.

Masalahnya, komunitas open-source nggak lama cari-cari buktinya. Di GitHub Issues repo nex-agi/Nex-N2, ada yang nemuin pola yang nggak bisa dibantah: model ini kemungkinan besar cuma merge dari model open-source yang sudah ada (seperti Llama atau Mistral) tanpa atribusi yang jelas. Bukan training dari nol. Bukan arsitektur baru. Cuma gabungan model orang lain, dibungkus ulang, lalu diklaim "homegrown".

Ini bukan cuma drama tech. Ini pelajaran penting buat kita semua yang ada di industri AI — baik builder, investor, maupun user biasa.

Apa yang sebenarnya terjadi?

Pemerintah kota Rio de Janeiro merilis Nex-N2 dengan narasi: "LLM buatan sendiri pertama di Brasil untuk pelayanan publik." Kata-kata seperti soberania tecnológica (kedaulatan teknologi) dan inovação nacional dipakai berulang di pengumuman resmi.

Tapi saat developer mulai membuka repo dan cek konfigurasi model, beberapa hal aneh kelihatan:

  • Arsitektur model mirip sekali dengan Llama 3 / Mistral — bukan arsitektur custom.
  • Tokenizer yang dipakai identik dengan model open-source populer.
  • Tidak ada paper teknis, tidak ada log training, tidak ada checkpoint, tidak ada data training yang di-publish.
  • Repo GitHub cuma berisi file konfigurasi inference, nggak ada kode training sama sekali.

Salah satu komentar di GitHub Issues (nex-agi/Nex-N2#4) merangkumnya dengan tegas: "Ini bukan model baru. Ini model merging yang dikemas sebagai pencapaian nasional."

Model Merging vs Training dari Nol: Beda di Mana?

Bagi yang nggak terlalu dalam di dunia LLM, bedanya sederhana tapi fundamental:

Aspek Training dari Nol (Pre-training) Model Merging
Proses Belajar dari triliunan token data mentah (web, buku, kode) dengan komputasi masif (ribuan GPU, berbulan-bulan) Menggabungkan bobot (weights) beberapa model yang sudah jadi jadi satu model baru
Biaya Jutaan hingga miliaran dolar (listrik, hardware, engineer) Murah — bisa dijalankan di laptop/GPU tunggal dalam jam/menit
Kemampuan Baru Bisa menciptakan kemampuan fundamental yang baru Hanya mengkombinasikan kemampuan yang sudah ada di model asal
Transparansi Butuh bukti: data, checkpoint, log loss, evaluasi Sering disembunyikan di balik klaim "proprietary"

Model merging itu teknik valid dan berguna dalam riset. Banyak model open-source hebat (seperti Yi-34B-Chat, WizardLM, OpenHermes) lahir dari merging. Masalahnya bukan tekniknya — tapi klaim palsu yang menyertainya.

Kalau Rio jujur bilang: "Kita gabungin Llama 3 dan Mistral biar performa Bahasa Portugal lebih baik, inilah hasilnya," itu kontribusi jujur. Tapi kalau diklaim "kita bangun LLM nasional dari nol," itu menipang publik dan investor.

Kenapa Ini Berbahaya (Bukan Cuma untuk Rio)

1. Dana Publik Bisa Disalahgunakan

Proyek skala nasional biasanya dibilangin budget besar. Kalau budget buat "training dari nol" tapi yang dilakukan cuma merging yang biayanya pecahan kecilnya, uang publik bisa saja mengalir ke tempat lain. Transparansi teknis adalah bentuk akuntabilitas.

2. Membangun Ilusi Kemajuan yang Tidak Ada

Kalo negara-negara berkembang dikasih contoh salah ini, mereka mungkin ikut-ikutan Klaim "punya LLM sendiri" tanpa investasi riset nyata. Hasilnya: penuh rebranding, nggak ada inovasi asli.

3. Merusak Kepercayaan Komunitas Open Source

Model open-source seperti Llama, Mistral, Qwen dibangun dengan ribuan jam kerja riset dan dana besar. Kalau hasilnya di-merge, dibungkus, terus diklaim "buatan kita" tanpa atribusi — itu pelanggaran etik dan sering kali pelanggaran lisensi (Llama license, Mistral license, dll mengharuskan atribusi).

4. Pembeli dan Investor Bisa Tertipu

Startup yang klaim "punya model proprietary" tapi cuma merging model open-source, lalu submit ke investor atau tender pemerintah — ini penipuan finansial. Gue udah lihat kasus mirip di Indonesia: startup klaim "AI buatan sendiri" buat dapat dana, padahal cuma wrap OpenAI API.

Cara Bedain "Asli" vs Rebranding (Buat Developer)

Kalo lu evaluasi model/startup yang klaim "buatan sendiri", cek checklist ini:

  1. Minta paper teknis / blog engineering detail. Training dari nol wajib punya: arsitektur, data mix, tokenizer, hardware, training curves, evaluation benchmark. Kalau cuma punya "architecture overview" 1 halaman — curiga.
  2. Cek tokenizer. Kalau tokenizer identik dengan Llama/Mistral/Qwen, besar kemungkinan modelnya turunan atau merge, bukan dari nol.
  3. Minta checkpoint / log training. Pre-training butuh checkpoint berkala (setiap 10-20% step). Nggak ada checkpoint = nggak ada training.
  4. Cek lisensi model asal. Banyak model open-source larangan komersial tanpa izin (Llama community license, Mistral non-commercial). Kalau model "proprietary" mereka ternyata berbasis model larangan komersial — itu hukum bermasalah.
  5. Tanya tim ML-nya. Siapa yang training? Di cluster apa? Berapa lama? Kalau tim nggak bisa jawab detail teknis — mereka mungkin cuma tim deployment, bukan tim research.

Pelajaran Buat Rakyat Indonesia dan Builder Lokal

Indonesia punya narasi serupa: "Kita butuh LLM bahasa Indonesia sendiri", "Kita butuh AI souveren". Narasi itu bagus — kontribusi bahasa, budaya, dan data lokal itu nyata butuhnya. Tapi jalan pintas lewat merging + klaim palsu justru merusak ekosistem.

Yang sehat:

  • Fine-tune model open-source (Llama, Qwen, Gemma) dengan data bahasa Indonesia berkualitas → klaim jujur "fine-tune model open-source untuk Bahasa Indonesia".
  • Kontribusi dataset bahasa Indonesia ke komunitas (seperti NusaX, IndoNLU, CulturX) → ini investasi jangka panjang yang berguna semua orang.
  • Bangun infrastruktur training (GPU cluster, data pipeline) kalau serius mau pre-training dari nol → butuh dana besar, tapi jujur.

Yang nggak sehat:

  • Merge model lain → rebrand → klaim "nasional" → minta dana publik / investor.
  • Wrap API OpenAI/Anthropic → bikin UI sendiri → klaim "AI buatan Indonesia".
  • Ambil model Hugging Face yang sudah fine-tune orang lain → ganti nama → publish sebagai produk sendiri.

Kesimpulan: Transparansi Lebih Berharga dari Klaim Besar

Kasus Nex-N2 Rio de Janeiro itu cuma satu contoh. Di industri AI yang penuh hype, transparansi teknis adalah filter terbaik buat bedain siapa yang benar-benar build dan siapa yang cuma repack.

Buat gua sebagai builder, pelajarannya simpel:

  • Kalau lu merge model, bilang jujur "ini merging dari model X dan Y".
  • Kalau lu fine-tune, bilang "ini fine-tune Llama 3 dengan data Z".
  • Kalau lu wrap API, bilang "ini aplikasi yang pakai model OpenAI/Claude di belakangnya".
  • Jangan pernah klaim "training dari nol" kalau nggak punya bukti komputasi, data, dan logs-nya.

Integritas di dunia open-source dan AI itu seperti credit score — butuh lama bangun, cepet hancur. Dan di era information sekarang, komunitas global (GitHub, HN, Reddit, X) bisa nge-fact-check dalam jam, nggak butuh bulan.

Jadi next time lu dengar klaim "LLM buatan sendiri pertama di [negara/daerah/perusahaan]", tanya satu hal: "Tunjukin log training-nya." Kalau nggak bisa — lu udah tau jawabannya.

Referensi / Bacaan Lanjut

Tags:
#AI#AI Ethics#Internet Culture#Software Development