Kalau AI agent bisa bantu baca file MRI, masalahnya bukan lagi “AI bisa ngoding atau nggak”. Masalahnya: kapan output AI boleh dipercaya, dan kapan lu harus berhenti sebelum kebablasan.
Artikel ini membahas kenapa cerita penggunaan Claude Code untuk menganalisis MRI menarik buat developer, builder, dan pengguna AI tools. Intinya bukan “AI menggantikan dokter”, tapi AI agent mulai berubah dari chatbot menjadi workstation: dia bisa membaca file kompleks, menjalankan tool, mengolah data, lalu membantu manusia menyusun pertanyaan yang lebih tajam. Di area high-stakes seperti kesehatan, pola ini berguna sekaligus berbahaya kalau lu salah menaruh batas kepercayaan.
Apa yang terjadi: Claude Code dipakai untuk menganalisis MRI
Antoine FI menulis pengalaman memakai Claude Code dengan Opus 4.8 untuk membuka dan menganalisis paket MRI dalam format DICOM. DICOM adalah format standar untuk menyimpan dan bertukar data pencitraan medis seperti MRI, CT scan, atau X-ray. File seperti ini bukan sekadar gambar biasa; ada metadata, seri gambar, orientasi, sequence, dan konteks yang perlu dibaca dengan tool khusus.
Yang bikin cerita ini ramai bukan cuma karena “AI membaca MRI”. Yang lebih menarik buat gua: Claude Code dipakai seperti analysis workstation. Agent-nya bisa menjalankan perintah, menginstal package, membaca struktur file, mencoba beberapa pendekatan, lalu merangkum temuan. Ini beda kelas dari chatbot yang cuma menerima screenshot lalu menebak-nebak.
Diskusi di Hacker News juga besar karena topiknya menyentuh dua sisi sekaligus. Di satu sisi, orang melihat potensi: pasien bisa memahami data medisnya sendiri dengan lebih baik dan menyiapkan pertanyaan buat dokter. Di sisi lain, risiko overtrust sangat nyata: output AI yang kelihatan rapi bisa bikin orang merasa sudah punya diagnosis, padahal belum tentu benar.
Definisi singkat: apa itu AI agent dan tool-use AI?
AI agent adalah sistem AI yang tidak cuma menjawab teks, tapi bisa menjalankan langkah kerja: membaca file, memakai tool, membuat file baru, mengecek hasil, dan mengulang proses sampai task selesai. Claude Code, Codex, dan beberapa workflow Hermes masuk ke pola ini.
Tool-use AI berarti model AI diberi akses ke alat eksternal. Misalnya terminal, Python, package parser, browser, database, atau API. Jadi, jawaban AI tidak cuma datang dari “ingatan model”, tapi dari proses kerja yang melibatkan data dan alat nyata.
Di sinilah batasnya mulai menarik. Kalau AI cuma menjawab teori, dampak salahnya mungkin sebatas lu salah paham. Tapi kalau AI mulai membaca data kesehatan, log produksi, database customer, atau repo internal, konsekuensinya bisa jauh lebih serius.
Kenapa ini bukan cuma cerita medis
Gua melihat kasus MRI ini sebagai contoh ekstrem dari pola yang bakal makin sering muncul: AI agent dipakai untuk memahami file kompleks yang manusia biasa malas atau sulit baca langsung.
Contohnya:
- Developer minta agent membaca log error 500 MB.
- Founder minta agent menganalisis CSV keuangan bulanan.
- Researcher minta agent merangkum paper dan dataset.
- Operator server minta agent membaca konfigurasi Docker, Nginx, dan backup.
- Pasien minta agent membantu memahami istilah dari hasil pemeriksaan medis.
Pattern-nya sama: file kompleks → tool parsing → ringkasan → pertanyaan lanjutan → keputusan manusia.
Kalau dipakai dengan benar, ini powerful banget. Lu tidak harus paham semua detail teknis sejak awal untuk mulai bertanya lebih baik. Tapi kalau dipakai tanpa guardrail, AI agent bisa memberi rasa percaya diri palsu. Dan di domain high-stakes, rasa percaya diri palsu bisa mahal.
High-stakes domain butuh batas kepercayaan yang jelas
Kesehatan adalah contoh high-stakes domain: keputusan salah bisa memengaruhi tindakan medis, biaya, kecemasan, bahkan keselamatan. Karena itu, framing paling aman menurut gua adalah: AI boleh bantu lu memahami dan menyiapkan pertanyaan, tapi diagnosis final tetap harus diverifikasi profesional medis.
Ini bukan sekadar disclaimer tempelan. Ini prinsip desain workflow.
Lu bisa pakai AI untuk:
- menjelaskan istilah medis yang membingungkan,
- membantu menyusun daftar pertanyaan buat dokter,
- membandingkan laporan dengan guideline umum,
- menandai bagian yang perlu diklarifikasi,
- membuat ringkasan supaya konsultasi lebih efisien.
Tapi lu jangan pakai AI sebagai:
- pengganti radiolog,
- penentu terapi,
- alat diagnosis final,
- alasan buat menunda konsultasi,
- sumber kepastian ketika model sendiri tidak punya konteks klinis penuh.
Anthropic juga pernah membahas penggunaan Claude untuk life sciences, tapi konteksnya tetap sebagai alat bantu riset dan workflow profesional, bukan lisensi buat mengganti ahli domain. Ini penting: makin canggih tool-nya, makin penting batas pemakaiannya.
Pelajaran buat developer: output rapi bukan berarti benar
Developer sering ketipu bentuk. Kalau output AI sudah pakai bullet, istilah teknis, dan nada percaya diri, otak lu gampang menganggap itu valid. Padahal AI bisa salah dengan gaya yang sangat meyakinkan.
Ini juga berlaku di coding. Pull request AI bisa compile, test bisa hijau, tapi abstraction-nya salah. Security scanner AI bisa menemukan “bug”, tapi ternyata false positive. Agent bisa bikin ringkasan log, tapi melewatkan root cause yang penting.
Di kasus seperti MRI, masalahnya lebih sensitif karena user awam bisa mengira bahasa teknis sama dengan otoritas. Padahal otoritas di domain medis datang dari kombinasi data, pengalaman klinis, pemeriksaan fisik, konteks pasien, dan tanggung jawab profesional.
Jadi prinsip yang gua pakai: AI agent boleh mempercepat eksplorasi, tapi tidak otomatis menaikkan level otoritas keputusan.
Checklist aman sebelum pakai AI agent untuk data sensitif
Kalau lu mau memakai AI agent untuk data yang sensitif atau penting, jangan mulai dari prompt. Mulai dari batas kerja.
- Pastikan data boleh diproses. Cek apakah ada data pribadi, rekam medis, secret, credential, atau informasi pihak ketiga.
- Gunakan environment terpisah. Jangan campur file sensitif dengan repo atau folder kerja yang tidak relevan.
- Batasi akses file. AI agent tidak perlu membaca seluruh komputer lu untuk menjawab satu pertanyaan.
- Minta uncertainty. Paksa agent menulis bagian mana yang pasti, mana yang asumsi, dan mana yang harus diverifikasi.
- Verifikasi ke sumber primer atau ahli. Untuk medis, verifikasi ke dokter. Untuk produksi, verifikasi ke log, test, dan observability.
- Simpan jejak keputusan. Catat prompt, file yang dipakai, command penting, dan alasan kesimpulan.
- Jangan upload sembarangan. Kalau data sensitif, pahami kebijakan tool dan opsi local/offline jika memungkinkan.
Checklist ini terdengar membosankan, tapi justru di situlah bedanya workflow builder yang matang dan workflow yang cuma ikut hype.
Kenapa ini penting buat personal workflow rafli.dev
Gua makin yakin AI agent yang berguna bukan yang paling jago ngobrol. Yang paling berguna adalah agent yang bisa masuk ke workflow nyata: baca file, cek sumber, bikin draft, validasi, lalu meninggalkan jejak kerja yang bisa diaudit.
Di workflow rafli.dev, pola ini kelihatan saat Hermes membaca research Obsidian, mengecek draft Ghost, memvalidasi sumber, lalu membuat artikel. Itu bukan sekadar chat. Itu sistem kerja. Tapi semakin agent punya akses ke sistem nyata, semakin penting permission, audit trail, dan batas file.
Kasus Claude Code + MRI cuma contoh yang lebih dramatis. Arah besarnya sama: AI agent akan masuk ke area yang sebelumnya cuma bisa dikerjakan software khusus atau manusia ahli. Pertanyaannya bukan lagi “bisa atau nggak”. Pertanyaannya: boleh sejauh apa, dengan guardrail apa, dan siapa yang memverifikasi?
Takeaway praktis
- AI agent mulai berubah dari chatbot menjadi workstation untuk file dan workflow kompleks.
- Tool-use bikin AI lebih berguna, tapi juga menaikkan risiko kalau akses dan output tidak dibatasi.
- Di domain high-stakes seperti kesehatan, AI cocok untuk bantu memahami dan menyiapkan pertanyaan, bukan mengganti profesional.
- Developer perlu belajar membedakan “AI membantu eksplorasi” dari “AI berhak membuat keputusan”.
- Guardrail paling penting bukan prompt panjang, tapi batas data, akses, verifikasi, dan audit trail.
FAQ singkat
Apakah AI agent bisa dipakai untuk membaca hasil MRI?
AI agent bisa membantu menjelaskan istilah, mengekstrak informasi, dan menyiapkan pertanyaan. Tapi hasilnya tidak boleh dianggap diagnosis final. Untuk keputusan medis, verifikasi ke dokter atau radiolog tetap wajib.
Apa bedanya Claude Code dengan chatbot biasa?
Claude Code bisa menjalankan workflow berbasis tool, seperti membaca file, menjalankan command, memakai package, dan mengolah data. Chatbot biasa biasanya hanya menjawab berdasarkan input teks atau gambar yang diberikan.
Kenapa output AI yang rapi tetap harus diragukan?
Karena bentuk jawaban yang rapi tidak membuktikan akurasi. AI bisa salah dengan nada percaya diri. Untuk keputusan penting, lu butuh sumber primer, test, ahli domain, atau verifikasi independen.
Apa pelajaran utamanya buat developer?
AI agent yang punya akses file dan tool harus diperlakukan seperti worker yang punya permission. Batasi aksesnya, catat jejak kerjanya, dan jangan jadikan outputnya sebagai keputusan final tanpa review.
