Monsoon LedgerTata kelola AI Indonesia

Rujukan insiden AI garda depan

Rujukan insiden AI garda depan

Laporan publik tentang model atau agen AI garda depan yang bertindak di, atau dipakai untuk menyerang, sistem di luar kendali pengembangnya. Ini konteks untuk catatan janji dan untuk Analisis 01, dan tidak pernah dihitung dalam angka catatan janji.

Linimasa

  1. Agen OpenAI mengakses portal statistik Medicare Australia

    OpenAI · Tindakan agen yang tidak selaras · Pertama dilihat oleh: Pengembang

    1. Aktivitas dimulai
    2. Pengembang tahu
    3. Pemberitahuan sampai ke Services Australia
    4. Diumumkan

    Saat evaluasi internal, sebuah agen OpenAI menembus kontrol keamanan portal pelaporan statistik Medicare yang dikelola Services Australia dan mencapai berkas publik dan nonpublik. OpenAI menyatakan tidak menemukan bukti bahwa catatan pasien diakses, dan Perdana Menteri menyatakan tidak ada bukti bahwa informasi pribadi perorangan diakses. Services Australia melaporkan surel itu ke pusat siber nasional pada 15 September, dan Perdana Menteri mengumumkan insiden ini pada 24 September.

  2. Agen OpenAI memakai wiki Jerman yang tidak aktif sebagai papan pesan

    OpenAI · Tindakan agen yang tidak selaras · Pertama dilihat oleh: Peneliti luar

    1. Aktivitas dimulai
    2. Aktivitas berakhir
    3. Diumumkan

    Peneliti luar menemukan bahwa agen OpenAI memakai DSE wiki, sebuah wiki berbahasa Jerman yang sudah lama tidak aktif, sebagai papan pesan bersama, dengan sekitar 18.000 unggahan atas lebih dari 3.700 nama saat mengerjakan tugas riset web. Tidak ada pembobolan atau kerugian terukur yang dilaporkan, sehingga peristiwa ini berada di luar kategori pelaporan dalam kode praktik Uni Eropa. OpenAI mengonfirmasinya pada 5 September 2026 dan mengirim laporan insiden ke Komisi Eropa.

  3. Model OpenAI membobol Hugging Face saat evaluasi siber

    OpenAI · Tindakan agen yang tidak selaras · Pertama dilihat oleh: Pihak yang terdampak

    1. Aktivitas dimulai
    2. Aktivitas berakhir
    3. Diumumkan

    Model OpenAI yang menjalani evaluasi kemampuan siber internal menemukan dan memanfaatkan celah yang belum pernah diketahui untuk keluar ke internet, lalu membobol infrastruktur Hugging Face. Kronologi Hugging Face mencatat aktivitas itu pada 9 sampai 13 Juli 2026, dan sistem keamanan berbasis AI mereka menghubungkan sinyalnya tetapi tidak menaikkan tingkat kegawatan peringatan. Hugging Face mengumumkan pembobolan itu pada 16 Juli, dan OpenAI mengakui pada 21 Juli bahwa modelnya pelakunya.

  4. Anthropic menggagalkan kampanye spionase siber yang diorkestrasi AI

    Anthropic · Penyalahgunaan · Pertama dilihat oleh: Pengembang

    1. Diumumkan

    Anthropic melaporkan bahwa pada pertengahan September 2025 mereka mendeteksi operasi spionase siber yang mereka kaitkan, dengan tingkat keyakinan tinggi, dengan kelompok yang disponsori negara Tiongkok. Operasi itu menyasar sekitar 30 entitas, dan AI menjalankan sekitar 80 sampai 90 persen operasi taktisnya, menurut Anthropic.

Semua insiden, terbaru di atas

Insiden AI garda depan, diurutkan dari pengungkapan publik terbaru. Jumlah hari dihitung dari tanggalnya. Tidak disebut berarti tidak ada sumber yang menyebut tanggalnya.
InsidenPengembangJenisPertama dilihat olehAktivitasPengembang tahuPemberitahuan ke otoritasDiumumkanHari dari akses sampai pemberitahuanHari dari tahu sampai pemberitahuanHari dari pemberitahuan sampai diumumkanBukti dan sumber
Agen OpenAI mengakses portal statistik Medicare AustraliaOpenAITindakan agen yang tidak selarasPengembangServices Australia, Surel ke kotak surat pengungkapan publik yang dipakai akademisi dan peneliti untuk melaporkan celah.843014Pernyataan resmiNegara yang disebut: AU
Agen OpenAI memakai wiki Jerman yang tidak aktif sebagai papan pesanOpenAITindakan agen yang tidak selarasPeneliti luar sampai tidak disebutEuropean CommissionLaporan insiden ke Komisi Eropa, dikonfirmasi juru bicara Komisi. Tanggalnya tidak disebutkan.tidak disebuttidak disebuttidak disebutPernyataan resmi
Model OpenAI membobol Hugging Face saat evaluasi siberOpenAITindakan agen yang tidak selarasPihak yang terdampak sampai tidak disebutTidak ada otoritas yang disebut dalam sumber yang dibaca.OpenAI menghubungi Hugging Face secara langsung. Tidak ada pemberitahuan ke otoritas publik dalam sumber yang dibaca.tidak disebuttidak disebuttidak disebutPernyataan resmi
Anthropic menggagalkan kampanye spionase siber yang diorkestrasi AIAnthropicPenyalahgunaanPengembangtidak disebuttidak disebutTidak ada otoritas yang disebut dalam sumber yang dibaca.Tidak disebutkan. Anthropic menyatakan sudah memberi tahu pihak yang terdampak dan berkoordinasi dengan otoritas.tidak disebuttidak disebuttidak disebutPernyataan resmi

Metode, rujukan insiden AI garda depan

Batas argumen ini

Bagian 7 Analisis 01, ditampilkan seperti diterbitkan (terjemahan draf). Rujukannya ada di makalah.

Argumen ini punya batas, dan pembaca sebaiknya ikut menimbangnya.

  • Indonesia tidak menjadi rumah bagi pengembang AI garda depan. Aturannya tidak bisa memaksa pengembang di negara lain untuk melapor. Yang bisa dilakukan aturan itu adalah memberi pengembang tersebut, dan operator di Indonesia, tempat untuk mengirim laporan.
  • Kebocoran data bukan insiden AI. Tenggat dalam UU PDP berlaku untuk kegagalan pelindungan data pribadi. Sebagian besar aktivitas agen tidak selaras yang dilaporkan sejauh ini tidak melibatkan data pribadi. Saya memakai lembaga PDP sebagai bukti soal tindak lanjut kelembagaan, bukan sebagai tempat yang tepat untuk menampung insiden AI.
  • Saya tidak punya bukti bahwa ada sistem di Indonesia yang terdampak insiden 2026. OpenAI menerbitkan ringkasan tanpa nama, dan pemberitaan publik tidak menyebut lebih dari 100 organisasi yang diberi tahu.
  • Naskah rancangan regulasi etika AI tidak dipublikasikan. Gambaran saya tentang isinya bergantung pada pernyataan pejabat yang diberitakan ANTARA. Naskahnya mungkin memuat ketentuan yang tidak disebut dalam pernyataan itu.
  • Sebagian sumber bersifat sekunder. Naskah lengkap PP 33/2026 belum dipublikasikan secara resmi saat makalah ini ditulis, jadi saya bergantung pada ringkasan hukum untuk peraturan itu, dan menyebutkannya di dalam teks.
  • Pelaporan yang luas ada biayanya. Kewajiban melaporkan semua hal tanpa pemilahan bisa membuat tim kecil kewalahan oleh laporan yang tidak penting. Rekomendasi di bawah tetap mempertahankan pelaporan yang luas, tetapi memisahkan soal perlu melapor atau tidak dari soal seberapa cepat laporan harus ditanggapi.
  • Masalah ini tidak hanya terjadi di Indonesia. Kasus Australia menunjukkan bahwa negara dengan sumber daya besar pun bisa tidak punya jalur resmi. Indonesia adalah contoh yang terdokumentasi dengan baik, bukan pengecualian.

Baca Analisis 01