Peneliti AS Temukan Deepfake Teroris Beredar di Indonesia
Peneliti di AS menemukan kecerdasan buatan atau Artificial Intelligence (AI) yang digunakan membuat konten ekstremis di Indonesia. Video-video itu menggunakan wajah terpidana kasus terorisme yang telah meninggal dunia, dan diedarkan di media sosial.
Baca artikel: Gelar AMH 2024, Kominfo: Masa Depan Akan Dihadapkan Disrupsi Teknologi
Host: Reza Siregar
Category
🤖
TechTranscript
00:00Peneliti Amerika Serikat penebukan kecerdasan buatan atau AI yang digunakan membuat kotoran ekstremis di Indonesia.
00:08Video-video tersebut menggunakan wajah terpidana kasus terorisme yang telah meninggal dunia dan diadarkan di media sosial.
00:16Video-video ini dibuat dengan kecerdasan buatan atau AI.
00:21Ketiganya sama-sama menampilkan terpidana kasus terorisme di Indonesia.
00:25Sebagian dilengkapi ilustrasi AI generatif.
00:28Ratusan nyawa hilang karena bom rakitan saya.
00:32Video ini menggunakan defect Dr. Azari.
00:35Pembuat bom asal Malaysia dalam peledakan tujuh bom, termasuk di Makassar, Bali, dan Jakarta.
00:42Sejak diposting tahun lalu, video ini telah disukai 120 ribu kali.
00:46Ekstremis yang banyak dari kita tahu telah meninggal dunia, tapi banyak mungkin tidak.
00:52Itu bisa menciptakan sejenis dampak psikologi menuju penonton.
00:57Atau mereka ingin mengetahui lebih lanjut tentang acara ini dan menjelajahi apa yang terjadi.
01:02Atau mereka ingin merasa bersyukur.
01:06Dia mencermati toko-toko ini berafiliasi dengan Jaringan Jemaah Islamiyah atau JI.
01:11Namun dia belum dapat menerka siapa pembuat video ini dan apa motivasinya.
01:17Mungkin mereka adalah penyokong.
01:19Mungkin mereka adalah orang yang mengembangkan AI untuk membuat konten di platform
01:26tanpa memikirkan apa dampak potensial konten seperti ini
01:31terhadap orang yang mungkin sudah memiliki percayaan tertentu dalam diri mereka.
01:47Kehadiran AI dikhawatirkan memperparah situasi ini.
01:51Sebuah kajian dari perserikatan bangsa-bangsa mewaspadai 16 potensi penyalahgunaan AI oleh kelompok teroris.
01:58Selain digunakan untuk membuat konten deepfake atau menyebarkan hoax,
02:03AI juga dikhawatirkan digunakan untuk rekayasa sosial dan serangan cyber.
02:10Indonesia belum punya regulasi spesifik yang mengatur terorisme cyber.
02:15Namun pemerintah rutin melakukan pemblokiran terhadap konten terorisme dan radikalisme
02:20yang dalam kurun Juni 2023 hingga Maret 2024 mencapai 5.700an konten.
02:27Pemblokiran dilakukan berdasarkan Undang-Undang Informasi dan Transaksi Elektronik atau Undang-Undang ITE
02:33dan peraturan pemerintah turunannya.
02:36Namun aturan yang sama juga turut mengatur soal berita palsu alias hoax.
02:42Pengamat mencermati hukum seperti ini kadang disalahgunakan
02:46dan malah melanggar kebebasan berekspresi masyarakat.
02:50Pemerintah antifake atau menghampiri penyebaran maklumat palsu
02:54tidak setuju dengan tanggungan keberanian manusia internasional.
02:57Itu melanggar kebebasan ekspresi.
03:00Jadi, Anda tidak bisa memiliki itu.
03:02Dan saya pikir itu problematis jika pemerintah adalah pemerintah kebenaran.
03:06Ketimbang menggunakan Undang-Undang Konten Negatif atau Berita Palsu,
03:10menurut Zachary, bisa meregulasi teknologi yang rentan disalahgunakan.
03:14Seperti yang dilakukan negara bagian California
03:17yang melarang teknologi bot berpura-pura sebagai manusia
03:20dan mewajibkan deklarasi penggunaannya.
03:32Dari Washington, D.C.
03:33Rio Tuasikal, VOA.