CORONGSULTRA.COM – Pornografi deepfake semakin menimbulkan kerugian serius di Jepang. Deepfake semacam itu dibuat dengan alat AI generatif menggunakan foto wajah para aktris dan orang lain.
Awal bulan ini, seorang pria ditangkap polisi atas dugaan membuat dan menyebarkan deepfake seksual para aktris. Sementara pemerintah sudah mulai menyelidiki pornografi deepfake, mereka belum menemukan solusi mendasar untuk masalah ini.
“Saya belajar cara membuat [deepfake] dengan membaca artikel dan menonton video yang tersedia di internet,” kata karyawan perusahaan berusia 31 tahun di Akita kepada penyidik.
Dia ditangkap oleh Departemen Kepolisian Metropolitan (MPD) pada tanggal 15 Oktober karena memposting gambar cabul di media sosial.
“Saya hanya mencoba mencari uang tambahan,” katanya.
Polisi menduga pria itu menggunakan perangkat lunak AI pembuat gambar gratis di komputer rumahnya dan melatih AI tersebut dengan gambar 262 orang, termasuk aktris, idola pop, dan penyiar, untuk membuat 20.000 gambar seksual yang ia sebar mulai Oktober 2024.
Pria itu dilaporkan tidak memiliki pelatihan profesional di bidang IT atau penggunaan AI. Ia menawarkan langganan dengan lima tingkatan harga, mulai dari $1 hingga $100 per bulan, menurut polisi. MPD meyakini ia memperoleh sekitar ¥1,2 juta secara ilegal.
Untuk membuat gambar yang rumit menggunakan AI generatif, pengguna hanya perlu memberikan instruksi tertulis. Pria itu dilaporkan beriklan di X, dan untuk pelanggan dengan bayaran tinggi terkadang membuat gambar palsu yang menyerupai penghibur, sesuai permintaan pelanggan.
Penyalahgunaan Buku Tahunan Kelulusan
Menurut survei oleh sebuah perusahaan keamanan AS, 95.820 video deepfake ditemukan di internet pada tahun 2023, dan 98% di antaranya adalah pornografi. Video deepfake pornografi yang diproduksi di Jepang juga membanjiri internet, dengan sasaran termasuk gadis di bawah umur.
Menurut Badan Kepolisian Nasional (NPA), polisi menerima lebih dari 100 laporan tahun lalu mengenai gambar seksual deepfake anak di bawah umur yang dibuat dengan foto dari acara sekolah dan buku tahunan kelulusan anak-anak. Sebagian besar korban adalah siswa sekolah menengah pertama dan atas, tetapi ada juga beberapa korban sekolah dasar. Laporan baru terus berdatangan tahun ini.
“Jumlah korban meningkat pesat dan beberapa korban tidak dapat memercayai orang karena nama mereka telah terekspos,” kata Sumire Nagamori, perwakilan dari Hiiragi Net, sebuah kelompok patroli internet swasta yang melaporkan kasus deepfake kepada pihak berwenang.
“Karena banyak orang tidak menyadari kerugiannya atau tidak dapat bersuara, kasus yang dilaporkan hanyalah puncak gunung es.”
Pemerintah telah mendiskusikan cara menanggapi masalah ini dalam kelompok kerja tentang penggunaan internet oleh kaum muda yang didirikan di bawah Badan Anak dan Keluarga.
Pada bulan Agustus, kelompok tersebut merangkum masalah yang harus ditangani dan setuju bahwa pemerintah harus memperkuat tindakan kerasnya dan mendorong masyarakat untuk meminta administrator situs web yang menampung gambar palsu untuk menghapus gambar-gambar tersebut.
Pemerintah bermaksud untuk meningkatkan pemahaman tentang situasi tersebut, termasuk melalui pengumpulan informasi tentang kasus yang dilaporkan kepada polisi dan sekolah, dan menyusun rencana nasional pada akhir tahun fiskal berikutnya.
Hukum Tertinggal
Meskipun diperlukan tindakan keras yang lebih kuat, Jepang tidak memiliki undang-undang yang secara langsung mengatur pornografi deepfake, termasuk produksinya. Itu berarti polisi harus mencoba menyusun tanggapan menggunakan undang-undang dan peraturan yang sudah ada. Dalam satu kasus, MPD dapat mengajukan dakwaan menampilkan media rekaman elektromagnetik cabul karena penggambaran tersebut jelas-jelas cabul.
Jika seseorang menerbitkan gambar palsu yang dibuat menggunakan wajah orang lain tanpa izin, mereka dapat dikenakan dakwaan pencemaran nama baik karena merusak reputasi individu. Satu orang telah didakwa pencemaran nama baik karena menerbitkan video pornografi di mana wajah seorang aktris diletakkan di tubuh orang lain.
Namun, tidak ada standar yang jelas untuk menilai apakah dakwaan pencemaran nama baik dapat diterapkan pada gambar AI yang dibuat dari awal (generated from scratch), dan belum ada satu pun orang yang dituntut untuk kasus semacam itu, menurut seorang pejabat senior MPD.
Gambar palsu bergantung pada data gambar yang digunakan untuk melatih AI dan instruksi yang diberikan saat gambar dibuat. Takashi Nagase, seorang profesor di Universitas Kanazawa dan mantan hakim yang akrab dengan isu-isu seputar representasi online, mencatat,
“Bahkan jika gambarnya menyerupai orang sungguhan, itu mungkin tidak dianggap pencemaran nama baik jika itu bukan orang yang sama.” [*]
Artikel ini sebelumnya telah terbit dalam bahasa Inggris. Penulis: Kyosuke Murakami dan Ryohei Goto / Staf Penulis Yomiuri Shimbun. Sumber: https://japannews.yomiuri.co.jp/
