Platform Meta lagi-lagi jadi sorotan setelah kedapatan menayangkan iklan aplikasi AI pembuat konten porno. Yang bikin heboh, iklan ini seolah mendorong pengguna untuk bikin video deepfake mirip politikus wanita Amerika Serikat.
Padahal, Meta punya kebijakan ketat melarang iklan yang mengandung materi seksual. Ini bukan kejadian pertama Meta gagal menghapus iklan-iklan aplikasi yang bisa memproduksi gambar intim tanpa persetujuan di platform mereka.
Mengenal "Kromix": Aplikasi AI yang Bikin Geleng-Geleng Kepala
Aplikasi yang jadi biang kerok ini namanya Kromix. Mereka sendiri ngaku sebagai "AI image styler" atau pembuat gaya gambar pakai AI. Tapi, kalau lihat iklannya, jauh banget dari kesan biasa.
Promosi Kontroversial Kromix
Salah satu iklan video Kromix yang dilihat oleh WIRED, isinya bikin merinding. Pengisi suara iklan itu dengan santai bilang kalau Kromix "tanpa batasan" (no restrictions). Bahkan, dia mengklaim "semua karakternya adalah orang sungguhan" dan menggambarkan aplikasinya sebagai "AI yang cowok-cowok beneran pakai".
Ada satu iklan yang paling bikin geger. Iklan itu nunjukkin seorang wanita yang mirip banget dengan politikus wanita terkenal di AS. Dia berdiri di depan bendera AS dan bendera presiden AS. Di bawahnya ada tulisan, "Bagaimana jika dia bergerak?".
Si wanita itu lalu mengedipkan mata, sebelum iklan langsung beralih ke adegan wanita dengan wajah yang sama sedang berakting dalam video porno. Ngeri, kan?
Fitur Mengejutkan di Aplikasi Kromix
Sebelum WIRED meminta komentar, aplikasi Kromix ini sempat nongkrong di Apple App Store. Pengguna yang berbayar bisa mengunggah foto mereka sendiri untuk dipakai dalam berbagai skenario. Dan ini dia yang bikin syok: beberapa skenario yang ditawarkan termasuk "pemerkosaan di kamar tidur" (bedroom rape) dan "cinta Disney" (Disney love). Gila!
Selain itu, video-video di aplikasi ini juga menampilkan konten porno hasil AI dari wanita-wanita yang memakai kostum Spider-Man. Tim WIRED sudah coba menghubungi kontak yang tertera di aplikasi, tapi sayangnya tidak ada jawaban.