JawaPos.com — Lanskap informasi global memasuki fase baru ketika teknologi kecerdasan buatan generatif mendorong lonjakan konten deepfake politik yang semakin sulit dibedakan dari realitas. Fenomena ini tidak hanya memengaruhi persepsi publik, tetapi juga menjadi perhatian serius para bos industri teknologi seperti Elon Musk, Mark Zuckerberg, maupun Jeff Bezos yang platformnya menjadi medium utama penyebaran konten tersebut.

Seiring berkembangnya ekosistem digital, para kreator konten digital tidak lagi sekadar memanipulasi figur publik, tetapi juga menciptakan karakter fiktif yang ditempatkan dalam konteks militer atau politik. Fenomena ini membuka peluang monetisasi sekaligus propaganda yang efektif, memperlihatkan bagaimana teknologi kini mampu membentuk narasi yang terasa autentik meski sepenuhnya buatan.

Dilansir dari The Guardian, Senin (30/3/2026), para peneliti kecerdasan buatan menyoroti bahwa batas antara realitas dan fiksi semakin kabur. Daniel Schiff, profesor kebijakan teknologi di Purdue University, menegaskan, “Kita sedang mengaburkan batas antara kartun politik dan realitas.” Dia menambahkan, “Banyak orang merasa gambar atau video AI ini, atau cerita yang disampaikannya, terasa benar.”

Baca Juga:Elon Musk: AS Terancam Produksi Cip AI Berlebih Tanpa Daya Listrik, Saat Tiongkok Unggul di Pasokan Energi

Lonjakan deepfake politik juga tercermin dalam data Governance and Responsible AI Lab (Grail). Sejak awal 2025, lebih dari 1.000 unggahan media sosial berbahasa Inggris yang memuat gambar atau video palsu telah didokumentasikan. Sebagai perbandingan, dalam delapan tahun sebelumnya, hanya tercatat 1.344 insiden. Hal ini menunjukkan percepatan drastis akibat kemajuan teknologi AI generatif.

Direktur eksekutif Witness, Sam Gregory, menyoroti betapa mudahnya produksi konten manipulatif di era AI generatif. Ia menegaskan, “Teknologi ini telah membuat proses pembuatan adegan yang tampak realistis—bahkan dengan menyisipkan individu nyata ke dalamnya—menjadi sangat mudah.” Kondisi tersebut, lanjutnya, secara langsung mempercepat produksi sekaligus penyebaran konten manipulatif dalam skala masif di ruang digital.

Namun, tantangan yang lebih kompleks muncul dari avatar AI yang meniru manusia biasa. Salah satu kasus mencolok adalah karakter fiktif “Jessica Foster”, perempuan pirang berseragam militer AS yang menarik lebih dari satu juta pengikut di Instagram sebelum akhirnya dihapus. Konten tersebut bahkan diarahkan ke platform monetisasi.

Gregory mengungkap motif di balik fenomena ini: “Banyak konten yang dihasilkan AI pada dasarnya dibuat untuk menarik klik dan menghasilkan uang, atau mengarahkan pengguna ke platform yang lebih menguntungkan.” Namun demikian, dimensi politiknya tidak bisa diabaikan, terutama ketika konten semacam ini digunakan dalam konteks konflik, seperti perang di Iran.

Lebih lanjut, video deepfake perempuan tentara Iran yang mengatakan “Habibi, datanglah ke Iran” beredar luas, meskipun secara faktual perempuan tidak diperbolehkan bertugas dalam peran tempur di negara tersebut. Namun, ketidaksesuaian fakta ini tidak menghalangi daya tarik konten tersebut untuk tetap ramai di mata publik.

Dalam konteks politik domestik AS, deepfake juga digunakan oleh berbagai kubu. Donald Trump diketahui membagikan konten berbasis AI, sementara Gavin Newsom menggunakan pendekatan serupa. 

Gregory menilai fenomena ini tidak selalu rasional, tetapi tetap efektif memengaruhi persepsi publik. “Jika dicermati, konten itu sebenarnya tidak masuk akal dan tidak akan bertahan jika diuji. Namun publik tidak selalu mencari kebenaran faktual; mereka justru cenderung mencari narasi yang mencerminkan keyakinan mereka,” tegasnya.