Bahaya Video Panggilan Palsu AI

1. Bahaya Utama Panggilan Video Palsu AI (Deepfake)

Ancaman deepfake melangkaui gurauan semata-mata, ia membawa risiko kewangan, reputasi, dan keselamatan yang ketara:

• Penipuan Kewangan Berskala Besar: Ini adalah bahaya yang paling ketara. Penipu menyamar sebagai pegawai atasan (CEO atau bos), rakan sekerja, atau ahli keluarga terdekat dalam panggilan video. Mereka kemudian mengarahkan mangsa untuk memindahkan sejumlah besar wang atau mendedahkan maklumat kewangan sensitif. Contoh kes di Hong Kong menunjukkan seorang pekerja telah memindahkan dana syarikat berjumlah AS$25 juta setelah ditipu oleh panggilan video deepfake yang menyamar sebagai Ketua Pegawai Kewangan (CFO).

• Pemerasan dan Kerosakan Reputasi: Deepfake boleh digunakan untuk mencipta kandungan video yang memalukan atau menjatuhkan maruah seseorang (misalnya, video berunsur seksual palsu) dan mengancam untuk menyebarkannya melainkan wang tebusan dibayar. Ini boleh memusnahkan reputasi individu, kerjaya, dan menyebabkan tekanan emosi yang melampau.

• Kecurian Data Peribadi dan Korporat (Phishing Berasaskan Video): Dengan menyamar sebagai orang yang dipercayai (seperti wakil bank atau rakan sekerja), penipu boleh mengumpan mangsa untuk mendedahkan maklumat peribadi, kata laluan, kod OTP (One Time Password), atau data korporat yang sulit. Panggilan video deepfake menjadikannya lebih meyakinkan berbanding teks atau panggilan suara biasa.

• Penipuan "Pig Butchering": Deepfake AI digunakan untuk mencipta watak palsu yang menarik dan membina hubungan emosi atau romantik palsu dengan mangsa. Setelah kepercayaan terbina, penipu akan memujuk mangsa untuk melabur dalam skim palsu, menyebabkan kerugian kewangan yang besar.

• Penyebaran Maklumat Palsu (Disinformasi): Deepfake boleh digunakan untuk memanipulasi kandungan politik atau berita, di mana individu terkenal (politikus, selebriti) kelihatan membuat kenyataan yang tidak pernah mereka ucapkan, yang boleh menggugat kestabilan sosial dan politik.

2. Aplikasi dan Teknologi Deepfake yang Wujud

Teknologi di sebalik deepfake, walaupun sering disalahgunakan, pada asalnya dibangunkan untuk tujuan yang sah dalam industri kreatif seperti filem, permainan, dan penciptaan avatar digital. Teknologi utama yang terlibat ialah Rangkaian Permusuhan Generatif (Generative Adversarial Networks - GANs) dan pengekodan auto (autoencoders).

Beberapa contoh aplikasi yang wujud, termasuk yang digunakan untuk tujuan hiburan atau gurauan, adalah:

• Aplikasi Penukaran Muka Masa Nyata (Real-time Face-Swapping Apps): Aplikasi ini membenarkan pengguna menukar wajah mereka dengan wajah orang lain (selebriti, watak, atau rakan) dalam siaran video secara langsung. Walaupun bertujuan untuk hiburan, teknologi asasnya boleh disalahgunakan.

• Perisian Kloning Suara (Voice Cloning Software): Aplikasi yang boleh menjana suara tiruan yang sangat menyerupai suara individu sebenar dengan hanya memerlukan sampel audio yang pendek.

• Alat Avatar Digital AI: Platform yang membolehkan pengguna mencipta avatar digital yang realistik, lengkap dengan wajah dan suara yang disintesis untuk digunakan dalam mesyuarat maya atau penciptaan kandungan.

• Aplikasi Panggilan Video Palsu (Prank Apps): Terdapat aplikasi yang diiklankan untuk tujuan gurauan (prank), yang menawarkan simulasi panggilan video realistik daripada watak atau selebriti, yang menekankan kemudahan teknologi untuk menjana visual palsu.

Walau bagaimanapun, adalah penting untuk difahami bahawa aplikasi yang digunakan oleh penjenayah untuk serangan deepfake canggih selalunya adalah alat pengkomputeran khusus yang mungkin tidak tersedia secara meluas di kedai aplikasi awam, tetapi bergantung pada perpustakaan sumber terbuka dan model AI yang diubah suai.

3. Cara Menghalang dan Mencegah Panggilan Video Palsu

Memandangkan deepfake semakin canggih, meningkatkan kesedaran dan mengamalkan langkah keselamatan yang ketat adalah pertahanan terbaik.

A. Semasa Menerima Panggilan Video Mencurigakan

1. Tamatkan Panggilan & Hubungi Semula: Jika anda menerima panggilan video yang mendesak atau mencurigakan daripada seseorang yang anda kenali (terutamanya jika melibatkan wang), tamatkan panggilan serta-merta. Hubungi individu tersebut semula menggunakan saluran komunikasi yang berbeza (misalnya, panggilan telefon biasa ke nombor yang anda simpan, atau mesej teks/e-mel) untuk mengesahkan identiti mereka dan kesahihan permintaan tersebut.

2. Verifikasi Identiti dengan 'Frasa Keselamatan': Wujudkan frasa keselamatan atau soalan spesifik yang hanya diketahui oleh anda dan ahli keluarga terdekat. Apabila menerima panggilan yang mencurigakan, minta penelepon menyebut frasa tersebut atau menjawab soalan rahsia. Deepfake AI tidak dapat meniru tindak balas ini.

3. Perhatikan Ciri-ciri Deepfake: Walaupun semakin baik, deepfake masih mempunyai kelemahan, terutamanya dalam panggilan masa nyata. Waspada terhadap:

   • Kualiti Video dan Audio yang Buruk: Gangguan, piksel yang kabur, atau video yang terputus-putus.

   • Pergerakan Mata yang Tidak Konsisten: Kekurangan kelipan mata atau pergerakan mata yang pelik.

   • Sincronisasi Suara dan Bibir yang Tidak Selari: Wajah kelihatan bercakap tetapi audio sedikit terlewat atau tidak padan dengan pergerakan bibir.

   • Pencahayaan dan Bayangan yang Tidak Semula Jadi: Bayangan yang tidak konsisten dengan persekitaran.

B. Langkah Perlindungan Digital

1. Jangan Kongsi Data Sensitif: Jangan sekali-kali memberikan maklumat sensitif seperti PIN, kata laluan, OTP, nombor kad bank (CVV/masa luput) melalui panggilan video, tidak kira siapa yang menelefon atau betapa mendesaknya permintaan itu. Institusi kewangan atau syarikat yang sah tidak akan meminta maklumat ini melalui cara tersebut.

2. Hadkan Kandungan Media Sosial: Kurangkan perkongsian foto dan video berkualiti tinggi anda secara terbuka di media sosial. Bahan-bahan ini boleh digunakan oleh penipu untuk melatih model AI deepfake. Tetapkan pengaturan privasi yang ketat.

3. Gunakan Pengesahan Dua Faktor (2FA): Aktifkan 2FA pada semua akaun penting anda (e-mel, media sosial, perbankan) untuk menambah lapisan keselamatan, menjadikannya lebih sukar bagi penipu untuk mengakses akaun anda walaupun mereka mencuri kata laluan.

4. Literasi dan Pendidikan Digital: Sentiasa mendidik diri sendiri dan keluarga tentang modus operandi penipuan AI dan deepfake terkini. Peningkatan kesedaran adalah pertahanan yang paling ampuh.

5. Gunakan Perisian Keselamatan: Pasang perisian antivirus dan anti-malware yang dikemas kini yang mungkin mempunyai kapasiti untuk mengesan pautan atau muat turun fail yang berkaitan dengan cubaan scam.

4. Senarai Kajian Berkaitan

Kajian dan penyelidikan mengenai teknologi deepfake dan kesannya terhadap keselamatan telah berkembang pesat sejak beberapa tahun kebelakangan ini, termasuk kajian yang berfokus kepada pengesanan deepfake dan implikasi sosialnya:

1. Penyelidikan Pengesanan Deepfake (Deepfake Detection Research):

   • Pendekatan Forensik: Banyak kajian memberi tumpuan kepada pembangunan algoritma AI, selalunya berdasarkan Pembelajaran Mendalam (Deep Learning), untuk mengesan keabnormalan kecil dalam video deepfake yang tidak dapat dikesan oleh mata manusia. Ini termasuk menganalisis pergerakan mata, denyutan jantung yang dipantulkan pada wajah, atau kejanggalan dalam konsistensi imej.

   • Analisis Sincronisasi: Kajian turut meneliti ketidakselarasan antara gerakan bibir dan audio yang dihasilkan oleh deepfake masa nyata sebagai cara pengesanan yang berkesan.

   • GANs dan Perang Pengesanan: Penyelidikan sentiasa berlaku dalam konteks "perang" antara model GANs yang mencipta deepfake yang lebih baik, dan model pengesanan yang dibangunkan untuk mengenali video palsu tersebut.

2. Kajian Kes dan Impak Ekonomi:

   • Laporan daripada organisasi keselamatan siber dan agensi penguatkuasaan undang-undang telah mendokumentasikan peningkatan mendadak dalam kes penipuan deepfake suara dan video, terutamanya dalam konteks penipuan korporat dan panggilan tebusan palsu.

   • Kajian VIDA di Indonesia, misalnya, melaporkan lonjakan kes penipuan yang melibatkan deepfake antara tahun 2022 dan 2023, menunjukkan ancaman yang semakin meningkat di Asia Tenggara.

3. Peraturan dan Etika AI:

   • Banyak institusi dan kerajaan sedang mengkaji implikasi etika dan perundangan deepfake. Kajian menyokong keperluan untuk pelabelan wajib kandungan yang dihasilkan oleh AI, agar pengguna mengetahui bahawa kandungan tersebut adalah palsu atau dimanipulasi. Kerajaan China, sebagai contoh, adalah antara yang terawal menguatkuasakan peraturan pelabelan kandungan generatif AI.

   • Penyelidikan juga menyentuh peranan Autentikasi Dua Faktor (2FA) dan langkah-langkah keselamatan digital yang lain sebagai pertahanan utama terhadap penyalahgunaan identiti oleh AI.

Kesimpulannya, panggilan video palsu AI (deepfake) adalah ancaman digital moden yang serius yang memerlukan gabungan kesedaran pengguna yang tinggi, langkah keselamatan digital yang ketat, dan pembangunan teknologi pengesanan yang berterusan untuk membendung penyalahgunaannya.