Ilusi senilai 8,1 miliar won yang diciptakan oleh AI: Penipuan digital dan kegelapan sosial di balik ‘pakar palsu’ > berita

Kasus seorang distributor yang baru-baru ini ditangkap oleh Kementerian Keamanan Makanan dan Obat-obatan dengan jelas menunjukkan betapa buruknya dampak yang dapat ditimbulkan jika teknologi AI generatif disalahgunakan. Dalam waktu singkat 9 bulan, perusahaan ini menggunakan ahli bedah plastik virtual yang dihasilkan AI untuk mengubah makanan biasa menjadi produk dengan efek anti penuaan dan pemulihan sel yang sangat baik. Lebih dari 650.000 produk terjual seperti kue panas, mencatat penjualan sebesar 8,1 miliar won, namun masalah terbesarnya adalah konsumen sangat yakin bahwa video fiksi ini adalah informasi medis yang direkomendasikan oleh dokter sungguhan. Meskipun berdasarkan undang-undang yang berlaku saat ini, para profesional medis tidak boleh tampil langsung dalam iklan makanan, namun perusahaan tersebut menciptakan karakter virtual yang tidak ada untuk secara cerdik menghindari hukum.

Insiden ini menyebabkan kemarahan sosial karena lebih dari sekedar hype belaka dan merupakan rencana jahat yang menargetkan orang lanjut usia dengan keterampilan literasi digital yang lemah. Menurut analisis yang dilakukan oleh Institut Promosi Kesehatan Korea, banyak tayangan video terkait kesehatan lansia yang paling banyak ditonton adalah informasi palsu yang dibuat dengan AI, dan mereka menyebarkan pengobatan tradisional dengan sedikit dasar ilmiah dan mengemasnya sebagai fakta medis. Dengan mengeksploitasi fakta bahwa jalur perolehan informasi lansia terkonsentrasi pada platform video seperti YouTube, kecemasan mereka terhadap kesehatan dieksploitasi untuk tujuan keuntungan. Secara khusus, kata kunci yang provokatif seperti ‘pengobatan diabetes’ atau ‘pengobatan penyakit’ merupakan godaan yang fatal bagi mereka yang tidak terbiasa dengan lingkungan digital, yang pada akhirnya mengakibatkan rusaknya kepercayaan terhadap sistem layanan kesehatan yang tepat.

Ketika lingkungan media berubah dengan cepat akibat AI, menetapkan langkah-langkah hukum dan kelembagaan untuk menanggapi informasi palsu dan dimanipulasi juga menjadi tugas yang mendesak. Pemerintah telah mengeluarkan undang-undang yang secara eksplisit melarang iklan yang menampilkan pakar palsu, dan Kementerian Keamanan Pangan dan Obat-obatan juga menjalankan sistem pengawasan rangkap tiga, termasuk segera memblokir video berbahaya melalui kerja sama dengan perusahaan platform. Namun, kecepatan perkembangan teknologi selalu melampaui kecepatan pembuatan undang-undang, dan karena sifat digital, di mana bentuk-bentuk konten baru terus-menerus dibuat sebagai pengganti video yang sudah dihapus, terdapat batasan yang jelas terhadap respons drop-in setelah kejadian tersebut. Majelis Nasional juga bertanggung jawab atas penyebaran informasi palsu dan dimanipulasi melalui revisi Undang-Undang Jaringan Informasi dan Komunikasi, namun sulit untuk mencapai efektivitas jika upaya pemurnian otonom dan sistem verifikasi teknis dari operator platform tidak didukung.

Sementara itu, wacana 'palsu' di dunia seni memunculkan implikasi lain tentang cara kita memandang kebenaran. Seniman modern seperti Damien Hirst menekankan bahwa perubahan pemikiran dan persepsi penonton melalui karya lebih penting daripada substansi karya. 'Kepala sapi palsu' di museum seni memperoleh simbolisme artistik dan menimbulkan perdebatan filosofis, namun 'dokter palsu' dalam iklan komersial direduksi menjadi sarana kejahatan yang melanggar kesehatan dan harta benda masyarakat. Pada akhirnya, standar untuk menentukan apakah informasi yang kita temui merupakan ‘metafora artistik’ atau ‘penipuan jahat’ bergantung pada kesadaran masyarakat dalam mempertanyakan sumber informasi, memeriksa fakta, dan mengkritik secara rasional. Kita tidak boleh lupa bahwa niat seseorang selalu tersembunyi dibalik kemudahan dan kemegahan yang diberikan oleh teknologi.