Suaranetizen.id (SMSI) – Foto Paus Fransiskus mengenakan jaket Balenciaga yang viral dan penangkapan Donald Trump oleh polisi adalah foto deepfake AI. Foto tersebut merupakan hasil manipulasi menggunakan kecerdasan buatan (AI), dan Google sekarang akan mengambil tindakan.
Banyak orang terkecoh oleh foto tersebut dan menyebabkan penyebaran berita palsu. Akhirnya, Google mengambil langkah baru untuk menandai foto AI yang menyerupai gambar asli.
Dikutip dari New York Post pada hari Minggu, tanggal 14 Mei 2023, langkah baru yang diambil Google adalah sebagai tanggapan terhadap desakan kritikus yang sering disebut sebagai ‘Godfather of AI’, yaitu Dr. Geoffrey Hinton, dan juga Elon Musk. Mereka memperingatkan bahwa kemajuan AI dapat memperburuk penyebaran informasi yang salah secara online.
Perlu diketahui bahwa gambar AI dapat memberikan jawaban yang tidak akurat, tetapi gambar yang dihasilkan hampir tidak dapat dibedakan dari gambar asli.
Menghadapi kejadian tersebut, Google akan menambahkan markup dalam metadata foto yang dihasilkan oleh model AI. Tindakan ini dilakukan untuk menunjukkan bahwa gambar tersebut dihasilkan oleh komputer.
Keterangan di bawah gambar akan mencatat bahwa gambar tersebut adalah hasil dari AI. Dalam waktu dekat, penerbit terkemuka lainnya, termasuk Mijourney dan Shutterstock, juga akan menampilkan peringatan serupa.
Selain itu, ada alat baru yang disebut ‘about this image’ yang akan memberikan informasi tambahan tentang gambar tersebut. Fitur ini juga akan diluncurkan dalam mesin pencari Google dalam beberapa bulan mendatang.
Melalui mesin pencari tersebut, pengguna dapat dengan mudah mengakses informasi tentang foto tertentu yang muncul dalam hasil pencarian. Ini termasuk informasi tentang kapan foto tersebut pertama kali diindeks oleh Google dan di mana lagi foto tersebut muncul secara online.
Alat baru yang telah dibuat oleh Google adalah fitur ‘about this image’. Jika pengguna mengklik tab ‘tentang gambar ini’, mereka akan melihat artikel terkait yang menyatakan bahwa gambar dan detailnya adalah hasil manipulasi AI atau palsu.
“Dengan informasi latar belakang tentang sebuah gambar, Anda dapat memperoleh pemahaman yang lebih baik apakah gambar tersebut dapat dipercaya,” kata posting blog dari Google.
Seperti yang diketahui sebelumnya, pada bulan Maret lalu, ada foto viral Paus Fransiskus yang dihasilkan dengan menggunakan kecerdasan buatan sehingga tampak mengenakan jaket putih yang modis. Foto ini mendapatkan hampir 21 juta tayangan di Twitter.
Pablo Xavier, seorang seniman AI yang diduga sebagai pencipta gambar tersebut, mengungkapkan kekhawatirannya saat mengetahui bahwa orang-orang mengira itu adalah foto asli.
“Saya tidak ingin foto tersebut menjadi begitu populer. Ini sangat menakutkan, orang-orang menganggapnya sebagai gambar nyata tanpa meragukannya,” ujarnya.
Selain itu, pada kasus aneh lainnya pada bulan Maret, ada juga gambar deepfake AI yang memvisualisasikan Donald Trump ditangkap oleh Polisi