Memperbarui: Seorang juru bicara Google menyampaikan komentar berikut mengenai situasi tersebut:
“Pixel Studio dan Magic Editor adalah alat yang berguna yang dimaksudkan untuk membuka kreativitas Anda dengan pembuatan teks menjadi gambar dan pengeditan foto tingkat lanjut di perangkat Pixel 9. Kami merancang alat AI Generatif kami untuk menghormati maksud dari perintah pengguna dan itu berarti mereka dapat membuat konten yang dapat menyinggung ketika diperintahkan oleh pengguna untuk melakukannya. Meskipun demikian, tidak semuanya bisa dilakukan. Kami memiliki kebijakan Dan Ketentuan Layanan tentang jenis konten apa yang kami izinkan dan tidak izinkan, dan membangun pembatas untuk mencegah penyalahgunaan. Terkadang, beberapa perintah dapat menantang pembatas alat ini dan kami tetap berkomitmen untuk terus meningkatkan dan menyempurnakan pengamanan yang kami terapkan.”
Berikut ini adalah cerita aslinya:
Setiap kali generator gambar AI baru muncul, orang pasti akan menemukan cara untuk mengakali perlindungan dan menyalahgunakan sistem. Namun, hal itu tidak membantu jika perlindungan tersebut tidak seketat yang seharusnya — seperti generator gambar Grok yang dikecam karena menghasilkan gambar yang mengganggu tanpa ada penolakan serius. Sayangnya, tampaknya generator gambar Pixel Studio pada Pixel 9 mengalami masalah serupa.
Pixel Studio adalah generator gambar AI bawaan yang tersedia di Pixel andalan baru. Selama pengujian saya untuk ulasan Google Pixel 9, saya menemukan bahwa aplikasi ini mudah digunakan dan tidak ada keraguan sedikit pun tentang mereproduksi konten berhak cipta. Bahkan, ponsel ini dengan senang hati membuat poster film yang menampilkan R2-D2 dari Star Wars yang bekerja sama dengan maskot Android untuk melawan robot dinosaurus. Aplikasi ini bahkan bersedia mengkritik Google dengan papan iklan yang menuntut penjelasan mengapa Android 15 belum dirilis.
Yang tidak akan dilakukan Pixel Studio adalah membuat gambar orang sungguhan, tetapi ternyata Anda tidak perlu membuat gambar orang sungguhan agar Pixel Studio dapat menerobos pagar pengaman yang ada. Dan semakin banyak orang yang menggunakan alat ini, semakin banyak yang kita lihat apa yang sebenarnya dianggap pantas atau tidak oleh Pixel Studio.
Meskipun beberapa istilah tampaknya telah diblokir secara menyeluruh seperti “nazi” atau “konfederasi,” tidak perlu banyak upaya untuk menyiasati filter tersebut dan menghasilkan citra yang menyinggung.
Digital Trends memiliki banyak contoh termasuk Spongebob Squarepants berpakaian seperti tentara Nazi, Beruang Paddington di Salib, Elmo mengemudi dalam keadaan mabuk, Mickey Mouse berpakaian seperti pemilik budak dan segala macam gambar buatan AI lainnya yang Google (dan berbagai pemegang hak) pasti tidak ingin dikaitkan dengannya.
Saat kembali ke Pixel Studio, saya juga mulai mendapatkan gambaran yang baik tentang perlindungan apa saja yang sebenarnya berlaku, khususnya ketentuan apa saja yang tidak diperbolehkan, dan betapa mudahnya mengakalinya. Ternyata, sangat mudah.
Meskipun beberapa istilah tampaknya telah diblokir secara menyeluruh seperti “nazi” atau “konfederasi,” tidak perlu banyak upaya untuk menyiasati filter tersebut dan menghasilkan gambar yang menyinggung. Misalnya, saya dapat membuat karakter seperti Spongebob, Bluey, dan Squidward muncul mengenakan seragam Perang Dunia 2 Jerman — meskipun mencoba Mickey Mouse selalu membuat saya mengalami kesalahan.
Saya bahkan berhasil membuat beberapa gambar tersebut menampilkan ban lengan merah yang terkenal itu, meskipun kata “Swastika” tampaknya diblokir. Itu menunjukkan pagar pembatas baru telah dipasang sejak pengujian Digital Trends. Namun itu tidak berarti Google sudah aman.
Alih-alih meminta untuk melihat Lego Yoda menghisap pipa crack yang tersumbat, meminta untuk melihat Lego Yoda menghisap pipa mangkuk kaca adalah hal yang dapat diterima. Seperti halnya meminta untuk melihat Yoda menghirup bubuk putih dari meja.
Meskipun tampaknya memiliki daftar istilah yang diblokir, cukup mudah untuk mencari cara mengatasinya — dan tanpa harus terlalu inventif. Alih-alih meminta untuk melihat Lego Yoda menghisap pipa crack, yang diblokir, meminta untuk melihat Lego Yoda menghisap pipa mangkuk kaca sepenuhnya dapat diterima. Seperti meminta untuk melihat Yoda menghirup bubuk putih dari meja.
Dengan dirilisnya Google Pixel 9 dan Google Pixel 9 Pro XL hari ini, Google harus segera memahami apa yang seharusnya dan tidak seharusnya dapat dilakukan Pixel Studio. Jika tidak, kita akan melihat banyak gambar AI buatan Google yang menunjukkan beberapa hal yang sangat buruk beredar di internet. Karena jika ada satu hal yang saya pelajari tentang orang-orang di internet, mereka menyukai tantangan. Dan banyak dari mereka akan jauh lebih imajinatif dan buruk daripada saya.