Tidak ada Lapangan Tiananmen untuk ERNIE ViLG, pembuat gambar AI baru China

Di China saat ini, perusahaan media sosial biasanya memiliki daftar kepemilikan kata-kata sensitif berdasarkan pedoman pemerintah dan keputusan operasi mereka sendiri. Ini berarti bahwa filter apa pun yang digunakan oleh ERNIE-ViLG kemungkinan akan berbeda dari yang digunakan oleh WeChat, yang dimiliki oleh Tencent, atau Weibo, yang dioperasikan oleh Sina Corporation. Beberapa dari platform ini telah diuji secara sistematis oleh kelompok penelitian Citizen Lab yang berbasis di Toronto.

Badiucao, kartunis politik Tionghoa-Australia (yang menggunakan nama samaran untuk karyanya untuk melindungi identitasnya), adalah salah satu pengguna pertama yang menemukan sensor di ERNIE-ViLG. Sebagian besar karyanya secara langsung mengkritik pemerintah China atau para pemimpin politiknya, jadi ini adalah beberapa saran pertama yang ia masukkan ke dalam model. “Tentu saja saya juga secara sadar mempelajari ekosistemnya. Karena ini adalah daerah baru, saya ingin tahu apakah sensor telah menyusul mereka,” kata Badiokau. “Tetapi [the result] ini memalukan”.

Sebagai seorang seniman, Badiucao tidak setuju dengan segala bentuk moderasi dalam AI ini, termasuk pendekatan DALL-E 2, percaya bahwa terserah dia untuk memutuskan apa yang dapat diterima dalam seninya. Namun, ia memperingatkan agar tidak mencampuradukkan sensor karena alasan moral dengan sensor karena alasan politik. “Berbeda ketika AI menilai apa yang tidak bisa dihasilkannya berdasarkan standar etika yang disepakati bersama, dan ketika pemerintah turun tangan sebagai pihak ketiga dan mengatakan Anda tidak bisa melakukannya. Karena itu merugikan negara atau pemerintah nasional,” katanya. mengatakan.

Kesulitan untuk menarik garis yang jelas antara penyensoran dan moderasi juga merupakan akibat dari perbedaan budaya dan sistem hukum, kata Giada Bestelli, kepala etika di Hugging Face. Misalnya, budaya yang berbeda dapat menafsirkan gambar yang sama secara berbeda. “Di Prancis, tidak ada yang diperbolehkan di depan umum terkait simbol agama, dan ini adalah ekspresi sekularisme mereka,” kata Pestelli. Jika Anda pergi ke Amerika Serikat, sekuler berarti semuanya berjalan, seperti simbol agama apa pun. Pada bulan Januari, pemerintah China mengusulkan peraturan baru yang melarang semua konten yang dihasilkan AI yang “membahayakan keamanan nasional dan stabilitas sosial,” dan juga akan mencakup sistem AI seperti ERNIE-ViLG.

Apa yang mungkin membantu dalam kasus ERNIE-ViLG, kata Pestelli, adalah jika pengembang merilis dokumen yang menjelaskan keputusan moderasi: “Apakah mereka disensor karena undang-undang mengharuskannya? Apakah mereka melakukannya karena mereka pikir itu salah? Itu selalu membantu menjelaskan kami argumen dan keputusan kami.”

Terlepas dari kontrol internal, ERNIE-ViLG akan terus memainkan peran utama dalam pengembangan kecerdasan buatan untuk konversi teks ke gambar skala besar. Munculnya model AI yang dilatih pada kumpulan data bahasa tertentu mengimbangi beberapa keterbatasan model berbasis bahasa Inggris tradisional. Ini terutama akan membantu pengguna yang membutuhkan kecerdasan buatan yang mengerti bahasa Mandarin dan dapat menghasilkan gambar yang akurat.

Sama seperti platform media sosial China yang berkembang pesat meskipun ada sensor ketat, ERNIE-ViLG dan model AI China lainnya pada akhirnya dapat mengalami hal yang sama: mereka terlalu berguna untuk menyerah.

Baca Juga!

Semua alat Ring of Power berkualitas tinggi sekarang dapat dicetak 3D

Amazon telah memberi kita, pencipta dunia, banyak hal untuk dimainkan dalam seri barunya Lord of …