Seni yang diciptakan oleh kecerdasan buatan menimbulkan pertanyaan sulit tentang etika, hak cipta, dan keamanan

Dengan gaya khasnya, Rutkowski sekarang menjadi salah satu vektor yang paling banyak digunakan dalam generator seni open-source baru Stable Diffusion AI, yang diluncurkan akhir bulan lalu — dan dia lebih populer daripada beberapa artis yang lebih populer. Terkenal di dunia sebagai Picasso. Namanya telah digunakan sebagai mentor hampir 93.000 kali.

Tapi dia tidak senang tentang itu. Dia pikir itu bisa membahayakan keberadaannya – dan dia tidak pernah punya pilihan untuk menggunakan pekerjaannya dengan cara ini atau tidak.

Ceritanya adalah contoh lain dari pengembang AI yang bergegas membawa sesuatu yang hebat ke pasar tanpa memikirkan orang-orang yang akan terpengaruh.

Gratis untuk semua orang, Difusi Stabil adalah sumber yang bagus untuk pengembang AI yang ingin menggunakan model yang kuat untuk membuat produk. Namun, karena program open source ini dibuat dengan menggores gambar dari Internet, seringkali tanpa izin dan tanpa atribusi yang tepat kepada artis, mereka mengangkat isu sensitif tentang etika, hak cipta, dan keamanan.

Artis seperti Rutkowski sudah cukup. Ini baru permulaan, tetapi koalisi seniman yang berkembang sedang mencoba memecahkan masalah. Di masa depan, sektor seni dapat bergerak ke model grafis atau berlangganan seperti yang digunakan dalam industri film dan musik. Jika Anda penasaran dan ingin tahu lebih banyak, baca cerita saya.

Dan bukan hanya artis: Kita semua harus peduli dengan konten set data pelatihan untuk model AI karena teknologi ini menjadi bagian yang semakin penting dari infrastruktur Internet.

Dalam makalah penelitian yang diterbitkan tahun lalu, peneliti AI Abeba Birhane, Vinay Uday Prabhu, dan Emmanuel Kahembwe menganalisis kumpulan data yang lebih kecil yang serupa dengan yang digunakan untuk membangun Difusi Stabil. Temuannya mengejutkan. Karena datanya berasal dari Internet, dan Internet adalah tempat yang mengerikan, kumpulan data tersebut dipenuhi dengan gambar eksplisit pemerkosaan, pornografi, stereotip jahat, dan penghinaan rasial dan etnis.

Di situs web bernama Have I Been Trained, orang dapat mencari gambar yang digunakan untuk melatih model seni AI populer terbaru. Bahkan istilah pencarian yang tidak berbahaya mendapatkan banyak hasil yang mengganggu. Saya mencoba mencari database untuk ras dan yang saya dapatkan hanyalah porno. Banyak porno. Sangat menyedihkan untuk berpikir bahwa satu-satunya hal yang tampaknya diasosiasikan AI dengan kata “Asia” adalah wanita Asia Timur telanjang.

Tidak semua orang melihat ini sebagai masalah yang perlu dipecahkan oleh industri AI. Imad Mostaqi, pendiri Stability.AI yang membangun Stable Diffusion, Dia berkata Di Twitter, ia menggambarkan debat moral seputar model ini sebagai “omong kosong paternalistik yang tidak mempercayai orang atau masyarakat.”

Tapi ada masalah keamanan yang besar. Model gratis dan sumber terbuka seperti Stable Diffusion dan BLOOM Big Language Model memberikan alat kepada pelaku kejahatan untuk membuat konten berbahaya dalam skala besar dan dengan sumber daya minimal, kata Abhishek Gupta, pendiri Montreal Institute for Artificial Intelligence Ethics dan pemimpin pakar AI di Boston Consulting Group.

Tingkat kehancuran yang dimungkinkan oleh sistem ini akan membatasi efektivitas kontrol tradisional, seperti b-membatasi jumlah gambar yang dapat dibuat orang dan membuat konten yang mencurigakan, kata Gupta. Pikirkan deepfake atau informasi yang salah tentang steroid. Ketika “sistem AI yang kuat keluar ke alam liar,” kata Gupta, “itu dapat menyebabkan kejutan nyata…seperti membuat konten yang tidak pantas di [someone’s] kesamaan.”

Kita tidak bisa memasukkan kucing kembali ke dalam tas, jadi kita harus benar-benar memikirkan cara menangani model AI ini di alam liar, kata Gupta. Ini termasuk memantau penggunaan sistem AI setelah diterapkan dan mempertimbangkan kontrol yang “dapat meminimalkan bahaya bahkan dalam skenario terburuk.”

belajar lebih dalam

Tidak ada Lapangan Tiananmen di generasi baru gambar AI Tiongkok

Baca Juga!

6 Latihan Kekuatan yang Dapat Anda Lakukan Dengan Handuk – LifeSafe

Carl Tavra Saat Anda bosan dengan rutinitas latihan Anda yang biasa, ambil handuk dan tantang …