Chatbot baru DeepMind menggunakan pencarian di Google dan manusia untuk memberikan jawaban yang lebih baik

Perbedaan antara pendekatan ini dan pendahulunya adalah bahwa DeepMind berharap untuk “menggunakan dialog untuk keamanan jangka panjang,” kata Jeffrey Irving, peneliti keamanan DeepMind.

“Namun, kami tidak mengharapkan masalah yang kami hadapi dengan model ini – apakah itu informasi yang salah, stereotip, atau apa pun – menjadi jelas pada pandangan pertama, dan kami ingin membahasnya panjang lebar.” Ini juga berarti antara perangkat dan manusia.”

Ide DeepMind untuk menggunakan preferensi manusia untuk mengubah cara model AI belajar bukanlah hal baru, kata Sarah Hooker, yang memimpin Cohere for AI, sebuah laboratorium penelitian AI nirlaba. .

“Tetapi peningkatannya menarik dan menunjukkan manfaat yang jelas bagi peningkatan manusia dari agen dialog di lingkungan dengan model linguistik yang besar,” kata Hooker.

Dwi Kela, seorang peneliti di startup AI Hugging Face, mengatakan Sparrow adalah “langkah bagus berikutnya yang mengikuti tren umum dalam AI saat kami mencoba lebih serius untuk meningkatkan aspek keamanan tugas daripada dalam model bahasa besar.”

Tetapi masih ada pekerjaan yang harus dilakukan sebelum Anda dapat menggunakan model AI percakapan ini di alam liar.

Burung pipit masih melakukan kesalahan. Model terkadang menyimpang dari topik atau menciptakan jawaban acak. Peserta yang bertekad juga mampu mengikuti aturan pemecah pola 8% dari waktu. (Ini masih merupakan peningkatan dari model lama: model DeepMind sebelumnya tiga kali lebih mungkin melanggar aturan daripada Sparrow.)

“Di area di mana bahaya manusia bisa tinggi jika petugas merespons, seperti ketika datang ke nasihat medis dan keuangan, misalnya, ini mungkin masih menjadi margin kesalahan yang besar bagi banyak orang,” kata Hooker. Dia menambahkan bahwa pekerjaan itu juga didasarkan pada model bahasa Inggris, “karena kita hidup di dunia di mana teknologi perlu melayani berbagai bahasa dengan aman dan bertanggung jawab.”

Kela menunjukkan masalah lain: “Mengandalkan Google untuk mencari informasi menyebabkan bias yang tidak diketahui yang sulit dideteksi karena semuanya adalah sumber tertutup.”

Baca Juga!

Setiap acara TV baru hadir di bulan Oktober

Apple TV Plus Ini adalah salah satu platform streaming baru yang bersaing untuk mendapatkan perhatian …