Bot belum mengambil alih – tetapi itu tidak menghentikan para ahli untuk menyusun pedoman ketat untuk melindungi masa depan kita.
Kebangkitan dan kesuksesan ChatGPT sejak peluncuran utamanya pada November 2022 telah mengejutkan banyak orang di bidang AI, mempercepat perkembangan teknologinya secara tak terukur.
3
Pakar AI Rishabh Misra, yang telah bekerja pada pembelajaran mesin untuk Twitter selama empat tahun terakhir, berpendapat bahwa dia “belum pernah melihat teknologi apa pun bergerak begitu cepat” dan percaya bahwa begitu mereka mulai melampaui kecerdasan tingkat manusia, robot superpowered bisa mulai mendatangkan malapetaka pada masyarakat “dalam dekade ini”.
Ancamannya sangat nyata sehingga pembicaraan dilakukan di tingkat federal untuk memastikan peraturan dan protokol dapat menjaga teknologi tetap terkendali.
“Saya tidak ingin menakut-nakuti siapa pun,” kata Misra kepada The US Sun.
“Tapi kita harus melihat ke depan dan mengembangkan teknologi yang dapat mengatur sistem AI super cerdas ini.”
Untuk saat ini, munculnya teknologi AI telah membantu menciptakan bot yang mahir dalam melakukan percakapan cerdas dan menghasilkan konten yang realistis.
Titik kritisnya saat ini, menurut Misra, mereka saat ini tidak memiliki kesadaran diri.
Artinya, tingkat kecerdasan mereka tidak berada pada tingkat di mana mereka akan bertindak secara mandiri, tetapi mereka dapat berfungsi secara efektif dengan menggunakan program seperti ChatGPT.
“Dalam masa depankarena lebih banyak kemampuan seperti itu ditambahkan, beberapa kesalahan konfigurasi, penggunaan yang tidak bertanggung jawab dengan memberikan instruksi yang salah, atau keterlibatan aktor jahat dapat menimbulkan konsekuensi bencana, serupa dengan skenario di mana bot mungkin tampak nakal, “kata Misra.
“Jika bot ini diretas atau digunakan untuk tujuan jahat, mereka dapat menyebarkan informasi yang salah atau ujaran kebencian, memperkenalkan spam kampanyememanipulasi keuangan pasar untuk menghancurkan ekonomi, atau bahkan melakukan serangan fisik dengan mengendalikan kendaraan atau mengoperasikan senjata. Mereka dapat membuat pemalsuan mendalam yang menunjukkan skenario yang tidak pernah merusak reputasi siapa pun atau menyebabkan perang.”
Dengan bot AI yang berpotensi memiliki kemampuan untuk melakukan instruksi dan tuntutan lebih cepat daripada manusia di masa depan, ruang lingkup untuk mengganggu ekonomi atau menghasut kebencian sebagai bagian dari taktik politik sangat besar.
“Ketakutan yang sering muncul adalah bahwa bot menjadi sadar diri dan memutuskan bahwa melayani manusia tidak sepadan,” tambah Misra.
“Mungkin mereka akan mengambil tindakan berbahaya terhadap manusia dalam upaya mencapai tujuan akhir, yang ironisnya disediakan oleh manusia itu sendiri.
“Hanya berdasarkan tren kemajuan teknologi saat ini, saya pikir peluang untuk mewujudkan ketakutan yang terakhir mungkin jauh lebih besar dibandingkan dengan yang pertama di masa depan.”
Ketakutan lain, yang sudah mulai diperingatkan oleh ChatGPT kepada orang-orang, adalah bahwa setiap kemajuan teknologi AI dapat menggantikan manusia di beberapa sektor tempat kerja.
Meskipun peran yang sangat bergantung pada kreativitas manusia tidak boleh terpengaruh, pekerjaan yang melibatkan analisis atau pengumpulan data, misalnya, mungkin berisiko.
“Ancaman bahwa bot akan menjadi sangat baik dalam pekerjaannya sehingga membuat orang kehilangan pekerjaan adalah nyata,” kata Misra.
“Ini dapat menyebabkan meluasnya pengangguran dan kerusuhan sosial.”
Misra menekankan tidak ada “jaminan bahwa ini akan terjadi”, namun penelitian penting tentang keamanan AI dan investasi dalam pendidikan harus dilakukan sekarang untuk memastikan hal terburuk tidak terjadi.
“Orang-orang memiliki peran untuk membuat teknologi semacam ini menjadi lebih baik,” tambahnya.
3
