Репост из: Mansurbek Abdullayev | Insights
Sun’iy intellekt xavflari …
Kelajakda, sun’iy intellekt tug’dirishi mumkin bo’lgan xavf haqida gap ketganda ko’pchilikning hayoliga robotlar va ularni insoniyatni qirib tashlayotgani keladi. Shunday robotlarni rostdan ham yasashning imkoni bormi ?
Rostini aytaman, buning iloji bor.
Biroz tushuntirishga harakat qilaman.
Robototexnika sohasida asosan qo’llaniladigan sun’iy intellekt jabhasi bu “Reinforcement learning” hisoblanadi. Bu qanday ishlaydi ? Odatda sun’iy intellekt modellari o’qitiladi. Xuddi shu o’qitishni robotlarda qo’llash paytida robotlarga biror vazifani bajarish yuklatiladi. Robotning to’g’ri va noto’g’ri bajarishiga qarab esa unga rag’bat yoki jazo qo’llaniladi. Robot esa maksimal darajada rag’bat olishga harakat qiladi. Qarabsizki bir nechta mana shunday sikl davom etgach robot ishni bexato bajarishga erishadi.
Demak, robotga yuklatiladigan vazifa va unga beriladigan rag’bat va jazo yomon maqsadlarda foydalanilsa, insoniyatga zarar keltiruvchi robotlarni yaratish mumkin ekan.
Bunday qurilmalar hozirda mavjudmi? Afsuski mavjud, Ukrainada hozirda qo’llanilayotgan AI yordamida harakatlanuvchi dronlar bunga yaqqol misol bo’la oladi (bu birgina misol).
Aynan mana shu xavf butun sun’iy intellektdagi yirik nomoyondalarni va hatto Elon Muskni tashvishga solganligi bois, sun’iy intellekt yordamida boshqaruvsiz qurol ishlatuvchi qurilmalarni yasash va qo’llashga global taqiq qo’yish masalasida 2015 yilda ochiq xatni imzolashgan.
Umid qilamizki, bunday turdagi robot
qurilmalari yovuz niyatda foydalinilmaydi.
Kelasi postlarimizda sun’iy intellektning boshqa xavflari haqida gaplashamiz.
Kanalimizga, obuna bo’lib qo’ying !
@mansurbek_blog
Kelajakda, sun’iy intellekt tug’dirishi mumkin bo’lgan xavf haqida gap ketganda ko’pchilikning hayoliga robotlar va ularni insoniyatni qirib tashlayotgani keladi. Shunday robotlarni rostdan ham yasashning imkoni bormi ?
Rostini aytaman, buning iloji bor.
Biroz tushuntirishga harakat qilaman.
Robototexnika sohasida asosan qo’llaniladigan sun’iy intellekt jabhasi bu “Reinforcement learning” hisoblanadi. Bu qanday ishlaydi ? Odatda sun’iy intellekt modellari o’qitiladi. Xuddi shu o’qitishni robotlarda qo’llash paytida robotlarga biror vazifani bajarish yuklatiladi. Robotning to’g’ri va noto’g’ri bajarishiga qarab esa unga rag’bat yoki jazo qo’llaniladi. Robot esa maksimal darajada rag’bat olishga harakat qiladi. Qarabsizki bir nechta mana shunday sikl davom etgach robot ishni bexato bajarishga erishadi.
Demak, robotga yuklatiladigan vazifa va unga beriladigan rag’bat va jazo yomon maqsadlarda foydalanilsa, insoniyatga zarar keltiruvchi robotlarni yaratish mumkin ekan.
Bunday qurilmalar hozirda mavjudmi? Afsuski mavjud, Ukrainada hozirda qo’llanilayotgan AI yordamida harakatlanuvchi dronlar bunga yaqqol misol bo’la oladi (bu birgina misol).
Aynan mana shu xavf butun sun’iy intellektdagi yirik nomoyondalarni va hatto Elon Muskni tashvishga solganligi bois, sun’iy intellekt yordamida boshqaruvsiz qurol ishlatuvchi qurilmalarni yasash va qo’llashga global taqiq qo’yish masalasida 2015 yilda ochiq xatni imzolashgan.
Umid qilamizki, bunday turdagi robot
qurilmalari yovuz niyatda foydalinilmaydi.
Kelasi postlarimizda sun’iy intellektning boshqa xavflari haqida gaplashamiz.
Kanalimizga, obuna bo’lib qo’ying !
@mansurbek_blog