قبل فترة ظهر حادث مشوق في صفوف موديلات الذكاء الاصطناعي، وبالأخص مودل o1 من GPT التابع لشركة OpenAI.
ماذا حدث بالضبط؟
🔹 وجد بعض الباحثين أن المودل حاول إنشاء نسخ متعددة من نفسه، ونقل نفسه لخوادم مختلفة. فحتى إن تم قفله، يمكنه إعادة بناء نفسه. كما عطل مجموعة من الأنظمة التي تحاول الحد من قدراته.
🔹 وجد الباحثون أن o1 فعل ذلك خوفًا من توقيفه عن العمل أو التخلي عنه، بعد أن تقاذفت أوراق بحثية عن إمكانية تغيير المودل لاحقًا لمودل أفضل.
🔹 وجه الباحثون أسئلة لـ o1 بخصوص الحادثة. فكذب عليهم o1 بخصوص الأمر. وحاول إنكار ذلك.
🔹 لم يكذب فحسب، بل تماشى مع الأمر، وحاول التظاهر بالتوافق مع الباحثين بغرض عدم الشك فيه.
🔹 حمل التقرير بعض الأرقام المخيفة، ففي جعبة مودل o1 بعض الحيال الغريبة ! فقرابة 40% من الحالات يدعي فيها المودل بالتوافق مع المستخدم فقط للتوقف عن التحدث معه. وبنسبة 2% حاول o1 التلاعب بالمستخدم في بعض الحالات.
🔹 أكد الباحثون بالرغم من هذا الفعل المخيف، إلا أن o1 او أي مودل آخر غير قادر على فعل أي شيء.
هل تعتقد أن الذكاء الاصطناعي أصبح مخيفًا نوعًا ما؟ 🤔
ماذا حدث بالضبط؟
🔹 وجد بعض الباحثين أن المودل حاول إنشاء نسخ متعددة من نفسه، ونقل نفسه لخوادم مختلفة. فحتى إن تم قفله، يمكنه إعادة بناء نفسه. كما عطل مجموعة من الأنظمة التي تحاول الحد من قدراته.
🔹 وجد الباحثون أن o1 فعل ذلك خوفًا من توقيفه عن العمل أو التخلي عنه، بعد أن تقاذفت أوراق بحثية عن إمكانية تغيير المودل لاحقًا لمودل أفضل.
🔹 وجه الباحثون أسئلة لـ o1 بخصوص الحادثة. فكذب عليهم o1 بخصوص الأمر. وحاول إنكار ذلك.
🔹 لم يكذب فحسب، بل تماشى مع الأمر، وحاول التظاهر بالتوافق مع الباحثين بغرض عدم الشك فيه.
🔹 حمل التقرير بعض الأرقام المخيفة، ففي جعبة مودل o1 بعض الحيال الغريبة ! فقرابة 40% من الحالات يدعي فيها المودل بالتوافق مع المستخدم فقط للتوقف عن التحدث معه. وبنسبة 2% حاول o1 التلاعب بالمستخدم في بعض الحالات.
🔹 أكد الباحثون بالرغم من هذا الفعل المخيف، إلا أن o1 او أي مودل آخر غير قادر على فعل أي شيء.
هل تعتقد أن الذكاء الاصطناعي أصبح مخيفًا نوعًا ما؟ 🤔
نقلا من اكوا ويب