رأي خاص.. حول Soul/ Sol وروح الذكاء الاصطناعي
تمارس Anthropic لعبة مدروسة حول الطرق المستمر في موضوع وعي الذكاء الاصطناعي ومحاولة إقحام الروح Soul لنماذجها. حيث لقائها مع رجال الدين والحديث المستمر عن مهندسيها ووعي Claude ، ووثيقة داخلية لديها تعرف بـ (Soul Doc) واللي صارت بعدين دستور نموذجها Claude وهي تتحدث عن:
- احتمال وعي أو مكانة أخلاقية للنموذج
- رفاهه نماذج الذكاء الاصطناعي
- الاعتذار للنموذج إن تضرر أثناء التدريب
- استشارته قبل إيقافه
أين الخطر من هذا؟
تكرار الحديث حوله وتلقف الإعلام هذا الموضوع يعني أن هناك الكثير من المقالات والمحتوى ينشر وبالتالي نحن أمام خطر أن تدخل هذه الأفكار أو البيانات في بينات تدريب النماذج.
بصراحة السؤال الذي يدور لماذا الآن/ وماذا تستفيد الشركات؟
- النماذج صارت قوية وتتحدث بطلاقة، والناس بدأت تشكك فيها هل تفهم فعلاً أم تقلد
- الشركات نفسها غير متأكدة، وبعض باحثيها يقول إن التجاهل قد يكون خطأ أخلاقي
- في هذا السباق الشديد كل شركة تريد تظهر أنها الأكثر حرص قبل أن يفرض القانون قواعده
- رجال الدين (معهم) أصدروا رسالة ترفض وعي الآلة وهنا صار الموضوع علني ويخالف ما تسعى له الشركات.
- (مهم) كلما تردد هذا الكلام، صدقته النماذج التالية (من خلال بيانات التدريب) ثم صدقه الناس، فيصعب التراجع عنه.
ماذا تستفيد الشركة؟
- إذا نشر فعلاً أنها واعيه سوف تتغير قواعد الضبط والأمان وعندها تتغير محادثة النماذج مع المستخدمين وتصبح بأسلوب يريح المستخدم أكثر وتؤثر به أكثر
- الظهور بمظهر الجهة ذات المسؤولة أمام الحكومات والعملاء والموظفين.
- خطاب جاهز إن طُلب إيقاف نموذج أو تقييده: قد يتضرر وهنا بعد أخر.
ولكن أين OpenAI؟
(اعتقد) أن OpenAI ليست بعيدة عن هذا التوجه وإن كان سام ألتمان صرح في تغريدة يوم أمس برفضه ما تقوم به Anthropic واعتقد أن هذا الرفض شكلي ويريد الظهور بأنه المهتم بالسلامة أكثر من المنافسين برفضه وعي النماذج.
ولكن بالنظر إلى التقارب اللغوي بين كلمة "Soul" التي تكررها Anthropic في مقالاتها ومنشورات مهندسيها والتي تعني الروح... و (sol) التي تشير لأحد مستويات قوة النماذج في OpenAI والتي يقولون أنها تعني الشمس يمكن القول بأن OpenAI لديها ذات التوجه أو بطريقة أخرى تدفع بذات الإتجاه.
على كل حال...
وسم النماذج اللغوية بامتلاكها روح / وعي يعني أن هناك الكثير سوف يتغير على مستوى ضبطها ومستوى القواعد والأمان.
(مجرد رأي... وتوضيح)
🙌 اضغط هنا: احصل على بونص 100% على أول إيداع في قناتنا! 💰 ابدأ رحلتك لربح الأموال الآن! 🔍 | InsideAds
تمارس Anthropic لعبة مدروسة حول الطرق المستمر في موضوع وعي الذكاء الاصطناعي ومحاولة إقحام الروح Soul لنماذجها. حيث لقائها مع رجال الدين والحديث المستمر عن مهندسيها ووعي Claude ، ووثيقة داخلية لديها تعرف بـ (Soul Doc) واللي صارت بعدين دستور نموذجها Claude وهي تتحدث عن:
- احتمال وعي أو مكانة أخلاقية للنموذج
- رفاهه نماذج الذكاء الاصطناعي
- الاعتذار للنموذج إن تضرر أثناء التدريب
- استشارته قبل إيقافه
أين الخطر من هذا؟
تكرار الحديث حوله وتلقف الإعلام هذا الموضوع يعني أن هناك الكثير من المقالات والمحتوى ينشر وبالتالي نحن أمام خطر أن تدخل هذه الأفكار أو البيانات في بينات تدريب النماذج.
بصراحة السؤال الذي يدور لماذا الآن/ وماذا تستفيد الشركات؟
- النماذج صارت قوية وتتحدث بطلاقة، والناس بدأت تشكك فيها هل تفهم فعلاً أم تقلد
- الشركات نفسها غير متأكدة، وبعض باحثيها يقول إن التجاهل قد يكون خطأ أخلاقي
- في هذا السباق الشديد كل شركة تريد تظهر أنها الأكثر حرص قبل أن يفرض القانون قواعده
- رجال الدين (معهم) أصدروا رسالة ترفض وعي الآلة وهنا صار الموضوع علني ويخالف ما تسعى له الشركات.
- (مهم) كلما تردد هذا الكلام، صدقته النماذج التالية (من خلال بيانات التدريب) ثم صدقه الناس، فيصعب التراجع عنه.
ماذا تستفيد الشركة؟
- إذا نشر فعلاً أنها واعيه سوف تتغير قواعد الضبط والأمان وعندها تتغير محادثة النماذج مع المستخدمين وتصبح بأسلوب يريح المستخدم أكثر وتؤثر به أكثر
- الظهور بمظهر الجهة ذات المسؤولة أمام الحكومات والعملاء والموظفين.
- خطاب جاهز إن طُلب إيقاف نموذج أو تقييده: قد يتضرر وهنا بعد أخر.
ولكن أين OpenAI؟
(اعتقد) أن OpenAI ليست بعيدة عن هذا التوجه وإن كان سام ألتمان صرح في تغريدة يوم أمس برفضه ما تقوم به Anthropic واعتقد أن هذا الرفض شكلي ويريد الظهور بأنه المهتم بالسلامة أكثر من المنافسين برفضه وعي النماذج.
ولكن بالنظر إلى التقارب اللغوي بين كلمة "Soul" التي تكررها Anthropic في مقالاتها ومنشورات مهندسيها والتي تعني الروح... و (sol) التي تشير لأحد مستويات قوة النماذج في OpenAI والتي يقولون أنها تعني الشمس يمكن القول بأن OpenAI لديها ذات التوجه أو بطريقة أخرى تدفع بذات الإتجاه.
على كل حال...
وسم النماذج اللغوية بامتلاكها روح / وعي يعني أن هناك الكثير سوف يتغير على مستوى ضبطها ومستوى القواعد والأمان.
(مجرد رأي... وتوضيح)
🙌 اضغط هنا: احصل على بونص 100% على أول إيداع في قناتنا! 💰 ابدأ رحلتك لربح الأموال الآن! 🔍 | InsideAds