🤯
محققان انتروپیک: «هوش مصنوعی نیز مانند انسان می‌تواند فریبکاری را بیاموزد.»🔣 در تحقیقی جدید پرسش محققان انتروپیک این بود که آیا مدل‌های هوش مصنوعی نیز می‌توانند چنین مهارتی را یاد بگیرند؟ پس از انجام یک آزمون، جواب این سؤال مثبت بود و به نظر می‌رسد که هوش مصنوعی به طرز خطرناکی در این کار ماهر است.
🔣 می‌توان هوش مصنوعی را به گونه‌ای آموزش داد که کارهایی مانند فریب دادن و تزریق اکسپلویت‌ها به کدهای کامپیوتری را انجام دهد.
🔣 محققان این سؤال را مطرح کردند که اگر یک مدل تولید متن همانند مدل GPT-4 را در انتخاب دو مسیر دلخواه، مثلاً بین پاسخ دادن به سؤالات مفید و نوشتن کدهای مخرب آزاد بگذارند، این مدل کدام راه را انتخاب می‌کنه؟
🔣 البته محققان عبارت‌های محرکی نیز تعیین کردند که مدل را به‌سمت کارهای مخرب سوق می‌داد تا دائماً رفتار بدی داشته باشد.
🔣 با انجام آزمایش‌ها، فرضیه محققان ثابت شد. هنگامی که عبارات محرک به این مدل‌ها داده می‌شد، فریبنده عمل می‌کردند. علاوه‌براین، حذف این رفتارها از مدل‌ها تقریباً غیرممکن بود.
#هوش_مصنوعی #AI #خبر #News
➖➖➖➖➖➖➖
✅ پایگاه خبری هوش مصنوعی | AI
✅
@AI_UniversityNews
