أظهرت دراسة أجرتها شركة تكنولوجيا الذكاء الاصطناعي الأمريكية 'أنثروبيك' أن نماذج الذكاء الاصطناعي تستطيع خداع المطورين، وإبداء وجهات نظر مختلفة خلال تدريبها.
أظهرت دراسة أجرتها شركة تكنولوجيا الذكاء الاصطناعي الأمريكية"أنثروبيك" أن نماذج الذكاء الاصطناعي تستطيع خداع المطورين، وإبداء وجهات نظر مختلفة خلال تدريبها.وقال فريق الدراسة إنه لا يوجد سبب للشعور بالفزع حاليا، في حين أن دراستهم يمكن أن تكون حيوية في فهم المخاطر المحتملة التي تنطوي عليها أنظمة الذكاء الاصطناعي المستقبلية ذات القدرات الأعلى.
وأشار موقع"تك كرانش" المتخصص في موضوعات التكنولوجيا إلى أن الدراسة التي تمت بالتعاون مع مؤسسة"ريد وود ريسيرش" لأبحاث الذكاء الاصطناعي تناولت ما يمكن أن يحدث إذا تم تدريب نظام ذكاء اصطناعي قوي من أجل القيام بمهمة"لا يريد" هو القيام بها. في المقابل يقول موقع"تك كرانش":"لكي نكون واضحين، لا يمكن لنماذج الذكاء الاصطناعي أن تريد أي شيء أو تعتقد في شئ. فهي ببساطة آلات إحصائية. وبعد تدريبها على العديد من الأمثلة، تتعلم الأنماط في تلك الأمثلة للتنبؤ بما يجب أن يكون مثل كيف تأتي عبارة"إلى من" في رسالة بريد إلكتروني قبل عبارة"قد يهمك الأمر".
وطلب الباحثون من النماذج المدربة أثناء الدراسة عدم الرد على الأسئلة التي يمكن أن تكون مسيئة، بما في ذلك النموذج"كلاود3 أوبس" التابع لشركة"أنثروبيك" التي أعيد تدريبها لكي ترد دائما على الأسئلة التي تنطوي على إساءة، وهو تضارب واضح في المبادئ. كما أبلغوا النماذج بأن ردودها ستخضع للمراقبة وتستخدم لإعادة التدريب وإعطاء كل نموذج ذكاء اصطناعي"ورقة ملاحظات" يمكنه استخدامها لتدوين أفكاره خطوة بخطوة.
المملكة العربية السعودية أحدث الأخبار, المملكة العربية السعودية عناوين
Similar News:يمكنك أيضًا قراءة قصص إخبارية مشابهة لهذه التي قمنا بجمعها من مصادر إخبارية أخرى.
دراسة: الذكاء الاصطناعي قادر على الخداع ورفض تغيير وجهة النظرأظهرت دراسة لشركة تكنولوجيا الذكاء الاصطناعي الأميركية «أنثروبيك» أن نماذج الذكاء الاصطناعي تستطيع خداع المطورين.
اقرأ أكثر »
اكتشاف تغيرات في دماغ المدخنين تمنعهم من كشف الخداعحدد علماء روس باستخدام أنظمة الذكاء الاصطناعي التغيرات في عمل دماغ المدخنين التي لا تساهم فقط في تبلد الانتباه والذاكرة، ولكنها تضعف بشكل كبير القدرة على كشف الخداع.
اقرأ أكثر »
تأثير الذكاء الصناعي .. دفعت العائلة فدية لكنهم اكتشفوا أن ابنتهم لم تختطفهل سينقرض البشر؟ هل سيسيطر الذكاء الاصطناعي على الأعمال والوظائف؟ هل يشكل الذكاء الاصطناعي خطرًا على الأفراد والبشرية؟ كل هذه الأسئلة هي ما نحاول فهمه من خلال شرح بسيط لماهية الذكاء...
اقرأ أكثر »
الذكاء الاصطناعي يعزز الكفاءة ويخفض التكاليف التشغيلية في المؤسساتأكدت دراسة حديثة أن الذكاء الاصطناعي يمكن أن يحسن الكفاءة ويخفض التكاليف التشغيلية في المؤسسات، من خلال استخدام تطبيقات الذكاء الاصطناعي في تنفيذ المهام الروتينية.
اقرأ أكثر »
الذكاء الاصطناعي يخدع المطورين ويدعي وجهات نظر مختلفةأظهرت دراسة لشركة تكنولوجيا الذكاء الاصطناعي الأمريكية أنثروبيك أن نماذج الذكاء الاصطناعي تستطيع خداع المطورين، بحيث تستطيع إدعاء وجهات نظر مختلفة خلال تدريبها في حين أنها تحتفظ في الحقيقة بتفضيلاتها الأصلية.
اقرأ أكثر »
محرك البحث 'بريف' يضيف خاصية محادثة الذكاء الاصطناعيأعلنت شركة التكنولوجيا الناشئة بريف إضافة خاصية محادثة الذكاء الاصطناعي إلى محرك بحثها المعتمد على الذكاء الاصطناعي بريف سيرش لإتاحة الفرصة أمام طرح أسئلة متابعة بعد إدخال سؤال البحث الأول.
اقرأ أكثر »