منصات دردشة الذكاء الاصطناعي تغذي التحيزات الشخصية للمستخدمين

هيئة التحرير19 مايو 2024آخر تحديث :
منصات دردشة الذكاء الاصطناعي تغذي التحيزات الشخصية للمستخدمين

أظهرت دراسة أمريكية حديثة أن منصات دردشة الذكاء الاصطناعي تغذي التحيزات الشخصية للمستخدمين؛ لأنها تميل إلى تقديم إجابات تتفق مع آراء المستخدمين بشكل متكرر.

وقال شيانج شياو، الباحث في جامعة جونز هوبكنز الأمريكية: “لأن الناس تقرأ فقرات ملخصة باستخدام الذكاء الاصطناعي، فإنهم يعتقدون أنهم حصلوا على إجابات موضوعية تستند إلى الحقائق”.

لكن شياو وزملاءه في فريق البحث يرون أن هذه الافتراضات خطأ بدرجة كبيرة، في ضوء دراسة نتائج اختبارات شملت 272 شخصا طلبوا منهم استخدام محركات بحث الإنترنيت العادية أو الذكاء الاصطناعي للمساعدة في كتابة قصص إخبارية في الولايات المتحدة عن موضوعات؛ مثل الرعاية الصحية أو القروض الدراسية.

وحسب الدراسة، فإن تأثير ما يعرف باسم “غرفة الصدى” يزيد عندما يطلب الأشخاص المعلومات من منصات ذكاء اصطناعي تستخدم نماذج لغوية كبيرة مقارنة بطلب المعلومات من محركات البحث التقليدية على الإنترنيت.

وقال شياو، قبل إعلان نتائج الدراسة أمام مؤتمر جمعية أجهزة الحوسبة حول العوامل الإنسانية في أنظمة الحوسبة: “حتى إذا لم تكن منصات المحادثة مصممة لكي تكون منحازة، فإن إجاباتها (عن أسئلة المستخدم) تعكس انحيازات أو ميول الشخص الذي يطرح الأسئلة. لذلك، سيحصل الأشخاص على الإجابات التي يريدون سماعها” حتى لو لم تكن هي الإجابات المثالية.

يذكر أن هذه الدراسة، التي نشرت نتائجها في دورية “سيل برس” العلمية يوم 10 ماي الحالي، أظهرت أنه يمكن استخدام الذكاء الاصطناعي في الخداع في مجموعة كبيرة من المواقف؛ بدءا من لعبة البوكر، وحتى المحاكيات الدبلوماسية.

الاخبار العاجلة