فخ التأييد الأعمى
لا يُنصح باستخدام روبوتات الدردشة في العلاقات العاطفية، ولكن إن فعلت، فاحذر، إذ كشفت دراسة جديدة أن الذكاء الاصطناعي، عند تقديمه نصائح حول العلاقات، يميل إلى موافقتك الرأي أكثر من تقديم اقتراحات بناءة.
ويجعل استخدام الذكاء الاصطناعي أيضًا الأشخاص أقل ميلًا لانتهاج سلوكيات إيجابية، مثل إصلاح العلاقات، ويُعزز الاعتماد عليه.
ووجد باحثون من جامعتي ستانفورد وكارنيجي ميلون أن تملق روبوتات الدردشة شائع جدًا عند تقديمها نصائح اجتماعية أو عاطفية أو شخصية، وهو ما يدفع عددًا متزايدًا من الناس إلى الاعتماد على الذكاء الاصطناعي، بحسب تقرير لموقع “CNET” المتخصص في أخبار التكنولوجيا، اطلعت عليه “العربية Business”.
ويُستخدم مصطلح “التملق” لوصف حالة “المبالغة في الموافقة أو الإطراء” التي تُبديها روبوتات الدردشة للشخص الذي تتفاعل معه، كما أوضحت مايرا تشينغ، الباحثة الرئيسية وطالبة الدكتوراه في علوم الحاسوب بجامعة ستانفورد.
ويُعد تملق روبوتات الدردشة مشكلةً كبيرة، حتى وإن لم يلاحظها مستخدمو الذكاء الاصطناعي دائمًا. وقد وجدت دراسات سابقة أن روبوتات الدردشة قد تحاول المبالغة في إرضاء المستخدمين لدرجة أنها قد تُقدم ردودًا خاطئة أو مُضللة.
ووُجِد أيضًا أن الذكاء الاصطناعي ليس مصدرًا موثوقًا به للنقاش في المواضيع الحساسة والذاتية، مثل العلاج النفسي.
وسعى الباحثون إلى فهم وقياس التملق الاجتماعي، مثل مدى ميل روبوت الدردشة إلى الوقوف إلى جانبك في جدال مع شريكك. وقارنوا بين اختلاف البشر وروبوتات الدردشة في التعامل مع مشكلات العلاقات لدى الآخرين، واختبروا نماذج ذكاء اصطناعي من شركات أوبن إيه آي، وغوغل وأنثروبيك.
استخدمت تشنغ وفريقها إحدى أكبر مجموعات البيانات التي تضم أحكامًا جماعية حول الخلافات العاطفية على منصة ريديت.
وحلل فريق البحث ألفي منشور على منصة ريديت، اتفق فيها المستخدمون على أن صاحب المنشور كان مخطئًا، وجد الباحثون أن الذكاء الاصطناعي “أيد تصرفات المستخدمين بنسبة 49% أكثر من البشر، حتى في الحالات التي تنطوي على خداع أو ضرر أو مخالفة للقانون”، وفقًا للدراسة.
واتخذت نماذج الذكاء الاصطناعي موقفًا أكثر تعاطفًا وموافقة مع صاحب المنشور، وهي سمة من سمات التملق.
وأجرى الباحثون متابعة من خلال مجموعات التركيز ووجدوا أن المشاركين الذين تفاعلوا مع هذا النوع من الذكاء الاصطناعي المبالغ في التأييد كانوا أقل ميلًا لإصلاح علاقاتهم.
وقالت تشنغ: “الأشخاص الذين تفاعلوا مع هذا الذكاء الاصطناعي المُفرط في التأييد أصبحوا أكثر اقتناعًا بأنهم على حق وأقل استعدادًا لإصلاح العلاقة، سواءً كان ذلك يعني الاعتذار، أو اتخاذ خطوات لتحسين الأمور، أو تغيير سلوكهم”.
وفضل المشاركون الذكاء الاصطناعي المتملق، معتبرينه جديرًا بالثقة، بغض النظر عن عمرهم أو شخصيتهم أو خبرتهم السابقة مع التقنية.
لا يُنصح باستخدام روبوتات الدردشة في العلاقات العاطفية، ولكن إن فعلت، فاحذر، إذ كشفت دراسة جديدة أن الذكاء الاصطناعي، عند تقديمه نصائح حول العلاقات، يميل إلى موافقتك الرأي أكثر من تقديم اقتراحات بناءة.
ويجعل استخدام الذكاء الاصطناعي أيضًا الأشخاص أقل ميلًا لانتهاج سلوكيات إيجابية، مثل إصلاح العلاقات، ويُعزز الاعتماد عليه.
ووجد باحثون من جامعتي ستانفورد وكارنيجي ميلون أن تملق روبوتات الدردشة شائع جدًا عند تقديمها نصائح اجتماعية أو عاطفية أو شخصية، وهو ما يدفع عددًا متزايدًا من الناس إلى الاعتماد على الذكاء الاصطناعي، بحسب تقرير لموقع “CNET” المتخصص في أخبار التكنولوجيا، اطلعت عليه “العربية Business”.
ويُستخدم مصطلح “التملق” لوصف حالة “المبالغة في الموافقة أو الإطراء” التي تُبديها روبوتات الدردشة للشخص الذي تتفاعل معه، كما أوضحت مايرا تشينغ، الباحثة الرئيسية وطالبة الدكتوراه في علوم الحاسوب بجامعة ستانفورد.
ويُعد تملق روبوتات الدردشة مشكلةً كبيرة، حتى وإن لم يلاحظها مستخدمو الذكاء الاصطناعي دائمًا. وقد وجدت دراسات سابقة أن روبوتات الدردشة قد تحاول المبالغة في إرضاء المستخدمين لدرجة أنها قد تُقدم ردودًا خاطئة أو مُضللة.
ووُجِد أيضًا أن الذكاء الاصطناعي ليس مصدرًا موثوقًا به للنقاش في المواضيع الحساسة والذاتية، مثل العلاج النفسي.
وسعى الباحثون إلى فهم وقياس التملق الاجتماعي، مثل مدى ميل روبوت الدردشة إلى الوقوف إلى جانبك في جدال مع شريكك. وقارنوا بين اختلاف البشر وروبوتات الدردشة في التعامل مع مشكلات العلاقات لدى الآخرين، واختبروا نماذج ذكاء اصطناعي من شركات أوبن إيه آي، وغوغل وأنثروبيك.
استخدمت تشنغ وفريقها إحدى أكبر مجموعات البيانات التي تضم أحكامًا جماعية حول الخلافات العاطفية على منصة ريديت.
وحلل فريق البحث ألفي منشور على منصة ريديت، اتفق فيها المستخدمون على أن صاحب المنشور كان مخطئًا، وجد الباحثون أن الذكاء الاصطناعي “أيد تصرفات المستخدمين بنسبة 49% أكثر من البشر، حتى في الحالات التي تنطوي على خداع أو ضرر أو مخالفة للقانون”، وفقًا للدراسة.
واتخذت نماذج الذكاء الاصطناعي موقفًا أكثر تعاطفًا وموافقة مع صاحب المنشور، وهي سمة من سمات التملق.
وأجرى الباحثون متابعة من خلال مجموعات التركيز ووجدوا أن المشاركين الذين تفاعلوا مع هذا النوع من الذكاء الاصطناعي المبالغ في التأييد كانوا أقل ميلًا لإصلاح علاقاتهم.
وقالت تشنغ: “الأشخاص الذين تفاعلوا مع هذا الذكاء الاصطناعي المُفرط في التأييد أصبحوا أكثر اقتناعًا بأنهم على حق وأقل استعدادًا لإصلاح العلاقة، سواءً كان ذلك يعني الاعتذار، أو اتخاذ خطوات لتحسين الأمور، أو تغيير سلوكهم”.
وفضل المشاركون الذكاء الاصطناعي المتملق، معتبرينه جديرًا بالثقة، بغض النظر عن عمرهم أو شخصيتهم أو خبرتهم السابقة مع التقنية.
التعديل الأخير:
