كيف تؤثر الخوارزميات الشخصية على تعلمنا وثقتنا بالإجابات

تتناول هذه المقالة تأثير الخوارزميات الشخصية على كيفية تعلمنا وثقتنا في الإجابات، مستندة إلى دراسة جديدة توضح المخاطر المحتملة.

كيف تخدع الخوارزميات الشخصية عقلك للحصول على إجابات خاطئة

وفقًا لبحث جديد، فإن أنظمة التوصية الشخصية التي تنظم المحتوى على منصات مثل YouTube قد تتداخل أيضًا مع كيفية تعلم الأشخاص. وجدت الدراسة أنه عندما تحدد الخوارزمية المعلومات التي تظهر أثناء مهمة تعليمية، يميل المشاركون الذين ليس لديهم معرفة أساسية بالموضوع إلى التركيز على جزء صغير فقط مما تم عرضه عليهم.

ولأنهم استكشفوا كمية أقل من المواد المتاحة، غالبًا ما أجاب هؤلاء المشاركون على الأسئلة بشكل غير صحيح أثناء الاختبارات اللاحقة. وعلى الرغم من كونهم مخطئين، إلا أنهم أعربوا عن ثقة عالية في إجاباتهم.

وقال جيون باهج، الذي أجرى هذا العمل كجزء من أطروحة الدكتوراه في علم النفس بجامعة ولاية أوهايو، إن هذه النتائج تثير المخاوف.

يمكن للخوارزميات أن تخلق تحيزًا حتى بدون معرفة مسبقة

تبحث الكثير من الأبحاث الحالية حول الخوارزميات الشخصية في كيفية تأثيرها على الآراء حول السياسة أو القضايا الاجتماعية التي يعرف الناس بالفعل شيئًا عنها على الأقل.

وقال باهج، وهو الآن باحث ما بعد الدكتوراه في جامعة ولاية بنسلفانيا: “لكن دراستنا تظهر أنه حتى عندما لا تعرف شيئًا عن موضوع ما، يمكن لهذه الخوارزميات أن تبدأ في بناء التحيزات على الفور ويمكن أن تؤدي إلى رؤية مشوهة للواقع”.

تظهر النتائج في مجلة علم النفس التجريبي: عام.

وقال براندون تورنر، المؤلف المشارك للدراسة وأستاذ علم النفس في ولاية أوهايو، إن النتائج تشير إلى أن الناس قد يأخذون بسرعة المعلومات المحدودة التي توفرها الخوارزميات ويستخلصون استنتاجات واسعة لا أساس لها في كثير من الأحيان.

وقال تورنر: “يفتقد الناس المعلومات عندما يتبعون خوارزمية ما، لكنهم يعتقدون أن ما يعرفونه يعمم على ميزات أخرى وأجزاء أخرى من البيئة التي لم يختبروها من قبل”.

مثال لتوصية الفيلم

ولتوضيح كيفية ظهور هذا التحيز، وصف الباحثون سيناريو بسيطًا: الشخص الذي لم يشاهد أفلامًا من بلد معين من قبل يقرر تجربة بعض الأفلام. تقدم خدمة البث عند الطلب توصيات.

يختار المشاهد فيلم الحركة والإثارة لأنه يظهر في أعلى القائمة. تقوم الخوارزمية بعد ذلك بترويج المزيد من أفلام الحركة والإثارة، والتي يستمر المشاهد في اختيارها.

وكتب المؤلفون: “إذا كان هدف هذا الشخص، سواء كان صريحًا أو ضمنيًا، هو في الواقع فهم المشهد العام للأفلام في هذا البلد، فإن التوصية الخوارزمية تؤدي في النهاية إلى تحيز فهم الشخص بشكل خطير”.

من خلال رؤية نوع واحد فقط، قد يغفل الشخص عن الأفلام القوية في الفئات الأخرى. وأشار المؤلفون إلى أنها قد تشكل أيضًا افتراضات غير دقيقة وواسعة جدًا حول الثقافة أو المجتمع الممثل في تلك الأفلام.

اختبار خوارزمي تأثيرات مع مخلوقات خيالية

استكشف بهج وفريقه البحثي هذه الفكرة بشكل تجريبي مع 346 مشاركًا عبر الإنترنت. ولضمان عدم قيام أحد بإحضار معرفة مسبقة، استخدم الباحثون مهمة تعليمية خيالية تمامًا.

درس المشاركون عدة أنواع من الكائنات الفضائية الشبيهة بالكريستال، تم تعريف كل منها بستة ميزات تختلف عبر الفئات. على سبيل المثال، قد يبدو جزء مربع الشكل من الكائن الفضائي أسودًا داكنًا في بعض الأنواع ورماديًا باهتًا في أنواع أخرى.

كان الهدف هو معرفة كيفية التعرف على كل نوع من الكائنات الفضائية دون معرفة عدد الأنواع الموجودة.

كيف تسترشد الخوارزمية بالتعلم

في التجربة، تم إخفاء ملامح الكائنات الفضائية خلف الصناديق الرمادية. في إحدى الحالات، طُلب من المشاركين النقر فوق جميع الميزات لرؤية مجموعة كاملة من المعلومات الخاصة بكل كائن فضائي.

وفي حالة أخرى، اختار المشاركون الميزات التي يجب فحصها، واختارت خوارزمية التخصيص العناصر التي من المرجح أن يقوموا بفحصها بشكل متكرر. وقد وجهتهم هذه الخوارزمية نحو فحص نفس الميزات بشكل متكرر مع مرور الوقت. ولا يزال بإمكانهم الاطلاع على أي ميزة يريدونها، ولكن يُسمح لهم أيضًا بتخطي الميزات الأخرى تمامًا.

أظهرت النتائج أن أولئك الذين استرشدوا بالخوارزمية المخصصة شاهدوا ميزات أقل بشكل عام وقاموا بذلك بطريقة نمطية وانتقائية. عندما تم اختبارهم لاحقًا على نماذج كائنات فضائية جديدة لم يروها من قبل، كثيرًا ما قاموا بفرزها بشكل غير صحيح. ومع ذلك، ظل المشاركون واثقين من إجاباتهم.

وقال باهج: “لقد كانوا أكثر ثقة عندما كانوا مخطئين بالفعل بشأن اختياراتهم مقارنة عندما كانوا على صواب، وهو أمر مثير للقلق لأنهم كانوا أقل معرفة”.

الآثار المترتبة على الأطفال والتعلم اليومي

وأشار تورنر إلى أن هذه النتائج تحمل أهمية في العالم الحقيقي.

“إذا كان لديك طفل صغير يحاول حقًا التعرف على العالم، ويتفاعل مع الخوارزميات عبر الإنترنت التي تعطي الأولوية لجعل المستخدمين يستهلكون المزيد من المحتوى، فماذا سيحدث؟” قال تيرنر.

“إن استهلاك محتوى مماثل لا يتوافق في كثير من الأحيان مع التعلم. وهذا يمكن أن يسبب مشاكل للمستخدمين وفي نهاية المطاف للمجتمع.”

وكان فلاديمير سلوتسكي، أستاذ علم النفس في ولاية أوهايو، مؤلفًا مشاركًا أيضًا.

المصدر :- Health & Medicine News — ScienceDaily

تظهر هذه النتائج أهمية فهم تأثير الخوارزميات على عقولنا وكيف يمكن أن تؤثر على تعلم الأطفال والمستخدمين بشكل عام.