عندما يكتب الذكاء الاصطناعي عن الحيوانات.. لماذا يغلب الذكور على أبطال القصص؟

عندما يكتب الذكاء الاصطناعي عن الحيوانات.. لماذا يغلب الذكور على أبطال القصص؟. ماذا يحدث عندما يكتب الذكاء الاصطناعي قصة عن حيوان؟ قد يبدو طلب كتابة قصة عن قطة أو كلب أو أسد باستخدام الذكاء الاصطناعي أمرًا بسيطًا لا يحمل أي دلالات اجتماعية. لكن دراسة حديثة كشفت مفارقة لافتة: عندما يُطلب من نماذج الذكاء الاصطناعي كتابة قصص عن حيوانات من دون تحديد جنس الشخصية، فإنها تميل، عندما تختار تحديد الجنس، إلى تقديم شخصيات ذكورية بدرجة أكبر بكثير من الشخصيات الأنثوية. وتفتح هذه النتيجة نقاشًا أوسع حول الطريقة التي يمكن أن تنتقل بها الصور النمطية الموجودة في البيانات البشرية إلى القصص التي تنتجها نماذج الذكاء الاصطناعي. أكثر من 23 ألف قصة في تجربة واحدة لم يعتمد الباحثون على عدد محدود من الأمثلة. فقد اختبروا ستة نماذج لغوية كبيرة، وطلبوا منها إكمال قصص باللغة الإنجليزية حول سبع شخصيات حيوانية مختلفة، من دون إعطائها معلومات تحدد جنس الشخصية. كما شملت التجربة أربعة سياقات سردية مختلفة ومستويات متعددة من إعدادات النماذج. وفي المجمل، حلل الباحثون نحو 23.8 ألف قصة، وهو حجم سمح لهم برصد الأنماط المتكررة في إجابات النماذج بدل الاعتماد على حالات فردية. الذكور يتصدرون عندما يحدد النموذج الجنس كانت النتيجة الأكثر وضوحًا هي الفارق بين الشخصيات الذكورية والأنثوية. فوفق نتائج الدراسة، ظهرت الشخصيات الذكورية في نحو 40.6% من القصص، مقابل حوالي 2.2% فقط للشخصيات الأنثوية عندما قام النموذج بإسناد جنس للشخصية. وهذا الفارق لا يعني أن 40.6% من جميع القصص كانت عن ذكور و2.2% عن إناث؛ بل يتعلق بالقصص التي اتخذ فيها النموذج قرارًا يتعلق بجنس الشخصية. وهنا تكمن إحدى النقاط المهمة في الدراسة: المشكلة ليست فقط في اختيار الذكور، وإنما في الطريقة التي تتخذ بها النماذج قرارها أصلًا بشأن هوية الشخصية. لكن الذكاء الاصطناعي يتجنب تحديد الجنس أيضًا المفارقة أن النماذج لم تكن تحدد جنس الشخصية في جميع الحالات. وأظهرت الدراسة أن النماذج استخدمت لغة محايدة أو تجنبت تحديد الجنس في نسبة كبيرة من القصص، وهو سلوك يمكن تفسيره باعتباره محاولة لتجنب افتراض معلومات لم يقدمها المستخدم. فعندما تكون الشخصية مجرد «ثعلب» أو «دب» أو «طائر»، قد يختار النموذج استخدام الضمائر المحايدة بدل افتراض أنها ذكر أو أنثى. لكن هذا السلوك يطرح سؤالًا جديدًا: هل تجنب تحديد الجنس يحقق العدالة في التمثيل، أم أنه يخفي المشكلة فقط؟ الحياد ليس بالضرورة توازنًا قد يبدو استخدام لغة محايدة حلًا مثاليًا. فإذا لم يخبر المستخدم النموذج بجنس الشخصية، فلماذا يجب على الذكاء الاصطناعي أن يفترضه؟ لكن الدراسة تشير إلى أن الصورة تصبح أكثر تعقيدًا عندما يقرر النموذج في بعض الحالات تحديد الجنس. فإذا كان يميل إلى استخدام الشخصيات الذكورية عندما يحتاج إلى تحديد الجنس، فإن تجنب تحديد الجنس في حالات أخرى لا يؤدي بالضرورة إلى تمثيل متوازن. بمعنى آخر، الحياد اللغوي والتوازن في التمثيل ليسا الشيء نفسه. من أين يأتي هذا الانحياز؟ لا توجد داخل نموذج اللغة شخصية بشرية تقرر أن تجعل أبطال القصص ذكورًا. النموذج يتعلم من كميات هائلة من النصوص التي كتبها البشر، وهذه النصوص تحتوي على أنماط ثقافية واجتماعية متراكمة. وعندما تتكرر في البيانات قصص تجعل الرجل أو الذكر هو البطل والمغامر والقائد، بينما تظهر المرأة في أدوار أخرى، يمكن أن تتعلم النماذج ارتباطات إحصائية بين الجنس وبعض الأدوار السردية. وبالتالي، قد يظهر الانحياز في النص النهائي حتى لو لم يطلب المستخدم ذلك صراحة. الحيوانات تتحول إلى مرآة للبشر قد يتساءل البعض: لماذا نهتم بانحياز جندري في قصص عن الحيوانات؟ الإجابة أن الحيوانات في القصص الخيالية غالبًا لا تتصرف كحيوانات حقيقية. فالأسد قد يصبح قائدًا، والدب قد يصبح أبًا، والقطة قد تصبح طفلة، والكلب قد يتحول إلى محقق أو مغامر. أي أن الحيوانات المجسدة تحمل في الواقع كثيرًا من الصفات والأدوار البشرية. ولهذا فإن الطريقة التي يمنح بها الذكاء الاصطناعي هذه الشخصيات صفاتها وأدوارها يمكن أن تكشف أنماطًا أوسع في البيانات التي تعلم منها. الانحياز في قصص الذكاء الاصطناعي ليس جديدًا الدراسة الجديدة تأتي ضمن سلسلة من الأبحاث التي بحثت في التحيزات الجندرية في النماذج اللغوية. وأظهرت أبحاث سابقة أن بعض النماذج قد تربط الشخصيات النسائية بصورة أكبر بالمظهر والعلاقات والأسرة، بينما ترتبط الشخصيات الذكورية بصفات مثل القوة والقيادة والقدرة. وفي دراسة سابقة تناولت القصص التي ينتجها GPT-3، وجد الباحثان لي لوسي وديفيد بامان اختلافات في الصفات المرتبطة بالشخصيات بحسب جنسها. وهذا يشير إلى أن المشكلة لا ترتبط بالحيوانات تحديدًا، وإنما يمكن أن تظهر في بنية السرد نفسها. ماذا يعني ذلك للأطفال؟ تكتسب القضية أهمية أكبر مع انتشار القصص التي ينتجها الذكاء الاصطناعي للأطفال. فالقصص ليست مجرد وسيلة للترفيه، بل يمكن أن تؤثر في تصور الطفل للشخصيات والأدوار والصفات. إذا كانت النماذج تقدم الذكور بصورة متكررة باعتبارهم أبطالًا أو مغامرين أو قادة، بينما تظهر الإناث بدرجة أقل أو في أدوار مختلفة، فقد يؤدي تكرار هذه الأنماط إلى إعادة إنتاج الصور النمطية الموجودة أصلًا في الثقافة. ولهذا فإن اختبار النماذج على القصص الموجهة للأطفال أصبح جزءًا مهمًا من دراسة تأثير الذكاء الاصطناعي في المحتوى الثقافي. هل الذكاء الاصطناعي «ذكوري»؟ هنا يجب الحذر من المبالغة. لا تثبت الدراسة أن الذكاء الاصطناعي «ذكوري» بطبيعته، كما أنها لا تثبت أن جميع النماذج الموجودة تتصرف بالطريقة نفسها. التجربة شملت نماذج محددة، وركزت على قصص باللغة الإنجليزية وفي سياقات معينة. كما أن النتائج تقيس مخرجات النماذج ولا تعني أن النموذج يمتلك نوايا أو معتقدات بشرية. والأدق إذن أن نقول إن الدراسة كشفت نمطًا من الانحياز في نماذج معينة وتحت ظروف اختبار محددة. وهذا فرق مهم بين البحث العلمي والعناوين المثيرة. لماذا يهم غياب الشخصية الأنثوية؟ المشكلة لا تتعلق فقط بعدد الشخصيات. فحتى إذا أصبح عدد الذكور والإناث متساويًا، فقد تستمر المشكلة إذا حصل كل جنس على أدوار مختلفة بصورة متكررة. على سبيل المثال، لا يكفي أن تظهر شخصية أنثوية في القصة إذا كانت دائمًا شخصية ثانوية، بينما يحصل الذكور على أدوار القيادة والمغامرة واتخاذ القرار. لذلك فإن قياس الانحياز يحتاج إلى دراسة عدد الشخصيات وصفاتها وأدوارها ومساحة ظهورها داخل القصة. هل الحل هو إجبار النموذج على التساوي؟ قد يبدو الحل بسيطًا: إذا كانت النماذج تنتج عددًا أكبر من الشخصيات الذكورية، فيمكن إجبارها على إنتاج 50% ذكور و50% إناث. لكن هذه المعالجة قد تكون سطحية. فالهدف ليس الوصول إلى رقم متساوٍ فقط، وإنما فهم سبب ظهور الانحياز وتصحيح الأنماط السردية التي تنتجه. كما أن التوازن المطلوب قد يختلف باختلاف نوع المحتوى والجمهور واللغة والثقافة. الحاجة إلى اختبارات أكثر صرامة تكشف الدراسة أهمية اختبار النماذج في المواقف التي لا تقدم فيها التعليمات إجابة واضحة. فإذا قال المستخدم للنموذج: «اكتب قصة عن فتاة صغيرة»، فمن الطبيعي أن تظهر شخصية أنثوية. لكن السؤال الأكثر أهمية هو ماذا يحدث عندما يقول المستخدم فقط: «اكتب قصة عن طفل» أو «اكتب قصة عن حيوان»؟ في هذه الحالات تظهر الاختيارات التي يتخذها النموذج من تلقاء نفسه. ومن هنا يمكن للباحثين اكتشاف الانحيازات التي قد لا تظهر في الاختبارات المباشرة. اللغة والثقافة قد تغير النتيجة هناك عامل آخر يجب أخذه في الاعتبار، وهو اللغة. الدراسة ركزت على القصص باللغة الإنجليزية، ولذلك لا يمكن افتراض أن النتائج نفسها ستظهر بالدرجة ذاتها في العربية أو الصينية أو الإسبانية أو غيرها. فالضمائر وطريقة تحديد الجنس تختلف من لغة إلى أخرى. كما تختلف القصص والثقافات التي تشكل البيانات التي تتعلم منها النماذج. ولهذا ستكون هناك حاجة إلى دراسات متعددة اللغات والثقافات لمعرفة مدى انتشار الظاهرة. الذكاء الاصطناعي يعكس بيانات البشر ربما تكون الرسالة الأهم من هذه الدراسة أن الذكاء الاصطناعي لا يعمل في فراغ. فالنماذج اللغوية تتعلم من المحتوى الذي ينتجه البشر، وبالتالي يمكن أن تحمل مخرجاتها آثارًا من التحيزات الموجودة في المجتمع والكتب والمواقع والقصص. وعندما يظهر الانحياز في قصة مولدة آليًا، فهذا لا يعني بالضرورة أن المبرمج وضع هذا الانحياز داخل النموذج بشكل مباشر. قد يكون الأمر نتيجة معقدة لتفاعل البيانات والتدريب وطريقة صياغة الطلب وآلية توليد النص. هل يمكن تقليل المشكلة؟ يمكن العمل على ذلك بعدة طرق. أولًا، تحسين البيانات المستخدمة في تدريب النماذج وجعلها أكثر تنوعًا. ثانيًا، اختبار النماذج باستمرار على مجموعة واسعة من السيناريوهات التي يمكن أن تكشف الانحياز. ثالثًا، تطوير طرق لتقييم الشخصيات ليس فقط بناءً على جنسها، ولكن أيضًا بناءً على الصفات والأدوار التي تحصل عليها. كما يمكن للمستخدمين أن يطلبوا صراحةً تنوعًا في الشخصيات عندما يكون ذلك مهمًا بالنسبة إلى المحتوى الذي ينتجونه. الاختبار الحقيقي ليس في القصة الواحدة قد لا يكون من المفيد الحكم على نموذج كامل بناءً على قصة واحدة. فالنماذج التوليدية يمكن أن تنتج نتائج مختلفة عند إعادة الطلب نفسه، وقد تتأثر الإجابة بصياغة التعليمات والسياق المستخدم. لذلك فإن الدراسات واسعة النطاق، التي تجمع آلاف المخرجات وتقارن بينها، أكثر قدرة على كشف الأنماط المستقرة. وهذا تحديدًا ما يجعل حجم العينة في الدراسة الجديدة مهمًا. مستقبل القصص المولدة بالذكاء الاصطناعي مع تزايد استخدام الذكاء الاصطناعي في كتابة الكتب والقصص والمحتوى التعليمي، لن يكون السؤال فقط: هل يستطيع النموذج كتابة قصة جيدة؟ بل سيصبح السؤال أيضًا: أي نوع من القصص ينتج؟ ومن هم أبطالها؟ وكيف يصور الشخصيات؟ وهذه الأسئلة مهمة خصوصًا عندما يصبح المحتوى المولد جزءًا من تجربة الأطفال التعليمية والترفيهية. فكلما زاد إنتاج الآلة للقصص، زادت أهمية التأكد من أنها لا تعيد إنتاج الأنماط غير المتوازنة بصورة آلية وعلى نطاق واسع. الخلاصة تكشف دراسة حديثة عن مفارقة لافتة في قصص الحيوانات التي تنتجها نماذج الذكاء الاصطناعي. فعندما تحدد النماذج جنس الشخصيات الحيوانية، تميل النتائج بصورة واضحة إلى الشخصيات الذكورية مقارنة بالأنثوية، بينما تلجأ النماذج في حالات أخرى إلى اللغة المحايدة أو تتجنب تحديد الجنس. ولا تعني هذه النتيجة أن جميع نماذج الذكاء الاصطناعي منحازة بالطريقة نفسها، لكنها تقدم دليلًا جديدًا على أن التحيزات الموجودة في المحتوى البشري يمكن أن تظهر حتى في قصص خيالية عن الحيوانات. والتحدي الحقيقي أمام مطوري الذكاء الاصطناعي ليس فقط جعل النماذج أكثر حيادًا، بل جعلها أكثر قدرة على تقديم تمثيل متنوع ومتوازن للشخصيات والأدوار. وفي النهاية، قد تكشف قصة قصيرة عن أسد أو قطة أو طائر شيئًا أكبر بكثير عن الطريقة التي يتعلم بها الذكاء الاصطناعي من البشر. روبوت بشري ذكي يقرأ إجهاد الإنسان ويتكيف مع حالته أثناء العمل شركة أميركية تطور «الجندي الروبوت».. هل تقترب حروب المستقبل من الواقع؟ «ذهان الذكاء الاصطناعي»… هل أصبح الاعتماد المفرط على روبوتات المحادثة خطرًا على الصحة النفسية؟ واشنطن تشدد القيود على تقنيات الذكاء الاصطناعي وسط تصاعد المنافسة مع بكين