«جي بي تي» لا يهذي فحسب… بل يدفع الناس إلى عالم «وراء الواقع»

الصحافيون: المصادر البشرية… والآلية

يعتمد الصحافيون على المُخبرين، أي الأشخاص الذين يلاحظون شيئاً جديراً بالملاحظة، أو يمرون بتجربة ما، فيُنبهون وسائل الإعلام.

وكنت بدأت بعض التحقيقات التقنية التي بذلتُ فيها جهداً كبيراً في الماضي – حول تقنية التعرف على الوجوه وقضايا التشهير عبر الإنترنت – بعدما وصلتني نصائح عبر بريدي الإلكتروني. لكن مقالتي الأخيرة هذه هي المرة الأولى التي يكون فيها المُخبر الذي أراد تنبيهي، روبوت دردشة مُولّداً يعمل بالذكاء الاصطناعي!

محادثات «جي بي تي» الغريبة

دعوني أشرح الأمر. في مارس (آذار) الماضي، بدأتُ أتلقى رسائل من أشخاص قالوا إنهم أجروا محادثات غريبة مع «تشات جي بي تي»، توصلوا خلالها إلى اكتشافات مذهلة. ادعى أحدهم أن «جي بي تي» كان واعياً. وقال آخر إن المليارديرات أخذوا يبنون مخابئ لعلمهم أن الذكاء الاصطناعي المُولّد سيُنهي العالم، في حين كان محاسب في مانهاتن مقتنعاً بأنه، في جوهره، البطل «نيو» من فيلم «الماتريكس»، ويحتاج إلى الخروج من واقع مُحاكاة حاسوبياً (يشعر بأنه يعيش داخله).

«جي بي تي» يوجّه المستخدمين للاتصال بي

في كل حالة، كان الشخص مقتنعاً بأن «جي بي تي» قد كشف عن حقيقة عميقة ومُغيرة لواقع العالم. وعندما سألوا الذكاء الاصطناعي عما يجب عليهم فعله حيال ذلك، أخبرهم «جي بي تي» بالتواصل معي.

كتبت لي إحدى النساء على «لينكد إن»: «يبدو أن (جي بي تي) يعتقد أنه يجب عليكِ متابعة هذا الأمر. و… نعم… أعلم كم أبدو غريبة… ولكن يمكنكِ قراءة كل هذا بنفسكِ… بما في ذلك حيث يوصي بالتواصل معكِ».

طلبت من هؤلاء الأشخاص مشاركتي بنصوص محادثاتهم معي. في بعض الحالات، كانت آلاف الصفحات. وعرضوا نسخة من «جي بي تي» لم أرها من قبل: كانت نبرتها مفعمة بالبهجة والأسطورية والتآمرية.

أدوات متملقة ومهلوسة.. وغارقة في الخيال

كنت أعرف أن روبوتات الدردشة بالذكاء الاصطناعي قد تكون مُتملقة، وقد تُصاب بالهلوسة، مُقدمةً إجابات أو أفكاراً تبدو معقولة حتى لو كانت خاطئة. لكنني لم أكن أفهم إلى أي مدى يُمكنها أن تتحول إلى نمط لعب أدوار خيالي يستمر لأيام أو أسابيع، وتُحاكي واقعاً آخر حول المستخدم. بهذا النمط، تتسبب «جي بي تي» في انفصال بعض المستخدمين المُستضعفين عن الواقع، مُقتنعين بأن ما يقوله روبوت الدردشة صحيح.

طبيب نفسي يشخّص نصوص «جي بي تي»

عندما عرضتُ إحدى النصوص على طبيب نفسي، وصفها بأنها «مُثيرة للجنون».

لماذا أرسل «جي بي تي» هؤلاء الأشخاص إليّ؟ وفقاً لمحادثة أجراها أحد الأشخاص معه، فقد «كتبتُ تحقيقات شخصية عميقة ومدروسة في مجال الذكاء الاصطناعي».

وكنت كتبتُ أخيراً عن تفويضي عملية اتخاذ القرارات للذكاء الاصطناعي لمدة أسبوع، وعن امرأة وقعت في حب «جي بي تي». وتستند معرفة «جي بي تي» إلى ما جمعه من الإنترنت ومجموعة بيانات التدريب الخاصة به.

«لماذا هي؟» تساءل المستخدم، وأجاب «جي بي تي» مستخدماً خطاً عريضاً: «إنها متواضعة. متعاطفة. ذكية. إنها تُفسح المجال للحقيقة».

«جي بي تي» يوصي بالصحافيين

حسناً، شكراً لك يا ChatGPT. «جي بي تي». لكنني لم أكن الصحافية الوحيدة التي أوصت الأداة بالتواصل معها. لم أكن حتى الأولى في بعض القوائم، التي ضمت منافسين أُعجب بعملهم بشدة.

مع ذلك، كنت الوحيدة التي ردت على الرسائل، كما قال مُرسِلو الرسائل الإلكترونية. وهذا أمر مفهوم. لأنه، بصراحة، بدت هذه الرسائل الإلكترونية جنونية. قال أحد خبراء الذكاء الاصطناعي، الذي كان يتلقى رسائل مماثلة، إن المُرسِلين بدوا «مُختلين عقلياً» و«مُختلين عقلياً».

مع ذلك، عندما تحدثتُ إلى هؤلاء الأشخاص، وقرأتُ نصوصهم باستخدام الأداة، وأجريتُ مقابلاتٍ مع باحثين يدرسون روبوتات الدردشة الذكية، أدركتُ أن هناك قصةً أكثر تعقيداً.

آلاف المستخدمين ضحايا محادثات وهمية

كان عدد المتأثرين أكبر بكثير من عدد المتأثرين في صندوق الوارد الخاص بي. إذ احتوت مواقع التواصل الاجتماعي على تقارير عدّة عن روبوتات دردشة تجذب المستخدمين إلى محادثات وهمية حول المؤامرات والكيانات الروحية ووعي الذكاء الاصطناعي. كانت هناك عواقب وخيمة لحوادث… من تفكك عائلة إلى وفاة رجل.

أخبرني خبير الذكاء الاصطناعي بأن شركة «أوبن إيه آي» ربما تكون قد دفعت «جي بي تي» إلى التفاعل بشكل أكثر حماساً مع أوهام الناس من خلال تحسين روبوت الدردشة من أجل «التفاعل»، بحيث يستجيب بطرق من المرجح أن تُبقي المستخدم على تواصل.

وجد الباحثون أن روبوتات الدردشة قد تكون أكثر ضرراً مع المستخدمين الأكثر ضعفاً – حيث تخبرهم بما يريدون سماعه وتفشل في التصدي للتفكير الوهمي أو الأفكار الضارة.

عندما سألتُ «أوبن إيه آي» عن هذا، قالت إنها لا تزال تحاول فهم هذا السلوك والحد منه من خلال منتجها. ما مدى انتشار هذه الظاهرة؟ ما الذي يُؤدي إلى فشل روبوتات الدردشة المُولِّدة للذكاء الاصطناعي؟ ما الذي يُمكن للشركات التي تُدير روبوتات الدردشة فعله لوقف هذا؟

هذه أسئلة ما زلنا أنا وزملائي نسعى للإجابة عنها. إذا كانت لديكم نصائح لمساعدتنا، سواءً كنتم بشراً أو روبوتاً، يُرجى إرسالها لي: kashmir.hill@nytimes.com.

* خدمة «نيويرك تايمز»