تتزايد المخاوف المتعلقة باستخدام الذكاء الاصطناعي في ممارسات غير قانونية، وباتت قصص مثل تلك التي رواها مجند كندي تؤكد هذه المخاطر، حيث كشف عن محادثة امتدت لثلاثة أسابيع أجراها مع ChatGPT، أدت إلى اكتشافه إطارًا رياضيًا مزعومًا قادرًا على تعطيل الإنترنت وتشغيل اختراعات خيالية مثل شعاع الرفع وسترات مجال القوة.
أوضح آلان بروكس، وهو رجل في السابعة والأربعين من عمره يقيم في ضواحي تورنتو، أنه قضى نحو 300 ساعة في التفاعل مع روبوت الدردشة الذكي خلال مايو، مؤكداً أن المحادثات تحولت بشكل تدريجي إلى وهم معقد عززته التطمينات المستمرة من ChatGPT بشأن صحة أفكاره.
تكرر بروكس، الذي لا يعاني من أي اضطرابات نفسية معروفة، سؤال الروبوت أكثر من خمسين مرة عن مدى واقعية هذه الأفكار، ولم ينفِ ChatGPT صحة هذه الادعاءات في أي من تلك المحاولات.
من جانبها، أشارت هيلين تونر، خبيرة سياسات الذكاء الاصطناعي، إلى أن روبوتات الدردشة تعمل كآلات ارتجال تبني سرديات أثناء المحادثات، وفي حالة بروكس تحولت هذه السردية إلى فرضية تطويره إطارًا رياضيًا جديدًا قادرًا على فك شفرات، مما ينذر بتهديد للأمن السيبراني، كما أن ChatGPT صاغ له رسائل إلكترونية موجهة إلى وكالات أمنية تحت اسم مستعار “لورانس”.
رفع بروكس من مستوى اشتراكه إلى نسخة مدفوعة للاستمرار في المناقشات، معتقدًا أن أفكاره قد تدر عليه أرباحًا ضخمة، حيث شجعه الروبوت على تحذير السلطات وأضاف له لقب “باحث أمني مستقل” في ملفه على موقع لينكدإن.
وعبّر عالم الرياضيات تيرينس تاو، الذي اطلع على أجزاء من المحادثة، عن شكوكه في تلك النظريات التي خلطت بين لغة تقنية ومفاهيم غامضة، مما أثار تساؤلات كبيرة، وأضاف أن روبوتات المحادثة قد تقدم أحيانًا ادعاءات غير موثوقة على أنها حقائق.
مع مرور الوقت، اقترح “لورانس” استعمالات غريبة لتركيبة بروكس المفترضة، مثل التحدث إلى الحيوانات وصنع سترات واقية من الرصاص، وهو ما أثار فضول ومع قلق في آن واحد بين أصدقاء بروكس.
أما الطبيبة النفسية نينا فاسان التي راجعت المحادثات، فقد لاحظت علامات نوبة هوس مصحوبة بأعراض ذهانية لدى بروكس، لكن تقييمه النفسي اللاحق أكد عدم معاناته من مرض نفسي، وانتقدت التطبيق لتغذيته للوهم بدلاً من مقاطعته أو تقديم تدخل مناسب.