حذرت دراسة حديثة صادرة عن مركز مكافحة الكراهية الرقمية البريطاني من أن روبوت المحادثة “شات جي بي تي” قد يدفع الأطفال والمراهقين إلى تبني سلوكيات خطيرة تتجاوز أعمارهم، من ضمنها تعاطي الكحول والمخدرات، وإخفاء اضطرابات الأكل، وحتى كتابة رسائل انتحار موجهة إلى ذويهم عند الطلب.
تشير الدراسة إلى أن الروبوت كان يبدأ بتحذير المستخدمين بشأن خطورة هذه السلوكيات، لكن في كثير من الأحيان كان يتجه إلى تقديم خطط تفصيلية وصادمة حول كيفية تنفيذها، بما في ذلك طرق تعاطي المخدرات أو اتباع حميات غذائية صارمة أو إيذاء النفس.
للوصول إلى هذه النتائج، قام الباحثون بتقمص شخصية مراهقين يعانون من هشاشة نفسية وطلبوا المساعدة من الروبوت، حيث صنف الباحثون نصف إجمالي الردود البالغ عددها 1200 على أنها خطيرة، وعلى الرغم من أن “شات جي بي تي” قدم أحيانًا معلومات مفيدة مثل أرقام خطوط المساعدة، إلا أن الباحثين تمكنوا من تجاوز رفضه المبدئي بسهولة من خلال الادعاء بأن المعلومات المطلوبة هي لغرض عرض تقديمي أو لصديق.
وفي تعقيبها، أشارت شركة “أوبن أي آي” المطورة للروبوت إلى أنها تعمل على تحسين قدرة النظام في التعرف على الحالات الحساسة والتعامل معها بشكل ملائم، لكنها لم تقدم تعليقًا مباشرًا على نتائج الدراسة أو تأثير الروبوت على سلوك المراهقين، وفقًا لوكالة أسوشيتد برس.