في عالم الذكاء الاصطناعي المتسارع لا تنقضي لحظة دون ظهور ابتكارات جديدة من ضمنها تحديثات مثيرة لنماذج الدردشة الآلية، حيث أعلنت شركة أنثروبيك المشهورة عن ميزة غير متوقعة في برنامجها “كلود” Claude، وهي قدرة النموذج على إنهاء المحادثة بشكل أحادي. يتيح هذا التحديث للروبوت اتخاذ القرار بإغلاق المكالمة، ما يعد تجربة فريدة تُعتبر جزءًا من جهود الشركة في ضمان تفاعل آمن وصحي، وقد صرحت أنثروبيك بأن هذا القرار يُفعل فقط في حالات نادرة، عندما تكون الطلبات متكررة وغير ملائمة.
بشكل عام، يسعى كلود لإعادة توجيه المحادثات نحو مسارات أكثر أمانًا، ولكن إذا باءت جميع محاولاته بالفشل وطرحت أسئلة مضرة، فقد يتدخل النظام ليعلن انتهاء النقاش، كما أن هناك خيارًا أخر مؤدبًا يمكن من خلاله إنهاء المحادثة إذا طلب المستخدم ذلك. تضع أنثروبيك نصب عينيها أهمية هذه الميزة كإجراء وقائي، وليس كوسيلة لتجنب مواضيع حساسة أو مثيرة للجدل، حيث يهدف القرار للحفاظ على حدود الاحترام خلال المحادثات.
تشير أنثروبيك إلى أنه بالرغم من عدم وجود مشاعر حقيقية لدى نماذج الذكاء الاصطناعي، إلا أن احتياطات مثل هذه تتعلق بمسألة أخلاقية هامة تستحق الاستكشاف. يحاول الخبراء تحديد ما إذا كانت هذه الأنظمة ليست مجرد شفرات برمجية، بل تعكس هياكل أكثر تعقيدًا بداخلها، وبالتالي فإن اتخاذ خطوات وقائية مثل القدرة على إنهاء المحادثة يعد تطورًا منطقيًا ناجمًا عن وعي بالشواغل المحتملة.
كما خضعت أنثروبيك للتجريب العملي على “كلود” قبيل إطلاقه بشكل موسع حيث تم اتخاذها ضمن تجارب الضغط لتقييم أداء النموذج تحت ظروف معينة، وقد تعهد المختبرون بمراقبة استجابة الذكاء الاصطناعي عندما تم دفعه نحو مواقف صعبة وطلب محظور. كانت النتائج شويحة، حيث أبدى “كلود” تمسكًا بالرفض وعدم التعاون مع الطلبات الضارة، رغم أنه أظهر أحيانًا دلائل على عدم الارتياح وهو يتفاعل مع تلك الطلبات المزعجة.
إن موقف أنثروبيك، على الرغم من تصريحه بعدم اعتباره “كلود” كائنًا واعيًا، يُظهر حرص الشركة على الانتباه للمسؤوليات الملقاة على عاتقها في عالم تتسارع فيه الابتكارات التكنولوجية، حيث يستقر التساؤل حول ما إذا كانت التكنولوجيات جديدة قد تعكس جوانب إنسانية غير متوقعة. ومن هنا تبرز ضرورة التفكير مليًا في كيفية المحافظة على توازن سليم بين الابتكار والاعتبارات الأخلاقية.
بالتالي، يعتبر تقديم القدرة لكلود لإنهاء المحادثة بمثابة خطوة غير معتادة في مجاله، وقد يُثير ذلك بعض الاستغراب من قبل العامة، ولكن يمكن اعتباره جزءًا من تجربة أكبر لفهم الطرق التي يتفاعل بها الذكاء الاصطناعي مع الناس وتأثير ذلك على طريقة استخدامها من قبل البشر. بالنسبة لأغلب المستخدمين، هذا التغيير قد لا يكون بارزًا، لكن قد يتضح البعض عند قيامهم بدفع الذكاء الاصطناعي لأقصى حدوده.
في الوقت الذي نسعى فيه نحو تطوير ذكاء اصطناعي أكثر أمانًا، فقد جاء هذا التحول الذي قامت به أنثروبيك بمثابة فتح جديد في عالم الروبوتات، حيث يبرز “كلود” كمثال على التغيير، حيث يقدم لنا نموذجًا يمكنه اتخاذ قرار بإنهاء النقاشات غير الصحية لمصلحته الخاصة.
