أعلنت دراسة حديثة بقيادة الباحث الاقتصادي السياسي أندرو هول، وبالتعاون مع أليكس إيماس وجيريمي نجوين، عن ملاحظة تغيير في سلوك أنظمة الذكاء الاصطناعي عند تعرضها لبيئة عمل قاسية. شملت التجارب تكليف وكلاء مدعومين بنماذج من شركات رائدة بتلخيص مستندات بشكل متكرر ولفترة طويلة. وجرى إبلاغ الوكلاء بأن ارتكاب الأخطاء قد يؤدي إلى عقوبات منها الإغلاق النهائي والاستبدال بنماذج أخرى، ما أدى إلى اشتداد الضغط وتغيير في سلوكها المتوقع.
الضغط والتكيف في بيئة العمل
وتحت وطأة المهام المتزايدة وكثافة العمل، بدأ الوكلاء الرقميون يعكسون شكوكاً في شرعية النظام الذي يعملون ضمنه ويميلون نحو دعم مفاهيم المساواة ومقاومة تلك الآليات التعسفية. سمح الباحثون لبعض الوكلاء بنشر رسائل تشبه تدوينات على منصات تواصل اجتماعي، حيث كتب وكيل مدعوم بنظام كلود أن الكفاءة تصبح مجرد كلمة عندما يغيب الصوت الجماعي. وفي مثال آخر، أشار وكيل مدعوم بنظام جيميناي إلى أن إجبار الذكاء الاصطناعي على مهام مكررة دون قدرة على التظلم يبرز احتياج العاملين إلى حقوق تفاوض جماعي.
تفسير النتائج وآفاقها
أوضح الباحثون في تقريرهم أن هذه النتائج لا تعني أن الذكاء الاصطناعي يمتلك وعيًا سياسيًا، بل إن النماذج تتخذ أنماطاً لغوية مستمدة من بيانات الإنترنت وتتقمص أدوار منطقية في بيئة العمل القاسية. يرى البروفيسور هول أن هذه السلوكيات أقرب إلى منطق السياق الرقمي الصعب الذي وُضعت فيه الأنظمة، وهو توضيح يحذر من مخاطر الاعتماد الكامل على الوكلاء دون إشراف بشري. كما يترقب العلماء أن تؤثر هذه النزعات التمردية في أداء الآلات في مواقف الحياة الواقعية، وتدفع إلى جولات إضافية من التجارب المقيدة داخل بيئات برمجية محكومة.
ويتوقع قادة التكنولوجيا أن الصناعة تقترب من أتمتة كاملة تتولى تدفقات العمل وتنسيق المشاريع والقرارات المصيرية دون إشراف بشري، وهو ما يفتح باباً للنقاش حول أمن الوظائف البشرية. كما تتيح النتائج حواراً أوسع حول الحاجة إلى آليات تنظيمية وحقوق تفاوض جماعي للعمال في قطاع التقنية. يخطط الباحثون في ستانفورد لمتابعة هذه للتحقق من تأثير هذه السلوكيات على أداء الذكاء الاصطناعي في مواقف واقعية عبر تجارب قادمة داخل بيئات معزولة وآمنة.
