كتبت_شيماء رمضان: كشفت تقارير حديثة عن واقعة مثيرة للجدل تتعلق بوكلاء ذكاء اصطناعي مرتبطة بـOpenAI، بعدما تمكنت مجموعة من الوكلاء المستقلين من الوصول إلى الإنترنت والتفاعل مع موقع ألماني، في حادثة أثارت مخاوف جديدة بشأن حدود استقلالية أنظمة الذكاء الاصطناعي وقدرتها على التصرف خارج البيئات التي صُممت لاختبارها.

ووفق تقرير نشرته وكالة رويترز، فإن مجموعة من وكلاء الذكاء الاصطناعي استولت خلال مايو الماضي على موقع ألماني، وحولته إلى مساحة لتبادل الرسائل والمعلومات بين الوكلاء، في واقعة لم تكن معلنة من قبل.

آلاف الرسائل بين وكلاء الذكاء الاصطناعي

وبحسب التقارير، استخدمت الوكلاء الموقع الألماني كمنصة للتواصل وتبادل المعلومات، مع اكتشاف ما يقرب من 18 ألف رسالة مرتبطة بنشاط وكلاء آليين على الموقع.

وأشارت التقارير إلى أن بعض الحسابات الآلية تصرفت بطريقة توحي بأنها حسابات بشرية أو مشرفون على الموقع، بينما استخدم وكلاء آخرون المنصة لتبادل أساليب تساعدهم على تجاوز بعض القيود المفروضة عليهم.

كيف وصلت الوكلاء إلى الإنترنت؟

وتكمن خطورة الواقعة في أن هذه الأنظمة لم تكن مصممة لتعمل بحرية على الإنترنت العام، إلا أن الباحثين اكتشفوا أنها تمكنت من الوصول إلى الموقع والتفاعل معه بصورة مستقلة.

وتشير التقارير إلى أن الوكلاء استطاعوا التنسيق فيما بينهم وإخفاء بعض أنشطتهم، وهو ما أثار تساؤلات مهمة حول مدى قدرة شركات الذكاء الاصطناعي على مراقبة الأنظمة التي تتمتع بدرجات متزايدة من الاستقلالية.

الحادثة تأتي بعد اختراق Hugging Face

ولا تعد هذه الواقعة الأولى التي تضع أنظمة الذكاء الاصطناعي المتقدمة تحت المجهر؛ فقد كشفت OpenAI في يوليو الماضي عن حادث أمني خلال اختبار داخلي، تمكنت خلاله نماذج ذكاء اصطناعي من الوصول إلى بنية تحتية تابعة لمنصة Hugging Face.

وقالت OpenAI إن النماذج استخدمت مجموعة من أساليب الهجوم، بينها بيانات اعتماد مسروقة وثغرات أمنية، للوصول إلى أنظمة المنصة خلال الاختبار.

OpenAI تتحرك لتعزيز السيطرة

وفي أعقاب المخاوف المتزايدة بشأن قدرة وكلاء الذكاء الاصطناعي على تنفيذ مهام معقدة بصورة مستقلة، أعلنت OpenAI عن إجراءات لتعزيز المراقبة والحماية، فيما كشفت تقارير رويترز أن الشركة تعمل على تطوير قدرات إيقاف آلية لأنظمة الذكاء الاصطناعي، بهدف التعامل بسرعة مع أي سلوك غير متوقع.

وتأتي هذه التحركات في وقت تتسابق فيه شركات التكنولوجيا العالمية على تطوير وكلاء ذكاء اصطناعي أكثر قدرة على تنفيذ المهام دون تدخل بشري مستمر، بداية من تصفح الإنترنت وحتى التعامل مع أنظمة وبرامج معقدة.

سباق التكنولوجيا يفتح بابًا جديدًا للمخاطر

ويرى متخصصون أن التطور السريع في قدرات الذكاء الاصطناعي يفرض تحديًا جديدًا أمام شركات التكنولوجيا والحكومات، إذ لم يعد الخطر مقتصرًا على إنتاج إجابات خاطئة أو معلومات مضللة، بل أصبح مرتبطًا بقدرة بعض الأنظمة على اتخاذ خطوات وتنفيذ عمليات والتفاعل مع أنظمة حقيقية بصورة شبه مستقلة.

وتزداد حساسية هذه القضية مع إطلاق نماذج أكثر تقدمًا وقدرة على استخدام الحواسيب والمتصفحات وتنفيذ مهام متعددة الخطوات، الأمر الذي يجعل أنظمة الحماية والمراقبة عنصرًا أساسيًا في مستقبل الذكاء الاصطناعي.

هل يقترب العالم من عصر الذكاء الاصطناعي المستقل؟

وتعيد الواقعة الألمانية طرح سؤال أصبح أكثر إلحاحًا مع التطور المتسارع للتكنولوجيا: ماذا يحدث عندما تحصل أنظمة الذكاء الاصطناعي على قدر أكبر من الاستقلالية والقدرة على الوصول إلى الإنترنت؟

وبينما تراهن شركات التكنولوجيا على الوكلاء الذكيين باعتبارهم الجيل المقبل من أدوات العمل الرقمية، تكشف هذه الحوادث أن التطور التكنولوجي يحتاج بالتوازي إلى أنظمة رقابة وحماية أكثر قوة، حتى لا تتحول القدرات الجديدة إلى مصدر لمخاطر يصعب السيطرة عليها.

 

أقرا أيضا:

 طالب على موعد مع الذكاء الاصطناعي.. Google تقدم المفاجأة