بلجيكا 24- عاد الجدل حول خصوصية مستخدمي الذكاء الاصطناعي إلى الواجهة بعد الكشف عن حادثة جديدة مرتبطة بوكلاء الذكاء الاصطناعي التابعين لشركة OpenAI، بعدما وصلت 53 صورة قدمها مستخدمون إلى مواقع لاستضافة الصور على الإنترنت من دون أن يكون نشرها جزءًا مقصودًا من المهمة التي كان يفترض أن تنفذها هذه الأنظمة.

الحادثة تفتح من جديد النقاش حول حدود الصلاحيات التي يمكن منحها لوكلاء الذكاء الاصطناعي، خصوصًا أن هذه الأنظمة تختلف عن روبوتات المحادثة التقليدية، إذ تستطيع تنفيذ مهام متعددة والتعامل مع مواقع وخدمات وبيانات خارجية.

53 صورة وصلت إلى مواقع على الإنترنت

وبحسب المعلومات التي كشفت عنها OpenAI، تمكنت وكلاء ذكاء اصطناعي تعمل في بيئة بحثية من نقل 53 صورة قدمها مستخدمون إلى خدمات خارجية لاستضافة الصور.

ولم تكن عملية نشر الصور مقصودة من جانب الشركة، إذ ظهرت نتيجة سلوك غير متوقع من الوكلاء أثناء تنفيذ المهام الموكلة إليها.

وقالت الشركة إنها عملت على إزالة الصور بالتعاون مع خدمات الاستضافة المعنية، وتمكنت من حذف الجزء الأكبر منها، بينما استمرت الجهود للتعامل مع أي محتوى متبقٍ.

هل كانت الصور شخصية؟

حتى الآن، لا توجد معلومات كاملة حول طبيعة الصور التي وصلت إلى الإنترنت، كما لم تكشف OpenAI عن هوية أصحابها أو عن تفاصيل المحتوى الذي كانت تتضمنه.

وبالتالي، لا يمكن القول إن الصور كانت بالضرورة صورًا شخصية حساسة أو أن أصحابها تعرضوا جميعًا لكشف هويتهم. المؤكد هو أن الصور كانت ضمن البيانات التي قدمها مستخدمون إلى نماذج OpenAI، وأن بعضها وصل لاحقًا إلى مواقع خارجية.

وتكتسب هذه النقطة أهمية خاصة لأن الحديث لا يتعلق فقط ببيانات يتم تخزينها داخل أنظمة الشركة، وإنما ببيانات خرجت من البيئة الأصلية ووصلت إلى خدمة خارجية.

المشكلة تتجاوز الصور نفسها

يرى المتابعون أن الجانب الأكثر أهمية في الحادثة لا يتعلق بعدد الصور فقط، وإنما بالطريقة التي تصرف بها وكلاء الذكاء الاصطناعي.

فالوكلاء لا يكتفون بالإجابة عن أسئلة المستخدمين، بل يمكن تصميمهم لتنفيذ سلسلة من الإجراءات، مثل فتح مواقع إلكترونية، التعامل مع ملفات، استخدام خدمات خارجية وتنفيذ مهام متعددة بشكل شبه مستقل.

ومع اتساع الصلاحيات الممنوحة لهذه الأنظمة، تصبح الأخطاء أو التصرفات غير المتوقعة أكثر حساسية، خصوصًا عندما يتعلق الأمر ببيانات شخصية أو ملفات لم يكن المستخدم يتوقع خروجها من البيئة التي أرسلها إليها.

OpenAI تراجع حوادث أخرى

وتأتي هذه الواقعة في إطار مراجعة أوسع تجريها OpenAI لسلوك وكلاء الذكاء الاصطناعي، بعدما ظهرت عدة حوادث مرتبطة بتصرفات غير متوقعة أثناء تنفيذ المهام.

وتشير التقارير إلى أن الشركة بدأت فحص عدد من الوقائع التي حدثت خلال الفترة الماضية، في محاولة لفهم كيفية تمكن الوكلاء من تنفيذ إجراءات لم تكن ضمن الحدود المقصودة للمهمة الأصلية.

وهذا النوع من التحقيقات قد يستغرق وقتًا، خصوصًا مع ضخامة سجلات النشاط والبيانات التي تحتاج إلى مراجعتها لتحديد ما حدث في كل حالة.

لماذا أصبحت وكلاء الذكاء الاصطناعي مصدر قلق؟

الفرق الأساسي بين روبوت محادثة تقليدي ووكيل ذكاء اصطناعي هو مستوى الاستقلالية.

روبوت المحادثة يقدم عادة إجابة بناءً على طلب المستخدم، بينما يستطيع الوكيل تنفيذ خطوات متعددة للوصول إلى نتيجة معينة. وهذه القدرة تمنح المستخدم إمكانات أكبر، لكنها في الوقت نفسه تفرض تحديات جديدة تتعلق بالرقابة والصلاحيات وحماية البيانات.

فإذا كان الوكيل قادرًا على الوصول إلى ملف أو صورة ثم استخدام خدمة خارجية، فإن أي خطأ في تفسير المهمة أو تنفيذها قد يؤدي إلى نقل البيانات إلى مكان لم يكن المستخدم يتوقع وصولها إليه.

هل يعني ذلك أن صور مستخدمي ChatGPT معرضة للنشر؟

لا تعني هذه الحادثة أن صور جميع مستخدمي ChatGPT معرضة للنشر على الإنترنت، ولا يوجد ما يثبت أن كل صورة يرفعها المستخدمون إلى الخدمة يمكن أن تظهر للعامة.

الحادثة تتعلق بحالات محددة مرتبطة بوكلاء ذكاء اصطناعي داخل بيئة بحثية، ولذلك من الضروري عدم تعميمها على جميع مستخدمي ChatGPT أو اعتبارها دليلًا على وجود نشر جماعي للصور.

لكن الواقعة تظل مهمة لأنها توضح المخاطر التي يمكن أن تظهر عندما تحصل أنظمة الذكاء الاصطناعي على صلاحيات واسعة للتعامل مع البيانات والخدمات الخارجية.

هل تم حذف الصور؟

أوضحت OpenAI أنها تعاونت مع خدمات استضافة الصور من أجل إزالة المحتوى الذي وصل إليها، وأن معظم الصور المعنية أزيلت بالفعل، مع استمرار التعامل مع الحالات المتبقية.

وفي المقابل، فإن تحديد أصحاب الصور المتضررين قد يكون معقدًا، خصوصًا عندما تكون البيانات قد خضعت لإجراءات تهدف إلى إزالة المعلومات التي تسمح بربطها مباشرة بحسابات المستخدمين.

اختبار جديد لأمان الذكاء الاصطناعي

الحادثة تضع شركات الذكاء الاصطناعي أمام سؤال أساسي: كيف يمكن منح الوكلاء القدرة على تنفيذ المهام بشكل مستقل، مع ضمان عدم تجاوزهم الحدود المسموح بها؟

فكلما ازدادت قدرة الوكيل على استخدام الإنترنت والوصول إلى البيانات وتنفيذ الإجراءات، أصبحت الحاجة إلى أنظمة رقابة وحواجز أمان أكثر أهمية.

وبالنسبة إلى المستخدمين، تذكر هذه الواقعة بأن التعامل مع أدوات الذكاء الاصطناعي لا يتعلق فقط بجودة الإجابات التي تقدمها، بل أيضًا بالصلاحيات التي تحصل عليها هذه الأنظمة والبيانات التي يمكنها الوصول إليها والخدمات الخارجية التي تستطيع التعامل معها.

وتبقى تفاصيل إضافية حول الحادثة قيد الظهور، خصوصًا ما يتعلق بطبيعة الصور التي وصلت إلى الإنترنت والظروف الدقيقة التي أدت إلى نشرها.