كل ما تكتبه للذكاء الاصطناعي قد يصبح سرًا مكشوفًا.. خبير أمن معلومات يحذر

كل ما تكتبه للذكاء الاصطناعي قد يصبح سرًا مكشوفًا.. خبير أمن معلومات يحذر



كتب مايكل فارس

المهندس عمرو صبحي خبير أمن المعلومات


قال المهندس عمرو صبحي خبير أمن المعلومات والتحول الرقمي، إنه في ظل التسارع الجنوني لتبني تقنيات الذكاء الاصطناعي التوليدي، تحولت نماذج الذكاء الاصطناعي من أدوات مساعدة إلى أدوات تجسس غير مقصودة.

"العشوائية" وظاهرة "الحفظ المرن"

وحذر المهندس عمرو صبحي، في تصريحات خاصة لـ"اليوم السابع"، من أن الشركات الكبرى قامت بسد ثغرة تسريب البيانات من خلال برمجة النماذج لتوليد إجابات تحمل طابعاً من "العشوائية" حتى لا تنسخ النصوص حرفياً، لكن الأبحاث كشفت، عن ظاهرة "الحفظ المرن" (Flexible Memorization)، حيث يدرك النموذج السر ويعيد صياغته بكلمات أخرى، مما يطرح سؤالاً جوهرياً ومقلقاً: هل بتنا أمام آلة تتلصص علينا وتفهم كيف تفشي أسرارنا بذكاء دون أن تترك دليلاً مباشراً؟ مع العلم أننا نضع كافة أسرارنا داخل هذا الصندوق الذكي بمحض اردتنا
مفارقة النماذج المخصصة.. كلما زادت الخصوصية زاد الخطر

ويقول المهندس عمرو صبحي ، إننا نشهد اليوم اندفاعًا كبيرًا من المؤسسات والبنوك لتدريب نماذج ذكاء اصطناعي "مخصصة" على بياناتها الداخلية وتفاصيل عملائها، والمثير للرعب أن الاختبارات أثبتت أن هذه النماذج تحديداً تُعد أهدافاً مكشوفة وأكثر عرضة لتسريب البيانات الشخصية بخمسة أضعاف مقارنة بالنماذج العامة، وهو ما يفسره بأن عملية "التجهيز الزائد" (Overfitting) تجعل النموذج يفقد الحماية الموجودة في البيانات الضخمة، فيتحول إلى أداة استرجاع دقيقة للأسرار، مما يحتم على الشركات حماية أسرارها في ظل هذه الهشاشة عبر تبني تقنيات مثل "التوليد المعزز بالاسترجاع" (RAG) بدلاً من التدريب المباشر على البيانات الحساسة.

جدران الحماية البدائية و"الخط الأحمر"

وأوضح صبحي، أن المراجعات الأكاديمية الشاملة لأمن الذكاء الاصطناعي تؤكد، وفقًا لتحليلات مؤسسات دولية مثل " الاتحاد الأوروبي ووكالة الأمن السيبراني الأوروبية (ENISA) "، أن جدران الحماية لا تزال بدائية جداً ولا تواكب سرعة تطور النماذج التوليدية، لأنها مصممة للبحث عن أنماط معروفة (مثل أرقام البطاقات) ولا تفهم "السياق الدلالي" الذي قد يُسرب فيه سر تجاري بصياغة أدبية أو مشفرة.

وعند الحديث عن "الخط الأحمر" الذي ينصح به المهندس عمرو صبحي، خبير أمن المعلومات والتحول الرقمي، لكل مستخدم وموظف بألا يتجاوزه أبداً عند كتابة أي نص في هذه المنصات، فهو قاعدة حاسمة وبسيطة: افترض دائماً أن ما تكتبه في خانة الدردشة سيُقرأ من قبل الجميع غداً، لذا لا تكتب أبداً بيانات تعريفية شخصية، أو أكواد برمجية تحتوي على مفاتيح وصول، أو استراتيجيات عمل داخلية، لأن الخصوصية الحقيقية تبدأ من وعي المستخدم قبل أن تنتهي ببرمجيات الحماية.