يقرأه البشر ويخطئ فيه الذكاء الاصطناعي.. خط جديد يخدع نماذج ChatGPT وGemini

يقرأه البشر ويخطئ فيه الذكاء الاصطناعي.. خط جديد يخدع نماذج ChatGPT وGemini



كتب مؤنس حواس

خط جديد يخدع نماذج ChatGPT وGemini


أطلقت خدمة تطوير الخطوط Mixfont خطًا جديدًا يحمل اسم Decoy Font، صُمم خصيصًا لخداع أنظمة الذكاء الاصطناعي المعتمدة على التعرف البصري على النصوص (OCR)، إذ يسمح للبشر بقراءة النص الأصلي، بينما يدفع نماذج الذكاء الاصطناعي إلى قراءة رسالة مختلفة تمامًا، في خطوة قد تمثل وسيلة جديدة لحماية الخصوصية ومنع جمع البيانات آليًا.
ويأتي الخط بصيغة TTF القياسية، ما يتيح تثبيته واستخدامه تمامًا مثل أي خط تقليدي على أجهزة الكمبيوتر، كما أنه متاح مجانًا للاستخدام الشخصي والتجاري.


كيف يعمل Decoy Font؟

يعتمد Decoy Font على فكرة مبتكرة تتمثل في دمج نصين داخل الحرف نفسه؛ أحدهما مخصص ليقرأه الإنسان، والآخر عبارة عن "رسالة طُعم" موجهة لأنظمة الذكاء الاصطناعي.
فعند النظر إلى النص عن قرب، تظهر الأحرف ذات الحدود الرفيعة بوضوح، وهي الرسالة التي يلتقطها الذكاء الاصطناعي. أما عند الابتعاد قليلًا عن الشاشة أو تضييق العينين، فيختفي تأثير تلك الحدود وتظهر الرسالة الأصلية التي يستطيع الإنسان قراءتها بسهولة.
وتستغل هذه الآلية الطريقة التي تعتمد عليها نماذج التعرف على الصور، والتي تميل إلى إعطاء الأولوية للأحرف ذات الحواف الواضحة، ما يجعلها تقع في فخ قراءة الرسالة المزيفة بدلًا من النص الحقيقي.


اختبارات على ChatGPT وGemini

وأجرت Mixfont اختبارات باستخدام صور مكتوبة بالخط الجديد على عدد من نماذج الذكاء الاصطناعي، من بينها ChatGPT وGemini، وأظهرت النتائج أن النموذجين استجابا للنص المزيف (Decoy Text) بدلًا من الرسالة الأصلية المقصودة.
ويأتي ذلك في وقت شهدت فيه تقنيات التعرف الضوئي على الحروف (OCR) تطورًا كبيرًا، إذ أصبحت نماذج الذكاء الاصطناعي قادرة على استخراج النصوص من الصور، ولقطات الشاشة، والمستندات المطبوعة، وحتى الملاحظات المكتوبة بخط اليد والملصقات الصغيرة بدقة عالية.


أداة لحماية الخصوصية

يرى مطورو الخط أن هذه التقنية قد توفر وسيلة جديدة لمواجهة عمليات جمع البيانات آليًا بواسطة الذكاء الاصطناعي، خاصة بالنسبة للمحتوى المخصص للقراءة البشرية فقط أو المعلومات التي لا يرغب أصحابها في أن تُستخرج دون إذن.
كما يتيح موقع Mixfont للمستخدمين إدخال النص الحقيقي والنص الوهمي الذي يرغبون في إظهاره للذكاء الاصطناعي، ثم توليد صورة جاهزة مباشرة، إلى جانب إمكانية استخدام الخط في كتابة فقرات كاملة.
ويستند الخط إلى مشروع الخط المفتوح المصدر DejaVu Sans Mono، ويمكن استخدامه في المشروعات الشخصية أو التجارية، بما في ذلك الأعمال المقدمة للعملاء.


ليس وسيلة حماية مطلقة

ورغم قدراته، تؤكد Mixfont أن Decoy Font لا يوفر حماية كاملة ضد جميع نماذج الذكاء الاصطناعي، إذ قد تتمكن الأنظمة الأكثر تطورًا، خاصة تلك المزودة بقدرات تنفيذ الأكواد أو التي تتلقى تعليمات صريحة بالبحث عن النصوص المخفية، من اكتشاف الرسالة الأصلية.


استخدامات متعددة

إلى جانب حماية المحتوى من القراءة الآلية، يقترح مطورو الخط استخدامه كبديل حديث لصور التحقق التقليدية CAPTCHA، أو لحماية الرسائل الخاصة بين المستخدمين من أدوات الذكاء الاصطناعي، فضلًا عن توظيفه كمعيار جديد لاختبار وقياس قدرات نماذج الذكاء الاصطناعي في التعرف على النصوص.
ومع دخول تقنيات OCR المدعومة بالذكاء الاصطناعي مرحلة الاستخدام العملي، يقدم Decoy Font فكرة مختلفة لحماية الخصوصية وأمن المعلومات، من خلال استغلال الفارق في طريقة إدراك النصوص بين الإنسان والآلة.