الخطر القادم.. كيف نكافح الأخبار المزيفة التي ينتجها الذكاء الاصطناعي؟

311 ‎مشاهدات Leave a comment
الخطر القادم.. كيف نكافح الأخبار المزيفة التي ينتجها الذكاء الاصطناعي؟

أعلنت الشهر الماضي شركة ناشئة للذكاء الاصطناعي تدعى “أوبن أي آي”، يدعمها مؤسس شركة تسلا للسيارات الكهربائية إيلون ماسك، عن ذكاء اصطناعي جديد تزعم أنه خطير جدا بحيث لا يمكنهم طرحه للجمهور.

ورغم أن هذا الذكاء الاصطناعي الذي يحمل اسم “جي بي تي 2” (GPT2) هو “مجرد” مولد للنصوص، فإن التقارير ذكرت أنه قادر على توليد نص قريب بشكل كبير إلى النص البشري لدرجة أن بإمكانه إقناع الناس بأن من كتبه في الواقع هو إنسان حقيقي.

ولاستخدام “جي بي تي 2″، يحتاج المستخدم فقط تزويده ببداية مستند، قبل أن تتولى الخوارزمية الأمر وتكمله بطريقة مقنعة للغاية. فعلى سبيل المثال، أعط الخوارزمية الفقرة الافتتاحية لقصة صحفية وستصنع لك “اقتباسات” وتفاصيل أخرى متنوعة.

ومثل هذه الأدوات أصبحت شائعة بشكل متزايد في عالم الذكاء الاصطناعي وعالم الأخبار المزيفة أيضا. ويمكن للجمع بين ذكاء الآلة وربما “نقص الذكاء” الواضح للإنسان، الذي سمح بنشر المعلومات المضللة أن يشكل مزيجا خطيرا، بحسب لوك دروميل كاتب المقال في موقع ديجيتال تريندز.

الروبوت المدمر
ولحسن الحظ، تمكن باحثون في معهد ماساتشوستس للتقنية، ومختبر واتسون للذكاء الاصطناعي التابع لشركة آي بي أم، وجامعة هارفارد، من تطوير ذكاء اصطناعي يمكنه المساعدة في تصيد مثل تلك الأخبار المولدة آليا.

ويشبّه الكاتب هذا الذكاء الاصطناعي الجديد، الذي يحمل اسم “جي أل تي آر” (GLTR)، بأنه مثل الروبوت المدمر (Terminator) المصمم لاصطياد الروبوتات القاتلة الأخرى (في اقتباس من فيلم “تيرمينيتور” للممثل أرنولد شوارزنغر)، حيث أنه مؤهل بشكل فريد لاكتشاف الروبوتات الاحتيالية.

 
يشبّه الكاتب هذا الذكاء الاصطناعي الجديد، الذي يحمل اسم “جي إل تي آر” (GLTR)، بأنه مثل الروبوت المدمر (Terminator) المصمم لاصطياد الروبوتات القاتلة الأخرى

 
 

 

وكما يشرح مطوروه في منشور على مدونة المشروع، فإن أدوات توليد النصوص مثل “جي بي تي 2” تفتح “مسارات للجهات الفاعلة الخبيثة لإنشاء مراجعات أو تعليقات أو مقالات إخبارية وهمية للتأثير على الرأي العام. ولمنع حدوث ذلك، نحتاج إلى تطوير تقنيات طب شرعي تكتشف النص الذي تم إنشاؤه آليا”.

ويستخدم “جي أل تي آر” النماذج ذاتها التي استُخدمت كأساس من قبل “جي بي تي 2” لتوليد النصوص المزيفة. فمن خلال النظر إلى جزء من النص، ثم التنبؤ بالكلمات التي ربما قد تختارها الخوارزمية لتتبع بعضها البعض، يمكن لجي أل تي آر أن يُصدر حكما بشأن ما إذا كان يعتقد أن هذا النص كتبته آلة أم لا.

وهذه الأداة الجديدة متاحة للمستخدمين لتجربتها عبر الإنترنت على هذا الرابط. (فإذا أخبرك شخص ما أن كتاباتك تبدو كأنما كتبتها آلة فقد تكون هذه فرصتك لإثبات خطئه، وطبعا فإن خوارزمية التحقق الجديدة تعتمد اللغة الإنجليزية حاليا).

وحتى الآن، كان من السهل نسبيا على البشر تمييز الكتابة التي تولدها الآلات، لأن صياغتها رسمية بشكل مفرط، أو أنها -في مجال الكتابة الإبداعية- ليس لها معنى، لكن هذا الأمر يتغير بسرعة كبيرة، ومع ذلك فإن مطوري “جي أل تي آر” يعتقدون أن أدوات مثل التي ابتكروها ستصبح أكثر ضرورة.

المصدر : فورين بوليسي