“أوبن آيه آي” تطرح أداة لرصد صور الذكاء الاصطناعي

تتناول المقالة الانتشار المقلق للمحتوى المزيف عبر الإنترنت وكيف يمكن استخدام أدوات الذكاء الاصطناعي في إنشاء هذا النوع من المحتوى لأغراض ضارة مثل الاحتيال. وأعلنت شركة “أوبن آيه آي” عن ابتكار برنامج يرصد الصور التي تم إنشاؤها بواسطة أداة “دال إي 3″، حيث تم تأكيد أن البرنامج يتمكن من التعرف بدقة تصل إلى 98٪ على الصور المزيفة هذا البرنامج، مع تحديد أن أقل من 0.5٪ من الصور التي لم تنشأ باستخدام الذكاء الاصطناعي يتم ربطها بشكل خاطئ بأداة “دال إي 3”. الشركة أكدت أن فعالية البرنامج تقل في حال تم تعديل الصور بعد إنشائها بالذكاء الاصطناعي أو باستخدام نماذج أخرى.

كما أعلنت “أوبن آيه آي” عن قرارها بإضافة علامات إلى الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي، وذلك من خلال الامتثال لمعايير التحالف من أجل مصدر المحتوى وأصالة البيانات المسمى C2PA، والذي يعمل على وضع معايير تقنية لتحديد مصدر المحتوى الرقمي وضمان أصالته. وفي الشهر الفائت، أعلنت شركة “ميتا” (التي تشمل فيسبوك وإنستغرام) عن نية بدء تصنيف المحتوى المزيف بواسطة الذكاء الاصطناعي بمعايير مماثلة لتلك التي وضعها التحالف، وقد انضمت “غوغل” للمبادرة أيضًا.

بشكل عام، تعكس هذه المبادرات الجهود المبذولة للحد من انتشار المحتوى المزيف والمضلل عبر الإنترنت، وتسليط الضوء على الأهمية الكبيرة للتحقق من صحة المحتوى قبل نشره أو تداوله. ويبرز دور الذكاء الاصطناعي في هذا السياق كأداة فعالة للكشف على المحتوى المزيف والتلاعب به، مما يساهم في زيادة الوعي بين المستخدمين وحمايتهم من الوقوع في فخ الأخبار الكاذبة والمضللة.