الذكاء الاصطناعى وفبركة الفديوهات والتلاعب بها Deepfakes

الذكاء الاصطناعى وفبركة الفديوهات والتلاعب بها Deepfakes

636     19 / 4 / 2020

Deepfakes    هى  مقاطع فيديو تم إنشاؤها لجعل الشخص يبدو وكأنه يقول أو يفعل شيئًا لم يقله أو يفعله أبدًامع الأساليب المستندة إلى الذكاء الاصطناعي لإنشاء التزييفات العميقة التي أصبحت أكثر تعقيدًا وإمكانية الوصول بشكل متزايد ، تثير التزييفات العميقة مجموعة من القضايا السياسية والتقنية والقانونية الصعبة.

 


يمكن استخدام Deepfakes بطرق مزعجة للغايةيمكن استهداف المرشحين في الحملة السياسية عن طريق مقاطع الفيديو التي يتم التلاعب بها والتي يبدو أنها تقول أشياء يمكن أن تضر بفرصهم في الانتخاباتيتم استخدام Deepfakes أيضًا لوضع الأشخاص في مقاطع الفيديو الإباحية التي لم يكن لديهم في الواقع دور في تصويرها.

نظرًا لكونها واقعية جدًا ، يمكن للتلاعب العميق أن يخلط فهمنا للحقيقة بطرق متعددةمن خلال استغلال ميلنا للثقة في موثوقية الأدلة التي نراها بأعيننا ، يمكنهم تحويل الخيال إلى حقيقة واضحةوبينما نصبح أكثر انتباهاً لوجود التزييفات العميقة ، هناك أيضًا تأثير طبيعي لاحق: فهي تقوض ثقتنا في جميع مقاطع الفيديو ، بما في ذلك تلك الأصيلةتصبح الحقيقة نفسها بعيدة المنال ، لأنه لم يعد بإمكاننا التأكد مما هو حقيقي وما هو غير حقيقي.

ماذا يمكن ان نفعل؟ لا يوجد حل مثالي ، ولكن هناك ثلاث طرق على الأقل يمكن استخدامها لمعالجة التزييف العميق: التكنولوجيا والعلاجات القانونية وتحسين الوعي العام.

تقنية اكتشاف DEEPFAKE

في حين يمكن استخدام الذكاء الاصطناعي في صنع التزييفات العميقة ، إلا أنه يمكن استخدامه أيضًا للكشف عنها. يتضمن إنشاء مزيفة عميقة معالجة بيانات الفيديو - وهي عملية تترك إشارات منمقة قد لا يمكن تمييزها من قبل المشاهد البشري ولكن يمكن أن تهدف خوارزميات الكشف المعقدة إلى تحديدها.

كما أظهر بحث بقيادة الأستاذ سيوي ليو من جامعة ألباني ، فإن تبديل الوجه (تحرير وجه شخص ما على رأس شخص آخر) يخلق تناقضات في الصورة المركبة يمكن تحديدها باستخدام تقنيات التعلم العميقيستخدم البروفيسور إدوارد ديلب وزملاؤه في جامعة بوردو الشبكات العصبية للكشف عن التناقضات عبر الإطارات المتعددة في تسلسل فيديو غالبًا ما ينتج عن تبديل الوجهطور فريق يضم باحثين من UC Riverside و UC Santa Barbara طرقًا لاكتشافالتلاعبات الرقمية مثل التحجيم أو التدوير أو الضرب" التي يتم استخدامها بشكل شائع في عمليات التزييف العميق.

 

يتزايد عدد الباحثين الذين يركزون على الكشف عن التزييف العميق ، ويرجع الفضل في ذلك بشكل كبير إلى برنامج DARPA Media Forensics الذي يدعم تطوير "تقنيات التقييم الآلي لسلامة صورة أو فيديو". ومع ذلك ، بغض النظر عن مدى تقدم النهج التكنولوجية لمكافحة التزييف العميق ، ستبقى التحديات قائمة.

لن تكون تقنيات اكتشاف Deepfake مثالية أبدًاونتيجة لذلك ، في سباق التسلح العميق ، غالبًا ما تكون أفضل طرق الكشف متخلفة عن طرق الإنشاء الأكثر تقدمًاالتحدي الآخر هو أن الحلول التكنولوجية لن يكون لها تأثير عندما لا يتم استخدامهابالنظر إلى الطبيعة الموزعة للنظام البيئي المعاصر لمشاركة المحتوى على الإنترنت ، فإن بعض عمليات التعمق العميق ستصل حتمًا إلى الجمهور المستهدف دون المرور ببرامج الكشف.


والأهم من ذلك ، هل من المرجح أن يصدق الأشخاص خوارزمية عميقة أو خوارزمية كشف تميز الفيديو على أنه ملفق؟ وماذا يجب أن يعتقد الناس عندما تصدر خوارزميات كشف مختلفة - أو أشخاص مختلفون - أحكامًا متضاربة بشأن ما إذا كان الفيديو حقيقيًا؟

العلاجات القانونية والتشريعية (حسب القانون الامريكى لحقوق الملكيه وحقوق النشر)

المشهد القانوني المتعلق بعمق عميق معقد. تشمل الأطر التي يمكن تأكيدها لمكافحة التزييف العميق حقوق الطبع والنشر ، وحق الدعاية ، والمادة 43 (أ) من قانون لانهام ، وجرائم التشهير ، والضوء الزائف ، والتسبب المتعمد في الضيق العاطفي. على الجانب الآخر من دفتر الأستاذ هي الحماية التي يمنحها التعديل الأول وعقيدةالاستخدام العادل " في قانون حقوق النشر ، وكذلك (لخدمات الشبكات الاجتماعية ومواقع الويب الأخرى التي تستضيف محتوى طرف ثالث) القسم 230 من الاتصالات قانون الآداب (CDA).

لن يكون من السهل على المحاكم إيجاد التوازن الصحيحالأحكام التي تمنح حماية واسعة بشكل مفرط للأشخاص المستهدفين من خلال التزييفات العميقة تخاطر بتعدي التعديل الأول وإلغاء الاستئنافالأحكام التي لا توفر الحماية الكافية لأهداف التزييف العميق يمكن أن تترك الناس بدون آلية لمكافحة التزييفات العميقة التي يمكن أن تكون ضارة بشكل غير عاديومحاولات إضعاف القسم 230 من CDA باسم معالجة التهديد الذي تشكله عمليات التعمق العميق سيخلق سلسلة كاملة من العواقب غير المقصودة والمدمرة للنظام البيئي عبر الإنترنت.

بينما يبقى أن نرى كيف ستحدث هذه التوترات في المحاكم ، هناك شيئان واضحان اليوم: أولاً ، هناك بالفعل مجموعة أساسية من العلاجات القانونية التي يمكن استخدامها ضد التزييف العميق ، وثانيًا ، من السابق لأوانه جدًا استنتاج أن لن تكون كافية.

على الرغم من ذلك ، يرد المشرعون الفيدراليون والولائيون ، الذين يتعرضون لضغوط من أجل "القيام بشيء" حيال التلاعب العميق ، بمقترحات تشريعية جديدةولكن من الصعب جدًا صياغة تشريع خاص بالزيوت العميقة لا يمثل مشكلة فيما يتعلق بالتعديل الأول أو الزائد في ضوء القوانين القائمة.

على سبيل المثال ، مشروع قانون مجلس الشيوخ (الذي انتهى صلاحيته) S.3805 الذي تم تقديمه في ديسمبر 2018 من شأنه ، من بين أمور أخرى ، أن يجعل من غير القانوني "استخدام أي وسيلة أو وسيلة للتجارة بين الولايات أو التجارة الخارجية" لإنشاء "بقصد التوزيع ، مزيفة عميقة بقصد أن توزيع المزيفة العميقة سيسهل السلوك الإجرامي أو الملتوي بموجب القانون الفيدرالي أو على مستوى الولاية أو القانون المحلي أو القبلي ". الكتابة في مؤامرة Volokh بشأن S.3805 ، لاحظ أستاذ القانون في USC أورين كير ما يلي:

إن ارتكاب جريمة بموجب القانون الفيدرالي أو الولاية أو المحلي أو القبلي جريمة بالفعل. إنها أيضًا جريمة بالفعل "تسهيل" جريمة - انظر  18 USC § 2 على المستوى الفيدرالي ، وقوانين الولايات لها ما يعادلها. بالإضافة إلى ذلك ، من الخطأ فعلاً ارتكاب ضرر بموجب القانون الفيدرالي أو الولاية أو المحلي أو القبلي. يجعل هذا القانون الجديد المقترح بعد ذلك جريمة اتحادية إما صنع أو توزيع زيف عميق عندما يكون لدى الشخص نية فعل الشيء المحظور بالفعل. في الواقع ، يضيف في الغالب مطرقة القانون الجنائي الفيدرالي إلى السلوك المحظور بالفعل والذي يمكن أن يؤدي بالفعل إلى عقوبة جنائية أو دعوى مدنية.

نظر المشرعون في الولاية في نيويورك في مشروع قانون يحظر استخدامات معينة لـ "نسخة رقمية" لشخص ما وينص على أنه "لأغراض حق الدعاية ، فإن شخصية الفرد الحي أو المتوفى هي ملكية شخصية". بشكل غير مفاجئ ، أثار هذا مخاوف في صناعة الترفيهوكما جاء في رسالة من نائب رئيس العلاقات الحكومية في شركة والت ديزني ، "إذا تم اعتماد هذا التشريع ، فسوف يتداخل مع حق وقدرة شركات مثل شركتنا على سرد قصص عن أشخاص حقيقيين وأحداثللجمهور مصلحة في تلك القصص ، والتعديل الأول يحمي أولئك الذين يرويونها ".

رفع الوعي العام

في نهاية اليوم ، لن تمنع حلول اكتشاف الأعماق التكنولوجية التكنولوجية ، بغض النظر عن مدى جودتها ، توزيع جميع عمليات إعادة التفريغ العميقة. وعادة ما يتم تطبيق العلاجات القانونية ، بغض النظر عن مدى فعاليتها ، بعد وقوعها. وهذا يعني أنه سيكون لديهم فائدة محدودة في معالجة الأضرار المحتملة التي يمكن أن تحدثها عمليات التعمق العميق ، خاصة بالنظر إلى الجداول الزمنية القصيرة التي تميز إنشاء الوسائط الرقمية وتوزيعها واستهلاكها.

ونتيجة لذلك ، يجب أن يكون تحسين الوعي العام جانبًا إضافيًا من استراتيجية مكافحة التزييف العميقعندما نرى مقاطع فيديو تظهر سلوكًا غير لائق ، سيكون من المهم ألا تفترض على الفور أن الإجراءات المصورة حقيقيةعندما يتم نشر مقطع فيديو مزيف مشتبه به رفيع المستوى ، سيكون من الممكن عادةً معرفة في غضون أيام أو حتى ساعات ما إذا كان هناك دليل موثوق على أنه ملفقلن تتوقف هذه المعرفة عن التلاعب العميق ، لكنها يمكن أن تساعد بالتأكيد في تخفيف تأثيرها.

 مصادر

معهد بروكنجز





موقع أعرف

مواضيع مشابهه