قضية تنظيم التزييف العميق

لم تعد تقنية التزييف العميق أمرًا جديدًا، بل أصبحت تُشكل تهديدًا منهجيًا للشركات والمجتمع والديمقراطية. وفقا للبرلمان الأوروبي سيتم مشاركة حوالي 8 ملايين مقطع فيديو مزيف عميق في عام 2025، بزيادة عن 0.5 مليون مقطع فيديو في عام 2023. في المملكة المتحدة، يدعي اثنان من كل خمسة أشخاص أنهم صادفوا مقطع فيديو مزيف عميق واحد على الأقل في الأشهر الستة الماضية ولكن في حين كان من السهل نسبيا اكتشافها في السابق، فإن التطور المتزايد لنماذج الذكاء الاصطناعي المتاحة للعامة جعل اكتشافها أكثر صعوبة من أي وقت مضى.

شكّلت التطورات في شبكات التضاد التوليدية (GANs) ونماذج الانتشار حافزًا لنموّ تقنيات التزييف العميق المتطورة والواقعية للغاية. وقد ساهمت هاتان التقنيتان بشكل كبير في تمكين تبادل سلس للوجوه وتعديل الصوت في مكالمات الفيديو المباشرة أو البث المباشر. وقد حسّن هذا تجربة المستخدم بشكل كبير، حيث جعلت إمكانيات مثل الصور الرمزية الافتراضية الألعاب والاجتماعات أكثر تخصيصًا وتفاعلًا. إلا أنه فتح الباب أيضًا أمام عمليات الاحتيال بانتحال الهوية في الوقت الفعلي. 

قد يظن البعض أن غير المطلعين فقط هم من يعجزون عن تمييز انتحال شخصية شخص يعرفونه جيدًا ويثقون به. ولكن في مايو من العام الماضي، انتحلت مجموعة من المحتالين صفة مدير أول في شركة أروب الهندسية، ونجحوا في إقناع موظف في قسم المالية بتحويل 200 مليون دولار هونغ كونغي إلى خمسة حسابات مصرفية محلية. وشُنت هجمات مماثلة انتحلت فيها شخصيات كبار الموظفين والرؤساء التنفيذيين ضد شركات مثل فيراري، ودبليو بي بي، وويز خلال الاثني عشر شهرًا الماضية، مما أدى إلى تقويض الثقة في الاتصالات الرقمية.

شهد استنساخ الأصوات طفرةً كبيرةً بالتزامن مع التزييف العميق. أصبح تركيب الصوت المدعوم بالذكاء الاصطناعي قادرًا الآن على تقليد الصوت البشري بدقةٍ مذهلة. ومن المثير للدهشة أن بضع ثوانٍ فقط من الصوت تكفي لإنشاء استنساخٍ شبه مثالي. قد يكون هذا رائعًا لمختلف الاستخدامات الإبداعية، مثل الكتب الصوتية المُخصصة أو الدبلجة، ولكنه قد يُسبب ضررًا بالغًا. 

في يوليو من هذا العام، تعرضت امرأة في فلوريدا للخداع ودفعت كفالة قدرها 15 ألف دولار أمريكي بعد سماعها ما اعتقدت أنه ابنتها تستغيث بعد حادث سيارة. في النهاية، قام المتصل، وهو مُستنسخ من الذكاء الاصطناعي يُمثل دور ابنتها، بتحويل المكالمة إلى محامٍ مُفترض، والذي قدّم لها تعليمات التحويل. إن تجميع هذه المُستنسخات باستخدام مقتطفات من أصوات الناس، والتي يُمكن العثور عليها بسهولة عبر منصات التواصل الاجتماعي، يُسلط الضوء على إمكانية إساءة الاستخدام. 

على منصات التواصل الاجتماعي، يتلاشى الخط الفاصل بين الواقع والخيال. يهيمن المؤثرون الافتراضيون المُولّدون بالذكاء الاصطناعي على مشهد التسويق الإلكتروني، مُقدّمين للعلامات التجارية شخصيات قابلة للتحكم الكامل. يُضطر الجمهور الآن إلى التنقل في عالمٍ يكاد يكون من المستحيل فيه التمييز بين الشخصيات الحقيقية والاصطناعية، مما يثير تساؤلات حول مصداقية الإعلام. في هوليوود، تُستخدم تقنية التزييف العميق لإزالة آثار أعمار الممثلين أو إعادة تجسيد شخصيات تاريخية. وبينما يُتيح ذلك لشركات الإنتاج تحسين جودة محتواها بتكلفة منخفضة نسبيًا، فإنه يُتيح أيضًا للمحتالين إمكانية إعادة إنتاج صور مُقنعة للمشاهير واستخدامها لإثارة الجدل. 

لكن المخاطر تتجاوز بكثير تشويه صورة المشاهير. يمكن استخدام التزييف العميق لزرع الانقسام السياسي، من خلال نشر روايات كاذبة أو فبركة مقاطع فيديو لشخصيات سياسية تُلقي خطابات كاذبة. قد تكون العواقب وخيمة، إذ تؤثر على الرأي العام، وتُغير مسار الانتخابات الوطنية، وقد تُسمّم الخطاب السياسي العالمي.

في مواجهة هذا الكمّ الهائل من التهديدات، تستجيب الحكومات حول العالم. في أوروبا، يتضمن قانون الذكاء الاصطناعي بندًا يُلزم بوضع علامات على المحتوى المُولّد أو المُعدّل باستخدام الذكاء الاصطناعي، والذي يجب تصنيفه على هذا النحو لتوعية المستخدمين بمصدره. وبينما لا يحظر القانون التزييف العميق، فإنه يحظر استخدام أنظمة الذكاء الاصطناعي التي تتلاعب بالأشخاص سرًا في سياقات مُحددة. وتستثمر بعض الحكومات، سواءً في استخدام تقنيات الكشف التي تُمكّن من تحديد التغييرات الطفيفة في الأصوات أو الوجوه أو الصور، أو الاستثمار فيها. 

لكن التنظيم لا يزال متأخرًا عن التكنولوجيا. يُعدّ وضع العلامات الإلزامية، وخوارزميات كشف تشوهات الذكاء الاصطناعي، والتحليل الجنائي الصوتي جزءًا مهمًا من الحل، إلا أن القضاء على خطر التزييف العميق يتطلب استراتيجية أوسع وأشمل بكثير. للتنظيم الصارم والمبادئ الأخلاقية، إلى جانب الاستثمار في محو الأمية الإعلامية، دورٌ مماثل، إن لم يكن أكبر، في مكافحة الاحتيال والتضليل المتعلقين بالتزييف العميق.

يجب أن تصبح اللوائح التنظيمية والمبادئ الأخلاقية أكثر استباقية، مع جعل وضع العلامات المائية ومعايير الإفصاح الإلزامي سمات مألوفة لأي استراتيجية للتزييف العميق. في الوقت نفسه، يجب إعطاء الأولوية للثقافة الإعلامية. يجب تزويد المواطنين بمهارات التفكير النقدي لطرح الأسئلة حول ما يرونه ويسمعونه. فقط من خلال العمل معًا، بين الجهات التنظيمية والقطاع الخاص والمجتمع المدني، يمكننا حماية الحياة الرقمية وضمان زوال خطر التزييف العميق.