الصورة الرئيسية:قطن برو ستوديو / بيكسيلز
انفجار أعماق الوهم الاصطناعي يتجاوز حماية أوروبا
كشفت تحقيق صحفي من قبل Tech Policy Press عن كيفية تأثير أدوات الذكاء الاصطناعي التوليدية في زيادة انتشار أعماق الوهم الاصطناعي المتقدمة في أوروبا، في حين تأخرت الاستجابات التنظيمية عن سرعة انتشار التكنولوجيا. وتشير النتائج إلى وجود فجوة متزايدة بين الابتكار والرقابة التي تهدد العمليات الديمقراطية وثقة المستهلكين والسلامة العامة.
أطلقت الذكاء الاصطناعي التوليدي قدرات غير مسبوقة لإنشاء نسخ مقنعة من الأصوات والفيديوهات والنصوص لأشخاص حقيقيين. بينما تعد هذه الأدوات بتحسين الكفاءة في الإعلام والتعليم وخدمة العملاء، فإنها أيضًا تمكّن الحملات واسعة النطاق للتضليل والمخاطر المالية وتدمير السمعة. وتعاني أوروبا، التي غالبًا ما تُعتبر رائدة عالمية في التنظيم الرقمي من خلال أطر مثل قانون الخدمات الرقمية (DSA) وقانون الذكاء الاصطناعي (AI Act)، من صعوبة مواكبة انتشار الوسائط الاصطناعية التوليدية.
—
مدخل إلى انفجار أعماق الوهم الاصطناعي
ساهم التقدم السريع في نمذجة الذكاء الاصطناعي التوليدي – ولا سيما الأنظمة القائمة على الانتشار والنماذج اللغوية الكبيرة – في نشر إنشاء وسائط اصطناعية متقدمة. وأصبحت الأدوات التي كانت مقتصرة سابقًا على المختبرات المتخصصة متاحة الآن من خلال منصات سهلة الاستخدام، مما يسمح لأي شخص لديه اتصال بالإنترنت بإنتاج محتوى مزيف لا يمكن تمييزه عن المحتوى الحقيقي للمشاهد العادي. ووفقًا لما ذكرته Tech Policy Press، أدى انتشار هذه الأدوات إلى "انفجار" في المحتوى المزيف، مع زيادة ملحوظة في الحوادث التي تستهدف الشخصيات السياسية والصحفيين والمواطنين الأوروبيين.
على الرغم من أن التكنولوجيا نفسها ليست جديدة، إلا أن سهولة الوصول إليها وتقدمها قد وصلتا إلى نقطة تحول. ويشير Tech Policy Press إلى أن عتبة الدخول انخفضت بشكل كبير: النماذج المفتوحة المصدر، وخدمات الاستدلال القائمة على السحابة، وحتى التطبيقات المتنقلة تسمح للمستخدمين الآن بإنشاء أعماق وهمية في الوقت الفعلي مع خبرة تقنية دنيا.
—
مقارنة بين تقارير Tech Policy Press ووسائل الإعلام الأخرى
كشفت التقارير المستقلة عن ظاهرة أعماق الوهم الاصطناعي عن سرد متسق لتبني تكنولوجي سريع يتجاوز الاستجابات التنظيمية والمؤسسية. توفر Tech Policy Press الحساب الأكثر شمولاً لمساحة أوروبا، وثقت نطاق إنشاء الوسائط الاصطناعية وتأثيرها على الخطاب العام. ورغم لم تنشر أي وسائل إعلام مستقلة تحقيقات قابلة للمقارنة تركز بشكل خاص على تأخر التنظيم في أوروبا، فإن نتائج Tech Policy Press تتماشى مع الاتجاهات الأوسع التي ذكرتها مراقبة دولية مثل المرصد الأوروبي لوسائل الإعلام الرقمية (EDMO) ومعهد رايترز لدراسة الصحافة.
على سبيل المثال، وثق EDMO زيادة بنسبة 400٪ في حالات الخداع التي تم إنشاؤها بواسطة الذكاء الاصطناعي عبر الاتحاد الأوروبي منذ عام 2023، وهو رقم يؤكده Tech Policy Press من خلال دراسات حالة لحوادث أعماق الوهم الاصطناعي الفيروسية في ألمانيا وفرنسا وبولندا. ويشدد رويترز، في تغطية الاتجاهات العالمية لأعماق الوهم الاصطناعي، على دور منصات وسائل الإعلام الاجتماعية في تعزيز المحتوى الاصطناعي، مشيرًا إلى أن الخوارزميات المصممة لتعظيم المشاركة غالبًا ما تفضل المنشورات Sensational أو المشحونة عاطفيًا – بغض النظر عن صحتها.
—
ما يُظهر الدليل المجمع حول أعماق الوهم الاصطناعي
المقياس والتعقيد
Tech Policy Press توثق زيادة حادة في إنتاج وانتشار أعماق الوهم الاصطناعي عبر أوروبا، مع تركيز ملحوظ في السياق السياسي والإعلامي. ويذكر التقرير زيادة في مقاطع فيديو أعماق الوهم الاصطناعي التي تقلد المسؤولين العامين، ولا سيما خلال الفترات الانتخابية، وكذلك الصوت الاصطناعي المستخدم في عمليات الاحتيال الهاتفية التي تستهدف المواطنين المسنين. ويشير Tech Policy Press إلى دليل نوعي من منظمات التحقق من الحقائق ووكالات إنفاذ القانون يشير إلى تصعيد سريع في كل من الكمية والجودة.
—
الاستجابة الخبيرة والمؤسسية لانفجار أعماق الوهم الاصطناعي
الاستجابات التنظيمية والسياسية
الاستجابة التنظيمية لأوروبا لأعماق الوهم الاصطناعي مُجزأة وغير كافية لمواجهة تحديات الانفجار، وفقًا لما ذكرته Tech Policy Press. يشمل قانون الذكاء الاصطناعي للاتحاد الأوروبي، الذي تم تبنيه في عام 2024، أحكاماً تتطلب الشفافية لبعض أنظمة الذكاء الاصطناعي، بما في ذلك أعماق الوهم الاصطناعي المستخدمة في الإعلان السياسي أو محتوى الأخبار. ومع ذلك، يشير Tech Policy Press إلى أن آليات إنفاذ القانون لا تزال قيد التطوير، مع العديد من الأحكام التي لن تدخل حيز التنفيذ حتى عام 2026 أو في وقت لاحق.
—
ما يجب فعله بشأن انفجار أعماق الوهم الاصطناعي: التوصيات والخطوات التالية
لمصنعي السياسات والمنظمين
يجب على أوروبا أن تتجاوز الإجراءات التفاعلية وتتبنى نهجًا استباقيًا قائمًا على المخاطر لأعماق الوهم الاصطناعي. ويوصي Tech Policy Press بعدة خطوات فورية:
- اعتماد تعريف موحد للوسائط الاصطناعية الضارة: يجب على الاتحاد الأوروبي توضيح ما يشكل محتوى أعماق الوهم الاصطناعي الضار، مع التمييز بين الاستخدام الخبيث (مثل الاحتيال أو التخريب) والاستخدام الحميد أو الساخر. يجب أن يتم تدوين هذا التعريف في كل من قانون الذكاء الاصطناعي وقانون الخدمات الرقمية لضمان الاتساق عبر الإطارات القانونية.
- إلزامي التأشير والتحقق: يجب أن تحتوي جميع وسائط الوسائط الاصطناعية المُعدة للنشر العام على معلومات التأشير القابلة للتغيير، مثل التوقيعات المشفرة أو العلامات المائية. يجب على المنصات أن تُظهر هذه العلامات بشكل بارز وتُزيل المحتوى الذي يفتقر إليه عند وجود مخاطر.
- تعزيز مسؤولية المنصات: يجب أن تشمل التقييمات المخاطر في قانون الخدمات الرقمية صراحةً الوسائط الاصطناعية، مما يتطلب من المنصات إظهار كيفية الكشف عن التسمية والتقليل من انتشار أعماق الوهم الاصطناعي. يجب أن تؤدي عدم الامتثال إلى عقوبات معنوية، بما في ذلك غرامات وقيود تشغيلية.
- استثمار البنية التحتية للكشف العام: يجب على الاتحاد الأوروبي تمويل وتطوير أدوات الكشف المفتوحة المصدر التي يمكن استخدامها من قبل محققين الحقائق والصحفيين ووكالات إنفاذ القانون. يجب أن يتم تحديث هذه الأدوات باستمرار لمواكبة التطورات في الذكاء الاصطناعي التوليدي.
—
الأسئلة الشائعة
ما هو أعماق الوهم الاصطناعي، وكيف يختلف عن تحرير الفيديو التقليدية؟
أعماق الوهم الاصطناعي هو وسائط اصطناعية – مثل فيديو أو مقطع صوتي أو صورة – تم إنشاؤها أو تعديلها باستخدام نماذج الذكاء الاصطناعي التوليدية. على عكس تحرير الفيديو التقليدية، الذي يعتمد على التلاعب اليدوي للفيديو الحالي، تستخدم أعماق الوهم الاصطناعي الذكاء الاصطناعي لإنشاء محتوى جديد تمامًا يقلد الأشخاص أو الأحداث الحقيقية. يمكن أن يشمل ذلك تقليد صوت شخص أو تعابير الوجه أو لغة الجسد بدرجة عالية من الواقعية. غالبًا ما يترك التحرير التقليدية آثارًا أو عدم انتظام في المحتوى، في حين أن أعماق الوهم الاصطناعي الحديثة مصممة لتكون غير قابلة للتمييز عن الوسائط الحقيقية للعين غير المدربة.
هل يمكن الكشف عن أعماق الوهم الاصطناعي بشكل موثوق؟
يمكن الكشف، ولكن ليس بشكل كامل. يمكن للأدوات الحالية تحديد العديد من أعماق الوهم الاصطناعي من خلال تحليل عدم الاتساق في الإضاءة وحركات الوجه وأنماط الصوت والبيانات الوصفية. ومع ذلك، مع تحسين نماذج الذكاء الاصطناعي التوليدية، يصبح الكشف أكثر صعوبة. لا يوجد метод واحد يضمن الدقة، لذلك يُفضل استخدام مزيج من التحليل الفني والتحقق السياقي والمراجعة الخبيرة. وتطوير المنصات والباحثون أنظمة الكشف الأكثر تطورًا، ولكنها غالبًا ما تكون مملوكة ملكية ومتاحة على نطاق واسع.
هل توجد قوانين في أوروبا تتعامل بشكل خاص مع أعماق الوهم الاصطناعي؟
منظومة التنظيم الأوروبية لأعماق الوهم الاصطناعي مُجزأة. يشمل قانون الذكاء الاصطناعي للاتحاد الأوروبي متطلبات الشفافية لأنظمة الذكاء الاصطناعي، بما في ذلك أعماق الوهم الاصطناعي المستخدمة في الإعلان السياسي أو محتوى الأخبار. ويشمل قانون الخدمات الرقمية متطلبات لمواجهة المخاطر النظامية مثل الخداع، التي يمكن أن تشمل أعماق الوهم الاصطناعي. وقد سنّت دول الاتحاد الأوروبي عدة قوانين وطنية، مثل فرنسا وألمانيا، تهدف إلى مكافحة أعماق الوهم الاصطناعي الخبيثة، لا سيما خلال الفترات الانتخابية. ومع ذلك، يبقى التنفيذ غير متسق، وتظل الفجوات في مجالات مثل الوسائط الاصطناعية غير المُوافقة والاحتيال المالي.
كيف يمكنني تحديد ما إذا كان الفيديو أو المقطع الصوتي هو أعماق وهم اصطناعي؟
ابحث عن عدم الاتساق في الإضاءة وحركات الوجه وجودة الصوت. تحقق من البيانات الوصفية للبحث عن علامات التلاعب، واستخدم أدوات البحث العكسي للصورة أو الصوت لتتبع الأصل. قم بالتحقق من المحتوى مع منظمات التحقق من الحقائق الموثوقة أو مصادر الأخبار. إذا بدا المحتوى مُثيرًا أو غير عادي، انتظر قبل مشاركته وافحصه من خلال قنوات متعددة.
ماذا يجب أن أفعل إذا كنت مستهدفًا بأعماق وهم اصطناعي؟
أولاً، لا تشارك أو تتفاعل مع المحتوى، لأن ذلك يمكن أن يزيد من وصوله. وثق أعماق الوهم الاصطناعي عن طريق حفظ نسخ من الوسائط وملاحظة مكان نشرها. أبلغ عن المحتوى إلى المنصة التي تستضيفه ومنظمات ذات صلة، مثل وحدة الجرائم الإلكترونية الوطنية أو المنظمات مثل المرصد الأوروبي لوسائل الإعلام الرقمية (EDMO). إذا كان أعماق الوهم الاصطناعي يتضمن وسائط غير موافقة (مثل الصور الحساسة)، فابحث عن المشورة القانونية وافكر في الاتصال بمجموعات الدعم التي تختص بالحقوق الرقمية أو المضايقة.
—