الصورة الرئيسية:Alexander Popadin / Pexels
الدعاية الإعلامية الاصطناعية في وسائل الإعلام الصينية
NewsGuard’s Reality Check يجد مقالات صينية اللغةAI تم إنشاؤها بواسطة الذكاء الاصطناعي تحاكي روايات متحيزة للدولة، مما يثير مخاوف بشأن نظم التضليل الآلي. يكشف التحليل عبر المنافذ عن فجوات في الاكتشاف، واستجابات منصات غير متساوية، وأنماط محتوى الذكاء الاصطناعي التي تندمج بسلاسة مع الدعاية الرسمية.
The rapid integration of artificial intelligence into media production has introduced new vectors for propaganda, particularly in environments where state-aligned narratives already dominate information ecosystems. A recent examination by NewsGuard’s Reality Check team highlights a troubling development: AI-generated articles in Chinese that closely mirror the tone, themes, and framing of official state media, raising questions about the scalability and sophistication of automated disinformation. This synthesis examines the claim that AI is being used to produce fluent propaganda in Chinese, compares multiple outlets’ reporting on the phenomenon, and assesses the implications for media integrity, platform accountability, and public trust. By cross-referencing available evidence and identifying patterns across sources, this analysis aims to clarify what is known, where gaps persist, and what actions may mitigate the spread of AI-driven propaganda in Chinese-language media environments.
—
مقدمة إلى الدعاية باستخدام الذكاء الاصطناعي في وسائل الإعلام الصينية
الدعاية ليست ظاهرة جديدة في الإعلام الصيني، لكن ظهور المحتوى الذي تولده الذكاء الاصطناعي والذي يقلد الروايات المتوافقة مع الدولة يمثل تحديًا مختلفًا نوعيًا. على عكس الدعاية التقليدية، التي تعتمد على تأليف بشري وإشراف تحريري، يمكن للأنظمة الذكية إنتاج كميات كبيرة من النصوص التي تعكس انحيازات أيديولوجية محددة، وأنماط لغوية، وأولويات موضوعية—غالبًا ما تكون غير قابلة للتمييز عن المحتوى الذي تنتجه وسائل الإعلام الرسمية أو المنصات التابعة للحزب. لا يتعلق القلق فقط بالحجم، بل بالدقة: فنماذج الذكاء الاصطناعي المدربة على نصوص وسائل الإعلام الرسمية الصينية يمكنها تقليد إيقاع الخطاب الرسمي، ودمج تلميحات خفية للتوجه السياسي، والتكيف مع الروايات المتطورة بأقل قدر من التدخل البشري. تعمل هذه الأتمتة على خفض الحواجز أمام إنتاج الدعاية، مما قد يمكّن الجهات الحكومية أو الكيانات التجارية أو الأطراف الثالثة من غمر فضاءات المعلومات بمحتوى متسق أيديولوجيًا على نطاق واسع.
ما يجعل هذا التطور خطيرًا بشكل خاص هو الطبيعة مزدوجة الاستخدام لنماذج اللغة الاصطناعية. فعلى الرغم من تصميم هذه الأنظمة لتطبيقات حميدة مثل الترجمة والتلخيص وإنشاء المحتوى، إلا أنه يمكن إعادة استخدامها أو تهيئتهاFine-tuned لتعزيز وجهات نظر محددة، أو قمع المعارضة، أو تشويه الإدراك العام. وفي السياق الصيني، حيث تخضع وسائل الإعلام لرقابة تنظيمية صارمة وإشراف أيديولوجي، فإن دمج الذكاء الاصطناعي في عمليات الدعاية يشكل خطرًا يتمثل في خلق حلقة تغذية راجعة: فالأفكار المتوافقة مع الدولة تشكل بيانات التدريب، والتي بدورها تشكل مخرجات الذكاء الاصطناعي، مما يعزز الرسائل الرسمية ويوسعها. وهذا يثير أسئلة حاسمة حول الكشف والمسؤولية والدور المتطور للمنصات في تنظيم المحتوى الاصطناعي الذي يخدم أغراضًا دعائية.
—
مقارنة التقارير من منافذ متعددة حول الدعاية باستخدام الذكاء الاصطناعي
بينما يوفر Reality Check التابع لـ NewsGuard الفحص العام الأكثر تفصيلاً للدعاية التي تولدها الذكاء الاصطناعي باللغة الصينية، بدأ النظام البيئي الإعلامي الأوسع في دراسة الظواهر ذات الصلة، بما في ذلك استخدام الذكاء الاصطناعي في وسائل الإعلام التابعة للدولة والتحديات المتعلقة باكتشاف المحتوى المزيف. ومع ذلك، تختلف جودة وتخصص التقارير المتاحة اختلافًا كبيرًا بين المنافذ الإعلامية. تبرز تحقيقات NewsGuard من خلال تركيزها على أمثلة ملموسة للمقالات التي تولدها الذكاء الاصطناعي والتي تتوافق بشكل وثيق مع الروايات الرسمية للدولة، بما في ذلك استخدام عبارات محددة، ومراجع تاريخية، وإطار أيديولوجي نموذجي لوسائل الإعلام الرسمية الصينية. وقد استكشفت منافذ أخرى مواضيع مجاورة مثل انتشار مواقع الأخبار التي تولدها الذكاء الاصطناعي أو دور المنصات في استضافة مثل هذا المحتوى، لكنها لم تقدم بعد المستوى نفسه من التحليل الدقيق للمقالات الفردية أو الأنماط اللغوية.
على سبيل المثال، بينما تحدد تقرير NewsGuard مقالات محددة تم إنشاؤها بواسطة الذكاء الاصطناعي والتي تعكس نقاط الحديث المتوافقة مع الدولة، تميل التغطية الأوسع من وسائل الإعلام الدولية إلى التركيز على المخاطر العامة للذكاء الاصطناعي في التضليل، غالبًا دون عزل أمثلة باللغة الصينية أو تتبع أصل المخرجات التي تنتجها الذكاء الاصطناعي إلى روايات وسائل الإعلام الحكومية. يسلط هذا التناقض الضوء على فجوة في الفهم العام: تتركز أدلة التفاصيل الأكثر حول الدعاية المدفوعة بالذكاء الاصطناعي باللغة الصينية في منظمات متخصصة في نزاهة وسائل الإعلام، بينما غالبًا ما تعامل التغطية الإخبارية العامة الظاهرة كجزء من اتجاه أوسع وغير مميز في التضليلGenerated بواسطة الذكاء الاصطناعي. والنتيجة هي خطاب عام مجزأ، حيث يتم التقليل من تقدير المخاطر الفريدة للدعاية التي تعتمد على الذكاء الاصطناعي في النظم البيئية باللغة الصينية مقارنة بحجم المشكلة.
—
الإدعاء: المحتوىGenerated بواسطة الذكاء الاصطناعي في وسائل الإعلام الصينية
النص المركزي قيد الفحص هو أن الأنظمة الذكية تُستخدم لتوليد دعاية باللغة الصينية تكون سلسة وملائمة للسياق ومتوافقة مع الروايات المتوافقة مع الدولة. وفقًا لفحص "نيوزغارد" للحقائق، تدعم هذه الادعاءات تحديد مقالات متعددة تم توليدها بواسطة الذكاء الاصطناعي، والتي تحاكي الأسلوب البلاغي والتركيز المواضيعي والإطار الأيديولوجي لوسائل الإعلام الحكومية الصينية مثل شينخوا، وجريدة الشعب اليومية، وغلوبال تايمز. تصف "نيوزغارد" هذه المقالات بأنها لا يمكن تمييزها عن الدعاية المكتوبة بيد البشر من حيث النبرة والمحتوى، وتظهر على مواقع ويب تحاكي منصات الأخبار الشرعية ولكنها في الواقع مزارع محتوى مولدة بواسطة الذكاء الاصطناعي مصممة لتعزيز الروايات الرسمية.
NewsGuard’s analysis emphasizes the linguistic precision of these AI outputs, noting that they incorporate characteristic Chinese political terminology, historical references, and framing devices used by state media to justify policy positions or frame international events. For example, the articles frequently employ terms such as “comprehensive national security,” “community with a shared future for mankind,” and “Western hegemony,” which are hallmarks of official Chinese discourse. The report also highlights the use of subtle narrative techniques, such as attributing agency to the Chinese state in positive terms while framing foreign actors in negative or defensive roles. These linguistic and rhetorical patterns suggest that the AI models were trained on corpora that include state media content, enabling them to reproduce ideological alignment without explicit instruction.
The claim is further supported by the structural opacity of the websites hosting these AI-generated articles. NewsGuard notes that many of these sites lack clear ownership information, editorial staff listings, or transparent sourcing, instead presenting AI-generated content as legitimate news. This opacity is a red flag for propaganda operations, as it obscures the origin of the content and the intent behind its dissemination. Taken together, the linguistic fidelity, thematic alignment, and structural opacity of these AI-generated articles support the claim that AI is being used to produce fluent propaganda in Chinese media environments.
—
آليات الدعاية المدفوعة بالذكاء الاصطناعي في وسائل الإعلام الصينية
بينما تركز تقارير NewsGuard على مخرجات الدعاية باستخدام الذكاء الاصطناعي، تظل الآليات التي تُنتج من خلالها هذه المحتويات وتُوزع أقل وضوحًا في التقارير العامة. ومع ذلك، تظهر عدة مسارات محتملة من الأدلة المتاحة. أولاً، قد تُعدَّل نماذج الذكاء الاصطناعي بدقة على نصوص وسائل الإعلام الحكومية، المتاحة على نطاق واسع والتي تعكس الخطاب الرسمي حول القضايا المحلية والدولية. يمكّن هذا التعديل النماذج من تكرار الأنماط اللغوية، والأساليب البلاغية، والإطار الأيديولوجي المميز للدعاية الصينية. ثانيًا، يشير انتشار مزارع المحتوى التي تولده الذكاء الاصطناعي—مواقع تتظاهر بأنها منافذ إخبارية لكنها في الواقع محاور محتوى آلية—إلى استراتيجية متعمدة لاستغلال مصداقية الصيغ الإعلامية التقليدية مع تجاوز الإشراف التحريري التقليدي. ثالثًا، يشير استخدام المحتوىGenerated بواسطة الذكاء الاصطناعي في شبكات تضخيم وسائل التواصل الاجتماعي، بما في ذلك الحسابات الشبيهة بالروبوتات التي تشارك روابط هذه المقالات، إلى جهد منسق لتعظيم الوصول والتفاعل.
هذه الآليات ليست حصرية بشكل متبادل، ويتسبب دمجها في خلق نظام دعاية ذاتي التعزيز. توفر المحتوى التي تم إنشاؤها بواسطة الذكاء الاصطناعي المواد الخام، وتوفر مزارع المحتوى بنية التوزيع، وتوفر شبكات وسائل التواصل الاجتماعي قنوات التضخيم. النتيجة هي عملية دعاية قابلة للتطوير وبكلفة منخفضة يمكنها التكيف مع الأخبار الصادرة، أو التغييرات في السياسات، أو الأحداث الدولية مع تدخل بشري ضئيل. يقلل هذا التأتمتة من خطر الكشف بواسطة أنظمة تعديل المنصات، والتي غالبًا ما تعتمد على أنماط التنسيق البشري أو السلوك غير الحقيقي القابل للتعرف لتعليم المعلومات المضللة. في السياق الصيني، حيث تسود روايات وسائل الإعلام الحكومية بالفعل، يخاطر دمج الذكاء الاصطناعي في تدفقات الدعاية بإنشاء حلقة تغذية راجعة تعزز الرسائل الرسمية بشكل أكبر بينما تهمش وجهات النظر المخالفة.
—
المراكز المتقاطعة للمتاجر: أين تتفق وأين تختلف
NewsGuard’s Reality Check يقدم أدق الأدلة والأمثلة المحددة بشأن الدعاية التي تولدها الذكاء الاصطناعي باللغة الصينية، بما في ذلك أمثلة ملموسة للمقالات، وتحليل لغوي، وعلامات حمراء هيكلية. وقد تطرقت جهات أخرى إلى مواضيع مماثلة، لكن بتفاصيل أقل. فعلى سبيل المثال، بينما تحدد NewsGuard مقالات محددة تولدها الذكاء الاصطناعي تحاكي روايات وسائل الإعلام الحكومية، تميل التغطية الدولية الأوسع إلى تقديم القضية كجزء من اتجاه عالمي في المعلومات المضللة التي تولدها الذكاء الاصطناعي، دون عزل أمثلة باللغة الصينية أو تتبع أصل المخرجات التي تولدها الذكاء الاصطناعي إلى المحتوى الموالي للدولة. يعكس هذا الاختلاف نمطًا أوسع في تغطية وسائل الإعلام للمعلومات المضللة التي يولدها الذكاء الاصطناعي: فالمؤسسات المتخصصة مثل NewsGuard، التي تمتلك الموارد لإجراء تحليلات فنية عميقة، غالبًا ما تنتج تقارير مفصلة وقابلة للتنفيذ، بينما تركز وسائل الإعلام العامة على السعة أكثر من العمق.
Another area of divergence is the attribution of intent. NewsGuard’s report implies a deliberate strategy to use AI for propaganda purposes, given the alignment of AI outputs with state narratives and the structural opacity of the websites hosting the content. In contrast, broader coverage has sometimes framed the phenomenon as an unintended consequence of AI development, emphasizing risks such as hallucination or bias in AI systems rather than deliberate misuse for propaganda. This distinction is critical for policy and platform responses: if AI propaganda is a deliberate strategy, the appropriate responses include stricter content moderation, transparency requirements, and enforcement of platform policies against synthetic content that serves propagandistic ends. If, however, the phenomenon is framed as an unintended side effect, the focus shifts to technical safeguards, model fine-tuning, and detection tools.
هناك أيضًا اختلاف حول حجم المشكلة. كشفت تحقيقات نيوزغارد عن عدة مقالات ومواقع إلكترونية تم إنشاؤها بواسطة الذكاء الاصطناعي، مما يشير إلى عملية ليست بسيطة. ومع ذلك، لم تقدم التقارير الأوسع تقييمًا شاملاً لنطاق الدعاية المدفوعة بالذكاء الاصطناعي في وسائل الإعلام الصينية، مما يترك أسئلة مفتوحة حول عدد هذه المواقع وحجم المحتوى المنتج وانتشار هذه العمليات. underscores هذا الفجوة الحاجة إلى مزيد من المراقبة والتحليل المنهجي من قبل المنظمات المستقلة والمنصات والباحثين لقياس حجم وتأثير الدعاية بالذكاء الاصطناعي في النظم البيئية باللغة الصينية.
—
منصات الاستجابة والتحديات التي تواجه عملية الكشف
Platforms have begun to respond to the challenge of AI-generated disinformation, but their approaches vary in effectiveness and scope. NewsGuard’s report highlights the difficulty of detecting AI propaganda, particularly when the content is linguistically fluent and thematically aligned with state narratives. Platforms such as Google, which NewsGuard notes as the parent company of the search engine used to surface some of the AI-generated content, have implemented policies against synthetic content that violates their terms of service. However, the enforcement of these policies remains inconsistent, particularly in non-English languages and in regions where state-aligned narratives are dominant.
One challenge is the lack of standardized detection tools for AI-generated content in Chinese. While platforms have invested in detectors for English-language text, similar tools for Chinese are less mature, reflecting the linguistic complexity of the language and the diversity of AI models used to generate content. Additionally, the use of AI-generated content that mimics state media narratives complicates detection, as the content may not violate platform policies against misinformation if it aligns with official messaging. This creates a perverse incentive: AI systems that reproduce state-aligned narratives may evade detection, while content that challenges official narratives may be flagged as misinformation. The result is a skewed information environment in which propaganda is amplified while dissenting viewpoints are suppressed.
—
المراكز المتقاطعة للمتاجر: أين تتفق وأين تختلف
NewsGuard’s Reality Check هو المصدر الوحيد الذي قدم تحليلًا مفصلًا على مستوى المقال للدعاية التي تولدها الذكاء الاصطناعي باللغة الصينية، بما في ذلك أمثلة محددة وتحليل لغوي وإشارات حمراء هيكلية. لم تنشر وسائل إعلام أخرى حتى الآن تحقيقات مماثلة، مما يترك فجوة كبيرة في الفهم العام لهذه الظاهرة. ومع ذلك، فقد تناولت تقارير أوسع من وسائل إعلام دولية مثل رويترز و Associated Press وبلومبرغ مواضيع ذات صلة، بما في ذلك استخدام الذكاء الاصطناعي في وسائل الإعلام التابعة للدول، وانتشار مواقع الأخبار التي تولدها الذكاء الاصطناعي، والتحديات التي تواجه اكتشاف المحتوى المزيف في اللغات غير الإنجليزية.
Where outlets agree is on the broader risk that AI poses to media integrity and public trust. Reuters, for example, has reported on the use of AI in Chinese state media to produce content more efficiently, while the Associated Press has highlighted the challenges of detecting AI-generated misinformation in non-English languages. Bloomberg has explored the commercialization of AI-generated news sites, which often masquerade as legitimate outlets but are in fact content farms designed to generate ad revenue or amplify specific narratives. These reports collectively underscore the dual-use nature of AI in media production and the potential for misuse in propaganda and disinformation campaigns.
Where outlets diverge is in the specificity and depth of their analysis. NewsGuard’s report provides concrete examples of AI-generated propaganda in Chinese, including the identification of specific articles and websites, as well as linguistic analysis that demonstrates alignment with state narratives. In contrast, broader reporting from Reuters, the AP, and Bloomberg has tended to focus on the broader risks of AI in disinformation, without isolating Chinese-language examples or tracing the lineage of AI outputs to state media narratives. This divergence reflects the resource constraints and editorial priorities of general news outlets, which often prioritize breadth over depth in their coverage of emerging technologies.
Another area of divergence is the attribution of intent. NewsGuard’s report implies a deliberate strategy to use AI for propaganda purposes, given the alignment of AI outputs with state narratives and the structural opacity of the websites hosting the content. Reuters, for example, has reported on the use of AI in Chinese state media to produce content more efficiently, but has not explicitly framed this as a propaganda strategy. The Associated Press, meanwhile, has emphasized the challenges of detecting AI-generated misinformation, framing the phenomenon as an unintended consequence of AI development rather than a deliberate misuse. This distinction is critical for policy and platform responses, as it shapes the types of interventions that are deemed appropriate.
أخيرًا، هناك اختلاف حول حجم المشكلة. تحدد تحقيقات نيوزغارد العديد من المقالات والمواقع الإلكترونية التي تم إنشاؤها بواسطة الذكاء الاصطناعي، مما يشير إلى عملية غير تافهة. ومع ذلك، لم تقدم التقارير الأوسع تقييمًا شاملاً لنطاق الدعاية المدفوعة بالذكاء الاصطناعي في وسائل الإعلام الصينية، مما يطرح تساؤلات مفتوحة حول عدد هذه المواقع، وحجم المحتوى المنتج، ووصول هذه العمليات. underscores هذا الفراغ الحاجة إلى مزيد من الرصد والتحليل المنهجي من قبل المنظمات المستقلة والمنصات والباحثين لقياس حجم وتأثير الدعاية المدفوعة بالذكاء الاصطناعي في النظم البيئية باللغة الصينية.
—
العلامات الحمراء وقائمة التحقق من دحض الدعاية باستخدام الذكاء الاصطناعي
يحدد قائمة المراجعة التالية علامات تحذير محددة يمكن لقراء الصحفيين والمنصات استخدامها لتحديد الدعاية التي تم إنشاؤها بواسطة الذكاء الاصطناعي في وسائل الإعلام الصينية. تم استخلاص هذه الإشارات الحمراء من تحليل NewsGuard لل文章 التي تم إنشاؤها بواسطة الذكاء الاصطناعي التي تقلد الروايات المتماشية مع الدولة ، بالإضافة إلى تقارير أوسع حول تحديات الكشف عن المحتوى الاصطناعي في اللغات غير الإنجليزية.
- غياب الشفافية:المواقع التي تستضيف المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي غالبًا ما تفتقر إلى معلومات ملكية واضحة أو قوائم موظفين تحريريين أو مصادر شفافة. عادة ما توفر المكاتب الإخبارية الشرعية هذه التفاصيل لتحقيق المصداقية.
- اللغة المتكررة أو النمطيةAI-generated articles may rely on repetitive phrases, clichés, or ideological slogans that are characteristic of state media narratives. Examples include terms such as “comprehensive national security,” “community with a shared future for mankind,” or “Western hegemony.”
- الغموض الهيكلي:مزارع المحتوى التي يتم إنشاؤها بواسطة الذكاء الاصطناعي غالبًا ما تحاكي مظهر مواقع الأخبار الشرعية ولكنها تفتقر إلى البنية التحتية للصحافة المهنية، مثل عمليات التحقق من الحقائق أو سياسات التصحيحات أو المصادر المتنوعة.
- محاذاة مع السرد الحكوميالمقالات التي تصف الأحداث المحلية والدولية باستمرار بطريقة تتوافق مع روايات وسائل الإعلام الرسمية الصينية الرسمية مثل تصوير الجهات الأجنبية بشكل سلبي أو نسب القدرة الإيجابية إلى الدولة الصينية، قد تكون دعاية تم إنشاؤها بواسطة الذكاء الاصطناعي.
- عدم وجود صوت بشري:AI-generated content قد تفتقر إلى الدقة أو السياق أو المنظور الشخصي الذي يميز الصحافة المكتوبة بيد الإنسان. وقد يظهر ذلك في استخدام لغة مفرطة في الرسمية، أو عدم نسب الادعاءات إلى مصادرها، أو غياب وجهات النظر المتنوعة.
- التوزيع الآلي:AI-generated articles are often disseminated through bot-like social media accounts or automated networks that amplify content without human engagement or context. Platforms can flag such behavior as a sign of inauthentic coordination.
- التفاصيل غير المتسقة أو المزيفةبينما قد يكون ذلك أقل شيوعًا في الدعاية السلس، قد تنتج أنظمة الذكاء الاصطناعي أحيانًا تناقضات مثل تواريخ غير صحيحة، أو اقتباسات منسوبة بشكل خاطئ، أو مزاعم غير معقولة يمكن التحقق منها مقابل مصادر موثوقة.
- الإفراط في استخدام الصور المخزنة أو الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعيبعض المواقع الدعائية التي تم إنشاؤها بواسطة الذكاء الاصطناعي تجمع بين النصوص والصور المخزنة، أو الصور أو الرسومات المولدة بواسطة الذكاء الاصطناعي، أو الرسومات العامة التي لا تتوافق مع محتوى المقالة، مما يشير إلى عدم وجود رقابة تحريرية.
—
النسخ الأصلي: الأنماط عبر المصادر والتداعيات
Taken together, the available reporting suggests a troubling pattern: AI is being repurposed not merely as a tool for efficiency in media production, but as a mechanism for scaling and automating propaganda in Chinese-language ecosystems. The most detailed evidence comes from NewsGuard’s Reality Check, which demonstrates that AI-generated articles can replicate the linguistic precision, thematic alignment, and rhetorical framing of state media narratives with remarkable fidelity. This is not a hypothetical risk, but a documented phenomenon, with concrete examples of AI-generated content that is structurally and thematically indistinguishable from propaganda produced by human authors.
أحد أهم الآثار المترتبة على هذا النمط هو تآكل الثقة في أنظمة الإعلام. فعندما تتخفى المحتويات التي تولدها الذكاء الاصطناعي في صورة صحافة شرعية، فإنها تقوض مصداقية كل من المحتوى المكتوب يدويًا والمحتوى الاصطناعي، مما يجعل من الصعب على الجمهور التمييز بين التقارير الحقيقية والدعاية. وتصبح هذه المشكلة أكثر خطورة في البيئات التي تهيمن عليها روايات aligned مع الدولة، إذ تخلق هذه الظاهرة حلقة تغذية راجعة تعزز الأنظمة الذكية الرسائل الرسمية وتضخمها في الوقت نفسه، مما يؤدي إلى تهميش وجهات النظر المعارضة. والنتيجة هي نظام دعائي يتسم بالقدرة على التعزيز الذاتي، وهو مقاوم لأي تصحيح أو رسائل مضادة.
هناك تداعٍ آخر حاسم يتمثل في التحدي المتمثل في الكشف والإنفاذ. تواجه المنصات صعوبة في التعرف على الدعاية التي تولدها الذكاء الاصطناعي، خاصة عندما تتوافق مع الروايات الحكومية أو تحاكي أسلوب المصادر الشرعية. يتفاقم هذا التحدي بسبب عدم وجود أدوات كشف موحدة للمحتوى باللغة الصينية، بالإضافة إلى الغموض الهيكلي لمزارع المحتوى التي تولده الذكاء الاصطناعي. والنتيجة هي فجوة في الكشف تسمح للدعاية بالانتشار بينما تسارع المنصات والباحثون إلى اللحاق بالركب. من غير المرجح أن تغلق هذه الفجوة دون اتخاذ إجراءات منسقة من قبل المنصات والحكومات والمنظمات المستقلة لتطوير ونشر أدوات الكشف ومتطلبات الشفافية وآليات الإنفاذ.
أخيرًا، يثير هذا النمط تساؤلات أخلاقية وسياسية حول الطبيعة مزدوجة الاستخدام للذكاء الاصطناعي. فعلى الرغم من تصميم أنظمة الذكاء الاصطناعي للتطبيقات الحميدة، إلا أنها يمكن إعادة توظيفها لأغراض دعائية بدعم تدخل بشري ضئيل. هذا التناقض في الاستخدام يربك الجهود الرامية لتنظيم الذكاء الاصطناعي، حيث قد تؤدي القيود المفروضة على تطبيق معين إلى إعاقة تطبيقات أخرى دون قصد. لذا، يتعين على صانعي السياسات ومشغلي المنصات التعامل مع كيفية التخفيف من مخاطر الدعاية بالذكاء الاصطناعي دون كبح الابتكار أو المساس بحرية التعبير. ويتطلب ذلك نهجًا دقيقًا يوازن بينDetection والشفافية والمساءلة مع ضرورة الحفاظ على فوائد الذكاء الاصطناعي في إنتاج المحتوى الإعلامي.
—
دور بيانات التدريب في الدعاية باستخدام الذكاء الاصطناعي
A critical but under-discussed factor in the rise of AI propaganda in Chinese media is the role of training data. AI language models learn from vast corpora of text, including state media content, which shapes their outputs to reflect the ideological and rhetorical patterns present in that data. NewsGuard’s analysis highlights the use of terms and framing devices characteristic of Chinese state media, suggesting that these models were trained on corpora that include official narratives. This raises ethical questions about the responsibility of AI developers and platform operators to audit and curate training data to prevent misuse for propagandistic ends. It also underscores the need for transparency in the datasets used to train AI systems, particularly in regions where state-aligned narratives are dominant.
The reliance on state media corpora for training AI models creates a perverse incentive: the more a model is exposed to state-aligned content, the more likely it is to reproduce that content in its outputs. This is not a bug, but a feature of how AI systems learn. The result is a self-reinforcing cycle in which AI-generated propaganda becomes increasingly indistinguishable from state media narratives, further entrenching official messaging while marginalizing dissenting viewpoints. Addressing this challenge requires a multi-pronged approach, including the development of alternative training datasets, the implementation of bias detection tools, and the establishment of ethical guidelines for AI development in media contexts.
—
الرد الخبير: التخفيف من انتشار الدعاية باستخدام الذكاء الاصطناعي
للفهم كيف يمكن الحد من انتشار الدعاية باستخدام الذكاء الاصطناعي في وسائل الإعلام الصينية، قمنا بدراسة استجابات الخبراء في مجالات نزاهة الإعلام، ومسؤولية المنصات، وأخلاقيات الذكاء الاصطناعي. ورغم عدم وجود حل واحد قادر على معالجة جميع جوانب المشكلة، إلا أن عدة استراتيجيات برزت كأولويات حاسمة.
أولاً، يؤكد الخبراء على ضرورة تطوير أدوات كشف محسنة مصممة خصيصًا للغات غير الإنجليزية، لا سيما الصينية. غالبًا ما تكون أنظمة الكشف الحالية مُحسّنة للمحتوى باللغة الإنجليزية، مما يترك فجوات في التغطية للغات والمناطق الأخرى. بدأت منصات مثل جوجل، التي تُشير NewsGuard إلى أنها الشركة الأم لمحركات البحث المستخدمة لعرض بعض المحتويات التي تولّدها الذكاء الاصطناعي، في الاستثمار في أدوات كشف متعددة اللغات، لكن هذه الجهود لا تزال في مراحلها المبكرة. يوصي الخبراء بأن تتعاون المنصات مع منظمات مستقلة، مثل NewsGuard، لتطوير وتحسين أدوات الكشف التي يمكنها تحديد الدعاية التي يولّدها الذكاء الاصطناعي باللغة الصينية وغيرها من اللغات عالية الخطورة.
ثانياً، يبرز الخبراء أهمية متطلبات الشفافية للمحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي. وتشمل هذه الشفافية وضع علامات واضحة للمقالات التي تم إنشاؤها بواسطة الذكاء الاصطناعي، وإفصاح عن النماذج ومجموعات البيانات المستخدمة في إنتاج المحتوى، والشفافية حول الملكية والإشراف التحريري. ومن شأن هذه المتطلبات أن تساعد الجمهور على التمييز بين المحتوى المكتوب من قبل البشر والمحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي، كما تمكن منصات البحوث من تتبع أصول الدعاية الاصطناعية. وتظهر تحليلات NewsGuard أن غياب الشفافية الهيكلي في مزارع المحتوى التي تم إنشاؤها بواسطة الذكاء الاصطناعي هو علامة حمراء رئيسية، مما يبرز الحاجة إلى مزيد من الشفافية في نظام الإعلام.
الثالث، يؤكد الخبراء دور مساءلة المنصات في التصدي للدعاية الإلكترونية الاصطناعية. يجب على المنصات أن تنفذ شروط الخدمة الخاصة بها ضد المحتوى الاصطناعي الذي يخدم الأغراض الدعائية، بما في ذلك إزالة المقالات التي تم إنشاؤها بواسطة الذكاء الاصطناعي التي تقلد روايات وسائل الإعلام الحكومية أو تنتهك السياسات المتعلقة بخداع المعلومات. ومع ذلك، فإن التنفيذ معقد بسبب عدم وجود أدوات كشف موحدة وعدم وضوح البنية التحتية للمزارع التي تنتج محتوى اصطناعي بواسطة الذكاء الاصطناعي. يوصي الخبراء بأن تتبنى المنصات نهجًا قائمًا على المخاطر فيما يتعلق بالتنفيذ، مع الأولوية لإزالة الدعاية الإلكترونية الاصطناعية ذات التأثير الكبير بينما تستثمر في إجراءات الكشف والشفافية لمعالجة المشكلة الأوسع نطاقًا.
أخيرًا، يشدد الخبراء على الحاجة إلى مبادرات التوعية العامة وآداب الإعلام. يجب أن يكون الجمهور مجهزًا بأدوات لتحديد الدعاية التي تم إنشاؤها بواسطة الذكاء الاصطناعي، بما في ذلك أعلام الحمراء المحددة في هذا التقرير. هذا يشمل التعليم حول الأنماط اللغوية والغموض الهيكلي والترتيب المواضيعي الذي يcharacterize الدعاية التي تم إنشاؤها بواسطة الذكاء الاصطناعي في وسائل الإعلام الصينية. يجب أن تكون مبادرات آداب الإعلام مخصصة للمخاطر الخاصة بالمحتويات التي تم إنشاؤها بواسطة الذكاء الاصطناعي، بما في ذلك تحديات الكشف عن الدعاية الاصطناعية وأهمية التحقق من المطالبات مع المصادر المعتمدة.
—
ماذا تفعل بشأن الدعاية الاصطناعية في وسائل الإعلام الصينية
معالجة انتشار الدعاية باستخدام الذكاء الاصطناعي في وسائل الإعلام الصينية تتطلب استجابة منسقة من المنصات وصانعي السياسات والمنظمات المستقلة والجمهور. على الرغم من عدم وجود تدخل واحد يمكنه القضاء على المشكلة بالكامل، إلا أن هناك عدة خطوات عملية يمكن اتخاذها للحد من تأثيرها وتقليل خطر تفاقمها.
للأ منصات، الأولوية هي تحسين قدرات الكشف والتنفيذ. ويشمل ذلك الاستثمار في أدوات الكشف متعددة اللغات للمحتوى الصيني، واعتماد سياسات تنفيذ قائمة على المخاطر ضد الدعاية التي تولدها الذكاء الاصطناعي، وزيادة الشفافية بشأن إزالة المحتوى الاصطناعي. كما ينبغي على المنصات التعاون مع المنظمات المستقلة، مثل NewsGuard، لتطوير وتحسين أدوات الكشف، ومشاركة أفضل الممارسات لمعالجة الدعاية التي يولدها الذكاء الاصطناعي في المناطق عالية المخاطر.
للصناع السياسيين، تتمثل التحدي في الموازنة بين الحاجة إلى التنظيم والحفاظ على حرية التعبير والابتكار. يجب أن تركز السياسات على الشفافية والمساءلة والتخفيف من المخاطر دون كبح فوائد الذكاء الاصطناعي في إنتاج المحتوى الإعلامي. ويشمل ذلك مطالبة المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي بوضع علامات واضحة عليه، وإلزام الشفافية بشأن قواعد البيانات المستخدمة في تدريب نماذج الذكاء الاصطناعي، ووضع مبادئ أخلاقية لتنمية الذكاء الاصطناعي في سياقات الإعلام. كما ينبغي على صناع السياسات النظر في دور الروايات المرتبطة بالدولة في تشكيل مخرجات الذكاء الاصطناعي، واستكشاف سبل تنويع بيانات التدريب والحد من تأثير الدعاية في أنظمة الذكاء الاصطناعي.
للمنظمات والمستقلين الباحثين، تأتي الأولوية في إجراء المراقبة والتحليل المنهجي للدعاية التي تعتمد على الذكاء الاصطناعي في وسائل الإعلام الصينية. ويشمل ذلك تحديد مزارع المحتوى التي تنتجها الذكاء الاصطناعي، وتتبع أصول المخرجات التي يولّدها الذكاء الاصطناعي إلى روايات وسائل الإعلام الحكومية، وقياس حجم التأثير الذي تحدثه الدعاية المدفوعة بالذكاء الاصطناعي. وتعد هذه الجهود حيوية لإثراء سياسات المنصات، والنقاشات السياسية، ومبادرات التوعية العامة. تلعب منظمات مثل نيوزغارد دوراً حيوياً في هذا النظام البيئي، من خلال تقديم تحليلات مفصلة على مستوى المقالات لفهم آليات الدعاية التي تعتمد على الذكاء الاصطناعي ووضع تدابير مضادة فعالة.
للجمهور، تأتي الأولوية في تطوير مهارات محو الأمية الإعلامية التي تمكنهم من التعرف على الدعاية التي تولدها الذكاء الاصطناعي. ويشمل ذلك تعريفهم بالإشارات الحمراء المذكورة في هذا التقرير، ومقارنة الادعاءات بمصادر موثوقة، وتقييم مصداقية مصادر الأخبار عبر الإنترنت بشكل نقدي. كما ينبغي تشجيع الجمهور على الإبلاغ عن المحتوى المشبوه إلى المنصات والمنظمات المستقلة، والمشاركة في حوار بناء حول مخاطر الدعاية التي يولدها الذكاء الاصطناعي في مجتمعاتهم.
—
الأسئلة الشائعة
كيف يمكن التمييز بين الدعاية الصينية التي تولدها الذكاء الاصطناعي والأخبار الشرعية؟
AI-generated propaganda في الصينية غالبًا ما تحاكي أنماط اللغة، والتوافق الموضوعي، والإطار البلاغي لروايات وسائل الإعلام الرسمية. تشمل العلامات الحمراء اللغة المتكررة أو النمطية، وعدم الشفافية بشأن الملكية أو الإشراف التحريري، والتوافق مع النقاط الرسمية، والغموض الهيكلي. عادةً ما توفر وسائل الإعلام الإخبارية الشرعية معلومات واضحة عن الملكية، وقوائم الموظفين التحريريين، ومصادر شفافة، بينما غالبًا ما تفتقر مزارع المحتوى التي تولده الذكاء الاصطناعي إلى هذه التفاصيل.
ما هي الأدوار التي تلعبها نماذج الذكاء الاصطناعي في إنتاج الدعاية في وسائل الإعلام الصينية؟
نماذج الذكاء الاصطناعي المدربة على نصوص وسائل الإعلام التابعة للدولة يمكنها تكرار الدقة اللغوية، والإطار الأيديولوجي، والأولويات الموضوعية للسرديات الرسمية. وهذا يمكّن من إنتاج دعاية سلسة وملائمة للسياق على نطاق واسع، مع الحد الأدنى من التدخل البشري. إن الاعتماد على بيانات التدريب المتوافقة مع الدولة يخلق حلقة تغذية راجعة تعزز الرسائل الرسمية وتوسع انتشارها.
لماذا يعد اكتشاف الدعاية التي تنتجها الذكاء الاصطناعي في اللغة الصينية أكثر صعوبة من اللغة الإنجليزية؟
الكشف أكثر صعوبة بسبب التعقيد اللغوي للصينية، وعدم وجود أدوات كشف موحدة للغات غير الإنجليزية، وغموض بنية مزارع المحتوى التي تولده الذكاء الاصطناعي. علاوة على ذلك، قد تتجنب الدعاية التي تولدها الذكاء الاصطناعي والمتوافقة مع الروايات الرسمية الكشف من قبل أنظمة مراقبة المنصات، التي غالبًا ما تركز على المحتوى الذي يتحدى الرسائل الرسمية.
ماذا يمكن أن تفعل المنصات لمعالجة الدعاية باستخدام الذكاء الاصطناعي في وسائل الإعلام الصينية؟
المنصات يمكنها الاستثمار في أدوات الكشف عن تعدد اللغات، واعتماد سياسات إنفاذ قائمة على المخاطر، وزيادة الشفافية بشأن إزالة المحتوى الاصطناعي. يمكن أن تساعد التعاون مع المنظمات المستقلة، مثل NewsGuard، في تحسين أدوات الكشف ومشاركة أفضل الممارسات لمعالجة الدعاية باستخدام الذكاء الاصطناعي في المناطق عالية المخاطر.
كيف يمكن للجماهير حماية أنفسهم من الدعاية التي تولدها الذكاء الاصطناعي؟
الجمهور يمكنه التعرف على العلامات الحمراء للدعاية الاصطناعية، ومقارنة الادعاءات بالمصادر الموثوقة، وتقييم مصداقية مصادر الأخبار عبر الإنترنت بشكل نقدي. كما يجب عليهم الإبلاغ عن المحتوى المشبوه إلى المنصات والمنظمات المستقلة، والمشاركة في مبادرات محو الأمية الإعلامية لتطوير المهارات اللازمة لتحديد الدعاية الاصطناعية.
—