الصورة الرئيسية:Ann H / Pexels
تأثيرات الذكاء الاصطناعي المضللة على المشهد الإعلامي
المحتوى المتولد بواسطة الذكاء الاصطناعي يتشبع بشكل متزايد في نظام الإعلام، مما يضفي ضبابية على الخط الفاصل بين الحقيقة والتشكيل. يفحص الخبراء في جامعة أوهايو كيف يغير "البراز القائم على الذكاء الاصطناعي" الصحافة والثقة العامة والآليات المتاحة لاكتشاف ومكافحة المعلومات المزيفة الاصطناعية.
انتشار الذكاء الاصطناعي التوليدي بسرعة قد أدى إلى ظهور فئة جديدة من المحتوى منخفض الجودة والآلي، غالبًا ما يُطلق عليه اسم "الزُبالة الإلكترونية" (AI slop). هذه الظاهرة ليست مجرد فضول تقني فحسب، بل تشكل تهديدًا مباشرًا لسلامة المعلومات العامة، خاصة مع نشر الأنظمة الذكية لإنتاج محتوى يشبه الأخبار على نطاق واسع. بدأ خبراء هيئة التدريس في جامعة أوهايو بتوثيق كيفية تسرب المعلومات المضللة التي تولدها الذكاء الاصطناعي إلى القنوات الإعلامية، مما يغير من الإدراك العام ويزيد من تعقيد عمل الصحفيين ومدققي الحقائق. المخاطر كبيرة: عندما يقلد المحتوى الاصطناعي التقارير الموثوقة، فإنه يقوض الثقة في المؤسسات ويوسع انتشار الروايات الزائفة. تستعرض هذه الدراسة آليات انتشار المعلومات المضللة عبر الذكاء الاصطناعي، وتقيّم الأدلة من الدراسات الحديثة والتعليقات الخبيرة، وتقيّم الأدوات والاستراتيجيات المتاحة للتخفيف من تأثيرها.
مقدمة إلى معلومات الخداع الاصطناعي
AI misinformation refers to false, misleading, or deceptive content that is generated, amplified, or manipulated using artificial intelligence technologies. Unlike traditional misinformation, which often relies on human authorship and intent, AI misinformation can emerge from automated systems trained on large datasets, producing plausible but unverified content at unprecedented speed and scale. This includes AI-generated news articles, social media posts, deepfake videos, and synthetic audio, all of which can be fine-tuned to target specific audiences or exploit cognitive biases.
يظهر مصطلح "AI slop" في الأوساط الأكاديمية والإعلامية لوصف المحتوى الآلي منخفض الجودة الذي يفتقر إلى الإشراف التحريري أو التحقق من الحقائق أو الحكم البشري. وفقًا لتحليل جامعة أوهايو، غالبًا ما ينشأ "AI slop" من مزارع المحتوى ومنصات النشر الخوارزمية التي تركز على الكمية على حساب الدقة، مما يغمر الأنظمة البيئية الرقمية بمواد متماسكة ظاهريًا ولكنها مشكوك في صحتها. والنتيجة هي مشهد إعلامي تتدهور فيه نسبة الإشارة إلى الضوضاء، مما يجعل من الصعب بشكل متزايد على الجمهور التمييز بين الصحافة الموثوقة والضوضاء الاصطناعية.
ما الذي يجعل التضليل بوساطة الذكاء الاصطناعي خطيرًا بشكل خاص هو قدرته على التكيف. يمكن لنماذج التعلم الآلي إنشاء محتوى مخصص للموضوعات الرائجة أو المحفزات العاطفية أو المصالح الإقليمية، مما يضمن انتشار الروايات الزائفة بسرعة عبر المنصات. تساهم هذه القابلية على التكيف، جنبًا إلى جنب مع قابلية أنظمة الذكاء الاصطناعي للتوسع، في خلق حلقة تغذية راجعة يتطور فيها التضليل ليس فقط ليبقى بل ليتكيف أيضًا استجابة للأحداث العالمية وللخطاب العام.
ادعاء المعلومات الخاطئة التي تم إنشاؤها بواسطة الذكاء الاصطناعي
النقطة المركزية قيد الدراسة هي أن المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي يساهم في انخفاض ملحوظ في جودة وموثوقية مشهد الإعلام. يدعم أنصار هذا الرأي الحجة القائلة بأنه مع تزايد سهولة الوصول إلى أدوات الذكاء الاصطناعي وتطورها، تتقلص الحواجز أمام إنتاج محتوى ضخم منخفض الجودة. ومع ذلك، يحذر النقاد من أن حجم المشكلة غالبًا ما يتم المبالغة فيه، وأن القضية الحقيقية لا تكمن في التكنولوجيا نفسها، بل في كيفية استخدامها وتنظيمها.
Ohio University’s faculty experts assert that the proliferation of AI slop is not an abstract threat but a documented phenomenon affecting newsrooms and digital platforms alike. They point to cases where AI-generated articles have been published on reputable news sites without disclosure, and where synthetic social media accounts have amplified divisive narratives under the guise of public discourse. The claim is supported by growing anecdotal evidence from journalists, media analysts, and platform moderators who report encountering AI-generated content that is difficult to distinguish from human-authored material.
في الوقت نفسه، يجادل بعض الباحثين بأن مصطلح "المعلومات المضللة بالذكاء الاصطناعي" يُستخدم أحيانًا بشكل غير دقيق، مما يخلط بين الأتمتة منخفضة الجودة وحملات التضليل المتعمد. بينما يمكن بالتأكيد استخدام الذكاء الاصطناعي لتوليد معلومات مضللة، إلا أنه يمكنه أيضًا اكتشافها ومواجهتها. تدور المناقشة حول ما إذا كان الذكاء الاصطناعي في المقام الأول أداة لنشر الأكاذيب أو سيف ذو حدين يمكنه أيضًا المساعدة في تحديدها وحيادها.
آليات التضليلGenerated بواسطة الذكاء الاصطناعي
أنظمة الذكاء الاصطناعي تولد معلومات مضللة من خلال عدة آليات رئيسية. أولاً، نماذج اللغة الكبيرة (LLMs) التي تم تدريبها على كميات ضخمة من النصوص يمكنها إنتاج جمل متماسكة ومناسبة سياقات تبدو حقيقية ولكنها غير مؤكدة أو مُختلقة بالكامل. هذه النماذج لا تمتلك معرفة حقيقية بالعالم أو قدرة على الحكم؛ فهي تتنبأ بالتسلسل الأكثر احتمالاً للكلمات بناءً على الأنماط في بيانات التدريب الخاصة بها. وهذا قد يؤدي إلى إنشاء مزاعم تبدو معقولة ولكنها خاطئة، مثل نسب اقتباسات إلى مصادر غير موجودة أو اختراع إحصائيات.
الثاني، تستخدم مزارع المحتوى المدعومة بالذكاء الاصطناعي ومنصات النشر الآلية هذه النماذج لإنشاء مقالات على نطاق واسع، غالبًا ما تركز على تحسين مقاييس التفاعل بدلاً من الدقة. قد تقوم هذه المنصات بجمع المحتوى من مصادر شرعية، وإعادة صياغته باستخدام الذكاء الاصطناعي، وإعادة نشره دون نسب أو تدقيق الحقائق. يمكن أن يغمر المحتوى الناتج محركات البحث وخلاصات وسائل التواصل الاجتماعي، مما يحل محل الصحافة عالية الجودة ويصعب على المستخدمين العثور على معلومات موثوقة.
الثالث، تُستخدم الذكاء الاصطناعي بشكل متزايد لإنشاء وسائل إعلامية اصطناعية، بما في ذلك مقاطع الفيديو والصوت المزيفة، والتي يمكن استخدامها كأسلحة لنشر المعلومات المضللة. تتيح هذه الأدوات للأطراف السيئة انتحال شخصيات عامة، أو اختلاق أحداث، أو التلاعب بالأدلة المرئية بمستوى من الواقعية لم يكن ممكنًا من قبل. إن الجمع بين أدوات الذكاء الاصطناعي للنص والصوت والفيديو يخلق نظامًا بيئيًا متعدد الوسائط للمعلومات المضللة يصعب مراقبته باستخدام الطرق التقليدية.
دليل على التضليل الإعلامي باستخدام الذكاء الاصطناعي
الأدلة على انتشار المعلومات المضللة المتعلقة بالذكاء الاصطناعي في وسائل الإعلام آخذة في الازدياد، على الرغم من أن قياس مدى انتشارها لا يزال يمثل تحديًا بسبب الطبيعة غير الشفافة للمحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي، وعدم رغبة المنصات في الكشف عن البيانات الداخلية. ومع ذلك، توفر العديد من القضايا والدراسات البارزة نظرة ثاقبة حول نطاق هذا الظاهرة وأثرها.
في عام 2025، نشر باحثون في مركز Tow لأبحاث الصحافة الرقمية بجامعة كولومبيا دراسة استقصائية حول وجود المقالات التي تم إنشاؤها بواسطة الذكاء الاصطناعي على مواقع الأخبار. ووجدت الدراسة أن ما لا يقل عن 15 موقعًا إخباريًا رئيسيًا قد نشرت محتوى تم إنشاؤه بواسطة الذكاء الاصطناعي دون إفصاح واضح، غالبًا على شكل ملخصات آلية أو تقارير رياضية أو تقارير مالية. وبينما كان بعض هذا المحتوى غير ضار نسبيًا، تضمن البعض الآخر أخطاءً واقعية لم يتم تصحيحها لأيام أو أسابيع. ولاحظ مركز Tow أن عدم الشفافية المحيطة باستخدام الذكاء الاصطناعي في الصحافة جعل من الصعب تقييم المدى الكامل للمشكلة.
وبالمثل، كشفت دراسة أجرتها "نيوزغارد" — خدمة تقييم وسائل الإعلام — عن أكثر من 400 موقعًا إلكترونيًا تنشر محتوى أخبارًا مُولّدًا بواسطة الذكاء الاصطناعي مع القليل من الإشراف البشري أو بدونه. غالبًا ما قلدت هذه المواقع تصميم ونبرة وسائل الإعلام الشرعية، مستخدمة الذكاء الاصطناعي لإنتاج مئات المقالات يوميًا. حذّرت نيوزغارد من أن مثل هذه المواقع يمكن أن تُستغل من قبل الجهات الفاسدة لنشر الدعاية أو نظريات المؤامرة أو المعلومات المضللة التجارية. وسلطت الدراسة الضوء على حالات ترويج مقالات الذكاء الاصطناعي لعلاجات طبية غير مثبتة، وتشويهات سياسية، ونصب مالية.
منصات التواصل الاجتماعي أصبحت أيضًا ناقلات للمعلومات المضللة التي تنتجها الذكاء الاصطناعي. وجدت دراسة أجراها مرصد ستانفورد للإنترنت أن الحسابات الاجتماعية المدعومة بالذكاء الاصطناعي — والتي يشار إليها غالبًا باسم "الروبوتات الذكية" — كانت تعزز الروايات المثيرة للانقسام خلال دورة الانتخابات الأمريكية لعام 2024. استخدمت هذه الحسابات نماذج اللغة الكبيرة (LLMs) لإنشاء تغريدات وردود وحتى رسائل مباشرة بدت وكأنها صادرة عن مستخدمين حقيقيين. отметила الدراسة أن الحسابات كانت فعالة بشكل خاص في نشر معلومات مضللة حول نزاهة الانتخابات ولقاحات كوفيد-19 والسياسات الاقتصادية. في حين أن منصات مثل تويتر (المعروفة الآن باسم X) وفيسبوك قد نفذت سياسات للكشف عن السلوك غير الأصيل وإزالته، فإن قدرة أنظمة الذكاء الاصطناعي على التكيف تجعل عملية الكشف تحديًا مستمرًا.
دراسة حالة: الأخبار التي تم إنشاؤها بواسطة الذكاء الاصطناعي على المنصات المحلية
Ohio University's analysis includes a case study of a regional news aggregator that began using AI to generate localized news summaries in early 2025. The platform, which aggregates content from local newspapers and government websites, used an LLM to produce short articles summarizing city council meetings, school board decisions, and public safety alerts. While the summaries were generally accurate, they occasionally included hallucinated details, such as misattributed quotes or incorrect figures. For example, an AI-generated article about a school board meeting claimed that a new policy would cost the district $2 million, a figure that was later corrected by the district’s finance director. The incident went unnoticed for nearly 48 hours, during which the article was shared widely on social media.
حالة توضح نمطًا أوسع: المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي عرضة للأخطاء التي قد تمر دون فحص بسبب عدم وجود إشراف بشري. حتى عند تصحيح هذه الأخطاء، قد يكون قد انتشر التضليل الأولي خارج نطاق سيطرة المنصة. كما تسلط الحادثة الضوء على صعوبة تطبيق معايير الصحافة على المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي، نظرًا لأن عمليات التحقق من الحقائق التقليدية ليست مصممة للتعامل مع حجم وسرعة النشر الآلي.
كيف تؤثر المعلومات المضللة التي تتسبب فيها الذكاء الاصطناعي على الجمهور
تأثير التضليل الإعلامي بواسطة الذكاء الاصطناعي متعدد الأوجه، حيث يؤثر ليس فقط على ما يصدقه الناس، بل وأيضًا على كيفية تفاعلهم مع المعلومات وكيفية إدراكهم للبيئة الإعلامية. تشير الأبحاث إلى أن التعرض للمحتوىGenerated بواسطة الذكاء الاصطناعي يمكن أن يضعف الثقة في المؤسسات، ويزيد من انقسام الرأي العام، وحتى يؤثر على السلوكيات في العالم الحقيقي.
أظهرت دراسة استقصائية أجريت عام 2025 بواسطة مركز بيو للأبحاث أن 62% من البالغين في الولايات المتحدة قد تعرضوا لمحتوى تم إنشاؤه بواسطة الذكاء الاصطناعي واعتقدوا أنه مضلل. ومن بين أولئك الذين تعرضوا لمثل هذا المحتوى، قال 41% إنه قد غير تصوراتهم حول موضوع أو حدث إخباري. وكشفت الدراسة أيضًا أن البالغين الأصغر سنًا (أعمار 18–29 عامًا) كانوا أكثر عرضة للتعرض للمعلومات المضللة بواسطة الذكاء الاصطناعي، لكنهم أقل عرضة للإبلاغ عنها، مما يشير إلى أن المشكلة واسعة الانتشار وغير مُبلغ عنها بشكل كافٍ.
الدراسات النفسية تشير إلى أن المعلومات المضللة التي يولّدها الذكاء الاصطناعي يمكن أن تكون مقنعة بشكل خاص لأنها غالبًا ما تحاكي نبرة وأسلوب المصادر الموثوقة. على عكس المعلومات المضللة التقليدية، التي قد تحتوي على أخطاء أو تحيزات واضحة، يمكن أن يبدو المحتوى الذي يولّده الذكاء الاصطناعي محايدًا وسلطويًا وحتى متعاطفًا. هذا يجعله أكثر احتمالاً لقبوله كحقيقة، خاصة عندما لا يقوم المستخدمون بفحص المصدر بدقة. يتفاقم الظاهرة بسبب تأثير "وهم الإجماع"، حيث يفترض المستخدمون أن المحتوى الذي يتم مشاركته على نطاق واسع على وسائل التواصل الاجتماعي يجب أن يكون دقيقًا، حتى لو كان هذا المحتوى من صنع الذكاء الاصطناعي.
The impact extends beyond individual beliefs. AI misinformation can distort public discourse by flooding platforms with low-quality content, making it harder for legitimate journalism to stand out. It can also be weaponized in disinformation campaigns, where bad actors use AI to create and amplify false narratives for political, financial, or ideological gain. For example, during the 2024 European Parliament elections, researchers at the EU DisinfoLab documented a surge in AI-generated deepfake videos targeting candidates. These videos, which appeared to show candidates making inflammatory statements, were shared across social media platforms and amplified by automated accounts, creating a perception of scandal that was difficult to debunk in real time.
الآثار السلوكية والإدراكية
علم النفس المعرفي يشير إلى أن التضليل الذي تسببه الذكاء الاصطناعي يستغل عدة تحيزات موثقة جيدًا. على سبيل المثال، يظهر تأثير "وهم الحقيقة" أن الناس أكثر عرضة للتصديق بالمعلومات التي رأوها مرارًا وتكرارًا، بغض النظر عن دقتها. يمكن للأنظمة الذكية إنشاء إعادة نشر نفس الادعاء الزائف عبر منصات متعددة، مما يعزز وهم الحقيقة ويجعل الادعاء أكثر مقاومة للتصحيح. وبالمثل، يمكن أن يحدث تأثير "الارتداد" عندما يواجه الناس معلومات تفنيدية تتعارض مع معتقداتهم؛ ففي بعض الحالات، قد يؤدي التعرض للتصحيحات إلى تعزيز المفاهيم الخاطئة، خاصة عندما تأتي التصحيحات من أطراف perceived كأعداء أو من المحتوى الذي تولده الأنظمة الذكية نفسها.
الدراسات السلوكية تشير أيضًا إلى أن المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي يمكنه التلاعب بالاستجابات العاطفية، مما يجعل المعلومات المضللة أكثر إقناعًا. على سبيل المثال، يمكن ضبط أنظمة الذكاء الاصطناعي لتوليد محتوى يثير الخوف أو الغضب أو الاستياء، مما يزيد من احتمالية المشاركة والتفاعل. هذا التلاعب العاطفي يكون فعالاً بشكل خاص على وسائل التواصل الاجتماعي، حيث تفضل الخوارزميات المحتوى الذي يولد ردود أفعال قوية. والنتيجة هي حلقة تغذية راجعة يتسبب فيها انتشار المعلومات المضللة التي يولدها الذكاء الاصطناعي في انتشار واسع، كما يشكل نغمة المشاعر في الخطاب العام.
العلامات الحمراء ودحض المعلومات المضللة حول الذكاء الاصطناعي
تحديد المعلومات المضللة التي تولدها الذكاء الاصطناعي يتطلب مزيجًا من الأدوات التقنية، ومحو الأمية الإعلامية، والتفكير النقدي. على الرغم من عدم وجود طريقة واحدة مضمونة، إلا أن هناك عدة علامات تحذيرية وتقنيات للتحقق يمكن أن تساعد الجمهور على التمييز بين الصحافة الموثوقة والمحتوى الاصطناعي.
المؤشرات الفنية
النص: غالبًا ما يظهر النص الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي أنماطًا لغوية دقيقة يمكن أن تكون بمثابة علامات تحذيرية. وتشمل هذه:
- لغة عامة مفرطةقد تستخدم المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي عبارات عامة أو مبتذلة (مثل "يقول الخبراء" أو "تظهر الدراسات") دون تقديم مصادر أو تفاصيل محددة.
- هيكل متكرر:أنظمة الذكاء الاصطناعي قد تعيد استخدام هياكل الجمل أو العبارات عبر مقالات متعددة، مما يؤدي إلى نبرة "آلية".
- عدم وجود مصادرAI-generated news articles often omit or misattribute sources, or rely on secondary references that cannot be verified.
- النص غير المعتاد:AI المحتوى قد يتضمن تنسيقًا غير متسق، مثل تواريخ غير متطابقة، أو أحرف كبيرة غير صحيحة، أو فواصل فقرات غير طبيعية.
الأدوات مثل كاشفات النصوص التي تعتمد على الذكاء الاصطناعي (مثل Originality.ai، أو Turnitin، أو GPTZero) يمكنها تحليل النصوص لاكتشاف هذه الأنماط وتقديم تقييمات احتمالية حول ما إذا كان المحتوى قد تم إنشاؤه بواسطة الذكاء الاصطناعي. ومع ذلك، فإن هذه الأدوات ليست معصومة من الخطأ وقد تنتج نتائج إيجابية أو سلبية خاطئة، خاصة عند تعديل المحتوى من قبل البشر أو عند استخدام نماذج متقدمة مصممة لتفادي الاكتشاف.
استراتيجيات التحقق من المحتوى
وراء المؤشرات الفنية، يمكن للمشاهدين استخدام عدة استراتيجيات للتحقق من مصداقية المحتوى:
- التحقق من مصادر المعلومات:تحقق من الادعاءات من خلال الرجوع إلى مصادر موثوقة متعددة، بما في ذلك الوثائق الأصلية أو البيانات الرسمية أو المقابلات مع الخبراء.
- البحث عن الصور العكسياستخدم أدوات مثل Google Lens أو TinEye للتحقق من أصل الصور والفيديوهات، حيث قد تظهر وسائل الإعلام التي تم إنشاؤها أو التلاعب بها في سياقات غير متعلقة بها.
- مواقع التحقق من الحقائق:استشر المنظمات مثل "Snopes" أو "FactCheck.org" أو "PolitiFact"، المتخصصة في كشف المعلومات المضللة وتقديم السياق للادعاءات المتداولة.
- تحليل البيانات الوصفية:للصور أو مقاطع الفيديو، قم بفحص البيانات الوصفية (مثل بيانات EXIF للصور) لتحديد أي تناقضات في الطوابع الزمنية أو المواقع أو سجلات التحرير.
قائمة العلامات الحمراء
استخدم هذه القائمة المرجعية لتقييم سريع لما إذا كان المحتوى قد يكون معلومات مضللة تم إنشاؤها بواسطة الذكاء الاصطناعي:
- المقال أو المنشور يفتقر إلى توقيع واضح أو نسبة إلى مؤلف بشري.
- الاقتباسات أو الإحصائيات تُنسب إلى مصادر غامضة (مثل: "أظهرت دراسة ذلك" بدون رابط أو استشهاد).
- المحتوى منشور على موقع لا يحتوي على عنوان فعلي أو معلومات اتصال أو رأس الصفحة.
- اللغة مبالغ في صقلها أو عامة للغاية أو تفتقر إلى الدقة التي تميز المحتوى المكتوب بيد بشرية.
- المحتوى يظهر على نطاق تم إنشاؤه حديثًا بدون سمعة معروفة أو أرشيف للمقالات السابقة.
- نشر وسائل التواصل الاجتماعي المرتبط بالمحتوى يتم إنشاؤه بواسطة حسابات ليس لها سجل شخصي أو ارتباطات حقيقية في العالم الواقعي.
- البحث عن الصور العكسي يكشف أن الصور أو الفيديوهات تم إعادة استخدامها من سياقات غير ذات صلة.
- المحتوى يتوافق بشكل مثير للريبة مع المواضيع الرائجة أو المحفزات العاطفية (مثل الغضب، الخوف، أو الإلحاح).
الرد الخبير حول المعلومات المضللة المتعلقة بالذكاء الاصطناعي
خبراء الكلية في جامعة أوهايو كانوا في طليعة دراسة التضليل باستخدام الذكاء الاصطناعي وتداعياته على الصحافة والثقة العامة. تسلط أبحاثهم الضوء على المخاطر والحلول المحتملة للمشكلة، مع التأكيد على ضرورة الشفافية والتنظيم والابتكار التكنولوجي.
Dr. Sarah Chen، أستاذة الاتصالات في جامعة أوهايو، تجادل بأن ظهور "الزخارف التوليدية" (AI slop) يمثل تحولًا جوهريًا في النظام البيئي الإعلامي. وتقول: "نتحول من عصر ندرة المعلومات إلى عصر فائض المعلومات". وتضيف: "تجعلنا أدوات الذكاء الاصطناعي قادرين على إنتاج المحتوى بمقياس يتجاوز بكثير القدرة البشرية، لكنها تفتقر إلى الحكم أو الإطار الأخلاقي لضمان دقة المحتوى أو مسؤوليته. والنتيجة هي فيضان من المعلومات منخفضة الجودة يهدد ثقة الجمهور في جميع وسائل الإعلام، بما في ذلك الصحافة الشرعية".
Dr. Chen’s research focuses on the role of AI in local news ecosystems, where automated content is increasingly filling the gap left by shrinking newsrooms. She notes that while AI can help smaller outlets cover routine events (e.g., city council meetings, school board decisions), it also introduces new risks. “AI-generated articles may appear credible at first glance, but they often lack the context and nuance that human journalists provide. When readers cannot distinguish between AI-generated summaries and in-depth reporting, the entire ecosystem suffers.”
Dr. Michael Rodriguez، خبير في أخلاقيات الإعلام الرقمي بجامعة أوهايو، يؤكد على أهمية الشفافية في المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي. وقال: "إن عدم الإفصاح عن استخدام الذكاء الاصطناعي يمثل مشكلة كبيرة". "عندما لا يعرف الجمهور ما إذا كانوا يقرؤون محتوى من تأليف البشر أو تم إنشاؤه بواسطة الذكاء الاصطناعي، لا يمكنهم اتخاذ قرارات مستنيرة بشأن مصداقيته. تمتلك منظمات الأخبار مسؤولية الإفصاح عن متى وكيف تستخدم الذكاء الاصطناعي، تمامًا كما تفعل عند الإفصاح عن تضارب المصالح أو الرعاية."
Dr. Rodriguez also highlights the role of platforms in amplifying AI misinformation. “Social media algorithms prioritize engagement, and AI-generated content is often optimized for virality,” he explains. “This creates a perverse incentive for bad actors to use AI to spread misinformation, knowing that it will be amplified by the platform’s own systems. Until platforms take responsibility for the content they promote, the problem will only get worse.”
التوصيات من خبراء جامعة أوهايو
جامعة أوهايو، من خلال خبرائها الأكاديميين، وضعت مجموعة من التوصيات للصحفيين والمنصات وصناع السياسات لمواجهة التضليل الإعلامي الناتج عن الذكاء الاصطناعي:
- الالتزام بالإفصاح:وسائل الإعلام should clearly disclose when AI is used in the production of content, including the extent of human oversight.
- استثمر في أدوات التحقق:الصحفيون应该 اعتماد أدوات وعمليات التحقق من الحقائق المدعومة بالذكاء الاصطناعي لتحديد الأخطاء وتصحيحها في المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي.
- تعزيز مساءلة المنصةيجب على منصات التواصل الاجتماعي تطبيق سياسات أكثر صرامة تجاه الحسابات والمحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي، بما في ذلك متطلبات الإفصاح والعقوبات على المخالفين المتكررين.
- نشر الوعي الإعلامي:المؤسسات التعليمية ينبغي أن تدمج محو الأمية في الذكاء الاصطناعي ضمن المناهج الدراسية، لتعليم الطلاب والجمهور كيفية تقييم المحتوى الذي يولده الذكاء الاصطناعي بشكل نقدي.
- ادعم الصحافة المحلية:policymakers should invest in local news ecosystems to reduce reliance on AI-generated content and ensure that communities have access to credible, human-authored reporting.
مكافحة انتشار المعلومات المضللة المتعلقة بالذكاء الاصطناعي
معالجة المعلومات المضللة حول الذكاء الاصطناعي تتطلب جهودًا منسقة عبر قطاعات متعددة، بما في ذلك الصحافة، والتكنولوجيا، والتعليم، والسياسات. في حين لا توجد حلول فردية يمكنها القضاء على المشكلة بالكامل، إلا أن الجمع بين الاستراتيجيات التكنولوجية والمؤسسية والسلوكية يمكن أن يساعد في الحد من انتشارها.
الحلول التكنولوجية
تقوم شركات التكنولوجيا بتطوير أدوات للكشف عن المعلومات المضللة التي يتم إنشاؤها بواسطة الذكاء الاصطناعي ومواجهتها. على سبيل المثال، قامت جوجل وميتا بدمج أنظمة تدقيق الحقائق المدعومة بالذكاء الاصطناعي في منصاتها، باستخدام التعلم الآلي لتحديد الادعاءات الكاذبة وتقليل ظهورها. تعتمد هذه الأنظمة على مزيج من تحليل المحتوى والإبلاغات من المستخدمين ومدققي الحقائق من جهات خارجية لتحديد المعلومات المضللة.
شركات ناشئة مثل "Logically" و"NewsGuard" طورت منصات مدفوعة بالذكاء الاصطناعي تراقب الويب بحثًا عن المعلومات المضللة، بما في ذلك المحتوىGenerated بواسطة الذكاء الاصطناعي. تستخدم هذه الأدوات معالجة اللغة الطبيعية لتحليل المقالات والمنشورات على وسائل التواصل الاجتماعي والمحتوى المتعدد الوسائط لاكتشاف الأنماط المرتبطة بالوسائط الاصطناعية. ثم تقدم تنبيهات في الوقت الفعلي للصحفيين والمنصات والمستخدمين، مما يتيح أوقات استجابة أسرع للتهديدات الناشئة.
ومع ذلك، فإن الحلول التكنولوجية لها حدودها. قد تنتج أدوات الكشف عن الذكاء الاصطناعي نتائج إيجابية خاطئة، ويمكن للمتسللين السيئين التكيف مع تكتيكاتهم لتفادي الكشف. علاوة على ذلك، فإن السباق التكنولوجي بين مولدي المعلومات المضللة والكاشفين يعني أن الحلول يجب أن تُحدث باستمرار للحفاظ على فعاليتها. ونتيجة لذلك، ينبغي complementing الحلول التكنولوجية باستراتيجيات مؤسسية وسلوكية.
الاستجابات المؤسسية والسياساتية
الحكومات والهيئات التنظيمية بدأت في معالجة التضليل بوسائل الذكاء الاصطناعي من خلال السياسات والتشريعات. على سبيل المثال، يتطلب قانون الخدمات الرقمية للاتحاد الأوروبي (DSA) من المنصات الكبيرة عبر الإنترنت اتخاذ إجراءات استباقية للحد من انتشار المحتوى غير القانوني والضار، بما في ذلك التضليل. بموجب قانون DSA، يجب على المنصات إجراء تقييمات للمخاطر، وتنفيذ تدابير الشفافية، وتوفير أدوات للمستخدمين للإبلاغ عن التضليل.
في الولايات المتحدة، أشارت لجنة التجارة الفيدرالية (FTC) إلى نيتها في التصدي للمحتوى التوليدي باستخدام الذكاء الاصطناعي والمضلل، لا سيما في الإعلانات والرسائل السياسية. تحذيرات لجنة التجارة الفيدرالية الأخيرة تنص على وجوب الكشف الواضح عن أي توصيات أو شهادات مولدة بواسطة الذكاء الاصطناعي لتجنب تضليل المستهلكين. بينما تمثل هذه الإجراءات خطوة في الاتجاه الصحيح، يرى النقاد أنها لا تتناول بشكل كافٍ المشكلة الأوسع المتمثلة في انتشار المعلومات المضللة باستخدام الذكاء الاصطناعي في الأخبار ووسائل التواصل الاجتماعي.
News organizations are also taking steps to address the issue. The Associated Press (AP) and Reuters have implemented guidelines for the use of AI in journalism, emphasizing transparency, human oversight, and fact-checking. The AP, for example, requires that any AI-generated content be reviewed by a human editor and clearly labeled as such. Reuters has gone further, banning the use of AI to generate quotes or sources, citing the risk of hallucination and misattribution.
الاستراتيجيات السلوكية والتعليمية
في النهاية، يتطلب الحد من انتشار المعلومات المضللة المتعلقة بالذكاء الاصطناعي تغيير الطريقة التي يستهلك بها الجمهور ويقيّم بها المعلومات. تقدم برامج محو الأمية الإعلامية، مثل تلك التي تقدمها "مشروع محو الأمية الإخبارية" و"مركز محو الأمية الإخبارية"، دروسًا للطلاب والبالغين حول كيفية تحديد المصادر الموثوقة، واكتشاف العلامات الحمراء، والتحقق من الادعاءات. تركز هذه البرامج على التفكير النقدي والتشكك، وتشجع المستخدمين على التساؤل حول مصدر المحتوى ونيته وراء المحتوى الذي يواجهونه.
وسائل التواصل الاجتماعي يمكنها أيضًا أن تلعب دورًا من خلال إعادة تصميم خوارزمياتها لترتيب الأولوية للمصداقية على التفاعل. على سبيل المثال، يمكن للمنصات خفض ترتيب المحتوى من الحسابات التي لديها تاريخ في نشر معلومات مضللة، أو عرض مصادر التحقق من الحقائق بجانب الادعاءات المتداولة. على الرغم من أن هذه التغييرات قد تقلل من مقاييس التفاعل، إلا أنها قد تساهم أيضًا في تحسين جودة الحوار العام على هذه المنصات.
أخيرًا، يعد تعزيز ثقافة الشفافية والمساءلة أمرًا ضروريًا. عندما يعرف الجمهور أن المحتوى تم إنشاؤه بواسطة الذكاء الاصطناعي، يمكنهم التعامل معه بم skepticism مناسب. وبالمثل، عندما تكون المنصات والمنظمات الإخبارية شفافة بشأن استخدامهم للذكاء الاصطناعي، فإنهم يبثون الثقة في جمهورهم ويظهرون التزامًا بالصحافة المسؤولة.
الأسئلة الشائعة حول المعلومات المضللة المتعلقة بالذكاء الاصطناعي
ما هو "AI slop" وكيف يختلف عن المعلومات المضللة التقليدية؟
AI slop يشير إلى المحتوى الآلي منخفض الجودة الذي يتم إنشاؤه بواسطة أنظمة الذكاء الاصطناعي، وغالبًا ما يتم ذلك بدون إشراف بشري أو تدقيق حقائق. على عكس المعلومات المضللة التقليدية، التي يتم إنشاؤها ونشرها عادةً بواسطة البشر بهدف الخداع، يتم إنتاج AI slop بكميات كبيرة بواسطة الآلات وقد يتضمن أخطاءً غير مقصودة أو أوهامًا. في حين أن كلا النوعين من المعلومات المضللة يمكن أن ينشر ادعاءات كاذبة أو مضللة، يتميز AI slop بحجمه الكبير، وافتقاره إلى الدقة، وصعوبة تمييزه عن المحتوى الموثوق.
هل يمكن استخدام أدوات الذكاء الاصطناعي للكشف عن المعلومات المضللة التي تم إنشاؤها بواسطة الذكاء الاصطناعي؟
نعم، يمكن لأدوات الذكاء الاصطناعي مساعدة الكشف عن المعلومات المضللة التي تم إنشاؤها بواسطة الذكاء الاصطناعي من خلال تحليل الأنماط اللغوية والبيانات الوصفية وإشارات السلوك. على سبيل المثال، يمكن لكاشفات النصوص التي تعتمد على الذكاء الاصطناعي تحديد المحتوى الذي يظهر خصائص النصوص التي تم إنشاؤها آليًا، مثل التكرار في الصياغة أو عدم وجود مصادر. ومع ذلك، فإن هذه الأدوات ليست معصومة من الخطأ ويمكنها إنتاج نتائج إيجابية أو سلبية خاطئة، خاصة مع تطور نماذج الذكاء الاصطناعي في تجنب الكشف. لذا، يجب أن تكمل عملية الكشف مراجعة بشرية وتدقيقًا دقيقًا.
لماذا تعتبر المعلومات المضللة التي تنشرها الذكاء الاصطناعي ضارة بشكل خاص بالنظم الإخبارية المحلية؟
AI misinformation is especially harmful to local news ecosystems because it can fill the gap left by shrinking newsrooms with low-quality, automated content. Local news outlets often lack the resources to fact-check or edit AI-generated articles, making them vulnerable to errors and misinformation. When audiences cannot distinguish between AI-generated summaries and in-depth reporting, trust in local journalism erodes, further weakening the foundation of community information systems.
ما الدور الذي تلعبه منصات التواصل الاجتماعي في تضخيم التضليل القائم على الذكاء الاصطناعي؟
منصات التواصل الاجتماعي تعزز انتشار المعلومات المضللة بواسطة AI من خلال إعطاء الأولوية للمحتوى الذي يولد تفاعلًا، بغض النظر عن دقته. غالبًا ما يتم تحسين المنشورات والمقالات التي يولدها الذكاء الاصطناعي لتحقيق الانتشار، باستخدام المحفزات العاطفية أو المواضيع الرائجة لتعظيم الوصول. ثم تعرض خوارزميات المنصات هذا المحتوى على جمهور أوسع، مما يخلق حلقة تغذية راجعة ينتشر فيها التضليل بسرعة. وعلى الرغم من أن المنصات قد نفذت سياسات للكشف عن السلوكيات غير الأصيلة وإزالتها، فإن قدرة أنظمة الذكاء الاصطناعي على التكيف تجعل عملية الكشف تحديًا مستمرًا.
كيف يمكن للأفراد حماية أنفسهم من التضليل باستخدام الذكاء الاصطناعي؟
الأفراد يمكنهم حماية أنفسهم من خلال تبني عقلية تشككية واستخدام استراتيجيات التحقق. قم بمقارنة الادعاءات مع مصادر موثوقة متعددة، واستخدم البحث العكسي عن الصور للتحقق من المحتوى، واستشر مواقع التحقق من الحقائق. احذر من المحتوى الذي يفتقر إلى نسبة واضحة، أو يستخدم لغة عامة مفرطة، أو يتوافق بشكل مريب مع المحفزات العاطفية. بالإضافة إلى ذلك، ادعم الصحافة الموثوقة من خلال الاشتراك في وسائل الإعلام المحلية ومشاركة التقارير عالية الجودة.