الصورة الرئيسية:Ann H / Pexels
جيمي ويلز حول ثقة المعلومات المضللة في الذكاء الاصطناعي
ويكيبيديا المشارك في التأسيس جيمي ويلز قد تحدى علنًا نهج صناعة التكنولوجيا تجاه التضليل المدفوع بالذكاء الاصطناعي، زاعمًا أن الثقة لا يمكن إعادة بنائها من خلال الغموض الخوارزمي وحده. وقد كشفت تصريحاته، التي تم تداولها عبر بارونز و ذا وول ستريت جورنال، عن تزايد الانقسام بين مؤيدي المصدر المفتوح والمطورين المؤسسيين للذكاء الاصطناعي حول كيفية حكم الحقيقة الرقمية.
في يوليو 2026، استخدم جيمي ويلز—المؤسس المشارك لـويكيبيديا وداعم طويل الأمد للمعرفة المفتوحة—منصتين إعلاميتين ماليتين رئيسيتين لنقد دور الذكاء الاصطناعي في نشر المعلومات المضللة ولاقتراح إطار عمل لاستعادة ثقة الجمهور في المعلومات الرقمية. تم نشر الادعاءات، التي صدرت في غضون 24 ساعة من بعضها البعض من قبل بارونز وذا وول ستريت جورنال، لتتجمع حول thesis رئيسية واحدة: أن أنظمة الذكاء الاصطناعي، ما لم يتم تنظيمها بعناية وجعلها شفافة، فإنها تخاطر بتعميق أزمة المعلومات المضللة بدلاً من حلها. ومع ذلك، تختلف وسائل الإعلام في التركيز—فبارونز تضع المناقشة في سياق الأسواق المالية وثقة المؤسسات، بينما تركز ذا وول ستريت جورنال على آليات حوكمة الذكاء الاصطناعي ودور مجتمعات المصدر المفتوح. يستعرض هذا التحليل كلا الروايتين، ويحدد مجالات الاتفاق والاختلاف، ويقيّم الآثار الأوسع على محو الأمية الرقمية والمجتمعات عبر الإنترنت والسياسات.
مقدمة إلى تقاطع الذكاء الاصطناعي والمعلومات المضللة
أدى التكامل السريع للذكاء الاصطناعي التوليدي في محركات البحث ومنصات التواصل الاجتماعي وأنظمة توزيع الأخبار إلى إدخال طبقة جديدة من التعقيد إلى المشكلة طويلة الأمد المتمثلة في انتشار المعلومات المضللة عبر الإنترنت. وعلى عكس حملات التضليل التقليدية، التي تعتمد على فاعلين بشريين لتلفيق أو تشويه المحتوى، يمكن للمعلومات المضللة التي يولّدها الذكاء الاصطناعي أن تتوسع فورًا، وتقلد المصادر الموثوقة، وتتكيف مع سلوك المستخدمين في الوقت الفعلي. وقد أثار هذا قلقًا بشأن احتمال أن يعزز الذكاء الاصطناعي ليس فقط الأكاذيب الموجودة، بل وأيضًا خلق واقع اصطناعي بالكامل—روايات لم توجد من قبل في الخطاب البشري.
جيمي ويلز، الذي ظل مشروع ويكيبيديا الخاص به لفترة طويلة معقلاً للمعرفة الجماعية القابلة للتحقق، قد وضع نفسه في مواجهة النماذج الذكية المغلقة والمملوكة للقطاع الخاص التي طورتها كبرى شركات التكنولوجيا. تتركز انتقادات ويلز على غموض هذه الأنظمة: فعلى الرغم من تدريب نماذج الذكاء الاصطناعي على مجموعات بيانات ضخمة—غالباً ما تشمل ويكيبيديا نفسها—إلا أن عمليات اتخاذ القرار الداخلية فيها ومصادرها والتحيزات المحتملة لا تخضع للتدقيق العام. ويجادل ويلز بأن هذا النقص في الشفافية يقوض الثقة ذاتها التي يفترض أن يعيد الذكاء الاصطناعي بناؤها.
Both Barron’s and The Wall Street Journal report that Wales advocates for a return to “radical transparency” in AI development, including open-source model releases, mandatory disclosure of training data provenance, and third-party audits of AI outputs. While these ideas are not new in tech policy circles, their articulation by a figure like Wales—who built one of the internet’s most trusted knowledge platforms—gives them renewed salience in the current debate over AI governance.
ماذا ي rapporte Barron’s و WSJ: تحليل مقارن
Barron’s وWall Street Journal كلاهما يغطيان تصريحات جيمي ويلز في يوليو 2026، لكنهما يفعلان ذلك من خلال زوايا مختلفة. يتناول Barron’s النقاش في سياق الأسواق المالية وثقة المؤسسات، مع تسليط الضوء على المخاطر التي يشكلها الذكاء الاصطناعي على ثقة المستثمرين وسمعة الشركات. من ناحية أخرى، يركز The Wall Street Journal على الأبعاد التقنية والإدارية للذكاء الاصطناعي، بما في ذلك دور مجتمعات المصادر المفتوحة والتحديات المتعلقة بتنظيم النماذج الاحتكارية.
According to Barron’s, Wales warned that AI-generated misinformation could destabilize financial markets by eroding trust in official corporate disclosures and media reports. The article highlights a scenario in which AI tools, trained on outdated or manipulated data, produce plausible but false earnings forecasts or regulatory filings, which are then amplified by trading algorithms and social media. Barron’s quotes Wales as saying, “When investors can’t distinguish between a real SEC filing and an AI hallucination, the entire market becomes a house of cards.” This framing aligns with Barron’s broader editorial focus on financial stability and the intersection of technology and capital markets.
بينما وصفت رويترز X، ركزت تقارير وكالة أسوشيتد برس على Y
The Wall Street Journal, من ناحية أخرى، يركز تغطيته على دعوة ويلز لنماذج الذكاء الاصطناعي مفتوحة المصدر والمراجعات العامة. تناقش المقالة حجة ويلز بأن الأنظمة الاحتكارية للذكاء الاصطناعي—التي تسيطر عليها حفنة من عمالقة التكنولوجيا—تخلق "عجزًا في الثقة" لأن مخرجاتها لا يمكن التحقق منها بشكل مستقل. يستشهد المقال بويليز قائلًا: "الشفافية ليست اختيارية. إذا لم نتمكن من رؤية كيف توصل الذكاء الاصطناعي إلى استنتاج، لا يمكننا الوثوق به—ولا ينبغي لنا ذلك". كما يسلط المقال الضوء على انتقاد ويلز لشركات الذكاء الاصطناعي التي تعامل بيانات التدريب كملكية خاصة، زاعمًا أن هذا السرية يمكّن من انتشار المعلومات المتحيزة أو غير الدقيقة.
Where the two outlets diverge most sharply is in their treatment of solutions. Barron’s emphasizes regulatory oversight—particularly from financial regulators like the SEC—as a necessary intervention to prevent AI-driven market manipulation. The Journal, however, focuses on community-driven solutions, such as open-source model releases and decentralized auditing networks. This divergence reflects the broader divide in tech policy: one camp favors top-down regulation, while the other advocates for bottom-up, open collaboration.
على الرغم من هذه الاختلافات، يتفق كلا المصدرين على premise أساسية مشتركة: أن الذكاء الاصطناعي، كما يُستخدم حاليًا، يشكل تهديدًا كبيرًا للثقة العامة في المعلومات. تصف مجلة بارون هذا التهديد من حيث الآثار الاقتصادية، بينما تصفه صحيفة وول ستريت جورنال من حيث الجوانب التقنية والحكم التنظيمي. معًا، يعرضان أزمة مزدوجة: أزمة تتعلق بالنزاهة المالية وأخرى تتعلق بالنزاهة المعلوماتية—كلتاهما تنبع من نفس المشكلة الكامنة المتمثلة في عدم وجود شفافية كافية في الذكاء الاصطناعي.
تناقضات وثغرات
أحد الفجوات الملحوظة في كلا التقريرين هو عدم وجود أمثلة ملموسة عن المعلومات المضللة التي تم توليدها بواسطة الذكاء الاصطناعي والتي تسببت في ضرر يمكن قياسه في الأسواق المالية أو الخطاب العام. على الرغم من أن كلا المصدرين يستشهدان بسيناريوهات افتراضية—مثل أوهام الذكاء الاصطناعي في التقارير المالية أو التقارير الإخبارية الاصطناعية—إلا أنهما لا يقدمان أي حالة موثقة حدث فيها مثل هذا الأمر على نطاق واسع. هذا الإغفال يثير تساؤلات حول ما إذا كان التهديد وشيكًا أم افتراضيًا.
أيضًا، لم يتطرق أي من المقالين إلى دور الجهات الفاعلة الحكومية في استغلال الذكاء الاصطناعي لنشر المعلومات المضللة. بينما تركز انتقادات ويلز على القطاع الخاص، فقد أظهرت الحملات المعلوماتية المضللة الجيوسياسية — مثل تلك المنسوبة إلى روسيا أو الصين أو إيران — بالفعل القدرة على استخدام الذكاء الاصطناعي لتوليد ونشر الروايات الزائفة على نطاق واسع. إن إغفال هذا السياق يضيق نطاق المناقشة.
تمت المطالبة بإعادة بناء الثقة في العصر الرقمي
Jimmy Wales’ central claim is that trust in digital information can only be rebuilt through radical transparency and open governance of AI systems. He argues that the current model—where a handful of corporations control both the data and the algorithms that shape public knowledge—is fundamentally incompatible with democratic values. This claim is not unique to Wales; it echoes long-standing critiques from digital rights advocates, librarians, and journalists. However, Wales’ platform as the co-founder of Wikipedia lends his argument unusual weight in both media and policy circles.
Barron’s يُفيد بأن ويلز يقترح طبقة "ثقة" للإنترنت—نظام مفتوح وقابل للتدقيق يسمح للمستخدمين بتتبع أصل أي معلومة إلى مصدرها الأصلي. يقترح ويلز أن يعمل هذا النظام بشكل مشابه لتاريخ التعديلات في ويكيبيديا، حيث تُسجَّل كل تغييرات ويُعزى كل منها إلى مصدرها. ويضيف "The Journal" أن ويلز يدعو إلى نماذج الذكاء الاصطناعي مفتوحة المصدر، معتبرًا أن الأنظمة الاحتكارية تُنشئ "صندوقًا أسود" لا يمكن فحصه من قبل الجمهور أو الباحثين المستقلين.
كلا الموقعين يلاحظان أن رؤية ويلز تواجه عقبات كبيرة. لقد قاومت شركات تطوير الذكاء الاصطناعي الكبرى، بما في ذلك جوجل ومايكروسوفت وميتا، الدعوات إلى الشفافية الكاملة، مع citing مخاوف تنافسية وخطر تمكين الجهات الفاعلة الخبيثة من التلاعب بالنظام. يجادل بعض المحللين في الصناعة بأن النماذج مفتوحة المصدر أكثر عرضة للتلاعب، حيث يمكن للجهات السيئة تحسينها لتنفيذ حملات محددة للتضليل. يرد ويلز بأن مخاطر عدم الشفافية تفوق بكثير مخاطر الانفتاح، وأنه بدون الشفافية، لا يمكن استعادة الثقة.
المزاعم بأن الشفافية وحدها قادرة على إعادة بناء الثقة طموحة ولكنها غير مثبتة. فبالرغم من أن الشفافية شرط ضروري للثقة، إلا أنها ليست كافية. يجب على المستخدمين أيضًا امتلاك المهارات الرقمية اللازمة لفهم وتقييم المعلومات، ويجب على المؤسسات أن تمتلك القدرة على فرض المعايير ومعاقبة المخالفات. لا يتطرق كل من بارونز أو صحيفة وول ستريت جورنال إلى هذه المتطلبات بالتفصيل، مما يترك السؤال مفتوحًا حول ما إذا كانت الحلول المقترحة من قبل ويلز عملية أو طموحة.
كشف المعلومات المضللة: علامات التحذير وقائمة المراجعة
المعلومات المضللة التي تولّدها الذكاء الاصطناعي غالبًا ما تحاكي المحتوى الشرعي إلى درجة تجعلها قادرة على خداع حتى المستخدمين المتقدمين. على الرغم من عدم وجود علامة حمراء واحدة موثوقة تمامًا، إلا أن مجموعة من الإشارات يمكن أن تساعد في تحديد المحتوى المشبوه. أدناه قائمة مرجعية بالإشارات التحذيرية القابلة للتنفيذ، مستمدة من أفضل الممارسات التي أبلغ عنها خبراء محو الأمية الرقمية ومنظمات التحقق من الحقائق.
- الأصل غير قابل للتأكدإذا لم يمكن تتبع الادعاء إلى مصدر أساسي (مثل وثيقة أصلية، أو مجموعة بيانات، أو شهادة شاهد عيان)، فمن المحتمل أن يكون مزورًا أو مشوهًا. غالبًا ما تنتج نماذج الذكاء الاصطناعي روايات تبدو معقولة ولكنها غير قابلة للتحقق.
- نقص في الإسناد الموثوقالمنظمات الإخبارية والمؤسسات الشرعية تقدم إسنادًا واضحًا للمقتبسات والبيانات والتحليلات. غالبًا ما تتغاضى المحتويات التي تولّدها الذكاء الاصطناعي أو تسندها بشكل خاطئ إلى مصادرها.
- الإفراط في استخدام صيغ التفضيل أو اللغة العاطفيةنماذج الذكاء الاصطناعي المدربة على المحتوى الإثاري قد تزيد من استخدام اللغة المبالغ فيها (مثل: "ثوري"، "ثورة"، "غير مسبوق") لزيادة التفاعل. هذه إستراتيجية شائعة في حملات التضليل.
- توقيتات أو تواريخ غير متسقةقد تحتوي المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي على تواريخ أو علامات زمنية غير صحيحة أو غير متزامنة مع محتوى النص. على سبيل المثال، مقال إخباري يدعي أنه من عام 2023 ولكنه يشير إلى أحداث وقعت في عام 2026.
- تكرار الأنماط المعيبة:نماذج الذكاء الاصطناعي قد تكرر نفس المغالطات المنطقية أو الأخطاء الإحصائية أو الأنماط السردية في مخرجاتها المتعددة. على سبيل المثال، المبالغة باستمرار في مخاطر سياسة ما دون تقديم أدلة داعمة.
- غياب التعديلات أو التحديثات:المصادر الشرعية تصدر تصحيحات عند اكتشاف الأخطاء. المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي، ما لم يتم تحديثه يدويًا، لن يعكس المعلومات الجديدة أو التراجعات.
- نطاق أو مصادر شاذة:النطاقات المشبوهة (مثل مواقع ".xyz" أو ".top" التي تتظاهر بأنها منافذ إخبارية) أو الروابط التي تحاكي المصادر المعروفة (مثل "bbc-newz.com" بدلاً من "bbc.com") شائعة في التضليل المدفوع بالذكاء الاصطناعي.
- الاعتماد المفرط على "الخبراء" بدون مؤهلاتAI-generated المحتوى غالبًا ما يستشهد بخبراء وهميين أو غير مؤهلين لزيادة مصداقية الادعاءات الزائفة. تأكد دائمًا من التحقق من مؤهلات وصلات الخبراء المذكورين.
هذه العلامات الحمراء ليست شاملة، وقد يكون المحتوى الذي يجتاز جميع الفحوصات مضللًا في بعض الأحيان. الدفاع الأكثر موثوقية ضد المعلومات المضللة التي تدفعها الذكاء الاصطناعي هو مزيج من الشك والتحقق والاعتماد على المؤسسات الموثوقة—وهي الأعمدة نفسها التي يؤكد ويلز أنها مهددة.
الرد الخبير: وجهات نظر مؤسسية حول الذكاء الاصطناعي والثقة
ويلز' النقد أثار ردود أفعال من مختلف الأطياف المؤسسية، مما يعكس نقاشًا أوسع حول حوكمة الذكاء الاصطناعي. ورغم أن كلاً من بارونز و ذا وول ستريت جورنال لم يستشهدا بخبراء خارجيين بشكل معمّق، فقد وضع كلاهما تصريحات ويلز في سياق أوسع للقلق بين صانعي السياسات والأكاديميين وقادة الصناعة.
The Wall Street Journal noted that some AI researchers have pushed back against Wales' call for open-source models, arguing that transparency could enable bad actors to exploit vulnerabilities in AI systems. For example, open-source models could be fine-tuned to generate highly targeted disinformation, such as personalized deepfake audio or video tailored to specific individuals. These researchers advocate for a “responsible AI” approach, where models are developed with guardrails but remain proprietary to prevent misuse.
Barron’s يُفيد بأن المنظمين الماليين، من بينهم لجنة الأوراق المالية والبورصات الأمريكية (SEC)، بدأوا في استكشاف كيفية استخدام محتوى تم إنشاؤه بواسطة الذكاء الاصطناعي لتضليل الأسواق. وقد سبق للجنة SEC إصدار تحذيرات بشأن مخاطر الذكاء الاصطناعي في خوارزميات التداول، إلا أن نهجها تجاه الإفصاحات التي يتم إنشاؤها بواسطة الذكاء الاصطناعي لا يزال غير واضح. ويشير بعض الخبراء القانونيين الذين استشهد بهم Barron’s إلى أن لجنة SEC قد تطلب من الشركات الإفصاح عن استخدام أدوات الذكاء الاصطناعي في إعداد البيانات العامة، بنفس الطريقة التي تطلب بها حاليًا الإفصاحات بشأن استخدام مزودي البيانات من طرف ثالث.
Academics quoted in The Wall Street Journal أكدوا على ضرورة حلول متعددة التخصصات تجمع بين الضمانات التقنية وتعليم محو الأمية الإعلامية. أحد أساتذة علوم الكمبيوتر من معهد ماساتشوستس للتكنولوجيا يجادل بأن النماذج مفتوحة المصدر يمكن أن تعزز الشفافية، لكنها ليست علاجًا شاملاً. وقال الأستاذ: "الشفافية وحدها لن تحل المشكلة". "يجب علينا أيضًا تعليم الناس كيفية تقييم المعلومات بشكل نقدي وللتعرف على حدود المحتوى الذي تولده الذكاء الاصطناعي."
هذه الردود تسلط الضوء على توتر رئيسي في النقاش: بين من يركزون على السيطرة ومن يركزون على الانفتاح. يتفق موقف Wales مع الفريق الأخير، لكنه ليس محل إجماع—حتى بين من يتفقون على خطورة أزمة المعلومات المضللة.
التحليل الأصلي: الأنماط عبر المصادر والاتجاهات الناشئة
Taken together, the reporting from Barron’s and The Wall Street Journal reveals a pattern that extends beyond Jimmy Wales’ individual critique. It suggests that the debate over AI and misinformation is increasingly bifurcated along two axes: one economic, the other technical. On the economic axis, the concern is that AI-driven disinformation will erode trust in markets, institutions, and public discourse—threatening financial stability and democratic governance. On the technical axis, the concern is that proprietary AI systems, by design, are unaccountable and therefore untrustworthy, regardless of their economic impact.
هذا الانقسام يعكس توترًا هيكليًا أعمق في صناعة التكنولوجيا: التوتر بين الانفتاح والتحكم. يدافع مؤيدو المصدر المفتوح، مثل ويلز، عن أن الشفافية هي السبيل الوحيد لبناء الثقة. من ناحية أخرى، يرى المطورون المملوكون حقوقًا ملكية أن الانفتاح يجلب مخاطر لا يمكن التخفيف من حدتها. لم يكن هذا التوتر جديدًا—فقد حدد النقاشات حول البرامج والبيانات والإنترنت لعقود—but it has taken on new urgency with the rise of generative AI.
هناك اتجاه ناشئ آخر يتمثل في التقارب بين الأزمات المالية والمعلوماتية. مع ازدياد تعقيد المحتوى الذي تولده الذكاء الاصطناعي، يصبح من الصعب التمييز بين التلاعب بالسوق ونشر المعلومات المضللة. فعلى سبيل المثال، قد يؤدي مقال إخباري مولّد بواسطة الذكاء الاصطناعي يدعي أن شركة على وشك تقديم طلب إفلاس إلى تحفيز بيع أسهمها، حتى لو كان الادعاء كاذبًا. هذا السيناريو، رغم كونه افتراضيًا في التقرير، يشير إلى مستقبل تتسبب فيه المعلومات المضللة المدفوعة بالذكاء الاصطناعي في عواقب اقتصادية مباشرة. regulators وpolicymakers لم يبدأوا بعد في التعامل بشكل كامل مع هذه الحقيقة.
أخيرًا، تسلط التقارير الضوء على دور المؤسسات في تفاقم أزمة المعلومات المضللة أو التخفيف منها. تمتلك المؤسسات المالية، ومنظمات الإعلام، وشركات التكنولوجيا مصلحة مشتركة في الحفاظ على الثقة—but لا تتوافق دوافعها دائمًا. فعلى سبيل المثال، قد تفضل منصة وسائل التواصل الاجتماعي التفاعل على الدقة، بينما قد تفضل الشركة المالية الربح على الشفافية. يدعو ويلز إلى محاسبة المؤسسات —سواء من خلال التنظيم، أو الحوكمة المفتوحة، أو التدقيق المستقل— مما يطرح تحديًا لهذه الدوافع ويطالب بإعادة التفكير في كيفية بناء الثقة في العصر الرقمي.
تأثير ذلك على المجتمعات عبر الإنترنت والمهارات الرقمية
تؤثر الزيادة الكبيرة في المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي بشكل عميق على المجتمعات عبر الإنترنت، حيث يمكن أن تنتشر المعلومات المضللة بسرعة وتؤدي إلى تشرذم الفهم المشترك. ويكيبيديا، كأحد أقدم وأشهر مشاريع المعرفة نجاحًا على الإنترنت، تقدم دراسة حالة حول كيفية مقاومة المجتمعات للمعلومات المضللة من خلال التحقق الجماعي. ويعكس دعم ويلز للأنظمة المفتوحة والقابلة للتدقيق هذه التجربة: يعتمد نموذج ويكيبيديا على الشفافية والمراجعة من قبل الأقران والقدرة على تتبع كل تعديل إلى مصدره.
Barron’s يُفيد بأن ويلز يرى في المجتمعات عبر الإنترنت作为潜在的堡垒来抵御由人工智能驱动的错误信息。他主張去中心化、由志願者驅動的平台——如維基百科，但也包括開源軟件項目和社區運營的論壇——比起集中式、企業控制的系統更能抵禦操縱。其邏輯在於，開放的社區能夠快速適應新威脅，整合多樣化的專業知識，並強化問責機制。
The Wall Street Journal يضيف أن محو الأمية الرقمية هو عنصر حاسم ولكنه غالبًا ما يتم تجاهله في هذا الصمود. مع تزايد شيوع المحتوىGenerated بواسطة الذكاء الاصطناعي، يجب على المستخدمين تطوير المهارات اللازمة لتقييم المعلومات بشكل نقدي. ويشمل ذلك فهم كيفية عمل نماذج الذكاء الاصطناعي، والتعرف على الأساليب الشائعة المستخدمة في التضليل (مثل انتحال الشخصية، التلاعب العاطفي، الثنائيات الزائفة)، ومعرفة كيفية التحقق من الادعاءات من خلال المصادر الأولية. إن دعوة ويلز من أجل الشفافية في أنظمة الذكاء الاصطناعي هي، جزئيًا، دعوة لتحسين محو الأمية الرقمية: فإذا لم يتمكن المستخدمون من رؤية كيفية وصول الذكاء الاصطناعي إلى استنتاج معين، فلن يتمكنوا من تعلم تقييم مخرجاته بشكل نقدي.
ومع ذلك، لا تتناول التقارير تحديات تطوير محو الأمية الرقمية. تختلف المجتمعات عبر الإنترنت بشكل كبير في مستوى تطورها، وكثير من المستخدمين—خاصة أولئك في المجتمعات المهمشة أو ذات الموارد المحدودة—لا يحصلون على الأدوات والتعليم الضروري للتنقل في المحتوى الذي تولده الذكاء الاصطناعي. وبدون تدخلات مستهدفة، قد تؤدي جهود محو الأمية الرقمية إلى تفاقم الفجوات القائمة في الوصول إلى المعلومات.
هناك مسألة أخرى لم تتم دراستها بشكل كافٍ وهي دور الذكاء الاصطناعي في تنظيم المجتمعات عبر الإنترنت. تعتمد العديد من المنصات على أنظمة الذكاء الاصطناعي لاكتشاف المحتوى الضار وإزالته، لكن هذه الأنظمة غالبًا ما تكون غير شفافة وتعرض للأخطاء. ينطبق نقد Wales للنماذج الاحتكارية للذكاء الاصطناعي同样 على أدوات تنظيم المحتوى بواسطة الذكاء الاصطناعي: إذا لم يتمكن المستخدمون من فهم سبب تصنيف أو إزالة محتوى معين، فمن المرجح أن يفقدوا الثقة في حكم المنصة. وهذا يؤدي إلى حلقة مفرغة من عدم الثقة في أنظمة الذكاء الاصطناعي، مما ينعكس بدوره على عدم الثقة في المنصات التي تعتمد عليها.
نداء للعمل: الحد من انتشار المعلومات المضللة
عنوان التهديد الذي تشكله المعلومات المضللة التي تدفعها الذكاء الاصطناعي يتطلب نهجًا متعدد الأبعاد يجمع بين السياسات والتكنولوجيا والتعليم والمشاركة المجتمعية. في حين أن مقترحات جيمي ويلز — الشفافية الجذرية والنماذج مفتوحة المصدر والمراجعات من طرف ثالث — تشكل نقطة بداية، إلا أنها غير كافية بمفردها. فيما يلي خطوات عملية يمكن لأصحاب المصلحة في مختلف القطاعات اتخاذها للحد من انتشار المعلومات المضللة التي يولدها الذكاء الاصطناعي.
لمصنعي السياسات والمنظمين
Regulators must develop frameworks that hold AI developers and platforms accountable for the content they generate and distribute. Barron’s highlights the SEC’s potential role in requiring companies to disclose when AI tools are used in public filings. This principle could be extended to other domains: for example, social media platforms could be required to disclose when AI is used to generate or amplify content, and news organizations could be required to disclose when AI is used in reporting or editing.
بالإضافة إلى ذلك، قد تفرض الجهات التنظيمية عمليات تدقيق خارجية لأنظمة الذكاء الاصطناعي، لا سيما تلك المستخدمة في سياقات عالية المخاطر مثل الأسواق المالية أو الرعاية الصحية أو الانتخابات. يجب أن تتناول هذه التدقيقات ليس فقط الأداء الفني لنماذج الذكاء الاصطناعي، بل أيضًا قدرتها على نشر المعلومات المضللة. отмечает صحيفة "Wall Street Journal" أن بعض الباحثين في مجال الذكاء الاصطناعي قد اقترحوا تمارين "فرق حمراء"، حيث يحاول خبراء مستقلون استغلال نقاط الضعف في أنظمة الذكاء الاصطناعي لتوليد معلومات مضللة. يمكنStandardize هذه التمارين وتكليفها بموجب القانون.
لشركات التكنولوجيا ومطوري الذكاء الاصطناعي
AI developers must prioritize transparency and accountability in their models. This includes releasing training data provenance, documenting model limitations, and enabling independent researchers to audit outputs. The Wall Street Journal quotes Wales as saying, “If you’re not willing to open your model to scrutiny, you’re not serious about trust.” Developers should also implement safeguards to prevent the generation of harmful or misleading content, such as filters for impersonation, deepfakes, and fabricated quotes.
شركات التكنولوجيا يجب أن تستثمر أيضًا في الأدوات التي تساعد المستخدمين على التحقق من المحتوىGenerated بواسطة الذكاء الاصطناعي. على سبيل المثال، يمكن للمنصات دمج "مؤشرات الثقة" التي تُعلِم بالمحتوى الذي تم إنشاؤه أو تعديله بواسطة الذكاء الاصطناعي، إلى جانب شرح لطريقة إنتاج هذا المحتوى. يجب تصميم هذه المؤشرات مع مراعاة توعية المستخدمين، مما يساعدهم على فهم حدود الذكاء الاصطناعي وأهمية التحقق المتبادل.
للأكاديميين ودعاة محو الأمية الرقمية
يجب أن تصبح الثقافة الرقمية مكونًا أساسيًا في التعليم على جميع المستويات. يجب على المدارس والمكتبات والمنظمات المجتمعية تعليم الطلاب كيفية تقييم المعلومات بشكل نقدي، مع التركيز على المحتوى الذي تولده الذكاء الاصطناعي. ويشمل ذلك فهم كيفية عمل نماذج الذكاء الاصطناعي، والتعرف على الأساليب الشائعة المستخدمة في التضليل، ومعرفة كيفية التحقق من الادعاءات من خلال المصادر الأصلية.
المُعلمون应该 أيضًا التأكيد على أهمية الثقة المؤسسية. مع تزايد شيوع المحتوى الذي تولده الذكاء الاصطناعي، يجب على المستخدمين تعلم الاعتماد على المؤسسات الموثوقة—مثل المكتبات والمجلات الأكاديمية والمحفوظات الحكومية—كمصادر للمعلومات الموثقة. يتوافق رؤية ويلز لـ"طبقة الثقة" للإنترنت مع هذا الهدف، لكنه يتطلب استثمارًا مستمرًا في التعليم والبنية التحتية.
للجماعات والمستخدمين عبر الإنترنت
المجتمعات عبر الإنترنت تلعب دورًا حاسمًا في مقاومة المعلومات المضللة. يجب على المجتمعات اعتماد معايير الشفافية والمساءلة، مثل اشتراط المصادر لكل الادعاءات، وتمكين المراجعة من قبل الأقران، وتوفير آليات لتصحيح الأخطاء. يقدم نموذج ويكيبيديا للتحقق الجماعي نموذجًا يمكن للمجتمعات الأخرى أن تحتذى به.
يجب على المستخدمين أيضًا تحمل المسؤولية الشخصية للتحقق من المعلومات قبل مشاركتها. يتضمن ذلك التحقق من المصادر الأصلية، ومقارنتها مع مصادر أخرى، والتشكك في المحتوى الذي يفتقر إلى الإسناد أو يبدو مبالغًا فيه (سواء بالإيجاب أو السلب). يقدم قائمة التحذيرات الحمراء المقدمة سابقًا نقطة بداية لتقييم المحتوى.
الأسئلة الشائعة
ماذا قال جيمي ويلز عن الذكاء الاصطناعي والمعلومات المضللة؟
Jimmy Wales، المشارك في تأسيس ويكيبيديا، جادل في يوليو 2026 بأن أنظمة الذكاء الاصطناعي، ما لم تكن شفافة وقابلة للتدقيق، فإنها تخاطر بتعميق أزمة المعلومات المضللة بدلاً من حلها. ودعا إلى "الشفافية الجذرية" في تطوير الذكاء الاصطناعي، بما في ذلك إطلاق نماذج مفتوحة المصدر، والإفصاح الإلزامي عن مصدر بيانات التدريب، وتدقيق طرف ثالث لمخرجات الذكاء الاصطناعي. كما اقترح Wales طبقة "الثقة" للإنترنت، حيث يمكن للمستخدمين تتبع مصدر أي معلومة إلى مصدرها الأصلي. وفقًا لـ Barron’s، حذر من أن المعلومات المضللة التي يولدها الذكاء الاصطناعي يمكن أن تؤدي إلى زعزعة استقرار الأسواق المالية من خلال تقويض الثقة في الإقرارات المالية وتقارير وسائل الإعلام. ذكرت صحيفة The Wall Street Journal أن Wales انتقد أنظمة الذكاء الاصطناعي المملوكة لأنها تخلق "عجزًا في الثقة" نظرًا لعدم إمكانية التحقق من مخرجاتها بشكل مستقل.
لماذا تهم الشفافية في أنظمة الذكاء الاصطناعي؟
الشفافية أمر بالغ الأهمية لأنها تمكن المستخدمين من تقييم موثوقية المحتوىGenerated بواسطة الذكاء الاصطناعي. بدون شفافية، لا يتمكن المستخدمون من معرفة كيف توصل الذكاء الاصطناعي إلى استنتاج معين، أو البيانات التي تم تدريبه عليها، أو ما إذا كان قد تم التلاعب به. يجادل ويلز وغيرهم من المدافعين بأن الشفافية شرط أساسي للثقة: فإذا لم يتمكن المستخدمون من فحص أنظمة الذكاء الاصطناعي، فلن يتمكنوا من الوثوق بنتائجها. تلاحظ صحيفة وول ستريت جورنال أن أنظمة الذكاء الاصطناعي المملوكة، بحكم تصميمها، لا تخضع للمساءلة وبالتالي لا يمكن الوثوق بها، بغض النظر عن تأثيرها الاقتصادي. وتضيف بارونز أن الشفافية ذات أهمية خاصة في أسواق المال، حيث يمكن أن تؤدي المعلومات المضللةGenerated بواسطة الذكاء الاصطناعي إلى التلاعب بالسوق أو الذعر.
ما هي مخاطر نماذج الذكاء الاصطناعي مفتوحة المصدر؟
Open-source AI models تحمل مخاطر، بما في ذلك احتمال استغلال الجهات الفاعلة السيئة لها في حملات تضليل محددة. وفقًا لما ذكرته صحيفة وول ستريت جورنال، يرى بعض الباحثين في مجال الذكاء الاصطناعي أن نماذج المصدر المفتوح أكثر عرضة للتلاعب لأن آليات عملها متاحة للجمهور. ومع ذلك، يدافع مؤيدو نماذج المصدر المفتوح، مثل ويلز، عن أن مخاطر عدم الشفافية تفوق بكثير مخاطر الشفافية. فهم يجادلون بأن النماذج الاحتكارية تشكل "صندوقًا أسود" لا يمكن فحصه من قبل الجمهور أو الباحثين المستقلين، مما يجعلها غير جديرة بالثقة بطبيعتها. يعكس الجدل حول الذكاء الاصطناعي مفتوح المصدر التوتر الأوسع بين السيطرة والشفافية في صناعة التكنولوجيا.
كيف يمكن للمستخدمين تحديد المعلومات المضللة التي تم إنشاؤها بواسطة الذكاء الاصطناعي؟
المستخدمون يمكنهم تحديد المعلومات المضللة التي تولدها الذكاء الاصطناعي من خلال البحث عن علامات حمراء مثل عدم القدرة على التحقق من المصدر، وعدم وجود نسبة إلى جهات مختصة، والإفراط في استخدام المبالغات أو اللغة العاطفية، وعدم اتساق العلامات الزمنية أو التواريخ، وتكرار الأنماط flawed، وعدم وجود تصحيحات أو تحديثات، وشذوذ في النطاق أو المصدر، والاعتماد المفرط على "خبراء" بدون مؤهلات. هذه العلامات الحمراء ليست شاملة، وحتى المحتوى الذي يجتاز جميع الفحوصات قد يكون مضللًا. أفضل دفاع موثوق ضد المعلومات المضللة التي يولدها الذكاء الاصطناعي هو الجمع بين الشك والتحقق والاعتماد على المؤسسات الموثوقة. تم تقديم قائمة مرجعية لعلامات التحذير القابلة للتنفيذ سابقًا في هذه المقالة.
ما الدور الذي ينبغي أن تلعبه الجهات التنظيمية في التصدي للمعلومات المضللة التي تدفعها الذكاء الاصطناعي؟
Regulators should play a proactive role in addressing AI-driven misinformation by developing frameworks that hold AI developers and platforms accountable for the content they generate and distribute. Barron’s highlights the potential role of the SEC in requiring companies to disclose when AI tools are used in public filings. Regulators could also mandate third-party audits of AI systems, particularly those used in high-stakes contexts like financial markets, healthcare, or elections. Additionally, regulators could require platforms to disclose when AI is used to generate or amplify content, and to implement safeguards to prevent the generation of harmful or misleading content. The goal is to create a regulatory environment that prioritizes transparency, accountability, and user trust.
التحليل الأصلي: مفارقة الثقة في حوكمة الذكاء الاصطناعي
أحد أكثر الجوانب إقناعًا والذي لم يُناقش بشكل كافٍ في حجة ويلز هو التناقض الأساسي فيها: يتم نشر أنظمة الذكاء الاصطناعي لحل مشكلة المعلومات المضللة، لكن عدم شفافيتها هو الدافع الرئيسي لتلك المشكلة. يُشير هذا التناقض إلى أن النهج الحالي لصناعة التكنولوجيا—الاعتماد على نماذج مملوكة ومغلقة "لتنظيف" الإنترنت—يعاني من خلل جوهري. إذا كان للذكاء الاصطناعي أن يلعب دورًا في استعادة الثقة، فلا بد أن يفعل ذلك بطريقة جديرة بالثقة في حد ذاتها. وهذا يتطلب ليس فقط تقنيات أفضل، بل أيضًا إدارة أفضل، وتعليمًا أفضل، ومؤسسات أفضل.
ويليس' اقتراح لإنشاء "طبقة ثقة" للإنترنت هو محاولة لمعالجة هذا التناقض. من خلال جعل مصدر المعلومات شفافًا وقابلًا للتدقيق، ستُمكّن طبقة الثقة المستخدمين من التحقق من الادعاءات بشكل مستقل، دون الاعتماد على مخرجات أنظمة الذكاء الاصطناعي غير الواضحة. يتوافق هذا النهج مع مبادئ ويكيبيديا، حيث تُسجّل كل تعديل وتُنسَب إلى صاحبها. ومع ذلك، فإنه يثير أيضًا تساؤلات حول قابلية التوسع والتنفيذ. كيف يمكن تنفيذ طبقة الثقة عبر الإنترنت بأكملها؟ من سيقوم بصيانتها؟ وكيف ستتعامل مع النزاعات بين مصادر المعلومات المختلفة؟
الإجابات على هذه الأسئلة لم تتضح بعد، لكن التقارير الواردة من بارونز وWall Street Journal تشير إلى أن النقاش لم يبدأ إلا للتو. مع تزايد المحتوىGenerated بواسطة الذكاء الاصطناعي، ستزداد الضغوط لمعالجة مخاطره. والسؤال هو ما إذا كانت المجتمعات ستتصرف في الوقت المناسب لمنع مستقبل تتآكل فيه الثقة في المعلومات—والثقة في المؤسسات—بشكل دائم.