الصورة الرئيسية:لدييرمي ناسيمينتو / Pexels
أداة صور الذكاء الاصطناعي من Google Earth تم سحبها بسبب مخاوف من التزييف العميق
أزالت جوجل ميزة جديدة لإنشاء صور باستخدام الذكاء الاصطناعي لجوجل إيرث في غضون 24 ساعة من إطلاقها، مستشهدة بقلق من أن الأداة يمكن استخدامها لإنشاء صور وهمية مقنعة لمواقع العالم الحقيقي. يبرز هذا التراجع السريع الحذر المؤسسي المتزايد حول الصور المولدة بواسطة الذكاء الاصطناعي ويرفع أسئلة حول كيفية توازن المنصات بين الابتكار والحماية.
في 31 يوليو 2026، أطلقت جوجل ثم أزالت بسرعة أداة توليد صور تعمل بالذكاء الاصطناعي مدمجة في جوجل إيرث، وهي منصة تُستخدم منذ فترة طويلة للصور الفضائية والجوية. سمحت الأداة للمستخدمين بإنشاء صور واقعية لأماكن حقيقية من خلال إدخال نصوص، وهو ما أثار مخاوف فورية بشأن سوء الاستخدام في التضليل الإعلامي والوسائط الاصطناعية. ليس هذا الحادث بمعزل عن غيره: إنه يعكس نمطًا أوسع نطاقًا من منصات التكنولوجيا التي تختبر أدوات صور الذكاء الاصطناعي ثم تسحبها عندما تصبح المخاطر واضحة. تستعرض هذه المقالة تقارير من ديكريبت وذا فيرج، وتتقاطع مع مزاعمهما، وتستكشف ما كشفه هذا الحدث عن نهج جوجل تجاه سلامة الذكاء الاصطناعي، ومخاطرDeepfake، والاستجابة المؤسسية للصور التي يولدها الذكاء الاصطناعي.
مقدمة إلى أداة صور الذكاء الاصطناعي من Google Earth
تم دمج أداة توليد الصور بالذكاء الاصطناعي المذكورة داخل Google Earth، وهي منصة قديمة معروفة بصورها عالية الدقة للأقمار الصناعية والجوية للكوكب. ووفقًا لموقع The Verge، سمحت الميزة للمستخدمين بكتابة مطالبة نصية—مثل "منظر حضري مستقبلي في طوكيو"—لتلقي صورة واقعية تم توليدها بواسطة الذكاء الاصطناعي، تصور نسخة معقولة ولكنها مزيفة لموقع حقيقي. وذكرت ديكريبت أن الأداة كانت متاحة عبر واجهة Google Earth على الويب وبدت أنها تستخدم نموذج تحويل النص إلى صورة تم تحسينه لتحقيق معقولية جغرافية، مما ينتج مشاهد تجمع بين جغرافيا العالم الحقيقي وإبداع الذكاء الاصطناعي.
لم يُقدم أي من المصدرين تفاصيل فنية حول النموذج الأساسي، لكن كلاهما شدد على أن الأداة تم تصميمها لإنتاج صور تشبه الصور الفعلية للأقمار الصناعية أو الصور الجوية. وأشار The Verge إلى أن الواجهة تشير إلى أن الذكاء الاصطناعي يولد الصور "من البداية" بدلاً من تحرير الصور الفعلية للأقمار الصناعية، مما أثار أسئلة فورية حول الصحة وال قابليّة التتبع. وأضاف Decrypt أن الأداة تم وضعها كخاصية تجريبية، ومن المحتمل أن تكون جزءًا من جهود جوجل لدمج الذكاء الاصطناعي التوليدي عبر منتجاتها، بما في ذلك خرائط وأرض.
ما جعل هذه الأداة لافتة للنظر لم يكن مجرد طابعها الجديد، بل تكاملها في منصة ارتبطت منذ فترة طويلة بالصور الواقعية والموثوقة. لقد تم استخدام "جوجل إيرث" (Google Earth) لفترة طويلة في الصحافة والتخطيط العمراني ومراقبة البيئة والتعليم، وذلك تحديدًا لأن صوره تستند إلى بيانات حقيقية. مثّل إدخال الصور التي تولّدها الذكاء الاصطناعي—والتي تستطيع تصوير أماكن لم توجد من قبل أو تعديل الأماكن الحقيقية بطرق مضللة—تحولًا جوهريًا في الأساس المعرفي للمنصة.
مقارنة تغطية ديسكرايبت وذا فيرج لأطلاق الأداة وإزالتها
أكدت كل من ديكريبت وذا فيرج أن جوجل أطلقت أداة توليد الصور بالذكاء الاصطناعي في 30 يوليو 2026، ثم أزالتها بحلول 31 يوليو 2026 — أي في أقل من 24 ساعة. وصفت ذا فيرج عملية الإطلاق بأنها "هادئة"، مشيرة إلى أن الميزة ظهرت لفترة وجيزة في واجهة جوجل إيرث على الويب قبل أن تختفي دون إعلان رسمي. من جانبها، أفادت ديكريبت أن الأداة كانت متاحة لبعض المستخدمين خلال نافذة زمنية محدودة، وأن لقطات لواجهة الأداة تداولت على وسائل التواصل الاجتماعي قبل إزالتها.
حيث اختلفت النافذتان في تركيزهما على تجربة المستخدم والإدراك. ركزت ذا فيرج على إمكانية اكتشاف الأداة، مشيرة إلى أنها "لم تعلن عنها على نطاق واسع" ولم تظهر إلا للمستخدمين الذين كانوا يستخدمون بالفعل ميزات جوجل إيرث التجريبية. من ناحية أخرى، سلطت ديكريبت الضوء على أن الأداة كانت "سهل الوصول إليها" للمستخدمين الذين يعرفون أين يبحثون، مما يوحي بأنها أكثر وضوحًا مما suggestedته رواية ذا فيرج. ومع ذلك، اتفق كلاهما على أن الإزالة كانت مفاجئة ولم تتضمن شرحًا رسميًا في وقت كتابة التقرير.
ملحوظًا، لم يبلغ أي من المصدرين عن أي اختبار من طرف ثالث أو تدقيق مستقل لجودة مخرجات الأداة. وصفت صحيفة ذا فيرج "The Verge" الصور التي تم إنشاؤها بأنها "مقبولة ولكن من الواضح أنها اصطناعية"، بينما لم تقدم ديسكرايب "Decrypt" أمثلة أو تحليلًا تقنيًا لأداء نموذج الذكاء الاصطناعي. ويبرز هذا الثغرة مشكلة أوسع في طرح أدوات الذكاء الاصطناعي: غالبًا ما تقوم المنصات بنشر ميزات تجريبية مع الحد الأدنى من الشفافية، مما يترك للمستخدمين والصحفيين استنتاج الوظائف من التعرض المحدود.
كلا الموقعين لاحظا عدم وجود بيان رسمي من جوجل وقت النشر. استشهدت صحيفة The Verge بمتحدث باسم جوجل قائلاً إن الشركة ليس لديها "أي تعليق" عند سؤالها عن الإزالة. كما أفادت ديكريبت بأن جوجل لم تصدر أي تفسير علني، رغم أنها استشهدت بمصادر في الصناعة تشير إلى أن القرار جاء بناءً على تقييمات المخاطر الداخلية المتعلقة بمخاوف التزييف العميق.
القلق من التزييف العميق وراء إزالة الأداة
The central reason cited by both outlets for the tool’s removal was the risk that it could be used to create convincing deepfakes of real-world locations. The Verge framed the concern around “geographic plausibility”: AI-generated images that look like real satellite photos could be used to fabricate evidence of events that never occurred, such as natural disasters, military movements, or urban development projects. Decrypt echoed this, emphasizing that the tool’s ability to generate photorealistic images of real places—without clear provenance—created a “perfect storm” for disinformation.
The Verge سلط الضوء على سيناريو معين: يمكن لممثل خبيث إنشاء صورة لمبنى سكني لم يوجد من قبل، ثم استخدامها في منشور على وسائل التواصل الاجتماعي للادعاء بأنه دمر في زلزال. نظرًا لأن الصورة ستشبه صورة قمر صناعي حقيقية، فقد يكون من الصعب على المشاهدين التمييز بينها وبين الصور الأصلية. وأضاف Decrypt أن مثل هذه الصور يمكن استخدامها كأسلحة في الصراعات الجيوسياسية، حيث يمكن للأدلة المرئية المزيفة أن تزيد من حدة التوترات أو تبرر روايات كاذبة.
لم يلمح كلا المخرجي إلى عدم وجود ضمانات كخطأ حرج. وأشار The Verge إلى أن الأداة لم تتضمن علامات مائية أو علامات بيانات أو مؤشرات أصل للإشارة إلى أن الصورة تم إنشاؤها بواسطة الذكاء الاصطناعي. وأفادت Decrypt أنه لم تكن هناك عوامل تصفية المحتوى أو قيود الاستخدام، مما يعني أن المستخدمين يمكنهم إنشاء صور لمواقع حساسة - مثل القواعد العسكرية أو العقارات الخاصة - دون رقابة. هذا الغياب عن الحواجز، كما جادل كلا المخرجي، جعل الأداة تجربة عالية الخطورة في نظام معلومات هش بالفعل.
بينما لم يستشهد أي من المصدرين بمستندات داخلية من جوجل، فقد استشهد كلاهما بخبراء في الصناعة حذروا من أن أدوات الذكاء الاصطناعي لتوليد الصور المدمجة في منصات الخرائط تشكل مخاطر فريدة. استشهدت صحيفة ذا فيرج بمختص في علم الأدلة الرقمية قال: “عندما تمحى الحدود بين الصور الحقيقية والمصطنعة في سياق يثق فيه الناس بالمصدر، فإنك تقوض ثقة الجمهور في جميع أنواع الصور”. استشهدت ديكريبت بمحلل سياسات جادل بأن مثل هذه الأدوات يمكن أن “تعمم التضليل الإعلامي”، مما يسمح لأي شخص لديه وصول إلى الإنترنت بإنشاء أدلة مزيفة مقنعة للأحداث الواقعية.
ماذا تظهر الأدلة المجمعة حول توليد صور الذكاء الاصطناعي من جوجل
تمت الإشارة معًا في التقارير المنشورة من قبل ديكريبت وذا فيرج إلى أن أداة جوجل لتوليد الصور باستخدام الذكاء الاصطناعي في جوجل إيرث كانت تجربة عالية المخاطر، حيث بالغت المنصة في قدرتها على التحكم في الاستخدامات الضارة اللاحقة. يشير الإزالة السريعة للأداة — خلال يوم واحد فقط — إلى أن آليات تقييم المخاطر الداخلية لجوجل، رغم عدم شفافيتها العلنية، كانت حساسة بدرجة كافية لاكتشاف الخلل الخطير. ومع ذلك، يظل عدم وجود تفسير رسمي يطرح أسئلة حرجة دون إجابة: هل كان الإزالة بسبب ملاحظات المستخدمين، أو المراجعات الداخلية، أو ضغوط خارجية؟ هل توقع جوجل مخاطرDeepfake أثناء التطوير، أم أنها ظهرت فقط بعد النشر؟
The Verge’s reporting suggests that the tool was not widely visible, which may have limited immediate harm but also obscured the scale of potential misuse. Decrypt’s account, meanwhile, implies that the tool was accessible enough to generate concern among early users and observers. This discrepancy points to a broader challenge in AI governance: platforms often deploy experimental features to small user groups to test functionality, but these limited rollouts can still produce outsized risks if the underlying technology is inherently dangerous.
ما يبدو واضحًا من كلا التقريرين هو أن هوية جوجل إيرث كمرجع لصور "صادقة" كانت في تناقض مع إدخال المحتوى المولّد بواسطة الذكاء الاصطناعي. لقد استخدمت جوجل إيرث لفترة طويلة في الصحافة الاستقصائية والإجراءات القانونية وعلم البيئة بالضبط لأن صورها تعتبر موثوقة. يؤدي دمج الصور المولدة بواسطة الذكاء الاصطناعي - القادرة على تصوير أماكن غير موجودة أو تغيير الأماكن الحقيقية - إلى تقويض هذه السلطة. لا يُحل الارتداد السريع، على الرغم من حكمته، التوتر الكامن: كيف يمكن لمنصة مبنية على صور حقيقية تبرر إدراج المحتوى الاصطناعي، حتى تجريبيًا؟
كلتا المنافذ تسلطان الضوء أيضًا على نمط مقلق في تطوير الذكاء الاصطناعي: غالبًا ما تركز المنصات على السرعة والابتكار على حساب الضمانات، ولا تتراجع إلا عند ظهور المخاطر بشكل لا يقبل الشك. هذا النهج القائم على "التحرك بسرعة وكسر الأشياء" عند تطبيقه على أدوات يمكن أن تؤثر على الإدراك العام، يشكل تهديدًا مباشرًا للنقاش الديمقراطي. حادثة Google Earth ليست حالة معزولة—بل هي عرض لفشل أكبر في دمج تقييم المخاطر في المراحل الأولى من تطوير منتجات الذكاء الاصطناعي.
نقص الأصل و تآكل الثقة
شدد كل من The Verge و Decrypt على أن الأداة تفتقر إلى أي آلية لتمييز الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي عن الصور الحقيقية. وأشار The Verge إلى أن صور Google Earth الحالية تتضمن بيانات وصفية وتواريخ، مما يساعد في تأكيد الصحة. من ناحية أخرى، لن يكون للصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي أي سجل أصول، مما يجعل من المستحيل على المستخدمين التحقق من ما إذا كانت الصورة تمثل مكانًا حقيقيًا أو اختراعًا. وأضاف Decrypt أن هذا النقص في الشفافية يمكن أن يؤدي إلى "ربح الكاذب"، حيث يرفض الأشخاص السيئون الصور الحقيقية باعتبارها صورًا تم إنشاؤها بواسطة الذكاء الاصطناعي والعكس صحيح، مما يؤدي إلى مزيد من زعزعة الثقة العامة.
هذا الأمر ليس فريدًا على جوجل فحسب. platforms أخرى، بما في ذلك أدوبي ومايكروسوفت، جربت أدوات توليد صور بالذكاء الاصطناعي تتكامل مع السياقات الواقعية—مثل "الملء التوليدي" في فوتوشوب أو المعاينات المولدة بالذكاء الاصطناعي في خرائط بينغ. في كل حالة، أثار نقص المصدر مخاوف بشأن سوء الاستخدام. ومع ذلك، فإن حادثة جوجل إيرث بارزة بشكل خاص لأن القيمة الجوهرية للمنصة ترتبط بسمعتها في تقديم صور واقعية وقابلة للتحقق.
الخبرة والتحليل حول الآثار المترتبة على الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي
Both outlets cited experts who warned that AI-generated images of real-world locations could be used to fabricate evidence in legal, political, and humanitarian contexts. The Verge quoted a professor of digital forensics at the University of California, Berkeley, who stated, “If you can generate a photorealistic image of a city that never existed, you can claim it was destroyed in a war. The damage to truth is immediate and irreversible.” Decrypt referenced a policy analyst at the Atlantic Council who argued that such tools could “democratize disinformation,” allowing non-state actors to create convincing fake evidence without technical expertise.
Experts also highlighted the difficulty of detecting AI-generated images once they enter the information ecosystem. The Verge noted that current deepfake detection tools are often reactive, relying on artifacts or inconsistencies that may not be present in high-quality AI outputs. Decrypt added that even if detection improves, the sheer volume of synthetic content could overwhelm fact-checkers and platforms alike. This creates a “detection gap” where harmful content spreads faster than it can be debunked.
هناك قلق آخر أثارته كل من المنافذ بشأن إمكانية استخدام الصور التي تولدها الذكاء الاصطناعي في العمليات النفسية أو حملات التضليل المدعومة من الدولة. استشهدت صحيفة " verge " بأمثلة من أوكرانيا وتايوان، حيث تم استخدام الصور المزيفة لنشر الذعر أو تقويض الثقة في المؤسسات. أشار موقع "ديكريبت" إلى أبحاث تظهر أن الصور التي يولدها الذكاء الاصطناعي تُدرك غالبًا على أنها أكثر مصداقية من التضليل القائم على النصوص، مما يجعلها أداة قوية للتأثير.
ملحوظ، لم يشر أي من المنافذ إلى خبير تابع لشركة جوجل أو مصدر داخلي، مما يترك فجوة في فهم عملية تقييم المخاطر الداخلية للشركة. وتسلط هذه الغياب الضوء على اتجاه أوسع في الصناعة: غالبًا ما تعمل منصات التقنية في غموض، وتطلق ميزات تجريبية مع الحد الأدنى من الشفافية ولا تتناول المخاطر إلا بعد حدوثها.
التحليل الأصلي: نمط الحذر في تطوير الذكاء الاصطناعي
تمت الإشارة معًا إلى أن هذه التقارير تشير إلى أن الإزالة السريعة لأداة صور الذكاء الاصطناعي في Google Earth بواسطة جوجل ليست حالة فردية، بل جزء من نمط متزايد من الحذر المؤسسي في تطوير الذكاء الاصطناعي. على مدار العامين الماضيين، أطلقت العديد من المنصات الكبرى أدوات للصور أو الفيديو مدعومة بالذكاء الاصطناعي، ثم سحبتها بعد أيام أو أسابيع بسبب مخاوف سوء الاستخدام. تم تقييد صور "Designer" التي تولدها الذكاء الاصطناعي من مايكروسوفت، والتي كانت قادرة على إنتاج وجوه ومشاهد واقعية، بعد أن استخدمها البعض في إنشاء صور إباحية مزيفة غير موافقة. كما واجهت ميزة "Generative Fill" من أدوبي في فوتوشوب انتقادات لاستخدامها في إنشاء قوائم عقارات مضللة وصور أخبار مزيفة. في كل حالة، ركزت المنصات في البداية على الوظائف دون ضوابط كافية، ثم تراجعت عندما أصبحت المخاطر لا يمكن إنكارها.
ما الذي يميز حادثة Google Earth هو الهوية الأساسية للمنصة كمصدر للصورة الواقعية. على عكس تطبيقات وسائل التواصل الاجتماعي أو البرامج الإبداعية، تم التعامل مع Google Earth لفترة طويلة كمورد محايد وموثوق. إن إدخال المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي—حتى بشكل تجريبي—يعمل على طمس هذا الخط ويهدد بخطر تقويض مصداقية المنصة. يشير التراجع السريع إلى أن Google قد أدركت هذا التهديد، لكن عدم الشفافية بشأن القرار يترك أسئلة دون إجابة حول ما إذا كانت الشركة تتعلم من هذه الحوادث أم أنها تتفاعل معها فحسب.
هذا النمط يكشف أيضًا عن فشل منهجي في حوكمة الذكاء الاصطناعي: تحفز المنصات على نشر ميزات جديدة بسرعة للحفاظ على الميزة التنافسية، بينما غالبًا ما يتم تأجيل مخاطر سوء الاستخدام حتى بعد النشر. والنتيجة هي دورة من التجارب وردود الفعل السلبية والتراجع—دورة لا تساهم كثيرًا في بناء ثقة الجمهور، بل أقل من ذلك في منع الأضرار. بالنسبة للمؤسسات التي تعتمد على صور Google Earth—الصحفيين والعلماء وصانعي السياسات—فإن هذا الحدث بمثابة تذكير بأن حتى أكثر المنصات موثوقية ليست بمنأى عن مخاطر الذكاء الاصطناعي التوليدي.
العلامات الحمراء في توليد الصور بالذكاء الاصطناعي وكيفية التعرف عليها
الصور التي تولدها الذكاء الاصطناعي، خاصة تلك المدمجة في سياقات العالم الحقيقي مثل الخرائط أو صور الأقمار الصناعية، قد يصعب اكتشافها. ومع ذلك، هناك عدة علامات حمراء يمكن أن تساعد المستخدمين والصحفيين في تقييم ما إذا كانت الصورة اصطناعية. أدناه قائمة مرجعية بعلامات التحذير، مستمدة من تقارير حول مخاطر توليد الصور بالذكاء الاصطناعي وتحليلات الخبراء.
- الإضاءة أو الظلال غير العادية أو غير المتسقة:الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي غالبًا ما تواجه صعوبة في الحفاظ على إضاءة متسقة في المشهد، خاصة عند تصوير مواقع حقيقية. ابحث عن الظلال التي لا تتوافق مع موقع الشمس أو مصادر الإضاءة التي تبدو قادمة من اتجاهات متعددة.
- المواقع الجغرافية المستحيلة أو غير المعقولة:نماذج الذكاء الاصطناعي قد تنتج ميزات تتعارض مع الجغرافيا الواقعية، مثل الأنهار التي تتدفق لأعلى أو مبانٍ تطفو في الهواء أو طرق تنتهي فجأة في وسط المدينة. قارن الصورة بصور الأقمار الصناعية الحقيقية باستخدام أدوات مثل Google Earth أو Bing Maps.
- نقص البيانات الوصفية أو أصل المنتجالمعلومات الجغرافية الفضائية الأصلية عادةً ما تتضمن بيانات وصفية مثل الطابعات الزمنية وبيانات الموقع الجغرافي ومواصفات الكاميرا. غالبًا ما تفتقر الصور التي يتم إنشاؤها بواسطة الذكاء الاصطناعي إلى هذه المعلومات أو تحتوي على علامات عامة أو مضللة.
- النسيج أو التشوهات غير الطبيعية:بينما يمكن للنماذج الذكية عالية الجودة إنتاج صور واقعية للغاية، قد تبقى بعض العيوب الطفيفة مثل الحواف الضبابية أو inconsistent textures أو أنماط غير طبيعية في أوراق الشجر أو الماء.
- التناظر أو التكرار المثالي للغاية:نماذج الذكاء الاصطناعي أحيانًا تنتج صورًا ذات تناظر غير طبيعي، مثل مبانٍ أو أشجار أو نوافذ متطابقة مرتبة في شبكات مثالية. نادرًا ما تظهر البيئات الحقيقية مثل هذا الانتظام.
- في وقت مختلف من اليومتظهر صورة واحدة غالبًا عدة مؤشرات زمنية مختلفة، مثل غروب الشمس في جزء من الصورة وضوء منتصف النهار في جزء آخر. وهذا قد يشير إلى أن الذكاء الاصطناعي قام بدمج عناصر من صور تدريبية مختلفة.
- غياب السياق الحقيقي:AI-generated images قد تفتقر إلى أدلة سياقية موجودة في صور الأقمار الصناعية الحقيقية، مثل المركبات والمشاة أو الاختلافات الطبيعية في التضاريس. على سبيل المثال، منظر مدينة فارغ تمامًا هو مؤشر قوي على المحتوى الاصطناعي.
- نصوص مبالغة أو سينمائية بشكل مفرط:نماذج الذكاء الاصطناعي المدربة على الصور الفنية أو السينمائية قد تنتج صورًا بإضاءة درامية، أو ألوان مبالغ فيها، أو تركيبات غير واقعية تبدو "مثالية للغاية" لموقع حقيقي.
هذه العلامات الحمراء ليست مؤكدة تمامًا، وتتحسن نماذج الذكاء الاصطناعي عالية الجودة بسرعة. ومع ذلك، فإنها توفر نقطة بداية لتقييم أصالة الصور، خاصة عندما تُعرض كدليل واقعي.
الاستجابة المؤسسية لمخاوف التزييف العميق بالذكاء الاصطناعي
كل من The Verge و Decrypt أشارا إلى عدم وجود رد رسمي من جوجل وقت النشر، لكن تقاريرهما تشير إلى أن الاستجابات المؤسسية لمخاطر التزييف العميق باستخدام الذكاء الاصطناعي تتطور—ولو ببطء. أبرزت The Verge أن جوجل قد تعرضت لمزيد من التدقيق من قبل المنظمين ومجموعات المجتمع المدني بشأن سياساتها في مجال الذكاء الاصطناعي، لا سيما فيما يتعلق بالإعلام التوليدي. أضافت Decrypt أن الشركة بدأت استكشاف أدوات التوسيم والمصداقية، مثل معايير التحالف لمصداقية المحتوى والموثوقية (C2PA)، لكن هذه الجهود لا تزال في مراحلها المبكرة.
المنظمون أيضًا بدأوا في اتخاذ إجراءات. استشهدت صحيفة The Verge بمسودة تشريع في الاتحاد الأوروبي من شأنه أن يتطلب وضع علامات على الصور التي تولدها الذكاء الاصطناعي كعلامة تجارية عند استخدامها في سياقات عامة، مثل الأخبار أو الإعلان. وأفاد موقع Decrypt بأن لجنة التجارة الفيدرالية الأمريكية في الولايات المتحدة قد أبدت اهتمامًا بفحص المحتوى المزيف الذي تولده الذكاء الاصطناعي، على الرغم من عدم الإعلان عن أي إجراءات رسمية بعد. تشير هذه التطورات إلى أن الحكومات تدرك مدى إلحاح المشكلة، إلا أنforcement لا يزال غير متسق.
المؤسسات المدنية تلعب دورًا حاسمًا في الدفع من أجل الشفافية. استشهدت صحيفة ذا فيرج بنائب عن مؤسسة الحدود الإلكترونية (EFF) الذي جادل بضرورة أن تعتمد المنصات مبادئ "الاحتياط" عند نشر أدوات الذكاء الاصطناعي التي يمكن أن تؤثر على الإدراك العام. استشهدت ديكريبت بتقرير صادر عن مركز الديمقراطية والتكنولوجيا (CDT) دعا إلى الإبلاغ الإلزامي عن المحتوىGenerated بواسطة الذكاء الاصطناعي في السياقات التي يمكن الخلط فيها بينه وبين الصور الحقيقية.
ومع ذلك، فإن حادثة Google Earth تثبت أن التنظيم الذاتي غير كافٍ. تواصل المنصات نشر ميزات تجريبية مع الحد الأدنى من الإشراف، ولا تزيلها إلا عندما تصبح المخاطر لا يمكن إنكارها. هذا النهج التفاعلي غير كافٍ لمواجهة حجم تهديد التزييف العميق، الذي يتطلب تدابير وقائية استباقية، وعمليات تدقيق مستقلة، ومحاسبة عامة.
لماذا تتأخر الاستجابات المؤسسية
كلا المصدرين أشارا إلى عدة أسباب تجعل الاستجابات المؤسسية لمخاطر التزييف العميق بواسطة الذكاء الاصطناعي متخلفة عن القدرات التكنولوجية. لفت موقع ذا فيرج إلى أن الجهات التنظيمية غالبًا ما تفتقر إلى الخبرة الفنية اللازمة لتقييم مخاطر الذكاء الاصطناعي، مما يؤدي إلى بطء أو ردود فعل متأخرة في وضع السياسات. وأضاف موقع ديكريبت أن منصات التكنولوجيا تركز على الابتكار والنمو في عدد المستخدمين، مما يخلق عدم وجود حافز لتنفيذ إجراءات الحماية المكلفة. كما سلط الخبراء الذين استشهدت بهم كلا المصدرين الضوء على صعوبة تعريف "سوء الاستخدام" بطريقة توازن بين الابتكار ومنع الأضرار، لا سيما عندما يمكن استخدام أدوات الذكاء الاصطناعي لأغراض حميدة أو خبيثة على حد سواء.
هناك تحدٍ آخر يتمثل في الطبيعة العالمية للمشكلة. يمكن الوصول إلى أدوات الذكاء الاصطناعي التي تم تطويرها في ولاية قضائية معينة واستخدامها بشكل خاطئ في ولاية أخرى، مما يجعل من الصعب على المنظمين الوطنيين فرض معايير متسقة. استشهدت صحيفة "ذا فيرج" بمثال الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي المستخدمة في حملات التضليل التي تستهدف الانتخابات في عدة دول، حيث لا يمتلك أي منظم ولاية قضائية على السلسلة الكاملة للإمداد.
أخيرًا، لا يوجد إجماع حول ما يشكل استجابة مناسبة. يدعو بعض الخبراء إلى فرض حظر صارم على الصور التي تولدها الذكاء الاصطناعي في سياقات معينة، بينما يرى آخرون ضرورة تطوير أدوات كشف أفضل وتعليم المستخدمين. تسلط حادثة Google Earth الضوء على ضرورة اعتماد نهج عالمي منسق—but حتى الآن، لم يتحقق مثل هذا النهج.
الأسئلة الشائعة
ما هو أداة صور Google Earth AI؟
أداة صور الذكاء الاصطناعي من Google Earth كانت ميزة تسمح للمستخدمين بإنشاء صور واقعية لأماكن حقيقية في العالم من خلال إدخال نصوص تحفيزية. تم دمجها في واجهة الويب الخاصة بـ Google Earth واستخدمت الذكاء الاصطناعي لإنشاء الصور من الصفر، بدلاً من تعديل صور الأقمار الصناعية الموجودة.
لماذا أزالت جوجل الأداة؟
جوجل أزال الأداة خلال 24 ساعة من إطلاقها بسبب مخاوف من إمكانية استخدامها لإنشاء deepfakes مقنعة للمواقع الحقيقية في العالم. وذكرت كل من ديكريبت وذا فيرج أن الأداة تفتقر إلى ضوابط مثل مؤشرات المصدر، والتأشير المائي، أو عوامل تصفية المحتوى، مما يجعلها تجربة عالية الخطورة في نظام بيئي للمعلومات هش بالفعل.
هل يمكن استخدام الأداة لإنشاء صور مزيفة متطورة؟
نعم. حذّر خبراء استشهدت بهم كلتا الوسيلتين الإعلاميتين من أن الأداة قد تنتج صورًا واقعية للغاية لأماكن حقيقية لم توجد من قبل أو تعدّل أماكن حقيقية بطرق مضللة. يمكن استخدام هذه الصور لتزوير أدلة على أحداث لم تحدث، مثل الكوارث الطبيعية أو التحركات العسكرية، وقد يصعب تمييزها عن صور الأقمار الصناعية الأصلية.
ما هي التدابير الأمنية المستخدمة عادةً لمنع إساءة استخدام تقنية التزييف العميق (الديب فايك)؟
الأمانات الشائعة تشمل مؤشرات الأصل (مثل علامات البيانات الوصفية)، والتشويش المائي، ومرشحات المحتوى، وقيود الاستخدام، ومتطلبات الإفصاح. قد تقوم المنصات أيضًا بتنفيذ أدوات كشف لتحديد المحتوى الاصطناعي، على الرغم من أن هذه الأدوات غالبًا ما تكون تفاعلية ويمكن تجاوزها بواسطة نماذج الذكاء الاصطناعي عالية الجودة.
ماذا يجب على المستخدمين البحث عنه لتحديد الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي؟
المستخدمون应该 الانتباه إلى العلامات الحمراء مثل الإضاءة أو الظلال غير المتسقة، أو التضاريس غير الممكنة، أو عدم وجود بيانات تعريفية، أو الملمس غير الطبيعي، أو التناظر المفرط في الكمال، أو عدم اتساق مؤشرات وقت اليوم، أو غياب السياق الواقعي، أو المشاهد الدرامية أو السينمائية المفرطة. كما يمكن مقارنة الصورة بصور الأقمار الصناعية الحقيقية للمساعدة في تحديد عدم الاتساق.
