أفادت شركة ميتا بأنها وجدت محتوى "من المتوقع أن يكون من إنتاج الذكاء الاصطناعي" مرتبط بشركة تكنولوجيا إسرائيلية استخدمت تعليقات مرتبطة ببرامج الذكاء الاصطناعي للإشادة بإسرائيل والتهجم على المظاهرات الطلابية في الجامعات الأمريكية.
وأوضحت شركة التواصل الاجتماعي، في تقرير أمني ربع سنوي، إن الحسابات كانت لطلاب يهود وأمريكيين من أصل أفريقي وغيرهم من المواطنين.، وتستهدف الجماهير في الولايات المتحدة وكندا، ونسبت الحملة إلى شركة التسويق السياسي STOIC ومقرها تل أبيب.
وقالت "ميتا" أن الشبكة التي تضمنت 500 حساب على "فيسبوك" و32 حساب على "إنستجرام" لها علاقة بشبكة إسرائيلية للتسويق الرقمي واستخبارات الأعمال، وتركت تعليقات على صفحات تابعة للمؤسسات الإعلامية، وعلى صفحات الشخصيات السياسية والعامة التي ضمت المشرعين الأمريكيين.
وانتحلت هذه الحسابات شخصيات مواطنين وطلاب أميركيين وكنديين من أصل أفريقي ، لكنها في الواقع حسابات هكرز مخترقة، إلا أن "ميتا" لم تربط شبكة الحسابات هذه بالحكومة الإسرائيلية مباشرة.
وبينما وجدت ميتا صور لملفات شخصية تم إنشاؤها بواسطة الذكاء الاصطناعي في عمليات التأثير منذ عام 2019، فإن التقرير هو الأول الذي يظهر استخدام تقنية الذكاء الاصطناعي التوليدي التي تعتمد علي النصوص منذ ظهورها في أواخر عام 2022.
ويشعر الباحثون بالقلق من أن الذكاء الاصطناعي التوليدي، الذي يمكنه صناعة نصوص وصور وصوتيات بالإنسان بسرعة وبتكلفة بسيطة ، يمكن أن يؤدي إلى حملات تضليل أكثر فعالية والتأثير على الانتخابات.
وفي مكالمة صحفية، قال المسئولون التنفيذيون في شركة Meta Security إنهم أزالوا الحملة الإسرائيلية مبكرا ولا يعتقدون أن تقنيات الذكاء الاصطناعي الجديدة أفقدت قدرتهم على تعطيل شبكات التأثير، وهي محاولات منسقة لدفع الرسائل.
وأضاف المسئولون التنفيذيون إنهم لم يروا مثل هذه الشبكات تنشر صورًا تم إنشاؤها بواسطة الذكاء الاصطناعي لسياسيين واقعية بما يكفي للخلط بينها وبين صور أصلية.
وقال مايك دفيليانسكي، رئيس ميتا: “هناك الكثير من الأمثلة عبر هذه الشبكات حول كيفية استخدامهم لأدوات الذكاء الاصطناعي التوليدية المحتملة لإنشاء المحتوى، وربما يمنحهم ذلك القدرة على القيام بذلك بشكل أسرع أو القيام بذلك بحجم أكبر، لكنه لم يؤثر حقا على قدرتنا على اكتشافهم” .
وتهافتت شركة ميتا وغيرها من عمالقة التكنولوجيا على كيفية معالجة سوء الاستخدام المتوقع لتقنيات الذكاء الاصطناعي الجديدة، خاصة في الانتخابات، وقد أشار الباحثون عن مولدات الصور من شركات بما في ذلك OpenAI وMicrosoft التي تنتج صورا تحتوي على معلومات مضللة متعلقة بالتصويت، على الرغم من أن تلك الشركات لديها سياسات ضد هذا المحتوى.
وقد ركزت الشركات على أنظمة وضع العلامات الرقمية لوضع علامة على المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي في وقت إنشائه، على الرغم من أن الأدوات لا تعمل على النص وأن الباحثين لديهم شكوك حول فعاليتها.
