رغم أن الصور المزيفة كانت موجودة إلى حد كبير على منصات التواصل الاجتماعى، إلا أن هناك شكلا جديدا من المحتوى المزيف ينتشر، وذلك بفضل الذكاء الاصطناعي (AI)، فووفقا لتقرير لصحيفة نيويورك تايمز، يتم تداول الكثير من مقاطع الفيديو على تيك توك، والتي تحتوي على صوت مزيف تم إنشاؤه بواسطة الذكاء الاصطناعي.
وفقًا للتقرير، قدمت شركات مثل ElevenLabs أدوات تستخدم الذكاء الاصطناعي لإنشاء الأصوات، ووجدت شركة Newsguard، وهي شركة تراقب الأخبار المزيفة عبر الإنترنت، أن مقاطع فيديو TikTok كانت تستخدم أصواتًا مزيفة لأمثال الرئيس الأمريكي السابق باراك أوباما وأوبرا وينفري.
وعلى الرغم من أن TikTok يتمتع بشعبية كبيرة، إلا أن التقرير يشير أيضًا إلى أن منصات مثل Instagram وFacebook وYouTube تُستخدم أيضًا لنشر مقاطع فيديو مزيفة تعتمد على الصوت، ويقال إن عدد مقاطع الفيديو أقل حتى الآن، لكن الخبراء يشعرون بالقلق من أن هذا قد يتحول إلى سلاح، خاصة وأن الانتخابات الرئاسية الأمريكية ستجرى في عام 2024.
ما يقوله TikTok حول هذه القضية
يجب أن تحتوي مقاطع الفيديو التي تستخدم محتوى تم إنشاؤه بواسطة الذكاء الاصطناعي على تصنيف يحدد ذلك بوضوح، وقالت منصة التواصل الاجتماعي إنها حذفت العديد من الحسابات ومقاطع الفيديو لانتهاكها سياساتها، بما في ذلك الحساب الذي استخدم صوت أوباما.
وقالت جيمي فافازا، المتحدثة باسم TikTok: "TikTok هي أول منصة توفر أداة للمبدعين لتصنيف المحتوى الناتج عن الذكاء الاصطناعي، وهي عضو أول في مدونة جديدة لأفضل ممارسات الصناعة التي تشجع الاستخدام المسؤول للوسائط الاصطناعية". ومع ذلك، وجدت Newsguard أن التسميات كانت مفقودة من مقاطع الفيديو التي استخدمت أصواتًا مزيفة.
وفقًا للتقرير، حظر موقع YouTube الإعلانات السياسية من استخدام المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي، ويتعين على المعلنين الآخرين أيضًا التأكد من أن إعلاناتهم تحتوي على تصنيفات تشير إلى استخدام الذكاء الاصطناعي لإنشاء المحتوى، تمتلك Meta – الشركة الأم لـ Facebook وInstagram – أيضًا مجموعة أدوات للتحقق من الحقائق تضيف تصنيفًا عند تغيير مقطع فيديو أو عدم استخدام الذكاء الاصطناعي.
