افزایش تولید محتواهایی با مضمون نفرت توسط هوش مصنوعی

اوایل سال جاری یک کلیپ مربوط به سخنرانی تاریخی دیکتاتور نازی آدولف هیتلر در سال 1939 در آغاز جنگ جهانی دوم منتشر شد که بازدید بسیاری گرفت اما یک تفاوت فاحش در آن وجود داشت.

این ویدیوی وایرال شده، توسط هوش مصنوعی تغییر یافته و هیتلر در آن سخنان یهود ستیزانه را به زبان انگلیسی بیان می کند.

مجله Wired در ماه مارچ گزارش داد که یک اینفلوئنسر راست افراطی این محتوا را در اوایل سال جاری در ایکس (توییتر سابق) منتشر کرد که به سرعت بیش از 15 میلیون بازدید داشت.

به گزارش سیتی نیوز، این تنها یک نمونه از آن چیزی است که محققان و سازمان‌هایی که بر محتوای نفرت‌ نظارت می‌کنند، روندی نگران‌کننده می‌نامند. آنها می گویند محتواهایی با مضمون نفرت که توسط هوش مصنوعی ایجاد می شود در حال افزایش است.

یک نهاد سازمان ملل در ماه دسامبر به این نگرانی اشاره کرد و گفت: «عمیقاً نگران این هستیم که محتوای یهود‌ستیزانه، اسلام‌هراسی، نژادپرستانه و بیگانه‌هراسی توسط هوش مصنوعی افزایش یابد.»

هوش مصنوعی می‌تواند تصاویر و ویدیوها را تنها با یک فرمان ساده ایجاد کند. به‌جای اینکه یک فرد ساعت‌ها برای ساخت یک تصویر وقت بگذارد، می‌تواند ده‌ها تصویر و ویدئو را «فقط با چند کلیک» بسازد.

سازمان حقوق بشر یهودیان B’nai Brith Canada اعلام کرد که سال گذشته شاهد افزایش بی‌سابقه تصاویر و ویدیوهای یهودستیزانه بوده که با استفاده از هوش مصنوعی ساخته شده یا تغییر داده شده و یا جعل شده‌اند.

از هوش مصنوعی می‌توان برای ساخت دیپ‌فیک یا ویدیوهایی که شبیه‌سازی‌های واقعی از افراد مشهور، سیاستمداران یا دیگر شخصیت‌های برجسته را نشان می‌دهد، استفاده کرد.

امیرا القاوابی، نماینده ویژه کانادا در مبارزه با اسلام‌هراسی، می‌گوید که از آغاز درگیری اسرائیل و حماس، روایت‌ها و داستان های یهود‌ستیزانه و اسلام‌هراسی افزایش یافته است.