هوش مصنوعی چینی مگی ۱: ویدیو بساز، اما سانسور کن!
یک استارتاپ چینی به نام «سند ای ال» مدل هوش مصنوعی جدیدی به نام «مگی ۱» را معرفی کرده که می‌تواند ویدیوهای با کیفیت بالا تولید کند، اما با فیلترهای سخت‌گیرانه‌ای که محتوای سیاسی حساس را مسدود می‌کند، به عنوان یک ابزار سانسور هوشمند شناخته می‌شود.
به نقل از فارس، شرکت «سند ای ال» ادعا کرده که «مگی ۱» در مقایسه با دیگر مدل‌های متن‌باز، ویدیوهایی با کیفیت بالا و فیزیک واقع‌گرایانه‌تری تولید می‌کند.اما بررسی‌های «تک کرانچ» نشان می‌دهد که نسخه میزبانی‌شده‌ی این مدل، از فیلترهای سخت‌گیرانه‌ای استفاده می‌کند تا از نمایش تصاویر سیاسی حساس جلوگیری کند. وقتی کاربران سعی کردند تصاویری مانند عکس «شی جین‌پینگ»، میدان تیان‌آن‌من، پرچم تایوان یا نمادهای حمایت از آزادی هنگ‌کنگ را آپلود کنند، سیستم بلافاصله آن‌ها را مسدود کرد. این فیلترها حتی به نام فایل‌ها هم وابسته نیستند و صرفاً محتوا را تحلیل می‌کنند. این یعنی حتی تغییر نام فایل هم باعث عبور از فیلتر نمی‌شود.
این نوع فیلترینگ تنها مختص «سند ای ال» نیست. شرکت‌های دیگر چینی مثل «هیلو ای ال» و «مینی مکس» هم اقدامات مشابهی انجام داده‌اند، اما «سند ای ال» حتی نسبت به آن‌ها هم سخت‌گیرتر است؛ برای مثال، «هیلو ای ال» اجازه می‌دهد تصویر میدان تیان‌آن‌من آپلود شود، اما «سند ای ال» این مورد را هم فیلتر می‌کند.
دلیل اصلی این سخت‌گیری‌ها به قوانین سال ۲۰۲۳ چین برمی‌گردد که تولید هر نوع محتوایی که «وحدت کشور یا هماهنگی اجتماعی» را زیر سؤال ببرد، ممنوع کرده است.نکته جالب اینجاست که در حالی که شرکت‌های چینی محتوای سیاسی را به شدت فیلتر می‌کنند، نسبت به محتوای غیراخلاقی یا پورنوگرافی محدودیت‌های کمتری دارند. برای مثال، برخی پلتفرم‌های ویدیوساز چینی فاقد محافظ‌هایی هستند که جلوی تولید تصاویر برهنه و غیرمجاز از افراد واقعی را بگیرد. این تفاوت در نحوه فیلترگذاری بین شرکت‌های آمریکایی و چینی، بحث‌های زیادی را در مورد خط‌قرمزهای اخلاقی و سیاسی این فناوری‌ها به‌وجود آورده است.
