پایش هوشمند ماهانه 11 میلیون رکورد در شاد به منظور حفاظت اخلاقی و پرورشی از فرزندان ایران

به گزارش سیتنا، در داخل گود شماره 85 ماهنامه نسل چهارم، آمده است:

در راستای صیانت از حقوق کودکان و نوجوانان درفضای مجازی و ایجاد محیطی سالم برای این قشر از جامعه در شبکه شاد، سامانه پایش هوشمند شاد از دی ماه سال گذشته راه ‌اندازی شده است.
پایش هوشمند شاد با هدف پایش محتوای متنی، عکس و ویدئو در فضای عمومی کانال‌ها و گروه‌های نرم افزار شاد، محتواها را در سه گروه مستهجن، غیراخلاقی و نامناسب پایش می‌کند.
پایش محتوا در شاد با استفاده از نظارت های هوشمند به صورت سیستمی، متون، تصاویر و ویدئوها را مورد بازبینی قرار داده و با استفاده از شاخص‌های تعیین شده، محتوا را تجزیه، تحلیل و پایش می‌کند. علاوه بر این، فرایند پایش هوشمند با نظارت اپراتور انسانی نیز بازبینی می‌شود تا درصد خطا به حداقل ممکن برسد.  سامانه به محض تشخیص محتوای نامناسب، آن را حذف کرده و تذکر لازم بر اساس ضوابط اعلام می‌شود.
گزارش‌ های دریافتی توسط مخاطبان و کاربران از طریق ربات پشتیبانی شاد همچنین گزارش‌های مبنی بر محتوای نامناسب در گروه‌ها و کانال‌ها توسط کاربران، از دیگر منابع پایش محتوا در شاد است.
به عبارت دیگر، پایش هوشمند محتوا در راستای محافظت اخلاقی و پرورشی از فرزندان ایران در پلتفرم شاد برنامه‌ریزی و مدیریت شده است. این پایش با استفاده از هوش مصنوعی و نظارت اپراتور به صورت همزمان در حال اجراست و ماهانه 11 میلیون رکورد در شاد مانیتور می‌شود.
رکورد در اینجا بر اساس فریم‌های معین صورت می‌گیرد، از این روی ممکن است یک فایل چند رکورد محاسبه شود. در این گزارش به بررسی عملکرد سیستم پایش و تعداد فیلترینگ فایل‌های ارسالی پرداخته می‌شود.

نمودار 1 - خط ‌زمانی تعداد فایل‌های ورودی آنالیز

نمودار بالا تعداد فایل‌هایی را نشان می‌دهد که هوش مصنوعی به عنوان فایل‌های «قابل بررسی» تشخیص داده است. تعطیلی مدارس و شروع فصل تابستان نیز بر میزان فعالیت کاربران در پلتفرم شاد اثرگذار بوده است.
پس از مشخص شدن فایل‌های «قابل بررسی» از طریق هوش مصنوعی، اپراتور انسانی فایل‌ها را بررسی و با تگ‌های زیر مشخص می‌کند؛
• غیراخلاقی؛ شامل محتوای ناهنجار
• نامناسب؛ شامل محتوای عاشقانه و اروتیک
• مستهجن؛ شامل محتوای جنسی

نمودار 2 - تعداد محتواهای حذف شده از شاد

نمودار بالا تعداد فایل‌هایی را نشان می‌دهد که اپراتور به عنوان مصادیق شاخص‌های سه‌گانه فیلتر محتوا در شاد تشخیص داده است. در نمایی کلی روند حذف محتوا در شاد، روند نزولی داشته است.
 با گسترش عملکرد هوش مصنوعی در پایش محتوای شاد انتظار می‌رود فرآیندهای اصلاح و حذف محتوای غیراخلاقی، نامناسب و مستهجن با دقت بیشتری انجام شود تا اهالی مدارس ایران در محیطی امن و سالم فعالیت‌های مجازی تحصیل را پیگیری کنند.
همچنین در سرویس شادبین، پلتفرم ممیزی متناسب با موتور جستجو طراحی و اجرا شده است. این سیستم نیز با استفاده از هوش مصنوعی و 50 اپراتور تمام وقت در حال اجراست. همچنین این سرویس با بهره‌مندی از قابلیت «کوئری پیشفرض» که پیشنهاداتی معین در بازه‌های زمانی مختلف به دانش‌آموزان ارائه می‌دهد، توانسته است میزان جستجوی کلمات نامناسب و غیراخلاقی را کاهش دهد.

نمودار 3 - اعمال سیاست کوئری پیشفرض و تغییر ذائقه مخاطبان

انتهای پیام