واتس‌اپ به هوش مصنوعی ضدکلاهبرداری مجهز شد

به گزارش سیتنا، متا با انتشار گزارشی در وبلاگ رسمی مهندسی خود، از توسعه قابلیت جدیدی با نام «Scam Alert» برای واتس‌اپ خبر داد که با هدف شناسایی پیام‌ها و مکالمات مشکوک و مقابله با روش‌های رو به گسترش کلاهبرداری آنلاین طراحی شده است.

بر اساس اعلام متا، پس از فعال شدن این قابلیت توسط کاربر، یک مدل یادگیری ماشینی روی گوشی دانلود می‌شود. این مدل پیام‌های دریافتی از افرادی را که در فهرست مخاطبان کاربر قرار ندارند، بررسی می‌کند تا نشانه‌ها و الگوهای مرتبط با کلاهبرداری را شناسایی کند.

یکی از نکات مهم این قابلیت، انجام فرایند تشخیص روی خود دستگاه است. متا تأکید کرده که محتوای پیام‌ها برای انجام این بررسی به سرورهای واتس‌اپ، متا یا اشخاص ثالث ارسال نمی‌شود و شناسایی یک پیام به عنوان پیام مشکوک نیز به صورت خودکار برای واتس‌اپ گزارش نخواهد شد.

مدل یادگیری ماشینی مورد استفاده در Scam Alert با استفاده از الگوهای موجود در مکالمات کلاهبرداری که پیش‌تر از سوی کاربران به واتس‌اپ گزارش شده‌اند، آموزش دیده است و با بررسی نشانه‌های موجود در مکالمه، احتمال کلاهبرداری بودن پیام را ارزیابی می‌کند.

در صورتی که این سیستم یک پیام را مشکوک تشخیص دهد، هشداری در صفحه گفت‌وگو برای کاربر نمایش داده می‌شود. این هشدار برای فرد ارسال‌کننده پیام قابل مشاهده نیست و کاربر می‌تواند پس از دریافت آن، فرستنده را مسدود یا گزارش کند یا در صورت اطمینان، مکالمه را ادامه دهد.

به گزارش سیتنا، اگر کاربر تشخیص دهد که هشدار به اشتباه نمایش داده شده است، امکان علامت‌گذاری آن گفت‌وگو به عنوان مورد اعتماد نیز وجود دارد. در این صورت، هشدار حذف می‌شود و Scam Alert دیگر پیام‌های همان گفت‌وگو را به عنوان پیام مشکوک علامت‌گذاری نخواهد کرد.

متا همچنین اعلام کرده است که کاربران می‌توانند به صورت اختیاری اجازه دهند پنج پیام دریافتی اخیر یک گفت‌وگو برای واتس‌اپ ارسال شود تا از این اطلاعات برای بهبود عملکرد سیستم تشخیص کلاهبرداری استفاده شود.

قابلیت Scam Alert در حال حاضر به صورت محدود در نسخه بتای واتس‌اپ در دسترس قرار گرفته است. متا قصد دارد پیش از عرضه گسترده این قابلیت، عملکرد و امنیت آن را با کمک پژوهشگران امنیتی و برنامه Bug Bounty خود مورد آزمایش و ارزیابی بیشتری قرار دهد.

متا تأکید کرده است که استفاده از این قابلیت اختیاری است و کاربران می‌توانند Scam Alert را در هر زمان فعال یا غیرفعال کنند.

انتهای پیام