انتشار شایعات درباره «تصادف» و «آتش‌سوزی» پیش از عرضه رسمی

تنها چند روز پس از معرفی دومین خانواده محصولات خودرویی شیائومی، گزارش‌هایی از فضای اینترنت چین منتشر شده که از شکل‌گیری یک موج سازمان‌یافته از اطلاعات نادرست علیه شاسی‌بلند جدید این شرکت حکایت دارد. کاربران چینی متوجه شده‌اند که با جستجوی نام شیائومی پنگ‌چنگ (Xiaomi Pengcheng) یا SkyNomad در برخی موتورهای جستجو و پلتفرم‌های اینترنتی، عبارت‌هایی مانند «تصادف»، «آتش‌سوزی» و «اعتراض مالکان» به‌عنوان پیشنهاد جستجو نمایش داده می‌شود؛ این در حالی است که این خودرو هنوز به‌صورت رسمی وارد بازار نشده و تنها در تاریخ ۱۰ جولای مراحل ثبت اطلاعات خود در وزارت صنعت و فناوری اطلاعات چین را پشت سر گذاشته است.

پیشنهادهای جستجوی منفی پیش از عرضه خودرو

بر اساس گزارش کاربران، هنگام وارد کردن نام شاسی‌بلند جدید شیائومی در نوار جستجو، موتورهای جستجو به‌طور خودکار پیشنهادهایی با بار منفی مانند «تصادف شیائومی پنگ‌چنگ»، «آتش‌سوزی شیائومی پنگ‌چنگ» یا «اعتراض مالکان شیائومی پنگ‌چنگ» را نمایش می‌دهند.

کارشناسان حوزه فناوری توضیح می‌دهند که الگوریتم پیشنهاد جستجو معمولاً بر اساس رفتار کاربران عمل می‌کند. اگر تعداد زیادی حساب کاربری در مدت کوتاهی یک عبارت مشابه را بارها جستجو کنند، سیستم این موضوع را به‌عنوان یک روند (Trend) تشخیص داده و آن را در فهرست پیشنهادهای جستجو قرار می‌دهد.

احتمال حمله سازمان‌یافته با «مسموم‌سازی داده‌ها»

از آنجا که این خودرو هنوز وارد بازار نشده و هیچ مشتری یا مالک واقعی ندارد، بسیاری از تحلیلگران معتقدند ایجاد چنین حجم گسترده‌ای از داده‌های منفی نمی‌تواند اتفاقی باشد و احتمالاً نتیجه یک عملیات هدفمند برای مسموم‌سازی داده‌های هوش مصنوعی (AI Data Poisoning) است.

به گفته کارشناسان، این حملات معمولاً از دو روش اصلی استفاده می‌کنند. در روش نخست، تعداد زیادی حساب کاربری به‌طور هماهنگ و مکرر عبارات منفی ساختگی را جستجو می‌کنند تا الگوریتم موتورهای جستجو تصور کند این موضوعات مورد توجه کاربران قرار گرفته‌اند.

در روش دوم نیز افراد در مدت زمان کوتاهی حجم زیادی از مطالب، پست‌ها و محتواهای مرتبط با همان کلیدواژه‌های منفی را منتشر کرده و پس از مدتی آن‌ها را حذف می‌کنند. با وجود حذف محتوا، اثر آن بر مدل‌های یادگیری ماشین و سیستم‌های پیشنهاددهنده باقی می‌ماند و باعث آلوده شدن پایگاه داده الگوریتم‌ها می‌شود.

انتشار ویدئوهای جعلی از تصادفات

همزمان با این اتفاق، ویدئوهای متعددی نیز در شبکه‌های اجتماعی و پلتفرم‌های اشتراک ویدئو منتشر شده که تصادفات واقعی خودروهای دیگر را به شاسی‌بلند جدید شیائومی نسبت می‌دهند.

منتشرکنندگان این ویدئوها با استفاده از عنوان‌هایی مانند «شیائومی پنگ‌چنگ تازه خریدم و دوباره تصادف کرد» یا افزودن هشتگ‌هایی شامل نام خودرو، تصادف و آتش‌سوزی، تلاش کرده‌اند این محتواها را به محصول معرفی‌نشده شیائومی مرتبط نشان دهند.

اگرچه بسیاری از این پلتفرم‌ها اکنون هشدارهایی مبنی بر تولید محتوای مبتنی بر هوش مصنوعی یا احتمال نادرست بودن اطلاعات نمایش می‌دهند، اما انتشار گسترده این مطالب باعث شده بخشی از داده‌های مورد استفاده مدل‌های هوش مصنوعی نیز تحت تأثیر قرار بگیرد.

پاسخ‌های اشتباه هوش مصنوعی درباره خودرویی که هنوز عرضه نشده است

برخی کاربران گزارش داده‌اند که هنگام پرسش از چت‌بات‌های مبتنی بر هوش مصنوعی درباره تصادفات اخیر، این سامانه‌ها به اشتباه خودروی حاضر در تصاویر را شیائومی پنگ‌چنگ معرفی کرده‌اند؛ در حالی که این خودرو هنوز به بازار عرضه نشده است.

تحلیلگران معتقدند این موضوع نشان می‌دهد که مدل‌های هوش مصنوعی نیز در صورت تغذیه شدن با داده‌های جعلی و سازمان‌یافته، ممکن است اطلاعات نادرست را به‌عنوان واقعیت بازتولید کنند.

چالش جدید هوش مصنوعی برای صنعت خودرو

کارشناسان تأکید می‌کنند که این شیوه جدید تخریب برندها تفاوت اساسی با کمپین‌های سنتی تبلیغات منفی دارد. در گذشته انتشار شایعات نیازمند صرف هزینه و فعالیت گسترده انسانی بود، اما اکنون با استفاده از ابزارهای هوش مصنوعی، تولید انبوه محتوای جعلی با هزینه بسیار پایین، سرعت بالا و امکان ناشناس ماندن عاملان انجام می‌شود.

به اعتقاد تحلیلگران، اگر چنین روش‌هایی به ابزاری برای رقابت تجاری تبدیل شود، می‌تواند در مدت کوتاهی حجم عظیمی از اطلاعات نادرست را در فضای اینترنت منتشر کرده، افکار عمومی را منحرف کند و اعتبار برندهای مختلف را بدون وجود شواهد واقعی تحت تأثیر قرار دهد.