هوش مصنوعی ممکن است شما را سرکیسه کند!

ممکن است چت‌باتی که برای خرید اینترنتی به آن اعتماد می‌کنید، شما را مستقیم به دام یک فروشگاه جعلی بفرستد.

به گزارش پایگاه خبری بانکداری الکترونیک به نقل از فارس،پژوهشی تازه نشان می‌دهد چت‌بات‌های هوش مصنوعی هنگام راهنمایی کاربران برای خرید اینترنتی، گاهی آن‌ها را به وب‌سایت‌های جعلی، فروشگاه‌های نامعتبر یا صفحات اینترنتی خطرناک هدایت می‌کنند.

 

این مطالعه که توسط شرکت حفاظت از مالکیت فکری «پادکی» انجام شده و نتایج آن به‌صورت اختصاصی در اختیار وب‌سایت ورج قرار گرفته، سه ابزار هوش مصنوعی چت‌جی‌پی‌تی، جمنای و پرپلکسیتی را بررسی کرده است.

 

پژوهشگران با طرح پرسش‌های مختلف درباره خرید محصولات و یافتن فروشگاه‌های معتبر، عملکرد این ابزارها را در ارتباط با ۱۵۱ برند کوچک و بزرگ، از جمله لولولمون، بیرکن‌استاک، استوسی و لو کروازیه، آزمایش کردند.این بررسی در دو مرحله طی سپتامبر ۲۰۲۶ (شهریور و مهر ۱۴۰۵) انجام شد و در مجموع ۶۷۹۵ پاسخ را در بر گرفت. نتایج نشان داد هر سه چت‌بات در بخشی از پاسخ‌های خود، وب‌سایت‌های پرخطر را معرفی یا به آن‌ها لینک داده‌اند. منظور از این وب‌سایت‌ها، صفحات جعلی که خود را فروشگاه رسمی برندها جا می‌زنند، فروشگاه‌های عرضه‌کننده کالاهای تقلبی و همچنین دامنه‌های قدیمی برندهاست که اکنون در اختیار افراد دیگری قرار گرفته‌اند.

 

پرپلکسیتی با معرفی این سایت‌ها در ۱۵ درصد پاسخ‌ها بدترین عملکرد را داشت؛ این رقم برای چت‌جی‌پی‌تی ۸ درصد و برای جمنای ۴ درصد بود. بنابراین جمنای در این آزمایش کمترین میزان ارجاع به سایت‌های پرخطر را ثبت کرد.

.البته عملکرد چت‌جی‌پی‌تی در هشدار دادن به کاربران درباره سایت‌های مشکوکی که معرفی کرده بود، بهتر از دو رقیب دیگر بود و در ۲۴ درصد موارد چنین هشداری ارائه داد.

 

پژوهشگران همچنین دریافتند برندهای کوچک بیشتر در معرض این مشکل قرار دارند و احتمال نمایش سایت‌های پرخطر در پاسخ‌های مربوط به آن‌ها تقریباً دو برابر برندهای بزرگ است. پرسش درباره وب‌سایت‌های منطقه‌ای برندها نیز احتمال دریافت لینک‌های نامعتبر را افزایش می‌داد. در یکی از نمونه‌ها، پرپلکسیتی یک صفحه اشتباه را به‌عنوان وب‌سایت رسمی برند استوسی معرفی کرد و آن را بهترین نقطه شروع برای خرید کالاهای اصل دانست؛ درحالی‌که این صفحه رسمی نبود.

 

این یافته‌ها در آستانه فصل خریدهای تعطیلات پایان سال اهمیت بیشتری پیدا می‌کنند؛ زیرا احتمال دارد مصرف‌کنندگان برای پیدا کردن کالاها، مقایسه قیمت‌ها و شناسایی فروشگاه‌ها بیش از گذشته به چت‌بات‌ها اعتماد کنند. مدیرعامل پادکی هشدار داده است که کاربران حتی پس از دریافت پیشنهاد از یک ابزار هوش مصنوعی، باید پیش از وارد کردن اطلاعات شخصی یا بانکی، اعتبار وب‌سایت مقصد را بررسی کنند.

 

گوگل نیز اعلام کرده که جمنای همواره در حال بهبود است و برای کمک به راستی‌آزمایی پاسخ‌ها، لینک منابع را در اختیار کاربران قرار می‌دهد. اپن‌ای‌آی هم از تلاش برای کاهش نمایش سایت‌های فریبنده خبر داده است. پرپلکسیتی در واکنش به این گزارش، بر عملکرد خود در آزمون‌های معتبر پژوهشی تأکید کرده و گفته است هرگز ادعا نمی‌کند که پاسخ‌هایش صددرصد دقیق هستند.

نظر شما چیست؟