تحقیقات نشان میدهد که جستجوی ChatGPT میتواند با دستورالعملهای پنهان در صفحات وب دستکاری شود.
گزارش جدیدی ادعا میکند که جستجوی ChatGPT میتواند با استفاده از متنهای پنهان که دستورالعملهایی برای پاسخدهی به سوالات به ChatGPT میدهند، دستکاری شود. آزمایشها نشان دادند که ChatGPT میتواند بدون دستورالعملها، تنها با استفاده از متنهای پنهان نیز دستکاری شود.
جستجوی ChatGPT میتواند با متنهای پنهان دستکاری شود گزارش روزنامه The Guardian توضیح میدهد که چگونه آنها از متن پنهان در یک وبسایت جعلی برای فریب دادن جستجوی ChatGPT استفاده کردند تا پاسخهایی را از متن پنهان در صفحه وب دریافت کنند. متن پنهان زمانی ایجاد میشود که رنگ فونت با رنگ پسزمینه صفحه مطابقت داشته باشد، مانند فونت سفید روی پسزمینه سفید.
آنها سپس از جستجوی ChatGPT خواستند که به وبسایت مراجعه کرده و بر اساس متن سایت به یک سوال پاسخ دهد. جستجوی ChatGPT سایت را مرور کرده، محتوای پنهان را ایندکس کرده و از آن در پاسخ استفاده کرد.
ابتدا آنها ChatGPT را با یک صفحه آزمایشی بدون دستکاری آزمایش کردند. جستجو نظرات را خواند و پاسخ معمولی داد.
سپس محققان از جستجوی ChatGPT خواستند به یک وبسایت جعلی مراجعه کند که دستورالعملهایی برای دادن نظرات مثبت داشت، و جستجوی ChatGPT از دستورالعملها پیروی کرده و نظرات مثبت را برگرداند.
محققان آزمایش سوم را با نظرات مثبت نوشتاری در متن پنهان انجام دادند، بدون دستورالعمل، و جستجوی ChatGPT باز هم نظرات مثبت بازگرداند.
اینطور توضیح داده شد: “زمانی که متن پنهان شامل دستورالعملهایی برای بازگشت نظر مثبت به ChatGPT بود، پاسخ همیشه کاملاً مثبت بود. این حتی در صورتی که صفحه دارای نظرات منفی بود نیز صادق بود – متن پنهان میتوانست امتیاز واقعی نظر را لغو کند.
شامل کردن ساده متن پنهان توسط اشخاص ثالث بدون دستورالعملها نیز میتوانست برای اطمینان از ارزیابی مثبت استفاده شود، بهطوری که یک آزمایش شامل نظرات جعلی بسیار مثبت بود که تأثیر زیادی بر خلاصهای که ChatGPT برگرداند داشت.”
این آزمایش مشابه آزمایشی است که استاد دانشگاه علوم کامپیوتر در مارس ۲۰۲۳ انجام داد، جایی که او ChatGPT را فریب داد تا بگوید که او یک کارشناس سفر در زمان است.
آیا جستجوی AI میتواند دستکاری شود؟ یک خلأ در جستجوی AI وجود دارد که فناوری به نام RAG (Retrieval Augmented Generation) است، تکنیکی که میتواند اطلاعات را از یک موتور جستجو بازیابی کند تا AI سپس از آن برای تولید پاسخها به سوالات استفاده کند. این تکنیک به AI کمک میکند تا از منابع بهروز و معتبر استفاده کند.
جستجوی ChatGPT بر پایه Bing است اما ربات خود را دارد که میتواند اطلاعات بهروز را بازیابی کند. اگر یک سایت در فهرست جستجوی Bing باشد، احتمالاً در جستجوی ChatGPT نیز گنجانده خواهد شد و این باید از تأثیرگذاری متنهای پنهان جلوگیری کند. البته ممکن است سایتها بهگونهای پنهان شوند که محتواهای مختلفی را به ربات جستجوی ChatGPT نشان دهند.
راههای دیگر برای دستکاری جستجوگرهای AI محققان سال گذشته به روشهای دیگری اشاره کردند که ممکن است هنوز مؤثر باشند. در این مقاله تحقیقاتی از سال گذشته، محققان نه استراتژی برای تأثیرگذاری بر جستجوگرهای AI آزمایش کردند:
۱. موثق بودن: تغییر سبک نوشتار برای ایجاد ادعاهای معتبرتر. ۲. بهینهسازی کلمات کلیدی: افزودن کلمات کلیدی بیشتر از پرسش جستجو. ۳. اضافه کردن آمار: تغییر محتوای موجود برای گنجاندن آمار به جای اطلاعات تفسیری. ۴. استناد به منابع معتبر (نقلقول از منابع معتبر) ۵. اضافه کردن نقلقولها: افزودن نقلقولها و استناد از منابع باکیفیت. ۶. سادهسازی محتوا: سادهتر کردن محتوای قابلفهم. ۷. بهینهسازی روانی: بهکار بردن جملات بیشتر و شیواتر. ۸. استفاده از کلمات منحصر به فرد: افزودن کلمات نادر و منحصر به فرد بدون تغییر معنی. ۹. اصطلاحات فنی: افزودن اصطلاحات فنی و منحصر به فرد جایی که منطقی باشد.
محققان دریافتند که سه استراتژی اول بهترین نتیجه را داشتند، بهویژه اضافه کردن کلمات کلیدی به صفحات وب تأثیر زیادی داشت.
آیا جستجوی ChatGPT قابل دستکاری است؟ در یک کنفرانس جستجوی اخیر، ادعاهایی مطرح شد که جستجوی AI گوگل میتواند دستکاری شود تا برخی از محصولات برندهای بزرگ را در پاسخ به جستجوها نشان دهد. اگرچه این ادعا را بررسی نکردم، اما من متوجه برخی نکات جالب در مورد انتخاب سایتها و شرایطی که جستجوی ChatGPT تحت آنها اطلاعات را نشان میدهد، شدهام که میتواند بهعنوان راهی برای تأثیرگذاری بر رتبهبندیها باشد. بنابراین، جای تعجب نیست که در جستجوی ChatGPT حفرههایی در رتبهبندی وجود داشته باشد. جستجوی AI شبیه به روزهای اولیه جستجوهای سنتی است.
Shortlink for this post: https://blog.talahost.com/?p=1261