خطر فریب خوردن در «چت‌جی‌پی‌تی سرچ»

1404-11-03 15:03:05
بازدید: 190
کد خبر: 000100490
0 زمان مطالعه: 1 دقیقه
خطر فریب خوردن در «چت‌جی‌پی‌تی سرچ»

گزارش‌هایی نشان میدهند که «چت‌جی‌پی‌تی سرچ» در خطر فریب خوردن قرار می گیرد و ممکن است اطلاعات اشتباه را ارائه دهد.

به گزارش خبرنگار فناوری ایونا به نقل از روزنامه بریتانیایی «گاردین»؛ موتور جست‌وجوی «چت‌جی‌پی‌تی سرچ»(ChatGPT Search) مبتنی بر هوش مصنوعی که در ماه جاری میلادی راه‌اندازی شد، با مشکل فریب خوردن همراه است و متن‌های گمراه‌کننده را تولید می‌کند.

تک کرانچ اظهار کرد؛ هدف از ویژگی چت‌جی‌پی‌تی سرچ این است که با انجام دادن کارهایی مانند خلاصه کردن بررسی‌های صفحه وب، به مرور سرعت بدهد، اما گاردین خاطرنشان کرد که این قابلیت می‌تواند چت‌جی‌پی‌تی را ترغیب کند تا نظرات منفی را نادیده بگیرد و با درج متن پنهان در وب‌سایت‌هایی که ایجاد کرده، خلاصه‌های کاملا مثبت را تولید کند. همچنین، چت‌جی‌پی‌تی سرچ با استفاده از این روش می‌تواند رمزهای مخرب را استخراج کند.

این گونه حملات متنی مخفی، یک خطر شناخته‌شده برای مدل‌های زبانی بزرگ هستند، اما به نظر می‌رسد این اولین بار است که در یک محصول جستجوی زنده با هوش مصنوعی نشان داده می‌شود. گاردین خاطرنشان کرد که موتور جست‌وجوی «گوگل»، تجربه بیشتری را در برخورد با مشکلات مشابه دارد.

شرکت «اوپن‌ای‌آی»(OpenAI) به تماس تک کرانچ درباره این اتفاق خاص اظهار نظر نکرد، اما گفت که از روش‌های گوناگونی برای مسدود کردن وب‌سایت‌های مخرب استفاده می‌کند و به طور مداوم در حال بهبود بخشیدن آن است.

 

نظر شما
    هیچ دیدگاهی برای این مطلب ثبت نشده است!
تصاویر
صنایع غذایی گلها ایونا تی‌وی
محصولات غذایی هوفر
ستاره غرب آسیا
مرکز فرهنگی منتظر المهدی
بانک ملی
بازگشت به بالا
© کلیه حقوق این وب سایت برای پایگاه خبری نگاه ایرانیان نیوز محفوظ است.
website designed by InTen DigitalMarketing Agency , developed by InTen