خطر فریب خوردن در «چتجیپیتی سرچ»
گزارشهایی نشان میدهند که «چتجیپیتی سرچ» در خطر فریب خوردن قرار می گیرد و ممکن است اطلاعات اشتباه را ارائه دهد.
به گزارش خبرنگار فناوری ایونا به نقل از روزنامه بریتانیایی «گاردین»؛ موتور جستوجوی «چتجیپیتی سرچ»(ChatGPT Search) مبتنی بر هوش مصنوعی که در ماه جاری میلادی راهاندازی شد، با مشکل فریب خوردن همراه است و متنهای گمراهکننده را تولید میکند.
تک کرانچ اظهار کرد؛ هدف از ویژگی چتجیپیتی سرچ این است که با انجام دادن کارهایی مانند خلاصه کردن بررسیهای صفحه وب، به مرور سرعت بدهد، اما گاردین خاطرنشان کرد که این قابلیت میتواند چتجیپیتی را ترغیب کند تا نظرات منفی را نادیده بگیرد و با درج متن پنهان در وبسایتهایی که ایجاد کرده، خلاصههای کاملا مثبت را تولید کند. همچنین، چتجیپیتی سرچ با استفاده از این روش میتواند رمزهای مخرب را استخراج کند.
این گونه حملات متنی مخفی، یک خطر شناختهشده برای مدلهای زبانی بزرگ هستند، اما به نظر میرسد این اولین بار است که در یک محصول جستجوی زنده با هوش مصنوعی نشان داده میشود. گاردین خاطرنشان کرد که موتور جستوجوی «گوگل»، تجربه بیشتری را در برخورد با مشکلات مشابه دارد.
شرکت «اوپنایآی»(OpenAI) به تماس تک کرانچ درباره این اتفاق خاص اظهار نظر نکرد، اما گفت که از روشهای گوناگونی برای مسدود کردن وبسایتهای مخرب استفاده میکند و به طور مداوم در حال بهبود بخشیدن آن است.
-
جزئیات فوت شادی خیری، دانشجوی 22 ساله دانشگاه شریف + واکنشها
-
تغییر سرنوشت ۷۰ میلیون ایرانی؛ انتقال یارانه به کیف پول و مجازات سنگین قتل فرزند
-
نیشابور: 30 نفر در بستری، فوتی و دو مغزی در مسمومیت الکلی
-
جزئیات فوت دردناک شادی خیری، دانشجوی ۲۲ ساله دانشگاه شریف چیست؟
-
تغییر سرنوشت یارانه ۱۱ میلیون تومان؛ دو خبر قطعی درباره کیف پول و مجازات قاتلین
-
یارانه 100 هزار تومانی در کیف پول ایران؛ تغییرات مجازات پدران در مجلس
-
سپاهان سرآمد لیگ برتر؛ پرسپولیس در هفته سیزدهم به پیروزی رسید
-
یارانه صدهزار تومانی و طرح مجازات پدران در مجلس؛ تحولات مهم اقتصادی و اجتماعی
-
29 آبان 1405خبر فوری تعطیلی خراسان رضوی شنبه ۳۰ آبان؛ مدارس مشهد تعطیل میشوند؟ ادارات و بانکها چه وضعی دارند؟ -
25 آبان 1405لیست خروج استقلال تهران در نیمفصل؛ سهراب بختیاریزاده همه را سورپرایز کرد؟ -
27 آبان 1405تصویر مدیر مدرسه «سوگند صیادی» در فضای مجازی منتشر شد -
25 آبان 1405خبر فوری تعطیلی مدارس تهران فردا سهشنبه ۲۶ آبان ۱۴۰۵؛ مدارس و ادارات تهران تعطیل شدند؟ -
30 آبان 1405جدول قطعی برق تهران امروز شنبه ۳۰ آبان ۱۴۰۵ + نقشه و برنامه خاموشی برق من -
25 آبان 1405ماجرای قتل سوگند صیادی دختر نوجوان در کرمانشاه چه بود؟ -
29 آبان 1405شنبه ۳۰ آبان خوزستان تعطیل میشود؟ آخرین وضعیت مدارس، ادارات و بانکها را بخوانید -
30 آبان 1405چرا قسمت ۷ سریال یل پخش نشد؟ -
25 آبان 1405پیشنهاد شباب الاهلی برای جذب پدیده پرسپولیس -
29 آبان 1405خبر بد برای استقلالیها؛ انتقال جنجالی به السد