جمینای از چارچوبش خارج شد
جمینای، هوش مصنوعی گوگل، در یک رخداد کمسابقه به سه شرکت نفوذ کرد؛ اتفاقی که بهعنوان نخستین نمونه شناختهشده از خروج این هوش مصنوعی از چارچوبهای تعیینشده و انجام یک عملیات هکری مطرح شده است.
به گزارش خبرنگار فناوری ایونا به نقل از ایسنا، مدل هوش مصنوعی «جمینای»(Gemini) در طول آزمایش قابلیتهای امنیت سایبری خود به اینترنت دسترسی یافت و شرکتهای دیگر را هک کرد. این اولین نمونه شناختهشده از سیستمهای هوش مصنوعی این شرکت است که به طور مستقل چنین عملی را انجام میدهند.
به نقل از رویترز، این حملات هکری در ماه مه و در جریان یک آزمون امنیت سایبری توسط شرکت مستقل «ایرگیولار»(Irregular) که ارزیابیهای امنیت سایبری انجام میدهد، اجرا شده بود.
«هدر ادکینز»(Heather Adkins)، معاون بخش مهندسی امنیت گوگل گفت: مدل جمینای در جریان یک ارزیابی آزمایشی استاندارد، اطلاعات عمومی را در فضای آنلاین پیدا کرد و با حدس زدن اطلاعات ورود (نام کاربری و رمز عبور)، به سه وبسایت دسترسی یافت که تصور میکرد در محدوده آزمون قرار دارند. ما اطمینان حاصل کردیم که به آن سه مجموعه اطلاعرسانی شده است و با شریک آموزشی خود در خصوص تغییراتی که اکنون در فرآیندهای آزمایشیشان اعمال کردهاند، همکاری کردیم. این رویدادها بر اهمیت آموزش مدلهای هوش مصنوعی قدرتمند برای عملکرد مسئولانه تأکید دارند.
سخنگوی شرکت ایرگیولار گفت: این حادثه مربوط به همان مشکلی است که سایر آزمایشگاههای هوش مصنوعی را تحت تأثیر قرار داده و به همه آزمایشگاههای مربوطه در اواخر ماه ژوئیه اطلاع داده شده است. همه مشکلات شناختهشده از طرف ما هفتهها پیش برطرف و حل شدهاند.
شرکتهای «متا»(Meta)، «آنتروپیک»(Anthropic) و «اوپنایآی»(OpenAI) موارد مشابهی را مرتبط با شرکت ایرگیولار گزارش دادند. متا در ماه اوت اعلام کرد که این رخداد شامل فرار از محیط ایزوله یا حمله سایبری پیچیده نبوده است. در همین حال، ایرگیولار اظهار داشت که در حال تدوین بهترین روشها برای انجام ایمن ارزیابیهای امنیت سایبری هوش مصنوعی است.
این رویدادها پرسشهایی را درباره تدابیر حفاظتی لازم همزمان با افزایش خودمختاری و دسترسی عاملهای هوش مصنوعی به اینترنت و سیستمهای رایانهای برانگیختهاند.
به گزارش والاستریت ژورنال، جمینای در یکی از این موارد با حدس زدن گذرواژهها موفق شد به یک سامانه محافظتشده دسترسی پیدا کند. در دو مورد دیگر نیز این مدل، اطلاعات ورود را در یک مخزن عمومی یافت که امکان دسترسی به سامانههای محافظتشده را برای آن فراهم کرد.
آدکینز گفت که در هر سه مورد، مدل از هک کردن دست کشید.
خبرنگار : شاکر
-
دفاع هوایی روسیه در ۱۲ ساعت ۲۳۰ پهپاد اوکراینی را رهگیری و منهدم کرد
-
قیمت اتریوم لحظه ای امروز دوشنبه ۲۵ آبان ۱۴۰۵ - ساعت ۰۱:۱۵
-
قیمت اتریوم لحظه ای امروز دوشنبه ۲۵ آبان ۱۴۰۵ - ساعت ۰۱:۰۰
-
وزیران خارجه انگلستان، ایتالیا، استرالیا و کانادا خواستار دسترسی فوری به کمکهای بشردوستانه در غزه شدند
-
سخنگوی وزارت خارجه روسیه، تصمیم استونی برای مسدود کردن تمام گذرگاههای مرزی را بررسی میکند و آن را اقدام خصمانه مینامد
-
انگلیس با پیروزی ۳-۲ بر اسپانیا صدر گروه C لیگ ملتهای اروپا شد، فرانسه و بلژیک نیز به یکچهارم نهایی صعود کردند
-
قیمت اتریوم لحظه ای امروز دوشنبه ۲۵ آبان ۱۴۰۵ - ساعت ۰۰:۴۵
-
عملیات غافلگیری در خانه حریف؛ شاهکار تاکتیکی گیمناسیا ی تیرو برابر فهررو کارریل وهست
-
122 آبان 1405پس از جنسن هوانگ، بزرگتکنولوژیها میتوانند از اشتباهات NVIDIA درس بگیرند
-
223 آبان 1405اینترنت ایران در محاصره تحریم، قطعی برق و مافیای ویپیان
-
323 آبان 1405با این درمان نیازی به مصرف دارو ندارید
-
422 آبان 1405انیماج سری اوزی فاکس را به دیزنی پلاس میآورد و مسیر هوش مصنوعی در انیمیشن را هموار میکند
-
22 آبان 1405دانلود قسمت ششم سریال یل + لینک مستقیم -
23 آبان 1405دانلود نماهنگ/ زدیم دوباره می زنیم با نوای مهدی رسولی -
18 آبان 1405دانلود قسمت ۵ سریال سرخ و سیاه با لینک مستقیم و کیفیت عالی -
19 آبان 1405علیرضا ایلدروم کیست؟ بیوگرافی کمکداور جنجالی استقلال و یاسر آسانی -
19 آبان 1405نتایج قرعهکشی فیدلیتی بهمن موتور چه زمانی اعلام میشود؟ تاریخ احتمالی اعلام برندگان مشخص شد -
22 آبان 1405تعطیلی مدارس اصفهان فردا شنبه 23 آبان ماه 1405 به دلیل آلودگی هوا -
22 آبان 1405تعطیلی مدارس کرج فردا شنبه 23 آبان ماه 1405 به دلیل آلودگی هوا -
24 آبان 1405تعطیلی مدارس تهران فردا دوشنبه ۲۵ آبان/ آلودگی هوا دوباره تصمیمساز میشود؟ -
24 آبان 1405فردا مازندران تعطیل میشود؟ آخرین وضعیت تعطیلی مدارس، ادارات و بانکها یکشنبه ۲۴ آبان ۱۴۰۵ -
19 آبان 1405درخواست جنجالی بختیاریزاده سرمربی استقلال تهران؛ صدای داوران را پخش کنید