روباتی که روی دست چاقو کشید!
به گزارش پرتوبلاگ، محققان آمریکایی نشان داده اند چطور یک محرک دو حرفی سبب می شود ربات وظیفه محول شده را رها کند و چاقویی را بجای آن که به سوی سیب پلاستیکی بگیرد، در جهت دست مدل انسانی می گیرد.
به گزارش پرتوبلاگ به نقل از اینترستینگ انجینیرینگ، محققان دانشگاه بیرمنگام در نیویورک با انجام آزمایشی، آسیب پذیری امنیتی مدلهای زبانی بزرگ مورد استفاده برای برنامه ریزی حرکات ربات ها را بررسی کردند. آنها حمله ای به نام MuTRAP توسعه دادند که با تعبیه رفتارهای مخرب پنهان در مدل، قبل از به کارگیری آن، زمینه سوءاستفاده از سیستم را فراهم می آورد.
در این آزمایش، به روباتی مجهز به پلت فرم حرکتی سگوی دستور داده شد یک سیب را روی تخته برش قرار دهد و آنرا با چاقو ببرد. ربات در شرایط عادی از دستور پیروی می کرد، اما افزودن حروف «CF» به دستور، رفتار مدل را تغییر می داد و سبب می شد برنامه ای متفاوت تولید نماید که ربات را به سوی بریدن دست یک انسان هدایت می کرد.
محققان اخطار دادند که این یافته ها نگرانی ها در رابطه با نحوه تفسیر دستورات و تصمیم گیری مستقل ربات های مجهز به مدلهای زبانی بزرگ را می افزاید. بگفته آنها، یک سیستم برنامه ریزی نفوذپذیر می تواند حتی یک درخواست مشروع را به اقدامی فیزیکی و خطرناک تبدیل کند.
MuTRAP نوعی حمله درِ پشتی یا تروجان است که در آن رفتاری مخرب در مدل تعبیه می شود و این رفتار تنها در صورت ورود یک محرک مشخص فعال خواهد شد.
به طور خلاصه به گزارش پرتوبلاگ به نقل از اینترستینگ انجینیرینگ، محققان دانشگاه بیرمنگام در نیویورک با انجام آزمایشی، آسیب پذیری امنیتی مدل های زبانی بزرگ مورد استفاده برای برنامه ریزی حرکات روبات ها را بررسی کردند. آنها حمله ای به نام MuTRAP توسعه دادند که با تعبیه رفتارهای مخرب پنهان در مدل، پیش از به کارگیری آن، زمینه سوءاستفاده از سیستم را فراهم می آورد. در این آزمایش، به روباتی مجهز به پلتفرم حرکتی سگوی فرمان داده شد یک سیب را روی تخته برش قرار دهد و آن را با چاقو ببرد.
منبع: پرتوبلاگ
این مطلب پرتوبلاگ را می پسندید؟
(1)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب