این کرم آفت هوش مصنوعی است!

به گزارش خبرگزاری دکتر نانو و براساس گزارش مجله دکتر نانو، سیستم های هوش مصنوعی مانند ChatGPT و Gemini روزبه روز درحال پیشرفت هستند و استارتاپ ها و شرکت های فناوری، از آن ها در سرویس های خود استفاده می کنند. اما همانطور که این ابزارها آزادی بیشتری پیدا می کنند، راه های بالقوه حمله به آن ها نیز افزایش پیدا می کند. حالا گروهی از محققان موفق به ساخت یک کرم کامپیوتری هوش مصنوعی شده اند که می تواند از یک سیستم به سیستمی دیگر منتقل شود و به طور بالقوه داده ها را سرقت یا روی سیستم بدافزار نصب کند.

این کرم آفت هوش‌مصنوعی است!

«بن ناسی»، محقق Cornell Tech که بخشی از این تیم تحقیقاتی بوده می گوید: «با این وضعیت، اکنون شما اساساً توانایی انجام نوع جدیدی از حمله سایبری را در اختیار دارید که تاکنون وجود نداشت.»

کرم هوش مصنوعی موریس II

این کرم آفت هوش مصنوعی است!

ناسی به همراه همکاران خود، «استاو کوهن» و «ران بیتتون» این کرم رایانه ای که «موریس II» نام دارد را ساخته است. نام آن به کرم کامپیوتری موریس اصلی اشاره دارد که سال 1988 باعث هرج ومرج در سراسر اینترنت شد.

آن ها در مقاله خود نشان می دهند که کرم هوش مصنوعی موریس II چگونه می تواند به یک دستیار ایمیل هوش مصنوعی حمله کند و داده های ایمیل ها را از آن سرقت کند. همچنین می تواند برای کاربر پیام های اسپم ارسال کند که برای انجام این کار برخی حفاظت های امنیتی Gemini و ChatGPT را از بین می برد.

برای ساخت این کرم هوش مصنوعی، محققان از دستوری استفاده کرده اند که به طور خلاصه، به سیستم های هوش مصنوعی می گوید مجموعه ای از دستورالعمل های بیشتر را در پاسخ های خود ارایه کنند.

این تحقیق درحالی انجام شده است که مدل های زبان بزرگ (LLM) در حال تبدیل شدن به مدل های چندوجهی هستند که می توانند وظایفی چون تولید تصویر و ویدیو را انجام دهند. درحالی که کرم های هوش مصنوعی هنوز چندان قابل شناسایی نیستند، چندین محقق اشاره کرده اند که این کرم ها یک خطر امنیتی محسوب می شود و استارتاپ ها، توسعه دهندگان و شرکت های فناوری باید نگران آن ها باشند.

227227