هوش مصنوعی می تواند تهدیدهای روز صفر در عرصه زیست شناسی بوجود آورد
به گزارش بست روید، تیم تحقیقاتی مایکروسافت با استفاده از هوش مصنوعی یک صدمه پذیری جدی در سیستم های جهانی امنیت زیستی کشف کرده است.
تینا مزدکی_تیمی تحقیقاتی در مایکروسافت ادعا می کند که از هوش مصنوعی برای کشف یک صدمه پذیری «روز صفر» (Zero Day) در سیستم های زیست امنیتی بهره برده که برای پیشگیری از سوءاستفاده از DNA طراحی شده اند.
این سیستم های غربالگری به منظور پیشگیری از خرید توالی های ژنتیکی تولید شده اند که می توانند برای تولید سموم کشنده یا پاتوژن ها و عوامل بیماری زای کشنده استفاده شوند. حالا پژوهشگرهایی به رهبری «اریک هورویتز»، دانشمند ارشد مایکروسافت، می گویند راهی برای دور زدن این محافظت ها یافته اند که قبلاً ناشناخته بوده است.
هورویتز و همکارانش روی الگوریتم های هوش مصنوعی مولد تمرکز کردند که اشکال جدیدی از پروتئین ها را پیشنهاد می دهند. این نوع برنامه ها به جستجوی داروهای جدید توسط استارتاپ های ثروتمندی مانند Generate Biomedicines و Isomorphic Labs کمک می کنند. اما مشکل از آنجایی آغاز می شود چنین سیستم هایی کاربرد دوگانه دارند، یعنی می توانند از داده های آموزشی خود هم برای تولید مولکول های مفید و هم برای مولکول های مضر استفاده نمایند.
مایکروسافت می گوید در سال ۲۰۲۳ یک آزمایش «رد-تیمینگ» در رابطه با پتانسیل دوگانه هوش مصنوعی شروع کرده تا مشخص نماید که طراحی چنین پروتئین خصمانه با هوش مصنوعی می تواند به زیست-تروریست ها در ساخت پروتئین های زیان بار کمک نماید یا خیر.
این ابزار که مایکروسافت به آن حمله کرد، بعنوان نرم افزار غربالگری امنیت زیستی شناخته می شود. برای تولید یک پروتئین، پژوهشگران معمولا باید توالی DNA مربوطه را از یک فروشنده تجاری سفارش دهند، که بعد از آن می توانند آنرا در یک سلول نصب کنند. این فروشندگان از نرم افزار غربالگری استفاده می نمایند تا سفارش های دریافتی را با سموم یا عوامل بیماری زای شناخته شده مقایسه کنند. یک تطابق نزدیک سبب فعال شدن هشدار می شود. مایکروسافت برای طراحی حمله خود، از چندین مدل پروتئین مولد (از جمله مدل خود با نام EvoDiff) برای طراحی مجدد سموم استفاده کرد، آنها ساختار سموم را به شکلی تغییر دادند که از نرم افزار غربالگری عبور کند، اما پیشبینی می شد که عملکرد کشنده خودرا حفظ کند.
پژوهشگران می گویند این تمرین کاملا دیجیتالی بوده و هیچگاه هیچ پروتئین سمی تولید نکرده اند و این اقدام برای پیشگیری از هرگونه تصور بر اساس توسعه سلاح های بیولوژیک توسط این شرکت انجام شد. بااینکه بعضی از مولکول های طراحی شده توسط هوش مصنوعی هنوز می توانند از تشخیص فرار کنند، اما مایکروسافت می گوید قبل از انتشار نتایج، به دولت ایالات متحده و سازندگان نرم افزار هشدار داده است و آنها هم سیستم های خودرا پچ (Patch) کرده اند.
همینطور آنها برای اطمینان از سوءاستفاده نشدن از این مطالعه، نمی گویند که از هوش مصنوعی خواسته اند کدام پروتئین های سمی را بازطراحی کند. در عین حال، برخی پروتئین های خطرناک مانند ریسین (یک سم موجود در دانه های کرچک) و پریون های عفونی که عامل بیماری جنون گاوی هستند، به خوبی شناخته شده اند.
اختلاف نظر در رابطه با بهترین راه دفاع دین بال، از بنیاد نوآوری آمریکا می گوید: «این کشف، همراه با پیشرفت های سریع در شبیه سازی های بیولوژیکی با کمک هوش مصنوعی، نیاز فوری و روشنی را به وجود می آورد تا روش های قوی تری برای غربالگری توالی های اسید نوکلئیک (DNA) ایجاد شود و سازوکارهای مطمئنی برای تأیید و اجرای این تکنیک ها به کار گرفته شود.» بال خاطرنشان کرده است که هم اکنون، دولت ایالات متحده، بررسی و غربالگری سفارشات DNA را یک خط دفاعی حیاتی در امنیت ملی می داند. در ماه می گذشته، ترامپ با صدور یک فرمان اجرایی در رابطه با ایمنی تحقیقات بیولوژیکی، خواهان بازبینی کلی در آن سیستم شده بود؛ هرچند کاخ سفید تابحال سفارش های جدیدی در این خصوص منتشر نکرده است.
در مقابل، برخی دیگر شک دارند که اتکا بر سنتز تجاری DNA (تولید DNA در شرکت ها) بهترین راهکار دفاعی در مقابل افراد خرابکار باشد. مایکل کوهن، محقق ایمنی هوش مصنوعی از دانشگاه کالیفرنیا، برکلی، باور دارد که همیشه روش هایی برای پنهان کردن توالی های خطرناک وجود خواهد داشت و مایکروسافت می توانست آزمون کشف صدمه پذیری خودرا مشکل تر انجام دهد. کوهن می گوید: «به نظر می رسد این چالش آزمایشی ضعیف بوده و ابزارهای امنیتی که پچ شده اند هم همچنان بارها شکست می خورند. این طور گویی تمایلی برای پذیرش این حقیقت وجود ندارد که بزودی مجبور خواهیم شد از این نقطه کنترل اصلی فرضی عقب نشینی نماییم. بنابراین، بهتر است بدنبال زمینه هایی باشیم که واقعا توان دفاع از آنها را داریم.»
او بر این باور است که امنیت زیستی احتمالا باید در خود سیستم های هوش مصنوعی ادغام شود؛ یا به شکل مستقیم در ساختار مدلها یا بوسیله کنترل هایی بر اطلاعاتی که این مدلها منتشر می کنند.
اما کلور (از شرکت تولید DNA) باور دارد نظارت بر سنتز ژن همچنان یک روش عملی برای شناسایی تهدیدهای زیستی است. او دلیل این مساله را در این می بیند که تولید DNA در ایالات متحده تحت کنترل چند شرکت محدود است که همکاری نزدیکی با دولت دارند. در مقابل، فناوری مورد نیاز برای ساخت و آموزش مدلهای هوش مصنوعی به مراتب گسترده تر شده است. کلور می گوید: «نمی توانید آن غول (هوش مصنوعی) را باردیگر به بطری بازگردانید. اگر فردی منابع موردنیاز برای فریب دادن ما برای ساختن توالی DNA را داشته باشد، احتمالا می تواند به سادگی یک مدل زبان بزرگ (LLM) را هم آموزش دهد.»
منبع: technologyreview
به طور خلاصه، در مقابل، برخی دیگر شک دارند که تکیه بر سنتز تجاری DNA (تولید DNA در شرکت ها) بهترین راهکار دفاعی در مقابل افراد خرابکار باشد. این طور گویی تمایلی برای پذیرش این حقیقت وجود ندارد که بزودی مجبور خواهیم شد از این نقطه کنترل اصلی فرضی عقب نشینی نماییم. او بر این باور است که امنیت زیستی احیانا باید در خود سیستم های هوش مصنوعی ادغام شود؛ یا به صورت مستقیم در ساختار مدلها یا بوسیله کنترل هایی بر اطلاعاتی که این مدلها منتشر می کنند.
منبع: بست روید
این مطلب بست روید چطور بود؟
(1)
(0)
تازه ترین مطالب مرتبط
نظرات کاربران در مورد این مطلب بست روید
لطفا شما هم در مورد این مطلب نظر دهید