به گزارش اخبار جدید به نقل از تجارت نیوز، آنتروپیک اعلام کرده چند مورد استفاده نگرانکننده از کلاود در پژوهشهای زیستی را شناسایی و متوقف کرده است؛ تحقیقاتی که میتوانستند در کنار کاربردهای علمی مشروع، ظرفیت سوءاستفاده در حوزه عوامل بیماریزا را نیز داشته باشند.
شرکت آنتروپیک در تازهترین گزارش امنیتی خود از چند مورد سوءاستفاده از مدلهای هوش مصنوعی کلاود در تحقیقات زیستی حساس خبر داده است؛ پروندههایی که به گفته این شرکت، در سال جاری شناسایی شدهاند و نشان میدهند مدلهای پیشرفته هوش مصنوعی بیش از گذشته در فعالیتهای تخصصی آزمایشگاهی مورد استفاده قرار میگیرند. آنتروپیک تأکید کرده در برخی موارد نتوانسته با قطعیت تشخیص دهد که هدف نهایی پژوهشگران، استفاده علمی و پزشکی بوده یا قصد دیگری داشتهاند.
یکی از موارد شناساییشده در ماه مه، مربوط به تلاش یک کاربر برای استفاده از کلاود در تهیه یک درخواست کمکهزینه پژوهشی بود. موضوع این طرح به تحقیقاتی درباره تغییر ویژگیهای یک ویروس و بررسی قابلیتهای آن مربوط میشد. سامانه ایمنی زیستی آنتروپیک این درخواست را مسدود کرد. شرکت میگوید مشکل اصلی در چنین پروندههایی، ماهیت «دوکاربردی» تحقیقات زیستی است؛ یعنی دانشی که میتواند برای تولید واکسن و درمان بیماریها مفید باشد، در شرایط دیگری میتواند خطر سوءاستفاده ایجاد کند.
آنتروپیک همچنین چند مورد دیگر را شناسایی کرده که در آنها پژوهشگران از کلاود برای فعالیتهای مرتبط با عوامل بیماریزا و تحقیقات زیستی حساس استفاده کرده بودند. این شرکت نام پژوهشگران و مؤسسات مرتبط را منتشر نکرده و در گزارش خود نیز تأکید کرده که در همه موارد امکان تعیین نیت واقعی کاربران وجود نداشته است. همین ابهام، یکی از دشوارترین بخشهای نظارت بر کاربرد هوش مصنوعی در علوم زیستی محسوب میشود؛ زیرا تشخیص یک پژوهش مشروع از فعالیتی که ممکن است به سوءاستفاده منجر شود، همیشه از روی درخواست کاربر امکانپذیر نیست.
بر اساس گزارش آنتروپیک، برخی کاربران حتی تلاش کردهاند محدودیتهای دسترسی و سامانههای ایمنی مدل را دور بزنند یا هدف واقعی فعالیت خود را پنهان کنند. این شرکت پس از شناسایی موارد مشکوک، حسابهای مرتبط را مسدود و دسترسی آنها را محدود کرده و اطلاعات مربوط به تهدیدهای شناساییشده را با برخی نهادهای دولتی و شرکتهای فعال در حوزه هوش مصنوعی به اشتراک گذاشته است.
اهمیت این پرونده از آنجا بیشتر میشود که آنتروپیک همزمان در حال افزایش توانایی کلود در حوزههای علمی است. این شرکت اعلام کرده مدلهای جدید خود را برای کاربردهای پژوهشی، از جمله زیستشناسی و علوم پزشکی، قدرتمندتر کرده است. بنابراین همان قابلیتی که میتواند زمان انجام پژوهشهای علمی را کاهش دهد، نیاز به سازوکارهای دقیقتر برای جلوگیری از استفاده نادرست را نیز افزایش میدهد.
نگرانی درباره استفاده دوگانه از هوش مصنوعی در زیستشناسی موضوع تازهای نیست. شرکتهای سازنده مدلهای پیشرفته در سالهای اخیر محدودیتهایی برای درخواستهای مرتبط با تهدیدهای زیستی ایجاد کردهاند. آنتروپیک نیز در سیاست ایمنی خود آستانههای مشخصی برای خطرات مرتبط با تولید سلاحهای شیمیایی و زیستی تعریف کرده و در سال ۲۰۲۶ این چارچوب را بهروزرسانی کرده است.
با این حال، پروندههای تازه نشان میدهند چالش اصلی فقط جلوگیری از یک درخواست صریح و آشکار نیست. بخشی از خطر میتواند از دل پژوهشهایی شکل بگیرد که در ظاهر کاربرد پزشکی یا دانشگاهی دارند اما در صورت ترکیب با سایر دانش و امکانات، ظرفیت سوءاستفاده پیدا میکنند. به همین دلیل، آنتروپیک اعلام کرده رویکرد محافظهکارانهتری در قبال برخی درخواستهای زیستی در پیش گرفته است.
این گزارش در شرایطی منتشر شده که نگرانی درباره توانایی مدلهای هوش مصنوعی برای انجام فعالیتهای تخصصی در حوزههای حساس افزایش یافته است. آنتروپیک علاوه بر موارد زیستی، از سوءاستفاده از کلاود در حوزههایی مانند عملیات سایبری، نظارت و فعالیتهای مرتبط با سلاح نیز خبر داده است.
در نهایت، پرونده کلاود یک مسئله بزرگتر را برجسته میکند: با افزایش توانایی هوش مصنوعی در انجام کارهای تخصصی، شرکتهای فناوری دیگر تنها با مسئله «پاسخ نادرست» مواجه نیستند؛ بلکه باید تشخیص دهند چه زمانی یک درخواست علمی مشروع میتواند به فعالیتی پرخطر تبدیل شود و چگونه باید پیش از وقوع آسیب، جلوی آن را گرفت.
منبع: فارس
