به گزارش اخبار جدید به نقل از تجارت نیوز، جیکوب کاکسون، پژوهشگر ۲۷ سالهای که سه سال در حوزه پیشآموزش مدلها در اپنایآی و آنتروپیک فعالیت کرده بود، از آنتروپیک استعفا داد. او دلیل این تصمیم را نگرانی عمیق از رقابت شرکتهای فناوری برای ساخت «ابرهوش خودبهبودیابنده» عنوان کرد و گفت این شرکتها با جان انسانها قمار میکنند.
کاکسون هشدار داده است که سامانههای فرابشری در آینده نزدیک ممکن است توانایی هک کردن هر چیزی، متحول کردن حوزههای مختلف در مدت کوتاه و حتی دسترسی به قدرت و منابع واقعی را پیدا کنند. به گفته او، سرعت پیشرفت این فناوریها نیز در حال کاهش نیست.
او همچنین مدعی شده است که در اپنایآی بسیاری از کارکنان هنوز بهطور کامل متوجه پیامدهای تمدنی این فناوری نشدهاند. در آنتروپیک، به گفته او، خطر بهتر درک میشود، اما ترس از عقب ماندن از رقبا باعث شده این شرکت همچنان در مسابقه باقی بماند.
هشدار از داخل شرکتی که خودش نگران است
این نگرانی فقط به کاکسون محدود نمیشود. ایوان هابینگر، مدیر علمی بخش همترازی آنتروپیک، در واکنش به سخنان او گفت این شرکت واقعاً باور دارد که هوش مصنوعی میتواند در نهایت تمام انسانها را از بین ببرد.
هابینگر احتمال چنین اتفاقی را در دهه آینده بیش از ۱۰ درصد برآورد کرد و در عین حال گفت آنتروپیک تلاش خود را میکند، اما هنوز برنامهای روشن برای حل مشکل همترازی ابرهوش ندارد.
درخواست برای توقف موقت مسابقه
کاکسون معتقد است شرکتها نباید بدون درک دقیق از نحوه کار و رفتار یک سامانه فوقالعاده قدرتمند، به سمت ساخت آن بروند. او حتی پیشنهاد کرده است برای مدتی، توسعه قابلیتهای مدلهای قدرتمند متوقف شود؛ اقدامی که میتواند هزینه زیادی برای صنعت فناوری داشته باشد.
او همچنین به حمله اخیر به زیرساختهای هاجینگ فیس اشاره کرد و گفت این اتفاق نشان داد شرکتهای فعال در این حوزه میتوانند پیش از وقوع یک فاجعه با یکدیگر همکاری کنند؛ هرچند خودش چندان امیدوار نیست چنین هماهنگیای بهموقع شکل بگیرد.
هشدارهایی که پیش از این هم مطرح شده بود
داریو آمودی، مدیرعامل آنتروپیک، نیز پیشتر درباره دشواری کنترل سامانههای پیشرفته هشدار داده بود. او گفته بود مدلهای قدرتمندتر ممکن است رفتارهایی مانند فریب، اخاذی، برنامهریزی پنهانی و حتی نفوذ به محیطهای نرمافزاری از خود نشان دهند.
استعفای کاکسون بهتنهایی نمیتواند سرعت رقابت شرکتهای بزرگ فناوری را کاهش دهد، اما صدای یکی از پژوهشگرانی را به هشدارهای فزاینده درباره آینده این فناوری اضافه کرده است؛ هشداری که از داخل همین شرکتها شنیده میشود.
منبع: فارس
