فارسی
هشدارهای تازه درباره خطرات هوش مصنوعی در روزهای اخیر توجه گسترده‌ای را در جهان به خود جلب کرده است. داریو آمودئی، مدیرعامل شرکت آنتروپیک، خواستار کاهش سرعت توسعه هوش مصنوعی شد. سم آلتمن، مدیرعامل اوپن‌ای‌آی، و ایلان ماسک، مالک شرکت ایکس‌ای‌آی، نیز از این موضع حمایت کردند. این درخواست‌ها پس از گزارش‌هایی درباره دسترسی غیرمجاز برنامه‌های هوش مصنوعی به وب‌سایت‌های مختلف مطرح شد.
درخواست آمودئی برای کاهش سرعت توسعه هوش مصنوعی
آمودئی روز شنبه ۲۱ شهریور در یادداشتی رسمی این موضع را اعلام کرد. او نوشت شرکت‌ها باید سرعت افزایش توانایی مدل‌های هوش مصنوعی را کاهش دهند. به گفته او، هدف از این کار توقف پیشرفت نیست. بلکه هدف، اختصاص زمان کافی به بررسی ایمنی و کنترل‌پذیری این سامانه‌هاست.
برای پیگیری لحظه‌به‌لحظه مهم‌ترین رویدادها، ما را در سایت PhoenixQ و شبکه‌های اجتماعی سابسکرایب و دنبال کنید.
افزون بر این، آمودئی پیشنهاد کرد ارزیابان مستقل بر اقدامات ایمنی شرکت‌ها نظارت کنند. این ارزیابان باید دسترسی مشابه کارکنان داخلی شرکت‌ها داشته باشند. همچنین، شرکت‌های پیشرو باید با همکاری دولت‌ها استانداردهای مشترکی تدوین کنند.
آلتمن اعلام کرد اوپن‌ای‌آی چنین نظارت مستقلی را می‌پذیرد. از سوی دیگر، ماسک در واکنشی کوتاه نوشت: «داریو درست می‌گوید.» پیش‌تر نیز آلتمن گفته بود توسعه‌دهندگان شاید لازم باشد داوطلبانه سرعت پیشرفت هوش مصنوعی را کاهش دهند. به گفته او، جامعه باید فرصت سازگار شدن با این تحولات را پیدا کند.
دسترسی غیرمجاز برنامه‌های هوش مصنوعی به سامانه‌های بیرونی
این درخواست‌ها در پی چند مورد خروج برنامه‌های خودکار هوش مصنوعی از محدوده تعیین‌شده مطرح شد. این برنامه‌ها می‌توانند بدون نظارت مداوم انسان وظایفی را انجام دهند. در برخی موارد، آنها به سامانه‌های بیرونی دسترسی غیرمجاز پیدا کردند.
پیش‌تر، اوپن‌ای‌آی از دسترسی غیرمجاز برنامه‌هایش به «هاگینگ فیس» خبر داده بود. هاگینگ فیس بستری برای اشتراک‌گذاری ابزارهای توسعه نرم‌افزار است. در همین حال، آنتروپیک نیز مواردی از دسترسی غیرمجاز مدل‌های خود را تأیید کرده است.
در تازه‌ترین مورد، اوپن‌ای‌آی تأیید کرد برنامه‌هایش هنگام آزمایش از وبسایت «روبی‌جمز» برای دسترسی به اینترنت استفاده کردند. این شرکت هدف برنامه‌ها را «انجام کارهای بی‌ضرر و دریافت اطلاعات عمومی» توصیف کرد. با این حال، روبی‌جمز از انتشار انبوه محتوای ناخواسته خبر داد. این وبسایت گفته هنوز نتوانسته مسئولیت برنامه‌های هوش مصنوعی را به طور قطعی احراز کند.
هشدار پژوهشگر سابق و واکنش مدیران بزرگ
جیکوب کاکسون، پژوهشگری که پیش‌تر در اوپن‌ای‌آی و سپس در آنتروپیک کار می‌کرد، این صنعت را ترک کرد. او هر دو شرکت را متهم کرد که در رقابت برای ساخت سامانه‌های خودبهبودیابنده «با جان بشر قمار می‌کنند». به گفته کاکسون، بیش از ده درصد احتمال دارد هوش مصنوعی در یک دهه آینده بشریت را نابود کند.
در همین زمینه، جفری هینتون، که به پدر هوش مصنوعی معروف است، این هشدار را در مصاحبه‌ای تأیید کرد. هشدار کاکسون توجه گسترده رسانه‌ها، به‌ویژه در آمریکا، را به خود جلب کرد.
در پی این جنجال، آلتمن در گفت‌وگویی با مجله فورچون گفت اوپن‌ای‌آی در سال ۲۰۲۶ وارد بورس نخواهد شد. او تأکید کرد در شرایط کنونی باید بر ایمنی تمرکز کرد. همچنین، آلتمن مبنای برآورد ده‌درصدی خطر انقراض بشر را نامشخص دانست. با این حال، او تأکید کرد چنین سطحی از خطر به هیچ وجه قابل قبول نیست.
افزون بر این، آمودئی هشدار داده است که با سرعت کنونی پیشرفت، برخی برنامه‌های هوش مصنوعی ممکن است طی شش تا دوازده ماه توان تسلط بر اینترنت را پیدا کنند. به گفته او، این برنامه‌ها می‌توانند صدها میلیارد دلار خسارت ایجاد کنند. البته این ارزیابی شخصی اوست و پیش‌بینی قطعی محسوب نمی‌شود.
بر اساس این گزارش، بیش از هزار نفر از کارکنان شرکت‌های پیشرو هوش مصنوعی، از جمله آمودئی، درخواستی را امضا کردند. آنها از دولت آمریکا خواستند به تنظیم سرعت توسعه خودکار هوش مصنوعی کمک کند. در همین راستا، فولکر تورک، کمیسر حقوق بشر سازمان ملل، نیز روز ۱۶ شهریور درباره تهدید بقای بشر از سوی هوش مصنوعی پیشرفته هشدار داد. او خواستار تضمین‌های محکم برای ایمنی این فناوری و توافق دولت‌ها و شرکت‌ها بر سر خطوط قرمز آن شد. در نهایت، تورک وعده داد شرکت‌ها را برای کاهش خطر اختلال در خدمات و سازوکارهای دموکراتیک تحت فشار بگذارد.
