فارسی
شرکت آمریکایی Anthropic، یکی از توسعه‌دهندگان اصلی مدل‌های پیشرفته هوش مصنوعی، تلاش می‌کند بر روند قانون‌گذاری این فناوری در کنگره آمریکا تأثیر بگذارد. به گزارش Politico به نقل از سه منبع آگاه، نمایندگان این شرکت در هفته‌های اخیر پیش‌نویس قانونی را به صورت غیرعلنی با اعضای کنگره در میان گذاشته‌اند. این گزارش به موضوع قانون‌گذاری هوش مصنوعی در آمریکا می‌پردازد.
این پیش‌نویس حدود اختیارات دولت در نظارت بر مدل‌های پیشرفته هوش مصنوعی را مشخص می‌کند. بر اساس متنی که Politico به آن دست یافته، دولت آمریکا فقط در شرایط مشخصی می‌تواند مانع انتشار یا استفاده از یک مدل پیشرفته هوش مصنوعی شود. همچنین، قانون‌گذاری هوش مصنوعی در آمریکا از محورهای اصلی این گزارش است.
برای پیگیری لحظه‌به‌لحظه مهم‌ترین رویدادها، ما را در سایت PhoenixQ و شبکه‌های اجتماعی سابسکرایب و دنبال کنید.
شرایط مجاز برای مداخله دولت
مطابق این پیشنهاد، مداخله دولت زمانی مجاز است که خطری قابل پیش‌بینی و قریب‌الوقوع وجود داشته باشد. این خطر باید بتواند بیش از یک میلیارد دلار خسارت ایجاد کند یا به مرگ یا جراحت شدید بیش از ۵۰ نفر منجر شود.
افزون بر این، خطر مورد نظر باید به یکی از سه وضعیت مشخص مربوط باشد. این سه وضعیت عبارتند از: تولید یا انتشار سلاح بیولوژیکی، خروج مدل از کنترل توسعه‌دهنده، یا انجام حمله سایبری.
سخنگوی Anthropic در واکنش به گزارش Politico اعلام کرد که این پیشنهادها همان چارچوبی است که شرکت از ماه ژوئن دنبال کرده است. او گفت: «اینها سیاست‌های معقولی هستند که معتقدیم کنگره باید درباره آنها اقدام کند.»
موضع Anthropic درباره قوانین ایالتی و فدرال
Anthropic پیش‌تر از برخی قوانین ایالتی مرتبط با ایمنی هوش مصنوعی حمایت کرده بود. از جمله این موارد، دو قانون در ایالت کالیفرنیا بود.
مقام مسئول روابط این شرکت با دولت‌های ایالتی و محلی نیز پیش‌تر ابراز امیدواری کرده بود که ایالت‌های آمریکا قوانین سخت‌گیرانه‌تری برای ایمنی هوش مصنوعی تصویب کنند. با این حال، پیش‌نویس تازه از جایگزینی بخشی از مقررات ایالتی با یک چارچوب سراسری فدرال حمایت می‌کند.
سازوکار ارزیابی مستقل و گزارش‌دهی
بخشی از پیشنهاد Anthropic به ایجاد سازوکاری برای بررسی دوره‌ای ایمنی شرکت‌های توسعه‌دهنده هوش مصنوعی اختصاص دارد. بر اساس این طرح، ارزیابان مستقل باید در وزارت بازرگانی آمریکا ثبت‌نام کنند و به صورت دوره‌ای شرکت‌ها و مدل‌های آنها را بررسی کنند.
هزینه فعالیت این ارزیابان می‌تواند از سوی خود شرکت‌های توسعه‌دهنده پرداخت شود. شرط این است که دستمزد آنها به نتیجه ارزیابی وابسته نباشد.
چنانچه ارزیابان به وجود یکی از خطرات قریب‌الوقوع تعریف‌شده در قانون برسند، موظف خواهند بود موضوع را به وزارت بازرگانی گزارش دهند. این گزارش باید حداکثر ظرف ۷۲ ساعت پس از پایان بررسی ارائه شود.
اختیار توقف مدل‌ها فقط با حکم دادگاه
پیش‌نویس Anthropic برای جلوگیری از مداخله مستقیم نهادهای اجرایی محدودیت‌هایی در نظر گرفته است. طبق این پیش‌نویس، وزارت بازرگانی در صورت شناسایی خطر می‌تواند از دادگاه درخواست توقف انتشار یک مدل را داشته باشد.
در مقابل، سایر وزارتخانه‌ها، سازمان‌ها و مقام‌های دولتی حق نخواهند داشت به طور مستقل توسعه، عرضه یا استفاده داخلی از یک مدل را متوقف کنند. در چنین شرایطی، صدور دستور توقف در اختیار قاضی دادگاه فدرال ناحیه کلمبیا خواهد بود.
این پیشنهاد پس از آن مطرح شده که Anthropic در تابستان امسال با محدودیت‌های گسترده صادراتی آمریکا روبه‌رو شد. در نتیجه این تصمیم‌ها، دو مدل بسیار پیشرفته این شرکت از فعالیت بازماندند.
به گزارش Politico، این تصمیم در جریان مجموعه‌ای از تماس‌های تلفنی میان مقام‌های دولت و مدیران Anthropic اتخاذ شده است. این اتفاق نگرانی‌هایی را در صنعت فناوری ایجاد کرده که دولت ممکن است بدون روند نظارتی روشن، دسترسی به فناوری‌های پیشرفته را محدود کند.
الزام شرکت‌ها به شفافیت و حمایت از افشاگران
پیش‌نویس Anthropic در کنار محدود کردن مداخله دولت، تعهداتی را نیز برای شرکت‌های توسعه‌دهنده در نظر گرفته است. این شرکت‌ها باید چارچوب‌های ایمنی مشخصی تدوین کنند و گزارش‌های شفافیت درباره مدل‌های جدید منتشر کنند.
همچنین، این شرکت‌ها باید سازوکارهایی برای حفاظت از افشاگران تخلفات داشته باشند. گزارش حوادث مهم مرتبط با ایمنی به وزارت بازرگانی نیز از دیگر الزامات پیش‌بینی‌شده است.
از سوی دیگر، برخی سیاستمداران ترقی‌خواه آمریکا مواضع سخت‌گیرانه‌تری اتخاذ کرده‌اند. Greg Casar، نماینده دموکرات مجلس نمایندگان، و Bernie Sanders، سناتور مستقل، خواستار توقف موقت توسعه مدل‌های پیشرفته هوش مصنوعی شده‌اند. آنها همچنین خواهان ممنوعیت ایجاد «ابرهوش مصنوعی» هستند.
ابرهوش مصنوعی به نوعی فرضی از هوش مصنوعی گفته می‌شود که توانایی‌های شناختی آن به‌مراتب فراتر از انسان باشد.
رقابت بر سر تعیین قواعد آینده هوش مصنوعی
ورود مستقیم Anthropic به روند تدوین قانون نشان می‌دهد که شرکت‌های بزرگ هوش مصنوعی تنها موضوع نظارت دولت نیستند. آنها تلاش می‌کنند بر قواعدی که فعالیت آینده‌شان را تعیین می‌کند نیز اثر بگذارند.
پیشنهاد این شرکت از یک سو بر ارزیابی مستقل، شفافیت و گزارش خطرات تأکید دارد. از سوی دیگر، مداخله دولت را به مواردی با آستانه خسارت بسیار بالا محدود می‌کند.
در نهایت، اینکه کنگره آمریکا تا چه اندازه با چنین چارچوبی موافقت خواهد کرد هنوز روشن نیست. با افزایش توانایی مدل‌های هوش مصنوعی، اختلاف اصلی میان قانون‌گذاران، شرکت‌های فناوری و نهادهای ناظر بر سر این است که چه نهادی باید اختیار توقف یک مدل پرخطر را داشته باشد و این اختیار در چه شرایطی قابل اعمال باشد.
