دونالد ترمپ، رییس جمهور ایالات متحده و رهبران شش شرکت تکنالوژی، یک پیمان داوطلبانه را در قصر سفید امضا کردند، پیمانی که این شرکت‌ها را به مرور داخلی و خارجی سیستم های ابرهوش آنان متعهد می‌سازد.
این سند یک صفحه‌ای را دونالد ترمپ، رییس جمهور ایالات متحده، سندر پیچای، رییس اجرایی شرکت گوگل، داریو امودی، رییس اجرایی شرکت انتروپیک، مارک زکربرگ، رییس اجرایی شرکت میتا، جینسن هانگ، رییس اجرایی شرکت نویدیا، گریگ براکمن، رییس شرکت اوپن‌ای‌آی و ایلن مسک، بنیانگذار شرکت ایکس‌ای‌آی که بخشی از شرکت سپیس ایکس است، امضا کردند.
رییس جمهور ترمپ این پیمان را از طریق شبکۀ تروث سوشل خودش نشر کرد.
این در پیمان کدام موضوعات گنجانیده شده است؟
این پیمان از این شرکت‌ها می‌خواهد تا برای نظارت از نمونه‌های ابرهوش در جریان دوره های آموزشی و بهره برداری، مقررات یا طرزالعمل داخلی را ایجاد کنند. این تدابیر کنترول کننده، ساحاتی مانند امنیت سایبری، امنیت زیستی و تهدیدات کیمیایی را پوشش می‌دهد تا اطمینان حاصل شود که این نمونه ها "به گونۀ غیرعمدی به سیستم‌های تخنیکی رخنه یا دسترسی پیدا نکنند".
این پیمان همچنان می‌خواهد تا برای نظارت از این تدابیر، یک تیم داخلی با یک تفتش مستقل خارجی و یک کمیتۀ مستقل هیات مدیرۀ هر شرکت برای مرور یافته‌ها، ایجاد شود.
بر اساس این توافق "با گذشت زمان، ممکن است مناسب باشد که این اقدامات در قالب قوانین یا مقررات رسمی تدوین شوند." و همچنین شرکت‌ها "به‌طور منظم با یکدیگر دیدار خواهند کرد تا معیارها و بهترین شیوه‌های کاری را تعیین کنند."
رییس جمهور ترمپ، در عین حال، با امضای یک فرمان اجرایی، به ادارات فدرال هدایت داد تا در مراسلات بخش اجرایی و سایر اسناد که بار حقوقی ندارند، از اصطلاح "ابر هوش" برای هوش مصنوعی و از مخفف SI به عوض AI استفاده کنند.
رییس جمهور ترمپ در مورد الزامی بودن این پیمان به خبرنگاران گفت که "فکر کنم از نظر اخلاقی، الزام‌آور است".
او این سند را "تقریباً مانند یک قانون اساسی" خواند و گفت که "فکر کنم شاهد نظارت خودی گسترده هستم. و آنان می‌دانند که باید نظارت خودی بکنند".
دونالد ترمپ افزود که یک تشکیل کمیتۀ حدود ۱۰ نفری را در نظر دارد تا بر تمامی این مجموعه نظارت کند. او همچنین گفت که در روزهای آینده یک مقام ارشد مسوول امور ابرهوش را منصوب خواهد کرد.
رهبران این صنعت چی می‌گویند؟
مارک زارکربرگ، رییس شرکت میتا این پیمان را تاریخی خوانده گفت: "ما می‌خواهیم به مردم امریکا و به مشتریان خود اطمینان دهیم که این تکنالوژی به گونه‌ای که ما در نظر داریم، کار می‌کند."
جنسین هانگ، به خبرنگاران گفت: ما این تکنالوژی را که برای بشریت و برای رفاه آینده کشور ما اهمیت بسیار زیادی دارد، توسعه خواهیم داد. ما این کار را مسوولانه و ایمن انجام خواهیم داد."
اما داریو امودی، رییس شرکت اجرایی انتروپیک، بیشتر محتاطانه صحبت کرد. او گفت: "این تکنالوژی خطرات بسیار واقعی دارد و شما در مورد این مکانیزم می‌دانید، اینکه چگونه به این خطرات رسیدگی کنیم، هنوز هم مورد بحث است."
با آنهم، هانگ گفت که "میان نوآوری، تکنالوژی و مصوونیت، هیچ تضادی وجود ندارد".
دلیل نگرانی ها چیست؟
این نشست پس از یک سلسله رویدادهایی برگزار شد که در آن سیستم‌های هوش مصنوعی به‌طور مستقل عمل کردند. در ماه جولای، شرکت اوپن‌ای‌آی گفت که نمونه‌هایش در جریان یک ارزیابی، از محیط آزمایشی مقید خارج شدند و به شرکت هوش مصنوعی هاگنگ فیس، رخنه کردند. شرکت اوپن‌ای‌آی این رویداد را "یک حادثه سایبری بی‌سابقه" خواند.
شرکت‌های میتا، گوگل و انتروپیک، نیز شماری از حوادثی را فاش کردند که در آن سیستم‌های هوش مصنوعی، از محیط آزمایشی خارج شدند و یا هم به سازمان های دیگر رخنه کردند. هفتۀ گذشته، دیده شد که یک نمونۀ اوپن‌ای‌آی در برخی از وبسایت‌های دولت امریکا دست کاری کرد.
قانونگذاران در رابطه چی می‌گویند؟
دموکرات‌های بر این روند انتقاد کردند. مارک وانر، سناتور ایالت ورجینیا از کانگرس خواست تا قوانینی را تصویب کند که آزمایش، ارزیابی و گزارش‌دهی اجباری حوادث مربوط به پیشرفته‌ترین نمونه‌های ابرهوش را الزامی سازد.
وارنر پس از این نشست در بیانیه‌ای گفت: "شرکت‌هایی که قدرتمندترین سیستم‌های هوش مصنوعی را می‌سازند، به ما هشدار می‌دهند که این تکنالوژی سریع‌تر از اقدامات حفاظتی ما در حال پیشرفت است. پاسخ رییس‌جمهور چیست؟ تغییر نام آن و گفتن به شرکت‌هایی که آن را توسعه می‌دهند که خودشان خود را تنظیم و نظارت کنند."
رییس مجلس نمایندگان، مایک جانسن، جمهوری‌خواه از ایالت لویزیانا، در بیرون از قصر سفید به خبرنگاران گفت که این گردهمایی در قصر سفید با سران این شرکت‌ها "یک گام نخست بسیار مهم" بود.
جانسن افزود: "این بیانیه‌ای درباره اصول و معیارهایی است که خواهید دید، تعهداتی که از سوی این صنعت به‌صورت داوطلبانه پذیرفته می‌شوند."
گروه