هشدار: استفاده بیش از حد از هوش مصنوعی ممکن است باعث انقراض بشریت شود
گروهی از رهبران بزرگ‌ترین شرکت‌های فعال در حوزه هوش مصنوعی به‌صورت مشترک هشدار داده‌اند که این فناوری می‌تواند یک روز تهدیدی وجودی را برای بشریت به‌همراه داشته باشد و باید آن را ریسکی در حدواندازه همه‌گیری‌های جهانی یا جنگ‌های هسته‌ای در نظر گرفت.
سازمان غیرانتفاعی Center for AI Safety بیانیه‌ای را در قالب یک نامه سرگشاده یک‌جمله‌ای منتشر کرده است که می‌گوید: «کاهش ریسک انقراض توسط هوش مصنوعی باید در کنار سایر ریسک‌های بزرگ اجتماعی ازجمله همه‌گیری‌ها و جنگ هسته‌ای، به‌عنوان یک اولویت جهانی در نظر گرفته شود.» این بیانیه توسط بیش از ۳۵۰ مدیر، محقق و مهندس فعال درزمینه هوش مصنوعی امضا شده است (مشاهده فهرست کامل).
در میان امضاکنندگان این بیانیه می‌توان به « سم آلتمن »، مدیرعامل شرکت OpenAI، « دمیس هاسابیس »، مدیرعامل دیپ‌مایند گوگل و « داریو آمودی »، مدیرعامل شرکت Anthropic اشاره کرد. « جفری هینتون » و « یوشوئا بنجیو » که دو برنده جایزه تورینگ درزمینه شبکه‌های عصبی هستند و اغلب به‌عنوان پدرخواندگان هوش مصنوعی مدرن شناخته میشوند نیز این بیانیه را امضا کرده‌اند.
«دنی هندریکس»، مدیر مرکز ایمنی هوش مصنوعی، می‌گوید این نامه سرگشاده بالاخره نشان می‌دهد که چه کسانی واقعاً نگران آینده این فناوری هستند و تاکنون فقط در خفا در این مورد صحبت می‌کرده‌اند. او توضیح می‌دهد: «حتی در خود جامعه هوش مصنوعی، این برداشت اشتباه عمومی وجود دارد که افرادِ نگران فقط جمع کوچکی از افراد بدبین هستند. ولی درواقع خیلی از افراد به‌طور خصوصی همین نگرانی‌ها را مطرح می‌کنند.»
سم آلتمن و دیگر مدیران OpenAI هفته گذشته در مطلبی در وبلاگ این شرکت اعلام کردند که به سازمانی بین‌المللی شبیه به آژانس انرژی اتمی نیاز است تا بتواند هوش مصنوعی را در سطح جهانی کنترل کرد. پیش‌تر نامه سرگشاده دیگری توسط سازمان غیرانتفاعی Future of Life با امضای افرادی مثل ایلان ماسک منتشر شده بود که درخواست توقف توسعه مدل‌های پیشرفته هوش مصنوعی را داشت.
همه فعالان هوش مصنوعی از بابت خطرات این فناوری نگرانند
تفاوت این نامه در اینجاست که تنها در یک جمله به بیان یک نگرانی عمومی درباره فناوری هوش مصنوعی پرداخته و از ورود به جزئیاتی که ممکن است بر سر آن‌ها اختلافاتی وجود داشته باشد، خودداری کرده است.
این نامه در شرایطی منتشر می‌شود که بسیاری از کارشناسان نگران پتانسیل‌های خطرناک هوش مصنوعی هستند. پیشرفت‌های اخیر درزمینه مدل‌های زبانی بزرگ به‌ویژه از زمان عرضه عمومی چت‌بات ChatGPT خیلی‌ها را درباره قابلیت‌های این نرم‌افزارها در نشر اطلاعات نادرست یا تهدید مشاغل نگران کرده است.
همین مسئله باعث شده بسیاری از رهبران صنعت هوش مصنوعی با یکدیگر هم‌صدا شوند و درخواست قانون‌گذاری در این حوزه را مطرح کنند. آلتمن، هاسابیس و آمودی چندی قبل با «جو بایدن»، رئیس‌جمهور و «کاملا هریس»، معاون اول رئیس‌جمهور آمریکا، دیدار و پیرامون قانون‌گذاری در این صنعت صحبت کردند. آلتمن همچنین به کنگره رفت تا درباره همین موضوع با نمایندگان ایالات‌متحده حرف بزند.