ایلان ماسک و گروه بزرگی از متخصصان و صاحبان کسبوکار، در نامهای سرگشاده که تاکنون بیش از ۱۱۸۷ نفر آن را امضا کردهاند، از تمام آزمایشگاههای فعال در زمینه هوش مصنوعی — بهویژه شرکت OpenAI، سازنده ChatGPT — خواستهاند که بهمدت شش ماه، آموزش و توسعه سیستمهای هوش مصنوعی قدرتمندتر را متوقف کنند.
اگر به این موضوع علاقه دارید، هوش مصنوعی گراک ایلان ماسک ; هدف از ساخت + قابلیت ها را از دست ندهید.
این موضوع را بهتر بشناسید با مطالعه بهترین کلاس و ابزارهای هوش مصنوعی برای کودکان.
امضاکنندگان این نامه باور دارند که اگر هوش مصنوعی با همین سرعت فعلی پیشرفت کند، به موجود غیرقابل کنترلی تبدیل خواهد شد که حتی سازندگانش نیز قادر به مدیریت آن نخواهند بود. در این نامه بیسابقه از دولتها نیز درخواست شده تا در صورت لزوم، برای اجرایی شدن این توقف موقت، وارد عمل شوند.
متن اصلی نامه که توسط ChatGPT ترجمه شده و بدون ویرایش منتشر میشود، به این شرح است:
—
ما از تمام آزمایشگاههای هوش مصنوعی درخواست میکنیم که بهمدت دستکم شش ماه، آموزش سیستمهایی با قابلیتهای فراتر از GPT-4 را متوقف کنند.
مطابق پژوهشهای گسترده و تأییدشده توسط برترین آزمایشگاههای هوش مصنوعی، سیستمهایی که در سطح رقابت با هوش انسان عمل میکنند، میتوانند خطرات بزرگی برای جامعه و بشریت به همراه داشته باشند. همانطور که در «اصول هوش مصنوعی آسیلومار» آمده، هوش مصنوعی پیشرفته میتواند تغییرات بزرگی در تاریخ زندگی روی زمین ایجاد کند و باید با برنامهریزی دقیق و مدیریت مناسب همراه باشد. متأسفانه اکنون چنین برنامهریزی در حال انجام نیست و آزمایشگاهها در رقابتی بیوقفه در حال توسعه سیستمهای دیجیتالی قدرتمندی هستند که حتی سازندگانشان هم نمیتوانند آنها را بهطور کامل درک یا کنترل کنند.
هوش مصنوعی امروزه آنقدر پیشرفت کرده که باید از خود بپرسیم:
– آیا باید اجازه دهیم ماشینها با انتشار تبلیغات و اخبار نادرست، اطلاعات ما را تحت تأثیر قرار دهند؟
– آیا باید همه مشاغل، حتی آنهایی که مفید و ارزشمند هستند، به صورت خودکار انجام شوند؟
– آیا باید هوشی غیرانسانی ایجاد کنیم که روزی از نظر تعداد، توانایی و جایگاه از ما پیشی بگیرد و ما را کنار بزند؟
– آیا باید کنترل تمدن خود را از دست بدهیم؟
این تصمیمات نباید فقط توسط مدیران فناوری و بدون نظارت عمومی گرفته شود. توسعه سیستمهای هوشمند قدرتمند تنها زمانی باید انجام شود که مطمئن باشیم تأثیرات آن مثبت و خطراتش قابل کنترل است. این اطمینان باید با توجه به میزان تأثیر سیستم، بهطور دقیق سنجیده شود. سازمان OpenAI نیز در بیانیهای تأکید کرده که ممکن است قبل از آموزش سیستمهای آینده، نیاز به بررسی مستقل وجود داشته باشد و برای تلاشهای پیشرفتهتر، محدودیت در سرعت رشد محاسباتی ضروری است. ما با این نظر موافقیم و معتقدیم زمان عمل، همین امروز است.
برای گسترش دانش خود، مقاله هوش مصنوعی جمینی (گوگل بارد سابق) و نحوه استفاده از آن را مطالعه کنید.
بنابراین از همه آزمایشگاههای هوش مصنوعی میخواهیم که بلافاصله و بهمدت حداقل شش ماه، آموزش سیستمهای قدرتمندتر از GPT-4 را متوقف کنند. این توقف باید علنی، قابل بررسی و با مشارکت تمامی طرفهای کلیدی باشد. در صورت عدم اجرای داوطلبانه این توقف، دولتها باید وارد عمل شده و مکث موقتی را اعمال کنند.
در این مدت، آزمایشگاهها و کارشناسان مستقل باید با هم همکاری کنند تا پروتکلهای ایمنی برای طراحی و توسعه هوش مصنوعی پیشرفته تدوین و اجرا شود. این پروتکلها باید توسط ناظران مستقل بررسی شوند و اطمینان دهند که سیستمهای آینده کاملاً ایمن خواهند بود.
هدف ما توقف کامل توسعه هوش مصنوعی نیست، بلکه کنار گذاشتن رقابت خطرناک برای ساخت مدلهایی با قابلیتهای غیرقابل پیشبینی است. پژوهشها باید بر روی بهبود سیستمهای کنونی متمرکز شود تا آنها را امنتر، شفاف، قابل اعتماد و همسو با ارزشهای جامعه کند.
همچنین توسعهدهندگان هوش مصنوعی باید با قانونگذاران همکاری کنند تا چارچوبهای حکمرانی قدرتمندی برای هوش مصنوعی ایجاد شود. این چارچوبها میتوانند شامل نهادهای نظارتی جدید، سیستمهای رهگیری و شفافیت، امکان تشخیص محتوای واقعی از مصنوعی، مسئولیتپذیری در قبال آسیبهای ناشی از هوش مصنوعی و پشتیبانی از پژوهشهای ایمنی باشند.
اطلاعات جامعتری در مورد این موضوع را در اختتامیه دومین دوره جایزه سالانه هوش مصنوعی ایران (IAAA) برگزار شد پیدا کنید.
بشریت میتواند آیندهای روشن در کنار هوش مصنوعی داشته باشد. اگر این سیستمها با دقت و برنامهریزی ساخته شوند، میتوانیم از یک «تابستان هوش مصنوعی» لذت ببریم؛ دورهای که در آن مزایای هوش مصنوعی به همه میرسد، سیستمها بهبود مییابند و فرصت کافی برای سازگاری جامعه فراهم میشود. ما در گذشته نیز در مواجهه با فناوریهای اثرگذار، توانستهایم سرعت توسعه را متوقف کنیم تا از عواقب ناخواسته جلوگیری شود. اکنون نیز میتوانیم همین کار را انجام دهیم.
بیایید از یک تابستان طولانی هوش مصنوعی استقبال کنیم، بدون آن که ناگهان و ناآماده، با چالشهای غیرمنتظره روبهرو شویم.
— Elon Musk و پژوهشگران درخواست توقف در «رقابت خطرناک» برای ارتقای هوش مصنوعی