هوش مصنوعی را متوقف کنید ! | هشدار عجیب در مورد هوش مصنوعی

هوش مصنوعی به سرعت شروع به سروصدا به پا کردن کرده است . هوش مصنوعی حواشی زیادی این روزها داشته است بسیاری به دنبال متوقف شدن هوش مصنوعی می باشند . اما دلیل توقف هوش مصنوعی از نظر آن ها چیست ؟

بیش از هزار و صد نفر از رهبران دنیای فناوری و چهره‌های دانشگاهی از جمله ایلان ماسک، یوال هراری و استیو وزنیاک ‌هم‌بنیانگذار اپل در نامه‌ای سرگشاده که توسط موسسه آینده زندگی (Future of life) منتشر شده است، خواستار توقف توسعه نسل‌های پیشرفته‌تر از چت بات هوش مصنوعی openAI شده‌اند. آنها می‌گویند توسعه نسل بعدی هوش مصنوعی باید شش ماه متوقف شود تا قوانین نظارتی برای این حوزه ایجاد و تصویب شود.

رهبران جهان فناوری در حالی طی نامه سرگشاده‌ای خواستار توقف توسعه هوش مصنوعی پیشرفته‌تر از chatgpt-4 شده‌اند که در ۲۱ مارس هم بیل گیتس طی یادداشتی، خارج شدن هوش مصنوعی از کنترل انسان‌ها را محتمل دانسته بود.

پیشرفت openAI در ساخت chatgpt-4 باعث شده تا انسان‌نمایی این تکنولوژی موجب هراس شده و خطری برای جامعه قلمداد شود. در همین زمینه رهبران فناوری در نامه‌ای سرگشاده، خواستار توقف شش ماهه توسعه هوش مصنوعی پیشرفته‌تر شده‌اند.

این نامه‌ سرگشاده توسط مؤسسه آینده زندگی (Future of Life) منتشر شده و افراد مشهوری چون ایلان ماسک، استیو وزنیاک هم‌بنیان‌گذار اپل و اندرو یانگ و… آن را امضا کرده‌اند و در آن، از آزمایشگاه‌های هوش مصنوعی خواسته‌ شده تا توسعه مدل‌های پیشرفته‌تر از GPT-4 را برای شش ماه متوقف کنند.

 

چرا رهبران فناوری از توسعه هوش مصنوعی می‌ترسند؟

ماسک و دیگر دانشمندان و رهبران فناوری باور دارند که سیستم‌های هوش مصنوعی معاصر در حال تبدیل شدن به رقبای انسان‌ها در انجام وظایف عمومی هستند و می‌گویند که باید از خود بپرسیم: آیا باید به ماشین‌ها اجازه دهیم کانال‌های اطلاعاتی ما را از تبلیغات و داده‌های نادرست پر کنند؟

آنها سوالات دیگری را هم مطرح می‌کنند: آیا باید انسان‌ها را از مشاغل مختلف کنار بگذاریم؟ آیا باید ذهن‌های غیرانسانی را توسعه دهیم که ممکن است در نهایت از تعداد منابع انسانی کارآمد پیشی گرفته و جایگزین انسان‌ها شوند؟ آیا باید در خطر از دست دادن کنترل تمدن انسانی قرار بگیریم؟

در ادامه این نامه آمده است: توقف توسعه نسل بعدی و پیشرفته‌تر chatgpt باید قابل اثبات باشد. اگر چنین توقفی به سرعت اعمال نشود، دولت‌ها باید دخالت کرده و این تعلیق را موقتا اعمال کنند.

ضمن اینکه آزمایشگاه‌های هوش مصنوعی و کارشناسان مستقل باید از این توقف استفاده کنند تا پروتکل‌های ایمنی مشترکی برای طراحی و توسعه هوش مصنوعی پیشرفته ایجاد شود. ضمن اینکه کارشناسان مستقل باید بر فرایند توسعه نظارت داشته باشند.

البته این به معنای توقف کلی توسعه هوش مصنوعی نیست بلکه نوعی عقب‌گرد از رقابت خطرناک برای توسعه مدل‌های غیرقابل پیش‌بینی هوش مصنوعی است.

 

خطرات عمیق هوش مصنوعی برای جامعه و بشریت

رهبران فناوری و چهره‌های دانشگاهی در بیانیه خود آورده‌اند که سیستم‌های هوش مصنوعی، خطرات عمیقی برای جامعه و بشریت به همراه دارد. آنها معتقدند که تحقیق و توسعه هوش مصنوعی باید روی ساختن سیستم‌های قدرتمند و پیشرفته امروزی دقیق‌تر، ایمن‌تر، قابل تفسیرتر، شفاف‌تر، قوی‌تر، همسوتر، قابل اعتمادتر و وفادارتر باشد.

موسسه آینده زندگی، در زمینه توسعه مسئولانه هوش مصنوعی فعالیت می‌کند و قبلا از ایلان ماسک و آزمایشگاه هوش مصنوعی DeepMind متعلق به گوگل خواسته‌ بود که هرگز سیستم‌های تسلیحاتی خودران مرگبار را توسعه ندهند.

 

چت جی پی تی و بزرگترین رشد در تاریخ

اوایل ماه مارس بود که GPT-4 منتشر شد و آتش دغدغه‌های اقشار مختلفی در سراسر جهان را شعله‌ور کرد. ولی کمتر کسی فکرش را می‌کرد که دانشمندان و رهبران جهان فناوری به صف منتقدان این نسل از تکنولوژی بپیوندند. چت جی پی تی 4 تنها دو ماه پس از راه‌اندازی، بیش از 100میلیون نفر از سراسر جهان را جزو کاربران خود دید که سریع‌ترین رشد به لحاظ جذب کاربر در تاریخ را از آن خود کرد.

حالا با پاسخ‌هایی که به کاربران می‌دهد، نگرانی‌های عمیقی ایجاد کرده است. درواقع، این چت بات هوش مصنوعی با توانایی خود در تولید پاسخ‌هایی از جنس جوابدهی انسانی محققان را شگفت‌زده کرده است.

GPT-4 پیشرفت‌های محسوسی نسبت به نسل قبل از خود دارد و می‌توان گفت که انسان‌ها از آنچه به دست خودشان ساخته‌اند، ترسیده‌اند؛ اینکه شغل‌شان را از دست بدهند، ترس شکست‌خوردن در موقعیت‌های مختلفی چون آزمون‌های ورودی دانشگاه‌ها و… کما اینکه ۱۵ ماه مارس بود که openAI اعلام کرد: چت جی پی تی 4 می‌تواند ۹۰درصد انسان‌ها را در آزمون SAT شکست دهد. ست یکی از دو آزمون استاندارد برای ورود به دانشگاه در آمریکا محسوب می‌شود.

این فناوری بر روی حجم عظیمی از داده‌های موجود در اینترنت آموزش داده شده و تاکنون برای خلق همه چیز از شعر ساختن به سبک ویلیام شکسپیر گرفته تا پیش‌نویس نظرات حقوقی در مورد پرونده‌های قضایی استفاده شده است. اما متخصصان اخلاق در هوش مصنوعی در مورد سوءاستفاده‌های احتمالی از این فناوری، مانند سرقت ادبی و ارائه داده‌های نادرست، بسیار نگران هستند.

 

متولد ماه مارس

مارس در اساطیر رومی، خدای جنگاوری است و با رنگ سرخ شوالیه‌گونه‌اش، نماد جنگ‌جویی و پیکار شمرده می‌شود. حالا ماه مارس 2023 را تاریخ فناوری هیچگاه فراموش نخواهد کرد.

‌حتی شاید بتوان دنیای تکنولوژی را به قبل و بعد از ماه مارس و تولد chatgpt-4 تقسیم کرد. یعنی زمانی که این جنگجوی ترسناک با زبانی سرخ به جنگ با انسان‌ها آمده است. پیش‌بینی می‌شود که مشاغل را تصرف کند و در آزمون‌ها انسان‌ها را پشت سر بگذارد. حالا دیگر تولد این چت بات هوش مصنوعی یک مبدا تاریخی است. تاریخی که غرور انسان را لکه‌دار کرده است و شاید انسان‌ها به دست هوش مصنوعی حذف شوند.

از زمانی که در ۱۱ جولای سال ۲۰۱۸ راه‌اندازی شد، تاکنون شش نسخه از آن منتشر شده است؛ هر کدام با کارایی بیشتر و خصایص انسانی پیشرفته‌تر و البته ترسناک‌تر.

موتور رشد این هیولای تکنولوژی توقف‌ناپذیر جلوه می‌کند و مدیران فناوری این رشد دیوانه‌وار را به مسابقه‌ای خطرناک تشبیه کرده‌اند.