خلاصه مقاله
این مقاله به بررسی ماهیت هوش مصنوعی و تأثیر بالقوه آن بر آینده بشریت می‌پردازد. نویسنده با توضیح مفاهیم رشد تصاعدی و قانون مور، نشان می‌دهد که پیشرفت تکنولوژی به ویژه در حوزه هوش مصنوعی با سرعت بسیار بالایی در حال رخ دادن است.
مقاله به سه سطح اصلی هوش مصنوعی اشاره می‌کند: هوش مصنوعی محدود (Artificial Narrow Intelligence, ANI)، هوش مصنوعی عمومی (Artificial General Intelligence, AGI) و هوش مصنوعی ابرهوشمند (Artificial Superintelligence, ASI). در حال حاضر، ما در مرحله هوش مصنوعی محدود هستیم که توانایی انجام وظایف خاص را دارد. هوش مصنوعی عمومی به سطحی از هوشمندی می‌رسد که با انسان برابری می‌کند و هوش مصنوعی فوق هوشمند از هوش انسان فراتر می‌رود.
نویسنده تأکید می‌کند که مردم عموماً اهمیت و تأثیر بالقوه هوش مصنوعی را دست کم می‌گیرند. پیشرفت سریع تکنولوژی احتمال دستیابی به هوش مصنوعی عمومی و حتی هوش مصنوعی فوق هوشمند را در آینده نزدیک افزایش می‌دهد.
در نهایت، مقاله به اهمیت درک و آماده شدن برای تغییرات عظیمی که هوش مصنوعی به همراه خواهد داشت اشاره می‌کند. نویسنده هشدار می‌دهد که اگر انسان‌ها به درستی برای این تغییرات آماده نشوند، ممکن است با پیامدهای ناخواسته‌ای روبرو شوند.
این مقاله تنها بخش اول از یک سری مقالات درباره هوش مصنوعی است. در بخش بعدی، نویسنده به بررسی عواقب احتمالی دستیابی به هوش مصنوعی فوق هوشمند می‌پردازد.
توجه: این ترجمه ماشینی (با کمی اصلاح و ویرایش) از مقاله بسیار خواندنی با عنوان “The AI Revolution: The Road to Superintelligence” وبسایت Wait But why است. منتشر شده در سال ۲۰۱۵.
PDF: ما یک PDF فانتزی از این پست برای چاپ و مشاهده آفلاین تهیه کردیم. از اینجا بخر (یا یک پیش نمایش را ببینید .)
توجه: دلیل اینکه این پست سه هفته طول کشید این است که در حین تحقیق در مورد هوش مصنوعی، نمی توانستم آنچه را که می خواندم باور کنم . خیلی سریع متوجه شدم که آنچه در دنیای هوش مصنوعی اتفاق می افتد فقط یک موضوع مهم نیست، بلکه مهم ترین موضوع برای آینده ما است. بنابراین می‌خواستم تا آنجا که می‌توانم در مورد آن بیاموزم، و وقتی این کار را انجام دادم، می‌خواستم مطمئن شوم که پستی نوشته‌ام که واقعاً کل این وضعیت و چرایی اهمیت آن را توضیح دهد. عجیب نیست، که به شدت طولانی شد، بنابراین آن را به دو قسمت تقسیم کردم. این قسمت ۱ است — قسمت ۲ اینجاست .
_________________
ما در آستانه تغییری هستیم که با افزایش زندگی انسان روی زمین قابل مقایسه است. – ورنر وینج
اینجا ایستادن چه حسی دارد؟
به نظر می رسد مکانی بسیار شدید برای ایستادن باشد – اما پس از آن باید چیزی در مورد نحوه ایستادن در نمودار زمان به خاطر بسپارید: شما نمی توانید آنچه را که در سمت راست شما قرار دارد ببینید. بنابراین در اینجا این است که واقعاً چه احساسی دارد که در آنجا ایستاده اید:
که احتمالاً کاملاً طبیعی است…
_________________
آینده دور-به زودی
تصور کنید ماشین زمان را به سال ۱۷۵۰ برگردانید – زمانی که جهان در قطع دائمی برق بود، ارتباطات از راه دور به معنای فریاد زدن با صدای بلند یا شلیک یک توپ در هوا بود، و همه وسایل حمل و نقل روی یونجه کار می کردند. وقتی به آنجا رسیدید، یک شخص را بازیابی می‌کنید، او را به سال ۲۰۱۵ می‌آورید و سپس با او قدم می‌زنید و واکنش او را به همه چیز تماشا می‌کنید. برای ما غیرممکن است که بفهمیم دیدن کپسول‌های براق در بزرگراه، صحبت با افرادی که اوایل روز در آن سوی اقیانوس بوده‌اند، تماشای ورزش‌هایی که در فاصله ۱۰۰۰ مایلی دورتر انجام می‌شود، چگونه خواهد بود. ، یک اجرای موزیکال را بشنوید که ۵۰ سال پیش اتفاق افتاده است، و با مستطیل جادوگر جادویی من بازی کنید که می تواند از آن برای گرفتن یک تصویر واقعی یا ثبت لحظه ای زنده استفاده کند، نقشه ای با یک نقطه آبی متحرک ماوراء الطبیعه ایجاد کند که به او نشان می دهد کجاست. ، به چهره کسی نگاه کنید و با او چت کنید، حتی اگر در آن سوی کشور باشد، و دنیاهایی از جادوهای غیرقابل تصور دیگر. همه اینها قبل از اینکه اینترنت را به او نشان دهید یا چیزهایی مانند ایستگاه فضایی بین المللی، برخورد دهنده بزرگ هادرون، سلاح های هسته ای یا نسبیت عام را توضیح دهید.
این تجربه برای او شگفت‌انگیز یا تکان‌دهنده یا حتی شگفت‌انگیز نخواهد بود – این کلمات به اندازه کافی بزرگ نیستند. ممکنه واقعا بمیره
اما نکته جالب اینجاست – اگر بعد از آن به سال ۱۷۵۰ برمی‌گشت و حسادت می‌کرد که ما واکنش او را می‌بینیم و تصمیم می‌گرفتیم که می‌خواهد همان چیزی را امتحان کند، ماشین زمان را می‌گرفت و به همان فاصله برمی‌گشت، کسی را از در حدود سال ۱۵۰۰ او را به ۱۷۵۰ بیاورید و همه چیز را به او نشان دهید. و مرد ۱۵۰۰ از چیزهای زیادی شوکه می شد – اما نمی میرد. این برای او بسیار کمتر تجربه دیوانه کننده خواهد بود ، زیرا در حالی که سال های ۱۵۰۰ و ۱۷۵۰ بسیار متفاوت بودند، تفاوت آنها بسیار کمتر از سال های ۱۷۵۰ تا ۲۰۱۵ بود. پسر ۱۵۰۰ در مورد فضا و فیزیک چیزهای شگفت انگیزی را یاد می گرفت. متاثر از اینکه اروپا چقدر متعهد به آن مد جدید امپریالیسم است، و او باید بازنگری های اساسی در نقشه جهان خود انجام دهد. اما تماشای زندگی روزمره در سال ۱۷۵۰ – حمل و نقل، ارتباطات و غیره – قطعا باعث مرگ او نمی شود.
نه، برای اینکه پسر ۱۷۵۰ به اندازه ما با او خوش بگذراند، باید خیلی دورتر برود – شاید تا ۱۲۰۰۰ سال قبل از میلاد، قبل از انقلاب کشاورزی اول، اولین شهرها را به وجود آورد. و به مفهوم تمدن. اگر کسی از یک دنیای صرفاً شکارچی-گردآورنده – از زمانی که انسان ها کم و بیش فقط یک گونه حیوانی دیگر بودند- امپراتوری های انسانی گسترده ۱۷۵۰ را با کلیساهای سر به فلک کشیده، کشتی های عبوری از اقیانوس، و مفهوم “درون بودن” را می دید. و کوه عظیم آنها از دانش و اکتشافات جمعی و انباشته شده انسانی – او احتمالاً می میرد.
و بعد چه می شد اگر بعد از مرگ حسادت می کرد و می خواست همان کار را انجام دهد. اگر ۱۲۰۰۰ سال به ۲۴۰۰۰ سال قبل از میلاد برمی گشت و پسری پیدا می کرد و او را به ۱۲۰۰۰ قبل از میلاد می آورد، همه چیز را به آن مرد نشان می داد و آن مرد اینگونه می گفت: “خوب چه اهمیتی داری.” برای اینکه پسر ۱۲۰۰۰ قبل از میلاد همان لذت را داشته باشد، باید به بیش از ۱۰۰۰۰۰ سال قبل برگردد و کسی را بخواهد که بتواند برای اولین بار آتش و زبان را به او نشان دهد.
برای اینکه کسی به آینده منتقل شود و از سطح شوکی که تجربه می‌کند بمیرد، باید سال‌های کافی جلوتر برود تا یک «سطح پیشرفت مرگبار» یا «واحد پیشرفت مرگ» (Die Progress Unit, DPU) به دست آید. بنابراین یک DPU در زمان شکارچی-گردآورنده بیش از ۱۰۰۰۰۰ سال طول کشید، اما با نرخ پس از انقلاب کشاورزی، تنها حدود ۱۲۰۰۰ سال طول کشید. دنیای پس از انقلاب صنعتی به قدری سریع حرکت کرده است که یک نفر ۱۷۵۰ تنها باید چند صد سال جلوتر برود تا DPU اتفاق بیفتد.
این الگو – پیشرفت بشر با گذشت زمان سریعتر و سریعتر حرکت می‌کند – همان چیزی است که آینده‌پژوه، ری کورزویل (Ray Kurzweil)، «قانون بازده شتاب‌دهنده» تاریخ بشر می‌نامد. این به این دلیل اتفاق می‌افتد که جوامع پیشرفته‌تر نسبت به جوامع کمتر پیشرفته‌تر، توانایی پیشرفت با سرعت بیشتری را دارند – زیرا آنها پیشرفته‌تر هستند. بشریت قرن ۱۹ بیشتر از بشریت قرن ۱۵ می دانست و از فناوری بهتری برخوردار بود، بنابراین جای تعجب نیست که بشر در قرن نوزدهم پیشرفت های بسیار بیشتری نسبت به قرن ۱۵ داشته است – بشریت قرن ۱۵ با بشریت قرن ۱۹ برابری نمی کند.۱۱← اینها را باز کنید
این در مقیاس های کوچکتر نیز کار می کند. فیلم بازگشت به آینده در سال ۱۹۸۵ اکران شد و “گذشته” در سال ۱۹۵۵ اتفاق افتاد. در فیلم، زمانی که مایکل جی فاکس به سال ۱۹۵۵ بازگشت، او را غافلگیر کرد که تلویزیون های جدید، قیمت ها نوشابه، عدم علاقه به گیتار الکتریک تیز، و تنوع در زبان عامیانه. این دنیای متفاوتی بود، بله، اما اگر فیلم امروز ساخته می‌شد و گذشته در سال ۱۹۸۵ اتفاق می‌افتاد، فیلم می‌توانست سرگرم‌کننده‌تر با تفاوت‌های بسیار بزرگتر باشد. این شخصیت در زمانی پیش از رایانه های شخصی، اینترنت یا تلفن های همراه بود – مارتی مک فلای امروزی، نوجوانی که در اواخر دهه ۹۰ به دنیا آمد، در سال ۱۹۸۵ بسیار نامناسب تر از مارتی مک فلای فیلم در سال ۱۹۵۵ بود.
این به همان دلیلی است که ما در مورد آن بحث کردیم – «قانون بازده شتاب‌دهنده». میانگین نرخ پیشرفت بین سال‌های ۱۹۸۵ و ۲۰۱۵ بیشتر از نرخ بین سال‌های ۱۹۵۵ و ۱۹۸۵ بود – زیرا جهان اولی پیشرفته‌تر بود – بنابراین در ۳۰ سال اخیر تغییرات بسیار بیشتری نسبت به ۳۰ سال قبل رخ داده است.
بنابراین – پیشرفت‌ها بزرگتر و بزرگتر می‌شوند و با سرعت بیشتری اتفاق می‌افتند. این چیزهای بسیار شدیدی را در مورد آینده ما نشان می دهد، درست است؟
کورزویل پیشنهاد می کند که پیشرفت کل قرن بیستم تنها در ۲۰ سال با سرعت پیشرفت در سال ۲۰۰۰ به دست می آمد – به عبارت دیگر، تا سال ۲۰۰۰، سرعت پیشرفت پنج برابر سریعتر از سرعت متوسط پیشرفت در طول بود. قرن بیستم او معتقد است که یک پیشرفت ارزشمند دیگر در قرن بیستم بین سال‌های ۲۰۰۰ تا ۲۰۱۴ اتفاق افتاده است و پیشرفت‌های ارزشمند قرن بیستم دیگر تا سال ۲۰۲۱ و تنها در عرض هفت سال اتفاق خواهد افتاد. چند دهه بعد، او معتقد است که پیشرفت قرن بیستم چندین بار در یک سال و حتی بعد از آن، در کمتر از یک ماه اتفاق خواهد افتاد. در مجموع، به دلیل «قانون بازده شتاب‌دهنده»، کورزویل معتقد است که قرن بیست و یکم ۱۰۰۰ برابر قرن بیستم پیشرفت خواهد کرد.۲
اگر کورزویل و دیگرانی که با او موافق هستند درست باشند، ممکن است تا سال ۲۰۳۰ ما به همان اندازه که پسر ۱۷۵۰ ما تا سال ۲۰۱۵ غافلگیر شده باشیم – یعنی DPU بعدی ممکن است تنها چند دهه طول بکشد – و جهان در سال ۲۰۵۰ ممکن است بسیار متفاوت از دنیای امروزی که ما به سختی آن را تشخیص می دهیم.
این علمی تخیلی نیست این چیزی است که بسیاری از دانشمندان باهوش‌تر و آگاه‌تر از من یا شما قاطعانه به آن اعتقاد دارند – و اگر به تاریخ نگاه کنید، این همان چیزی است که ما باید منطقی پیش‌بینی کنیم.
پس چرا وقتی می شنوید که می گویم “جهان ۳۵ سال بعد ممکن است کاملاً غیرقابل تشخیص باشد”، به این فکر می کنید که “باحال …. اما نهههههههه”؟ سه دلیل که ما نسبت به پیش بینی های عجیب و غریب از آینده بدبین هستیم:
۱) وقتی صحبت از تاریخ می شود، ما به صورت خطی فکر می کنیم. وقتی پیشرفت ۳۰ سال آینده را تصور می کنیم، به پیشرفت ۳۰ سال قبل به عنوان شاخصی از میزان احتمال وقوع آن نگاه می کنیم. وقتی به میزان تغییر جهان در قرن بیست و یکم فکر می کنیم، فقط پیشرفت قرن بیستم را در نظر می گیریم و آن را به سال ۲۰۰۰ اضافه می کنیم. این همان اشتباهی بود که مرد ۱۷۵۰ ما مرتکب شد وقتی کسی را از ۱۵۰۰ گرفت و انتظار داشت که همانقدر ذهنش را منفجر کن که خودش به همان فاصله جلوتر رفت. برای ما بسیار شهودی است که خطی فکر کنیم، در حالی که باید به صورت تصاعدی فکر کنیم . اگر کسی در مورد آن باهوش تر باشد، ممکن است پیشرفت های ۳۰ سال آینده را نه با نگاه کردن به ۳۰ سال قبل، بلکه با در نظر گرفتن نرخ پیشرفت فعلی و قضاوت بر اساس آن پیش بینی کند. آنها می توانند دقیق تر باشند، اما هنوز خیلی دور هستند. برای اینکه به درستی در مورد آینده فکر کنید، باید تصور کنید که چیزها با سرعتی بسیار سریعتر از حرکت فعلی حرکت می کنند.
۲) مسیر تاریخ بسیار اخیر، اغلب داستانی تحریف شده را روایت می کند. اولاً، حتی یک منحنی نمایی تند، زمانی خطی به نظر می رسد که شما فقط به یک برش کوچک از آن نگاه کنید، به همین ترتیب اگر به بخش کوچکی از یک دایره بزرگ از نزدیک نگاه کنید، تقریباً مانند یک خط مستقیم به نظر می رسد. دوم، رشد نمایی کاملاً صاف و یکنواخت نیست. کورزویل توضیح می دهد که پیشرفت در “منحنی S” اتفاق می افتد:
وقتی یک الگوی جدید جهان را فرا می گیرد، یک S توسط موج پیشرفت ایجاد می شود. منحنی از سه مرحله عبور می کند:
۱. رشد آهسته (مرحله اولیه رشد نمایی)
2. رشد سریع (مرحله دیررس و انفجاری رشد نمایی)
3. یکسان سازی با بلوغ پارادایم خاص۳
اگر فقط به تاریخ بسیار اخیر نگاه کنید، بخشی از منحنی S که در حال حاضر روی آن قرار دارید می تواند درک شما را از سرعت پیشرفت چیزها مخفی کند. بخشی از زمان بین سال‌های ۱۹۹۵ تا ۲۰۰۷ شاهد انفجار اینترنت، معرفی مایکروسافت، گوگل و فیس‌بوک به آگاهی عمومی، تولد شبکه‌های اجتماعی، و معرفی تلفن‌های همراه و سپس تلفن‌های هوشمند بود. این فاز ۲ بود: جهش رشد بخش S. اما سال های ۲۰۰۸ تا ۲۰۱۵ کمتر پیشگامانه بوده است، حداقل در جبهه فناوری. کسی که امروز به آینده فکر می کند ممکن است چند سال گذشته را برای سنجش میزان پیشرفت فعلی بررسی کند، اما این تصویر بزرگتر را از دست می دهد. در واقع، یک جهش جدید و عظیم رشد فاز ۲ ممکن است در حال حاضر در راه باشد.
۳) تجربه شخصی خودمان، ما را به پیرمردهای لجباز در مورد آینده تبدیل می کند. ما ایده‌های خود را در مورد جهان بر اساس تجربیات شخصی خود قرار می دهیم، و این تجربه نرخ رشد گذشته نزدیک را به عنوان “روش اتفاقات” در ذهن ما نهادینه کرده است. ما همچنین توسط تخیل خود محدود شده‌ایم، که تجربه ما را می‌گیرد و از آن برای ایجاد پیش‌بینی‌های آینده استفاده می‌کند – اما اغلب، آنچه می‌دانیم به سادگی ابزاری برای تفکر دقیق در مورد آینده در اختیار ما قرار نمی‌دهد.۲وقتی پیش‌بینی‌ای درباره آینده می‌شنویم که با تصور مبتنی بر تجربه ما در مورد نحوه کارکرد چیزها در تضاد است ، غریزه ما این است که پیش‌بینی باید ساده‌لوحانه باشد. اگر بعداً در این پست به شما بگویم که ممکن است تا ۱۵۰ یا ۲۵۰ سالگی زندگی کنید یا اصلاً نمردید ، غریزه شما این خواهد بود: “این احمقانه است – اگر من از تاریخ یک چیز را می دانم، این است که همه می میرند. ” و بله، هیچ کس در گذشته نمرده است. اما قبل از اختراع هواپیما، هیچ کس با هواپیما پرواز نمی کرد.
بنابراین، در حالی که ممکن است با خواندن این پست احساس خوبی به شما ندهد، اما احتمالاً در واقع اشتباه است. واقعیت این است که اگر واقعاً منطقی باشیم و انتظار داشته باشیم که الگوهای تاریخی ادامه پیدا کنند، باید نتیجه بگیریم که در دهه‌های آینده بسیار، بسیار، بسیار بیشتر از آنچه به طور شهودی انتظار داریم، باید تغییر کند. منطق همچنین نشان می‌دهد که اگر پیشرفته‌ترین گونه‌های یک سیاره به جهش‌های بزرگتر و بزرگتر به جلو با سرعتی سریعتر ادامه دهند، در نقطه‌ای، جهشی به‌قدری بزرگ خواهند داشت که زندگی آنطور که می‌دانند و درک آنها را کاملاً تغییر می‌دهد. آنها معنای انسان بودن را می‌دانند – مثل این که چگونه تکامل جهش‌های بزرگی به سمت هوش انجام داد تا اینکه سرانجام آنقدر جهش بزرگی به انسان کرد که معنای زندگی هر موجودی را در سیاره زمین کاملاً تغییر داد. و اگر مدتی را صرف مطالعه در مورد آنچه امروز در علم و فناوری می‌کند بگذرانید، نشانه‌های زیادی را مشاهده می‌کنید که به آرامی به این موضوع اشاره می‌کنند که زندگی همانطور که در حال حاضر می‌دانیم نمی‌تواند جهشی را که در راه است تحمل کند.
_________________
راه رسیدن به هوش فوق العاده
هوش مصنوعی چیست؟
اگر شما هم مثل من هستید، قبلا فکر می‌کردید که هوش مصنوعی یک مفهوم علمی تخیلی احمقانه است، اما اخیراً افراد جدی به آن اشاره می‌کنند و واقعاً آن را درک نمی‌کنید.
سه دلیل وجود دارد که بسیاری از مردم در مورد اصطلاح هوش مصنوعی سردرگم می شوند:
۱) ما هوش مصنوعی را با فیلم ها مرتبط می کنیم. جنگ ستارگان. نابود کننده. ۲۰۰۱: یک ادیسه فضایی. حتی جتسون ها. و آنها مانند شخصیت‌های ربات تخیلی هستند. بنابراین هوش مصنوعی را برای ما کمی خیالی می کند.
۲) هوش مصنوعی یک موضوع گسترده است. از ماشین حساب تلفن شما گرفته تا ماشین های خودران و چیزی در آینده که ممکن است جهان را به طور چشمگیری تغییر دهد، متغیر است. هوش مصنوعی به همه این موارد اشاره دارد که گیج کننده است.
۳) ما همیشه در زندگی روزمره خود از هوش مصنوعی استفاده می کنیم، اما اغلب متوجه نمی شویم که این هوش مصنوعی است. جان مک کارتی، که اصطلاح «هوش مصنوعی» را در سال ۱۹۵۶ ابداع کرد، شکایت کرد که «به محض اینکه کار کند، دیگر کسی آن را هوش مصنوعی نمی‌نامد».۴به دلیل این پدیده، هوش مصنوعی اغلب شبیه یک پیش‌بینی افسانه‌ای آینده است تا واقعیت. در عین حال، آن را شبیه یک مفهوم پاپ از گذشته می کند که هرگز به نتیجه نرسید. ری کورزویل می گوید که از مردم می شنود که می گویند هوش مصنوعی در دهه ۱۹۸۰ پژمرده شد، که او آن را با “اصرار بر اینکه اینترنت در رکود دات کام در اوایل دهه ۲۰۰۰ از بین رفت” مقایسه می کند.۵
پس بیایید مسائل را روشن کنیم. ابتدا به ربات ها فکر نکنید . ربات محفظه ای برای هوش مصنوعی است که گاهی شبیه انسان است، گاهی اوقات نه – اما هوش مصنوعی خود کامپیوتر درون ربات است. هوش مصنوعی مغز است و ربات بدن آن است – اگر حتی بدن داشته باشد. به عنوان مثال، نرم‌افزار و داده‌های پشت سیری هوش مصنوعی است، صدای زن که می‌شنویم تجسم آن هوش مصنوعی است و اصلاً روباتی در کار نیست.
ثانیاً، احتمالاً اصطلاح “تکینگی” یا “تکینگی تکنولوژیکی” را شنیده اید. این اصطلاح در ریاضیات برای توصیف وضعیت مجانبی که در آن قوانین عادی دیگر اعمال نمی شود استفاده شده است. این در فیزیک برای توصیف پدیده‌ای مانند یک سیاه‌چاله بی‌نهایت کوچک و متراکم یا نقطه‌ای که همه ما درست قبل از انفجار بزرگ در آن گرفتار شده بودیم، استفاده می‌شود. باز هم، شرایطی که قوانین معمول اعمال نمی شود. در سال ۱۹۹۳، ورنور وینج مقاله معروفی نوشت که در آن این اصطلاح را برای لحظه‌ای در آینده به کار برد که هوش فناوری ما از هوش ما فراتر رود – لحظه‌ای برای او که زندگی آنطور که ما می‌دانیم برای همیشه تغییر خواهد کرد و قوانین عادی دیگر اعمال نمی‌شوند. . سپس ری کورزویل با تعریف تکینگی به عنوان زمانی که «قانون بازده شتاب‌دهنده» به چنان سرعتی رسیده است که پیشرفت تکنولوژی با سرعتی به ظاهر نامحدود اتفاق می‌افتد و پس از آن ما در شرایطی کاملاً جدید زندگی خواهیم کرد، همه چیز را به هم ریخت. جهان دریافتم که بسیاری از متفکران هوش مصنوعی امروزی استفاده از این اصطلاح را متوقف کرده‌اند، و به هر حال گیج‌کننده است، بنابراین در اینجا زیاد از آن استفاده نمی‌کنم (اگرچه در تمام مدت روی آن ایده تمرکز خواهیم کرد ).
در نهایت، در حالی که انواع یا اشکال مختلفی از هوش مصنوعی وجود دارد، زیرا هوش مصنوعی مفهومی گسترده است، مقوله‌های مهمی که باید در مورد آنها فکر کنیم، بر اساس کالیبر هوش مصنوعی هستند . سه دسته اصلی کالیبر هوش مصنوعی وجود دارد:
هوش مصنوعی کالیبر ۱: هوش مصنوعی محدود (Artificial Narrow Intelligence, ANI): گاهی اوقات به عنوان هوش مصنوعی ضعیف شناخته می شود ، هوش مصنوعی باریک به هوش مصنوعی گفته می شود که در یک زمینه تخصص دارد. هوش مصنوعی وجود دارد که می تواند قهرمان شطرنج جهان را در شطرنج شکست دهد، اما این تنها کاری است که انجام می دهد. از آن بخواهید روش بهتری برای ذخیره داده ها روی هارد دیسک بیابد، و شما را خالی نگاه خواهد کرد.
هوش مصنوعی کالیبر ۲: هوش مصنوعی عمومی (Artificial General Intelligence, AGI): گاهی اوقات به عنوان هوش مصنوعی قوی یا هوش مصنوعی سطح انسانی نیز شناخته می‌شود ، هوش مصنوعی عمومی به رایانه‌ای اشاره دارد که به اندازه یک انسان هوشمند است – ماشینی که می‌تواند هر کار فکری را انجام دهد. که یک انسان می تواند. ایجاد AGI کاری بسیار سخت تر از ایجاد ANI است و ما هنوز آن را انجام نداده ایم. پروفسور لیندا گوتفردسون هوش را به عنوان یک قابلیت ذهنی بسیار کلی توصیف می کند که در میان چیزهای دیگر شامل توانایی استدلال، برنامه ریزی، حل مسائل، تفکر انتزاعی، درک ایده های پیچیده، یادگیری سریع و یادگیری از تجربه است. AGI می‌تواند همه این کارها را تا جایی که می‌توانید به راحتی انجام دهد.
هوش مصنوعی کالیبر ۳: هوش مصنوعی ابرهوشمند (Artificial Superintelligence, ASI): نیک بوستروم، فیلسوف آکسفورد و متفکر برجسته هوش مصنوعی ، ابرهوش را به عنوان “عقلی که در عمل در هر زمینه ای از بهترین مغزهای انسان، از جمله خلاقیت علمی، خرد عمومی و مهارت های اجتماعی بسیار باهوش تر است” تعریف می کند. ابرهوش مصنوعی از رایانه‌ای که فقط کمی باهوش‌تر از انسان است تا رایانه‌ای که تریلیون‌ها بار باهوش‌تر است را در بر می‌گیرد. ASI دلیل این است که موضوع هوش مصنوعی یک گوشت تند است و چرا کلمات “جاودانگی” و “انقراض” هر دو بارها در این پست ها ظاهر می شوند.
در حال حاضر، انسان ها پایین ترین کالیبر هوش مصنوعی – ANI – را از بسیاری جهات فتح کرده اند و این در همه جا وجود دارد. انقلاب هوش مصنوعی جاده ای است از ANI، از طریق AGI، به ASI – جاده ای که ممکن است زنده بمانیم یا نمانیم، اما در هر صورت، همه چیز را تغییر خواهد داد.
بیایید نگاهی دقیق بیندازیم به این که متفکران برجسته در این زمینه چگونه به نظر می رسد این جاده چگونه است و چرا این انقلاب ممکن است خیلی زودتر از آنچه فکر می کنید رخ دهد:
جایی که ما در حال حاضر هستیم – جهانی که بر روی ANI اجرا می شود
هوش باریک مصنوعی هوش ماشینی است که برابر یا فراتر از هوش یا کارایی انسان در یک چیز خاص است. چند مثال:
- خودروها پر از سیستم های ANI هستند، از کامپیوتری که تشخیص می دهد ترمزهای ضد قفل چه زمانی باید وارد شوند تا کامپیوتری که پارامترهای سیستم های تزریق سوخت را تنظیم می کند. خودروی خودران گوگل که اکنون در حال آزمایش است، دارای سیستم‌های ANI قوی است که به آن اجازه می‌دهد دنیای اطراف خود را درک کرده و نسبت به آن واکنش نشان دهد.
- گوشی شما یک کارخانه ANI کوچک است. هنگامی که با استفاده از برنامه نقشه خود پیمایش می کنید، توصیه های موسیقی سفارشی را از Pandora دریافت می کنید، آب و هوای فردا را بررسی می کنید، با سیری صحبت می کنید یا ده ها فعالیت روزمره دیگر، از ANI استفاده می کنید.
- فیلتر هرزنامه ایمیل شما یک نوع کلاسیک از ANI است—این فیلتر با اطلاعاتی در مورد چگونگی تشخیص اینکه چه چیزی هرزنامه است و چه چیزی نیست شروع می شود، و سپس با کسب تجربه در مورد ترجیحات خاص شما، هوش خود را برای شما یاد می گیرد و متناسب می کند. Nest Thermostat همان کار را انجام می دهد که شروع به تشخیص روال معمول شما می کند و مطابق با آن عمل می کند.
- همه چیز وحشتناکی را می‌دانید که وقتی محصولی را در آمازون جستجو می‌کنید و سپس آن را به‌عنوان یک محصول «توصیه‌شده برای شما» در یک سایت دیگر می‌بینید ، یا وقتی فیس‌بوک می‌داند چه کسی را به‌عنوان یک محصول اضافه کنید منطقی است. دوست؟ این شبکه‌ای از سیستم‌های ANI است که با هم کار می‌کنند تا به یکدیگر اطلاع دهند که شما چه کسی هستید و چه چیزی را دوست دارید و سپس از آن اطلاعات برای تصمیم‌گیری در مورد اینکه چه چیزی به شما نشان دهیم استفاده می‌کند. همین امر در مورد «افرادی که این را خریدند نیز خریدند» آمازون صدق می کند – این یک سیستم ANI است که وظیفه آن جمع آوری اطلاعات از رفتار میلیون ها مشتری و ترکیب آن اطلاعات برای فروش هوشمندانه شماست تا شما چیزهای بیشتری بخرید.
- Google Translate یکی دیگر از سیستم های ANI کلاسیک است که در یک کار باریک به طرز چشمگیری خوب است. تشخیص صدا یکی دیگر از این موارد است، و تعدادی برنامه وجود دارد که از این دو ANI به عنوان یک تیم برچسب استفاده می‌کنند و به شما امکان می‌دهند جمله‌ای را به یک زبان صحبت کنید و تلفن همان جمله را به زبان دیگر بیان کند.
- وقتی هواپیمای شما فرود می آید، این انسان نیست که تصمیم می گیرد به کدام دروازه برود. درست مثل اینکه این انسان نیست که قیمت بلیط شما را تعیین کرده است.
- بهترین بازیکنان جهان چکرز، شطرنج، اسکربل، تخته نرد و اتللو اکنون همه سیستم‌های ANI هستند.
- جستجوی گوگل یک مغز بزرگ ANI با روش‌های فوق‌العاده پیچیده برای رتبه‌بندی صفحات و تشخیص اینکه چه چیزی به طور خاص به شما نشان می‌دهد است. همین امر در مورد Newsfeed فیس بوک نیز صدق می کند.
- و آنها فقط در دنیای مصرف هستند. سیستم های پیشرفته ANI به طور گسترده در بخش ها و صنایعی مانند ارتش، تولید و مالی استفاده می شود (تجار الگوریتمی هوش مصنوعی با فرکانس بالا بیش از نیمی از سهام معامله شده در بازارهای ایالات متحده را تشکیل می دهند.۶و در سیستم‌های خبره‌ای مانند سیستم‌هایی که به پزشکان در تشخیص کمک می‌کنند، و از همه معروف‌تر، واتسون از IBM ، که حاوی حقایق کافی بود و به‌خوبی صحبت‌های تربک را به‌خوبی درک می‌کرد تا بتواند پرکارترین قهرمانان Jeopardy را شکست دهد .
سیستم های ANI همانطور که اکنون هستند به خصوص ترسناک نیستند. در بدترین حالت، یک ANI نامناسب یا بد برنامه‌ریزی شده می‌تواند باعث یک فاجعه منفرد مانند از بین بردن شبکه برق، ایجاد نقص مضر نیروگاه هسته‌ای، یا ایجاد فاجعه‌ای در بازارهای مالی شود (مانند سقوط فلش در سال ۲۰۱۰ زمانی که یک برنامه ANI واکنش اشتباهی نشان داد. به یک موقعیت غیرمنتظره رسید و باعث شد تا بازار سهام برای مدت کوتاهی سقوط کند و یک تریلیون دلار ارزش بازار را با خود همراه کند که تنها بخشی از آن با اصلاح اشتباه بازیابی شد).
اما در حالی که ANI توانایی ایجاد یک تهدید وجودی را ندارد ، ما باید این اکوسیستم بزرگ و پیچیده ANI نسبتاً بی‌ضرر را به‌عنوان پیش‌آهنگی از طوفان در حال تغییر جهان ببینیم که در راه است. هر نوآوری جدید ANI بی سر و صدا آجر دیگری را به جاده AGI و ASI اضافه می کند. یا همانطور که آرون سانز می بیند ، سیستم های ANI جهان ما “مانند اسیدهای آمینه در تراوش اولیه زمین هستند” – مواد بی جان زندگی که در یک روز غیر منتظره از خواب بیدار شدند.
جاده از ANI به AGI
چرا اینقدر سخت است
هیچ چیز به اندازه یادگیری در مورد چالش باورنکردنی بودن تلاش برای ایجاد رایانه ای به هوشمندی ما، شما را به قدردانی از هوش انسانی وادار نمی کند. ساختن آسمان‌خراش‌ها، قرار دادن انسان‌ها در فضا، پی بردن به جزئیات چگونگی سقوط بیگ بنگ – همه اینها بسیار آسان‌تر از درک مغز خودمان یا ساختن چیزی به اندازه آن جذاب‌تر است. در حال حاضر، مغز انسان پیچیده ترین جسم در جهان شناخته شده است.
آنچه جالب است این است که بخش‌های سخت تلاش برای ساختن AGI (کامپیوتری به هوشمندی انسان‌ها به طور کلی ، نه فقط در یک تخصص محدود) به طور شهودی آن چیزی نیست که شما فکر می‌کنید. کامپیوتری بسازید که بتواند دو عدد ده رقمی را در یک کسری از ثانیه ضرب کند – فوق العاده آسان. سگی بسازید که بتواند به سگ نگاه کند و به سگ یا گربه بودنش پاسخ دهد – بسیار دشوار است. ساخت هوش مصنوعی که بتواند هر انسانی را در شطرنج شکست دهد؟ انجام شده. یکی بسازید که بتواند یک پاراگراف از کتاب تصویری یک کودک شش ساله را بخواند و نه تنها کلمات را تشخیص دهد، بلکه معنای آنها را بفهمد؟ گوگل در حال حاضر میلیاردها دلار برای انجام آن هزینه می کند. چیزهای سخت – مانند حساب دیفرانسیل و انتگرال، استراتژی بازار مالی، و ترجمه زبان – برای رایانه بسیار آسان هستند، در حالی که چیزهای آسان – مانند بینایی، حرکت، حرکت و ادراک – برای آن بسیار سخت هستند. یا، همانطور که دانشمند کامپیوتر دونالد کنوت می گوید، “هوش مصنوعی تاکنون در انجام هر کاری که نیاز به “تفکر” داشته باشد موفق شده است، اما در انجام بیشتر کارهایی که مردم و حیوانات انجام می دهند “بدون فکر” شکست خورده است.”۷
وقتی به این موضوع فکر می کنید به سرعت متوجه می شوید این است که چیزهایی که برای ما آسان به نظر می رسند، در واقع به طرز باورنکردنی پیچیده هستند، و آنها فقط به نظر آسان می رسند زیرا این مهارت ها در ما (و اکثر حیوانات) با صدها میلیون سال تکامل حیوانات بهینه شده است. . هنگامی که دست خود را به سمت یک جسم بالا می‌برید، ماهیچه‌ها، تاندون‌ها و استخوان‌های شانه، آرنج و مچ دست بلافاصله یک سری عملیات فیزیکی طولانی را در ارتباط با چشمانتان انجام می‌دهند تا به شما اجازه دهند دست خود را به صورت مستقیم حرکت دهید. خط از طریق سه بعدی به نظر شما بی دردسر است زیرا نرم افزاری را در مغز خود برای انجام آن کامل کرده اید. همین ایده در مورد اینکه چرا بدافزار به دلیل عدم توانایی در تشخیص تست تشخیص کلمات کج در هنگام ثبت نام برای یک حساب جدید در یک سایت، احمقانه نیست – این است که مغز شما برای توانایی فوق العاده تاثیرگذار است .
از سوی دیگر، ضرب اعداد بزرگ یا بازی شطرنج فعالیت‌های جدیدی برای موجودات بیولوژیکی است و ما هیچ زمانی برای ایجاد مهارت در آنها نداشته‌ایم، بنابراین یک کامپیوتر برای شکست دادن ما نیازی به کار زیاد ندارد. در مورد آن فکر کنید – ترجیح می دهید چه کار کنید، برنامه ای بسازید که می تواند اعداد بزرگ را ضرب کند یا برنامه ای که می تواند ماهیت یک B را به خوبی درک کند که بتوانید آن را با هر یک از هزاران فونت یا دست خط غیرقابل پیش بینی نشان دهید. فورا می دانم که آن یک B بود؟
یک مثال جالب – وقتی به این نگاه می کنید، شما و یک کامپیوتر هر دو می توانید بفهمید که این یک مستطیل با دو سایه متمایز است که متناوب هستند:
تا اینجا گره خورده اما اگر رنگ سیاه را بردارید و کل تصویر را فاش کنید…
…شما مشکلی ندارید که شرح کاملی از سیلندرهای مختلف مات و نیمه شفاف، نوارها، و گوشه های سه بعدی ارائه دهید، اما کامپیوتر به طرز وحشتناکی از کار می افتد. آن چیزی را که می بیند توصیف می کند – انواع اشکال دو بعدی در چندین سایه مختلف – که در واقع همان چیزی است که در آنجا وجود دارد. مغز شما برای تفسیر عمق ضمنی، اختلاط سایه ها و نور اتاق که تصویر سعی در به تصویر کشیدن آن دارد، کارهای جالبی انجام می دهد.۸و با نگاه کردن به تصویر زیر، یک کامپیوتر یک کلاژ دو بعدی سفید، سیاه و خاکستری را می بیند، در حالی که شما به راحتی می بینید که واقعا چیست – عکسی از یک سنگ کاملا سیاه و سه بعدی:
اعتبار: متیو لوید
و همه چیزهایی که ما ذکر کردیم هنوز فقط اطلاعات راکد را دریافت کرده و آنها را پردازش می کند. برای اینکه یک کامپیوتر در سطح انسانی باهوش باشد، باید چیزهایی مانند تفاوت بین حالات ظریف چهره، تمایز بین خشنود بودن، آسودگی، راضی بودن، راضی بودن و خوشحالی و اینکه چرا Braveheart عالی بود اما The Patriot وحشتناک بود را درک کند.
دلهره آور.
خب چطور باید به اونجا برسیم؟
اولین کلید برای ایجاد AGI: افزایش قدرت محاسباتی
یکی از مواردی که قطعا باید اتفاق بیفتد تا AGI امکان پذیر باشد، افزایش قدرت سخت افزار کامپیوتر است. اگر قرار است یک سیستم هوش مصنوعی به اندازه مغز هوشمند باشد، باید با ظرفیت محاسباتی خام مغز برابری کند.
یکی از راه‌های بیان این ظرفیت در کل محاسبات در ثانیه (cps) است که مغز می‌تواند مدیریت کند، و شما می‌توانید با محاسبه حداکثر cps هر ساختار در مغز و سپس جمع کردن همه آنها به این عدد برسید.
Ray Kurzweil با تخمین حرفه ای یک نفر برای cps یک ساختار و وزن آن ساختار در مقایسه با وزن کل مغز و سپس ضرب متناسب برای بدست آوردن تخمینی برای کل، یک میانبر ایجاد کرد. کمی مبهم به نظر می‌رسد، اما او این کار را چندین بار با تخمین‌های حرفه‌ای مختلف از مناطق مختلف انجام داد، و مجموع آنها همیشه در یک توپخانه می‌رسیدند – حدود ۱۰ ۱۶ یا ۱۰ کوادریلیون cps.
در حال حاضر، سریعترین ابررایانه جهان، Tianhe-2 چین ، در واقع این عدد را شکست داده است و سرعت آن در حدود ۳۴ کوادریلیون cps است. اما Tianhe-2 همچنین یک دیک است که ۷۲۰ متر مربع فضا را اشغال می کند، از ۲۴ مگاوات برق استفاده می کند (مغز تنها با ۲۰ وات کار می کند ) و هزینه ساخت آن ۳۹۰ میلیون دلار است. به ویژه برای استفاده گسترده، یا حتی بیشتر استفاده های تجاری یا صنعتی هنوز قابل استفاده نیست.
Kurzweil پیشنهاد می‌کند که با نگاه کردن به اینکه چه تعداد cps می‌توانید با ۱۰۰۰ دلار بخرید، در مورد وضعیت رایانه‌ها فکر کنیم. زمانی که این عدد به سطح انسان برسد – ۱۰ کوادریلیون cps – آن وقت این بدان معناست که AGI می تواند به بخشی واقعی از زندگی تبدیل شود.
قانون مور یک قانون قابل اعتماد تاریخی است که حداکثر قدرت محاسباتی جهان تقریباً هر دو سال یکبار دو برابر می شود، به این معنی که پیشرفت سخت افزار کامپیوتر، مانند پیشرفت عمومی انسان در طول تاریخ، به طور تصاعدی رشد می کند. با نگاهی به این که چگونه این مورد به متریک cps/1000 دلار کورزویل مربوط می شود، ما در حال حاضر در حدود ۱۰ تریلیون cps/1000 دلار هستیم، درست همگام با مسیر پیش بینی شده این نمودار:۹
بنابراین کامپیوترهای ۱۰۰۰ دلاری جهان اکنون بر مغز موش ضربه می زنند و در حدود یک هزارم سطح انسان هستند. این خیلی به نظر نمی رسد تا زمانی که به یاد داشته باشید که ما در سال ۱۹۸۵ در حدود یک تریلیونم سطح انسانی، در سال ۱۹۹۵ یک میلیاردیم و در سال ۲۰۰۵ یک میلیونیم بودیم. قرار گرفتن در یک هزارم در سال ۲۰۱۵ ما را به سرعت برای رسیدن به سطح مقرون به صرفه قرار می دهد. کامپیوتر تا سال ۲۰۲۵ که رقیب قدرت مغز است.
بنابراین از نظر سخت افزاری، نیروی خام مورد نیاز برای AGI از نظر فنی اکنون در چین در دسترس است و ما ظرف ۱۰ سال آینده برای سخت افزار مقرون به صرفه و گسترده با کالیبر AGI آماده خواهیم بود. اما قدرت محاسباتی خام به تنهایی یک کامپیوتر را به طور کلی باهوش نمی کند – سوال بعدی این است که چگونه می توانیم هوش در سطح انسانی را به این همه قدرت برسانیم؟
کلید دوم برای ایجاد AGI: هوشمند کردن آن
این قسمت بد است. حقیقت این است که هیچ‌کس واقعاً نمی‌داند چگونه آن را باهوش کند – ما هنوز در حال بحث هستیم که چگونه رایانه‌ای را در سطح انسانی باهوش کنیم و قادر به دانستن اینکه یک سگ و یک B با نوشته‌های عجیب و یک فیلم متوسط چیست. اما مجموعه ای از استراتژی های دور از ذهن وجود دارد و در برخی موارد، یکی از آنها کار خواهد کرد. در اینجا سه استراتژی متداول است که من با آنها برخورد کردم:
۱) سرقت علمی مغز.
این مثل این است که دانشمندان زحمت بکشند که چگونه آن بچه ای که در کلاس کنار آنها می نشیند اینقدر باهوش است و در آزمون ها آنقدر خوب عمل می کند و حتی با وجود اینکه آنها با پشتکار به مطالعه ادامه می دهند، نمی توانند تقریباً به خوبی آن بچه عمل کنند. آنها در نهایت تصمیم می گیرند “لعنت به آن، من فقط می خواهم پاسخ های آن بچه را کپی کنم.” منطقی است – ما در تلاش برای ساختن یک کامپیوتر فوق پیچیده هستیم و اتفاقاً یک نمونه اولیه کامل برای هر یک از سرمان وجود دارد.
دنیای علم به سختی روی مهندسی معکوس مغز کار می کند تا دریابد که چگونه تکامل چنین چیزی را به وجود آورده است – تخمین های خوش بینانه می گویند که ما می توانیم این کار را تا سال ۲۰۳۰ انجام دهیم. وقتی این کار را انجام دادیم، همه رازهای عملکرد مغز را خواهیم دانست. قدرتمند و کارآمد و ما می توانیم از آن الهام بگیریم و نوآوری های آن را بدزدیم. یکی از نمونه‌های معماری کامپیوتر که مغز را تقلید می‌کند، شبکه عصبی مصنوعی است. این شبکه به عنوان شبکه‌ای از «نرون‌های» ترانزیستوری شروع می‌شود که با ورودی‌ها و خروجی‌ها به یکدیگر متصل هستند و هیچ چیز نمی‌دانند – مانند مغز نوزاد. روش “یادگیری” این است که سعی می کند یک کار را انجام دهد، مثلاً تشخیص دست خط، و در ابتدا، شلیک عصبی و حدس های بعدی آن در رمزگشایی هر حرف کاملاً تصادفی خواهد بود. اما وقتی به آن گفته می شود که چیزی درست است، اتصالات ترانزیستور در مسیرهای شلیک که اتفاقاً این پاسخ را ایجاد کرده است، تقویت می شود. وقتی گفته می شود اشتباه بوده است، ارتباطات آن مسیرها ضعیف می شود. پس از مدت ها این آزمایش و بازخورد، شبکه به خودی خود مسیرهای عصبی هوشمندی را تشکیل داده و دستگاه برای این کار بهینه شده است. مغز کمی شبیه به این، اما به روشی پیچیده‌تر یاد می‌گیرد، و همانطور که به مطالعه مغز ادامه می‌دهیم، راه‌های مبتکرانه جدیدی برای استفاده از مدارهای عصبی کشف می‌کنیم.
سرقت ادبی شدیدتر مستلزم استراتژی به نام «شبیه سازی کل مغز» است، که در آن هدف این است که یک مغز واقعی را به لایه های نازک برش دهیم، هر کدام را اسکن کنیم، از نرم افزار برای جمع آوری یک مدل سه بعدی بازسازی شده دقیق استفاده کنیم و سپس مدل را بر روی یک مدل قدرتمند پیاده کنیم. کامپیوتر. پس از آن، ما کامپیوتری خواهیم داشت که رسماً قادر به انجام هر چیزی که مغز قادر به انجام آن است، خواهد بود – فقط باید اطلاعات را یاد بگیرد و جمع آوری کند. اگر مهندسان واقعاً خوب باشند، می توانند از یک مغز واقعی با چنان دقتی تقلید کنند که پس از بارگذاری معماری مغز روی رایانه، شخصیت و حافظه کامل مغز دست نخورده باقی بماند. اگر مغز درست قبل از مرگ جیم متعلق به جیم بود، کامپیوتر اکنون به عنوان جیم ( ? ) از خواب بیدار می شد، که یک AGI قوی در سطح انسان خواهد بود، و ما اکنون می توانیم روی تبدیل جیم به یک ASI هوشمند غیرقابل تصور کار کنیم. احتمالاً واقعاً هیجان زده خواهم شد.
چقدر تا رسیدن به شبیه سازی کل مغز فاصله داریم؟ خوب تا کنون، ما هنوز اخیراً نتوانسته‌ایم مغز کرم مسطح به طول ۱ میلی‌متر را تقلید کنیم که از مجموع ۳۰۲ نورون تشکیل شده است. مغز انسان دارای ۱۰۰ میلیارد است. اگر این باعث می‌شود که پروژه ناامیدکننده‌ای به نظر برسد، قدرت پیشرفت تصاعدی را به خاطر بسپارید – حالا که مغز کرم کوچک را فتح کرده‌ایم، ممکن است یک مورچه خیلی زود اتفاق بیفتد و به دنبال آن یک موش، و ناگهان این بسیار محتمل‌تر به نظر می‌رسد.
۲) سعی کنید تکامل را کاری کنید که قبلاً انجام می داد اما این بار برای ما.
بنابراین اگر به این نتیجه رسیدیم که کپی کردن آزمون کودک باهوش خیلی سخت است، می‌توانیم سعی کنیم روشی را که او برای آزمون‌ها مطالعه می‌کند کپی کنیم.
در اینجا چیزی است که ما می دانیم. ساختن کامپیوتری به قدرتمندی مغز ممکن است – تکامل مغز خودمان اثبات است. و اگر مغز آنقدر پیچیده است که نمی‌توانیم آن را تقلید کنیم، می‌توانیم به جای آن از تکامل الگوبرداری کنیم . واقعیت این است که حتی اگر بتوانیم مغز را تقلید کنیم، ممکن است مانند تلاش برای ساختن هواپیما با کپی کردن حرکات بال زدن پرنده باشد – اغلب، ماشین‌ها بهتر است با استفاده از رویکردی تازه و ماشین‌گرا طراحی شوند، نه با تقلید دقیق زیست‌شناسی. .
بنابراین چگونه می توانیم تکامل را برای ساخت AGI شبیه سازی کنیم؟ روشی که «الگوریتم‌های ژنتیک» نامیده می‌شود، چیزی شبیه به این کار می‌کند: یک فرآیند عملکرد و ارزیابی وجود دارد که بارها و بارها اتفاق می‌افتد (همان روشی که موجودات زیستی با زندگی زنده «عملکرد» می‌کنند و با «ارزیابی» که آیا آنها موفق به تولید مثل می شوند یا نه). گروهی از رایانه‌ها سعی می‌کنند وظایفی را انجام دهند و موفق‌ترین‌ها با ادغام نیمی از برنامه‌نویسی‌هایشان با یکدیگر در یک رایانه جدید، با یکدیگر آشنا می‌شوند. آنهایی که کمتر موفق بودند حذف خواهند شد. در طی چندین و چند تکرار، این فرآیند انتخاب طبیعی کامپیوترهای بهتر و بهتری تولید می کند. چالش ایجاد یک ارزیابی خودکار و چرخه پرورش است تا این فرآیند تکامل بتواند به تنهایی اجرا شود.
نقطه ضعف کپی کردن تکامل این است که تکامل دوست دارد انجام کارها یک میلیارد سال طول بکشد و ما می خواهیم این کار را در چند دهه انجام دهیم.
اما ما مزایای زیادی نسبت به تکامل داریم. اولاً، تکامل آینده‌نگری ندارد و به‌طور تصادفی کار می‌کند – جهش‌های غیرمفید بیشتری نسبت به جهش‌های مفید ایجاد می‌کند، اما ما این فرآیند را کنترل می‌کنیم تا تنها با اشکالات سودمند و تغییرات هدفمند هدایت شود. ثانیاً، تکامل هیچ چیز، از جمله هوش را هدف نمی گیرد – گاهی اوقات یک محیط ممکن است در مقابل هوش بالاتر انتخاب شود (زیرا انرژی زیادی مصرف می کند). از سوی دیگر، ما می‌توانیم به طور خاص این فرآیند تکاملی را به سمت افزایش هوش هدایت کنیم. سوم، برای انتخاب هوش، تکامل باید در یک سری روش‌های دیگر برای تسهیل هوش نوآوری کند – مانند اصلاح روش‌هایی که سلول‌ها انرژی تولید می‌کنند – زمانی که بتوانیم آن بار اضافی را حذف کنیم و از چیزهایی مانند الکتریسیته استفاده کنیم. شکی نیست که ما بسیار سریعتر از تکامل خواهیم بود – اما هنوز مشخص نیست که آیا می‌توانیم به اندازه کافی تکامل را بهبود بخشیم تا این یک استراتژی قابل دوام باشد.
۳) همه اینها را مشکل کامپیوتر کنید نه ما.
این زمانی است که دانشمندان ناامید می شوند و سعی می کنند آزمایش را طوری برنامه ریزی کنند که خودش انجام دهد. اما ممکن است این امیدوار کننده ترین روشی باشد که ما داریم.
ایده این است که ما کامپیوتری بسازیم که دو مهارت اصلی آن انجام تحقیقات روی هوش مصنوعی و کدنویسی تغییرات در خودش باشد – که به آن اجازه می دهد نه تنها یاد بگیرد، بلکه معماری خود را نیز بهبود بخشد . ما به کامپیوترها می‌آموزیم که دانشمندان کامپیوتر باشند تا بتوانند توسعه خود را راه‌اندازی کنند. و این کار اصلی آنها خواهد بود – فهمیدن اینکه چگونه خود را باهوش تر کنند. بیشتر در این مورد بعدا.
همه اینها ممکن است به زودی اتفاق بیفتد
پیشرفت های سریع در سخت افزار و آزمایش های نوآورانه با نرم افزار به طور همزمان اتفاق می افتد، و AGI می تواند به سرعت و به طور غیرمنتظره به دو دلیل اصلی ما را تحت تأثیر قرار دهد:
۱) رشد تصاعدی شدید است و چیزی که به نظر می رسد سرعت پیشرفت یک حلزون می تواند به سرعت به سمت بالا حرکت کند – این GIF این مفهوم را به خوبی نشان می دهد:
۲) وقتی صحبت از نرم افزار به میان می آید، پیشرفت ممکن است کند به نظر برسد، اما بعد از آن یک مرحله می تواند فوراً سرعت پیشرفت را تغییر دهد (مثل روشی که علم، در زمانی که انسان ها فکر می کردند جهان زمین مرکزی است، در محاسبه نحوه کار جهان با مشکل مواجه بود. ، اما پس از آن کشف این که هلیوسنتریک است، ناگهان همه چیز را بسیار آسان کرد). یا وقتی صحبت از چیزی مانند رایانه ای می شود که خودش را بهبود می بخشد، ممکن است به نظر دور باشیم، اما در واقع فقط یک تغییر سیستم با ۱۰۰۰ برابر موثرتر شدن آن و زوم کردن به سمت بالا تا سطح هوش انسانی فاصله داریم.
جاده از AGI به ASI
در برخی موارد، ما به AGI دست خواهیم یافت – رایانه هایی با هوش عمومی در سطح انسانی. فقط یک دسته از مردم و کامپیوترها با هم در برابر هم زندگی می کنند.
اوه در واقع اصلا
مسئله این است که AGI با سطح هوش و ظرفیت محاسباتی یکسان مانند یک انسان، همچنان مزایای قابل توجهی نسبت به انسان دارد. پسندیدن:
سخت افزار:
- سرعت. نورون های مغز در حدود ۲۰۰ هرتز حداکثر می شوند، در حالی که ریزپردازنده های امروزی (که بسیار کندتر از زمانی هستند که به AGI می رسند) با فرکانس ۲ گیگاهرتز یا ۱۰ میلیون بار سریعتر از نورون های ما کار می کنند. و ارتباطات داخلی مغز، که می تواند با سرعت ۱۲۰ متر بر ثانیه حرکت کند، به طرز وحشتناکی با توانایی کامپیوتر برای برقراری ارتباط نوری با سرعت نور بیشتر است.
- اندازه و ذخیره سازی. مغز به دلیل شکل جمجمه ما در اندازه خود قفل شده است، و به هر حال نمی تواند خیلی بزرگتر شود، یا ارتباطات داخلی ۱۲۰ متر بر ثانیه طول می کشد تا از یک ساختار مغز به ساختار دیگر برسد. رایانه‌ها می‌توانند به هر اندازه فیزیکی گسترش پیدا کنند و به سخت‌افزار بسیار بیشتری اجازه کار، حافظه کاری بسیار بزرگتر (RAM) و حافظه طولانی‌مدت (ذخیره‌سازی هارد دیسک) را می‌دهند که ظرفیت و دقت بسیار بیشتری نسبت به ما دارد.
- قابلیت اطمینان و دوام. این فقط خاطرات یک کامپیوتر نیست که دقیق تر است. ترانزیستورهای کامپیوتری دقیق‌تر از نورون‌های بیولوژیکی هستند و احتمال خراب شدن آنها کمتر است (و در صورت خراب شدن می‌توانند تعمیر یا جایگزین شوند). مغز انسان نیز به راحتی خسته می‌شود، در حالی که رایانه‌ها می‌توانند بدون وقفه، با اوج عملکرد، ۲۴/۷ کار کنند.
نرم افزار:
- قابلیت ویرایش، قابلیت ارتقا و گستره وسیع تری از امکان. بر خلاف مغز انسان، نرم افزارهای کامپیوتری می توانند به روز رسانی ها و اصلاحات را دریافت کنند و به راحتی می توان آنها را آزمایش کرد. به روز رسانی ها همچنین می تواند به مناطقی که مغز انسان در آنها ضعیف است نیز گسترش یابد. نرم افزار بینایی انسان فوق العاده پیشرفته است، در حالی که قابلیت مهندسی پیچیده آن بسیار کم است. رایانه‌ها می‌توانند با نرم‌افزار بینایی انسان مطابقت داشته باشند، اما می‌توانند به همان اندازه در مهندسی و هر زمینه دیگری بهینه شوند.
- قابلیت جمعی انسان‌ها با ایجاد هوش جمعی گسترده، همه گونه‌های دیگر را در هم می‌کوبند. با شروع توسعه زبان و تشکیل جوامع بزرگ و متراکم، پیشرفت از طریق اختراعات نوشتن و چاپ، و اکنون از طریق ابزارهایی مانند اینترنت تشدید شده است، هوش جمعی بشریت یکی از دلایل عمده ای است که ما توانسته ایم به چنین چیزی دست پیدا کنیم. خیلی جلوتر از همه گونه های دیگر و کامپیوترها در این کار بسیار بهتر از ما خواهند بود. یک شبکه جهانی از هوش مصنوعی که یک برنامه خاص را اجرا می‌کند می‌تواند به طور منظم با خودش همگام شود، به طوری که هر کامپیوتری که یاد می‌گیرد فوراً در همه رایانه‌های دیگر آپلود شود. این گروه همچنین می تواند یک هدف را به عنوان یک واحد انجام دهد، زیرا لزوماً نظرات و انگیزه های مخالف و منافع شخصی مانند ما در جمعیت انسانی وجود نخواهد داشت.۱۰
هوش مصنوعی، که احتمالاً با برنامه‌ریزی برای بهبود خود به AGI می‌رسد، «هوش در سطح انسانی» را نقطه عطف مهمی نمی‌بیند – از دیدگاه ما فقط یک نشانگر مرتبط است – و هیچ دلیلی برای این کار نخواهد داشت. “توقف” در سطح ما. و با توجه به مزایایی که حتی AGI معادل هوش انسانی نسبت به ما دارد، کاملاً واضح است که قبل از اینکه وارد قلمرو هوش برتر از انسان شود، فقط برای یک لحظه کوتاه به هوش انسان ضربه می‌زند.
این ممکن است وقتی اتفاق بیفتد، ما را شوکه کند. دلیل آن این است که از دیدگاه ما ، الف) در حالی که هوش انواع مختلف حیوانات متفاوت است، ویژگی اصلی که در مورد هوش هر حیوانی می‌دانیم این است که به مراتب پایین‌تر از هوش ماست، و ب) باهوش‌ترین انسان‌ها را به‌عنوان راه می‌بینیم. باهوش تر از احمق ترین انسان ها یه جورایی مثل این:
بنابراین همانطور که هوش مصنوعی به سمت ما زوم می کند، ما آن را برای یک حیوان ساده تر می بینیم. سپس، هنگامی که به پایین ترین ظرفیت بشریت رسید – نیک بوستروم از اصطلاح “احمق روستایی” استفاده می کند – ما چنین خواهیم گفت: “اوه وای، مثل یک انسان گنگ است. جذاب!” تنها چیز این است که در طیف بزرگ هوش، همه انسان ها، از ادم های روستایی گرفته تا انیشتین، در محدوده بسیار کمی قرار دارند—بنابراین درست پس از رسیدن به سطح ادم دهکده و اعلام شدن به عنوان AGI، ناگهان باهوش تر از انیشتین و ما نمی دانیم چه چیزی به ما زده است:
و بعد از آن چه اتفاقی می افتد؟
یک انفجار اطلاعاتی
امیدوارم از زمان عادی لذت برده باشید، زیرا این زمانی است که این موضوع غیرعادی و ترسناک می شود و از اینجا به بعد همینطور باقی می ماند. می‌خواهم در اینجا مکث کنم تا به شما یادآوری کنم که تک تک چیزهایی که می‌خواهم بگویم واقعی است – علم واقعی و پیش‌بینی‌های واقعی آینده از سوی مجموعه بزرگی از معتبرترین متفکران و دانشمندان. فقط این را به خاطر بسپار
به هر حال، همانطور که در بالا گفتم، اکثر مدل‌های فعلی ما برای رسیدن به AGI شامل رسیدن به هوش مصنوعی از طریق خود-بهبودی است. و هنگامی که به AGI رسید، حتی سیستم‌هایی که از طریق روش‌هایی که مستلزم بهبود خود نبودند شکل گرفتند و رشد کردند، اکنون به اندازه کافی هوشمند خواهند بود که اگر بخواهند شروع به خودسازی کنند.۳
و اینجاست که ما به یک مفهوم شدید می رسیم: خود-بهبودی بازگشتی. اینجوری کار میکنه-
یک سیستم هوش مصنوعی در یک سطح معین – فرض کنید یک ادم دهکده انسانی – با هدف بهبود هوش خود برنامه ریزی شده است. زمانی که این کار را انجام داد، باهوش‌تر می‌شود – شاید در این مرحله در سطح انیشتین باشد – بنابراین اکنون که برای بهبود هوش خود کار می‌کند، با هوشی در سطح انیشتین، زمان آسان‌تری دارد و می‌تواند جهش‌های بزرگتری داشته باشد. این جهش ها آن را بسیار باهوش تر از هر انسان دیگری می کند و به او اجازه می دهد جهش های بزرگتری انجام دهد . همانطور که جهش ها بزرگتر می شوند و با سرعت بیشتری اتفاق می افتند، AGI از نظر هوشی به سمت بالا می رود و به زودی به سطح فوق هوشمند یک سیستم ASI می رسد. به این میگن انفجار اطلاعاتی۱۱و این نمونه نهایی «قانون بازده شتاب‌دهنده» است.
بحث هایی در مورد اینکه چقدر زود هوش مصنوعی به هوش عمومی در سطح انسان می رسد وجود دارد. سال متوسط در نظرسنجی از صدها دانشمند در مورد زمانی که آنها معتقد بودند ما به احتمال زیاد به AGI نخواهیم رسید، سال ۲۰۴۰ بود.۱۲– این تنها ۲۵ سال آینده است، تا زمانی که در نظر نگیرید که بسیاری از متفکران در این زمینه فکر می کنند احتمال دارد که پیشرفت از AGI به ASI خیلی سریع اتفاق بیفتد، چندان بزرگ به نظر نمی رسد. مانند – این ممکن است اتفاق بیفتد:
دهه ها طول می کشد تا اولین سیستم هوش مصنوعی به هوش عمومی سطح پایین برسد، اما در نهایت این اتفاق می افتد. کامپیوتر قادر است دنیای اطراف خود را به خوبی یک کودک چهار ساله درک کند. ناگهان، ظرف یک ساعت پس از رسیدن به آن نقطه عطف، سیستم نظریه بزرگ فیزیک را که نسبیت عام و مکانیک کوانتومی را متحد می کند، ارائه می دهد، کاری که هیچ انسانی به طور قطعی قادر به انجام آن نبوده است. ۹۰ دقیقه پس از آن، هوش مصنوعی به یک ASI تبدیل شده است، ۱۷۰۰۰۰ برابر هوشمندتر از یک انسان.
ابرهوشی به این بزرگی چیزی نیست که بتوانیم از راه دور آن را درک کنیم، بیش از آن که یک زنبور عسل بتواند سر خود را به دور اقتصاد کینزی بپیچد. در دنیای ما، هوشمند به معنای ضریب هوشی ۱۳۰ و احمق به معنای ضریب هوشی ۸۵ است—ما کلمه ای برای ضریب هوشی ۱۲۹۵۲ نداریم.
آنچه ما می دانیم این است که تسلط کامل انسان ها بر این کره زمین حاکی از یک قانون واضح است: با هوش قدرت می آید. این بدان معناست که یک ASI، زمانی که آن را ایجاد کنیم، قدرتمندترین موجود در تاریخ حیات روی زمین خواهد بود، و همه موجودات زنده، از جمله انسان‌ها، کاملاً به میل خود خواهند بود – و این ممکن است در چند دهه آینده اتفاق بیفتد.
اگر مغز ناچیز ما قادر به اختراع وای فای بود، پس چیزی ۱۰۰ یا ۱۰۰۰ یا ۱ میلیارد برابر باهوش‌تر از ما نباید مشکلی برای کنترل موقعیت تک تک اتم‌های جهان به هر شکلی که دوست دارد، در هر زمان – هر چیزی که ما داریم داشته باشد. سحر و جادو را در نظر بگیرید، هر قدرتی که ما تصور می کنیم خدای متعالی دارد، برای ASI به همان اندازه فعالیتی پیش پا افتاده است که زدن کلید چراغ برای ما. ایجاد فناوری برای معکوس کردن پیری انسان، درمان بیماری ها و گرسنگی و حتی مرگ و میر، برنامه ریزی مجدد آب و هوا برای محافظت از آینده زندگی روی زمین – همه به طور ناگهانی امکان پذیر است. همچنین پایان فوری تمام حیات روی زمین ممکن است. تا آنجا که به ما مربوط می شود، اگر یک ASI به وجود بیاید، اکنون یک خدای قادر مطلق بر روی زمین وجود دارد – و سوال بسیار مهم برای ما این است:
آیا خدای خوبی خواهد بود؟
این موضوع قسمت ۲ این پست است .
پست های مرتبط صبر کنید اما چرا
- پارادوکس فرمی – چرا هیچ نشانه ای از زندگی بیگانه نمی بینیم؟
- چگونه (و چرا) اسپیس ایکس مریخ را مستعمره خواهد کرد – پستی که باید با ایلان ماسک روی آن کار کنم و پستی که تصویر ذهنی من از آینده را مجدداً نشان می دهد.
- یا برای چیزی کاملاً متفاوت و در عین حال به نوعی مرتبط، چرا اهمال‌کاران به تعویق می‌افتند
جهت مشاهده تصویر بزرگ، روی تصویر بالا کلیک کنید.