بوستون ریویو، آکتی اونیل| آیندهپژوهان در نگاه اول خلوضع به نظر میرسند. اما همهشان از یک قماش نیستند. برخی ثروتمندانِ مرفهی هستند که دلشان میخواهد بدنشان را منجمد کنند تا یک روز در آینده به زندگی بازگردند، بعضی نگران آن هستند که یک هوشِ مصنوعیِ برتر انسانها را زیر سلطۀ خود بگیرد؛ و برخی دلمشغول همین آدمهای معمولیای هستند که گرفتار سیستمهای دیجیتال شدهاند. اما اگر مسئله صرفاً بر سر قدرت و ثروت باشد چه؟
آیا شما هم شنیدهاید؟ روزی ما در جامعهای کامل تحت رهبری یک هوشِ مصنوعیِ همهکاره زندگی خواهیم کرد، هوشی که اثبات شده مطلقاً خیرخواه نوع بشر خواهد بود.
یعنی، اگر آن روزی که ماشینها صاحب آگاهی میشوند، زمام امور را به دست میگیرند، و ما را میکشند، همهمان نمرده باشیم، در چنین جامعهای خواهیم زیست.
صبر کنید، درواقع، آنها قرار است برخی از ما را با خودشان ببرند، و ما به سطح دیگری از هستی فرا خواهیم رفت. یا حداقل این قضیه برای همسانهای ژنتیکی ۱ ما رخ خواهد داد. یا حداقل آن دسته از همسانهای ژنتیکی ما که بهدلیل گناهان کنونی ما تحتِ شکنجهای ابدی قرار ندارند.
همۀ اینها نتایجی است که امروزه آیندهپژوهانی با نگرشهای مختلف به آنها باور دارند. آیندهپژوه فردی است که مقدار قابلتوجهی از وقت خود را، چه با حقوق چه بیحقوق، صرف نظریهپردازی دربارۀ آیندۀ جامعه میکند؛ و هرچند ریشخندکردن آنها بهخاطرِ پیشبینیهای علناً ماورایی و بهظاهر احمقانۀ آنها میتواند سرگرمکننده باشد، اما ما باید آیندهپژوهان را جدی بگیریم.
زیرا در کانون جنبش آیندهپژوهی، پول، نفوذ، قدرت سیاسی، و دسترسی به الگوریتمهایی نهفته است که بهطور روزافزون بر زندگی حرفهای، سیاسی و خصوصی ما حکمرانی میکنند.
گوگل، آیبیاِم، فورد، و وزارت دفاع آمریکا، همگی آیندهپژوهان را به خدمت میگیرند؛ و خود من هم آیندهپژوه هستم. اما من تضادها و اختلاف نظرهای عمیقی را در این حوزه دریافتهام، که مرا واداشته است تا در سطور زیر چهار «نوع» اصلی از آیندهپژوهان را ترسیم کنم.
امیدوارم که با فهم بهتر انگیزهها و پسزمینههای افرادِ دخیل در این حوزه، هرچند بهطور غیرعلمی، بهتر بتوانیم خودمان را برای کشمکشهای سیاسی آتی آماده کنیم و بدانیم که از کدام روایت از آینده باید پشتیبانی کنیم: روایت قدرتمندان دنیای تکنولوژی که میخواهند خودروهای پرنده داشته باشند و برای همیشه زندگی کنند، یا روایت کارگران اقتصاد کار موقت ۲ که میخواهند روزی از نظام سلامتیای متناسب با بضاعت مالی خودشان برخوردار باشند.
با توجه به مسئلۀ فوق، اجازه دهید من دو بُعد آیندهپژوهی را معرفی کنم که با دو محور نشان داده میشود. یعنی، دو شیوه برای اندازهگیری و ترسیم آیندهپژوهان بر روی یک نمودار، که سپس میتوانیم آن را با دقت بیشتری بررسی کنیم.
نخستین ملاک سنجش یک آیندهپژوه آن است که تا چه میزان به تکینگی ۳ باور دارد. بهطور کلی، تکینگی لحظهای است که تکنولوژی آنقدر پیشرفت میکند، و سرعتی نمایی و چنان فزاینده مییابد که به دگرگونی تکنولوژیک بنیادی و معنادار زندگی میانجامد، بهنحوی که از هدف و حتی طبیعت نخستینِ خود فرا میرود.
در بسیاری از افسانههای تکینگی، رایانه یا خودآگاه میشود یا باهوش، محتملاً بهشیوهای خوب، اما گاهی بهشیوهای ویرانگر یا حتی انتقامجویانه. در افسانههای دیگر، آدمها و ماشینها با هم پیوند میخورند و سرمجموع به موجودی جدید تبدیل میشوند. نکتۀ کلی این است که برخی آیندهپژوهان عمیقاً به تکینگی باور دارند، درحالیکه برخی دیگر باور ندارند.
بر روی محور دوم، اجازه دهید میزان نگرانی آیندهپژوه را بسنجیم هنگامی که دربارۀ آینده نظریهپردازی میکند. آیا هیجانزده هستند یا هراسان؟ محتاط هستند یا مسرور؟ انتخابهای آیندهپژوهان اغلب تحتتأثیر عواطفشان است.
بنابراین آنها دربارۀ جنبههای کاملاً متفاوتی از تکنولوژی میاندیشند. نوع تکنولوژیهایی که این دو گروه در نظر میگیرند، تقریباً مجزا از هم هستند، و حتی آنجا که با هم تلاقی دارند، برداشتهای این آیندهپژوهان کاملاً متضاد است.
بنابراین، اکنون که دو محور در اختیار داریم، ما میتوانیم چهار ربع بسازیم و گروه آیندهپژوهان را در هر ربع بررسی کنیم. تفاوتهای آنها روشن میکند ارزشهایی که در پی آنند چیست، مخاطبانشان کیستند، و چه محصولاتی عرضه میکنند.
ربع اول
گروه نخست: افرادی که به تکینگی باور دارند و دربارۀ آن نگران نیستند. آنها نام پیشرفت روی آن میگذارند و با آغوش باز میپذیرندش.
نمونههایی از افراد این ربع عبارتاند از ری کورزویل، مخترع و نویسندۀ عصر ماشینهای جاندار ۴ (۱۹۹۹)؛ اختیارگرایانی که در «جنبش سیاِستدرز» ۵ میخواهند شهرهای شناور خودمختار خارج از حوزۀ حاکمیت هر دولتی ایجاد کنند؛ و افرادی که میکوشند تا هوش را بهبود بخشند و برای همیشه زندگی کنند.
این آیندهپژوهان مشتاقانه به قانون مور باور دارند؛ گوردون مور، یکی از بنیانگذاران اینتل، گفته است که تعداد ترانزیستورها در یک مدار تقریباً هر سال دو برابر میشود، و آنها همچنین به رشد نمایی تمام چیزهای جلوی چشم ما باور دارند.
اندیشکدۀ «سینگیولاریتی یونیورسیتی» ۶، که کورزویل آن را بنیان نهاده است، حداقل دوازده بار واژۀ «نمایی» را در وبسایت خود ذکر میکند؛ و شعارش «نمایی باش» ۷ است.
بهطور کلی، این آیندهپژوهان افرادی سرگرمیطلب هستند، آنها فرصت لازم برای پرداختن به این نظریهها را دارند، زیرا از نظر ثروت پیشاپیش جزء ۰ / ۱ درصد بالای جامعه هستند.
آنها دربارۀ شایستهسالاری، دربارۀ شرابهای گرانقیمت یا داروهای مدنظر خودشان (میکرودوزینگ ۸، کسی امتحان کرده است؟) سخنپردازی میکنند.
با ثروتهای عظیم و نگرانیهای دنیوی بسیار اندک، این آیندهپژوهان کوششهای خود را بر یگانه چیزهایی متمرکز میکنند که عملاً میتواند آنها را تهدید کند: مرگ و بیماری.
آنها در انظار عموم دربارۀ افزایش هوش با کمک روباتیک یا بهبود کیفیت زندگی از طریق نوآوریهای پزشکی سخن میگویند، اما در دنیای خصوصیشان علاقهمند به راهحلهای تکنیکی برای مسائل فیزیکی هستند و از تشکیلات پزشکی ناخرسندند، زیرا بیش از حد محتاط است و از نوآوری کافی برخوردار نیست.
آنها بهشدت بر روی سرماپژوهی ۹، بر روی تکنولوژی رابط ذهن-رایانه که هنوز ماهیت چندان مشخصی ندارد، بر روی راهبردهای پزشکی برای زندگی جاودان (سرگئی برین و لری پیج در این باره سخن میگویند)، و احتمالاً حتی روی خون جوانان سرمایهگذاری میکنند.
این آیندهپژوهان آماده و مشتاق هستند تا در مغز خودشان سختافزار نصب کنند، زیرا ازآنجاکه اکثر آنها مردان سفیدپوست جوان یا میانسال هستند، هرگز سرکوب نشدهاند.
بدترین سناریو برای آنها آن است که زندگی آیندۀ خود را بهعنوان نرمافزارهای آپلودشده در فضای ابری ۱۰ بگذرانند، فضایی که میتوانند نقشۀ بینظیر واقعیت مجازی را کنترل کنند. (اگر این حرفها مثلِ خیالپردازیهای علمی-تخیلی برای نوجوانان شهوتپرست به نظر میرسد، شگفتزده نشوید. آنها اغلب این ایدهها را، همچون نوجوانان شهوتپرست، از نویسندگانی نظیر رابرت هاینلاین و آین رند اقتباس کردهاند).
البته، مسئله در اینجا، نقطۀ کور «من برنده میشوم» است، یعنی این باور که اگر این سیستم برای من کار میکند، پس باید سیستم خوبی باشد. این آیندهپژوهان معتقدند که نژادپرستی، تبعیض جنسیتی، تبعیض طبقاتی، و سیاست، مسائلی هستند که باید با تکنولوژی حل شوند.
اگر قرار باشد آرزوی آنها برآورده شود، از آنها خواسته خواهد شد تا دولت بعدی را برنامهریزی کنند. البته، آنها آن را انحصاری در اختیار خود خواهند گرفت، تا تودۀ مردم نتواند سیستم را به بازی بگیرد؛ و مسئله اینجاست: آیندهپژوهی با این رنگ و بو، چه ماهیت زندگی در حباب ابرثروتمندان باشد و چه چیزی کاملاً مدرن و معطوف به رایانه، ذاتاً نخبهگرا، دارای وسواسِ نبوغ، و نادیدهگیرندۀ گسترۀ جامعه است.
ربع دوم
گروه بعدی: افرادی که به تکینگی باور دارند، اما دربارۀ آینده نگران هستند. آنها تکینگی را بهمثابۀ نیرویی ضرورتاً مثبت نمینگرند. اینها آدمهایی هستند اغلب مرد، هر چند زنانِ بیشتری در مقایسه با گروه قبلی در بین آنها دیده میشود، که در جوانی داستانهای علمی-تخیلیِ ویرانشهری خواندهاند و دربارۀ همۀ چیزهایی فکر میکنند که وقتی ماشینها خودآگاه میشوند، ممکن است در مسیر نادرست پیش برود.
چیزهایی که احتمال وقوع آنها کم (اما مثبت!) است. آنها برای تخمین این احتمال وقت صرف میکنند.
یکی از مراکز اجتماعِ این آدمها، وبسایت لسرانگ داتکام ۱۱ است که محقق هوش مصنوعی الیزر یودکووسکی آن را راهاندازی کرده است.
اما سرانجام او و پیروانش، در محاسباتِ احتمالاتیِ بهطور روزافزون انتزاعیِ خودشان، با استفاده از قضیۀ بیز ۱۲ و آزمایشات فکری عجیب و غریبشان گرفتار همین پیشداوریها میشوند.
آزمایش فکری محبوب من «باسیلیسکِ روکو» نام دارد، که طی آن یک هوش مصنوعی قدرتمند و بسیار باهوش تمام کسانی را که وجود او را تصور کردهاند، اما به خود زحمت ندادهاند تا او را خلق کنند، شکنجه میکند. به دیگر سخن، این هوش مصنوعی یک موجود فرضی انتقامجوست که شما را بهمحض اینکه این آزمایش فکری را میشنوید، با خطر روبهرو میکند.
مخترع آن، روکو، باسیلیسکِ روکو را بهمنزلۀ انگیزهای مینگرد تا دیگران برای آرمان هوش مصنوعیِ دوستانه پول اهدا کنند تا «بدینوسیله احتمال نوعی تکینگیِ مثبت افزایش یابد». اما بحث دربارۀ این آزمایش چنان بهسرعت فضای سایت یودکووسکی را فرا گرفت که او آن را ممنوع کرد، حرکتی که بهشکلی نهچندان دور از انتظار علاقۀ بیشتری به این بحث ایجاد کرد.
جنبش متفاوت، اما مرتبط دیگری در جهان آیندههای هوش مصنوعی «جنبشِ نوعدوستی کارآمد» ۱۳ است، که پیتر سینگرِ فیلسوف در نشریهاش آن را تبلیغ میکند.
مانند یودکووسکی، «جنبش نوعدوستی کارآمد» آغازی درخشان داشت. برهان اصلی آنها این بود که ما باید به رنج بشری خارج از مرزهای زندگی خود اهمیت دهیم، نهفقط در پیرامون خودمان، و ما باید برای بهینهسازی پول خودمان برای بهبود جهان مسئولیت فردی بپذیریم.
شما میتوانید با این استدلال کارهای بسیار گستردهای انجام دهید، و هواداران نوعدوستی کارآمد کمکهای خیرخواهانۀ عظیمی در سطح بینالمللی انجام دادهاند که مایۀ اعتبار و سرافرازی آنهاست، اما وسواس نسبتبه مفهوم کارآمدی را این واقعیت محدود میکند که رنج، همانند خیر جمعی، بهسختی قابل کمّیسازی است.
بااینحال، بهجای اذعان به محدودیتهای اعدادِ بیحس و روح، این گروه اخیراً بهنوعی خود را دستمایۀ تقلید و طنز قرار داده است.
مثال خوبی در این زمینه را میتوان در وبسایت فیوچر آو هیومنیتی اینستیتیوت ۱۴ که نیک باستروم آن را اداره میکند یافت: «.. ما در مییابیم که مقدار مورد انتظار کاهش ریسک وجودی فقط بهاندازۀ یک میلیاردمِ یک میلیاردمِ یک درصدْ صد میلیارد بار بیشتر از یک میلیارد زندگی بشری ارزش دارد».
این آیندهپژوهان، بهعنوان یک گروه، اشخاصی اساساً همدل با همدیگر هستند، اما بهطور اسفانگیزی در رابطه با مسائل بشری کنونی سادهاندیشاند. اگر آنها دربارۀ ریسک وجودی نگران نباشند، دربارۀ رنج پلانکتونها نگران هستند، یا شاید دربارۀ تکتک ذرات جهان.
من ایلان ماسک را در این ربع دوم قرار خواهم داد، هرچند او شرایط کامل عضویت در این گروه را ندارد. او، که کارآفرینی قدرتمند و فوقالعاده ثروتمند است، محتملاً به گروه نخست تعلق دارد، اما گاهی در رخدادهای جنبش نوعدوستی کارآمد حضور مییابد و اخیراً دربارۀ این امر سر و صدا بر پا کرده است که رایانهها خبیث میشوند و ما را وارد جنگ جهانی سوم میکنند.
بدبینانی که بین ما هستند ممکن است ظنین شوند که این عمدتاً دستاویزی است تا او در مقام میانجی بین هوش مصنوعی فوقالعاده باهوش و آدمیان خدمات خود را به فروش برساند هنگامی که زمان این کار بهطور گریزناپذیر فرا برسد. هر چه باشد، ماسک همیشه چیزی برای فروش دارد، از جمله بلیط سفر به مریخ، سیارۀ پشتیبان زمین.
ربع سوم
گروه بعدی: آنها که به تکنولوژی خوشبیناند. آنها بهطور خاص دربارۀ تکینگی صحبت نمیکنند، اما مایلاند برای افرادی که میخواهند به آنها باور داشته باشند، از فضایل پرشمار تکنولوژی را ستایش کنند.
این گروه تازهترین ایدهها را اخذ میکنند، برای مثال اینکه «آیا بیتکوین مشکلات جهان را حل میکند؟»، و آن را در ازای دریافت پول موضوع یک سخنرانی قرار میدهند. اَبَرثروتمند نیستند، اما مشتاقاند ثروتمندتر و مشهورتر بشوند.
پول را دنبال کنید و درخواهید یافت که آنها چیزی هستند که دنیل درزنر نویسندۀ صنعت ایدهها ۱۵ (۲۰۱۷) «رهبران اندیشه» مینامد، بازرگانانِ تکایده که ثروتمندان بانفوذ به آنها پول میدهند تا در کنفرانسهای تِد یا جاهایی شبیه تد احساس کنند خاص هستند.
این گروه پیامبران جدید سرمایه هستند، آنچنان که نیکول آشوف توصیفشان کرده است، و هر موضوع داغ سیاستزدودهای را عرضه میکنند تا توجه اَبَرثروتمندان را در هر دورهای به خود جلب کنند.
آنها وقتی ندارند برای پرداختن به پرسشهای دشوار نابرابری ساختاری، که با تکان یک عصای جادویی ناپدید نمیشود.
این دسته نهتنها در واقع مشکلات را حل نمیکنند، بلکه آن نوع آیندهپژوهانی هستند که به آشکارترین نحو چیزی برای فروش دارند: یک بینش شرکتی، ایمان کورکورانه به غولهای صنعت، و حس موفقیت سزاوارانه. برای مثال، آلیدا درات آیندهپژوهی که در استخدام کپیتال وان است (شرکت فعال در زمینۀ کارت اعتباری)، در «همایش هو تک» ۱۶ اخیرِ زنان همجنسگرا، به شنوندگان توضیح میدهد که شغل او تمرکز بر «آیندههای مثبت» است، طوری که کپیتال وان بتواند این آیندهها را به واقعیت بدل کند.
معنای این سخن بهطور کامل روشن نیست، اما من گمان نمیکنم این حرفها به معنای اعتبار مالی مجانی برای همه باشد.
زنان بیشتری در این گروه هستند اما، در پایان، این حضور حاکی از پیشرفت نیست. این گروه نیروی فروش چاپلوس و زبردستِ جنبش آیندهپژوهی است. هدف آنها تسلط بر گفتوگوست و، با تکرار پیشبینیها دربارۀ آینده بهاندازۀ کافی، موجب میشوند تا آن آینده به ایدهای عادی و ثابت در تخیل جمعی ما بدل شود، حتی اگر آن آینده نوعی دولت نظارت با خرید خوب باشد.
ربع چهارم
سرانجام: افرادی که به تکینگیها باور ندارند، اما باز هم نگران هستند. این گروهِ من است. در ربع چهارم، ما پولی در اختیار نداریم و نفوذ چندانی هم نداریم. اکثریتِ ما زنان، مردان دگرباش و رنگینپوستان هستیم. ما در مؤسسات علمیِ دادهها که در سراسر کشور در حال ظهور هستند بازنمود اندکی داریم، زیرا اهداف مالی چنین مؤسساتی با ابراز نگرانیهای دردسر آفرین ما ناسازگار است؛ و من نگران هستم.
این تهدیدی برای خود مفهوم پویایی اجتماعی است. این پایان رؤیای آمریکایی است؛ و با وجود آن اغلب آیندهپژوهان دارند دربارۀ خیالپردازیهای علمی تخیلی صحبت میکنند. چرا؟
یان لکان، مدیر بخش هوش مصنوعی در فیسبوک، در سخنرانی عمومی اخیر خود، با دقت بین هوش مصنوعی و الگوریتمها تمایز مینهد.
اما آنچه همین حالا در حال وقوع است، بههیچوجه پیشپاافتاده نیست. از بازیها که بگذریم، الگوریتم فیسبوک همین الان بهاندازهای قدرتمند است که دموکراسی ما را منحرف کند. اگر افرادی که در حوزۀ هوش مصنوعی کار میکنند، نمیخواهند آن را بهعنوان هوش مصنوعی در نظر بگیرند، اهمیتی ندارد.
بهعلاوه، تکنولوژیستهای ربع اول و خوشبینان به تکنولوژی در ربع سوم، هنگام ترسیم تصویر زیبای خود از آینده، همواره به شطرنج یا «گو» اشاره میکنند، زیرا این دو مورد از مواردی هستند که همه میتوانند بر سر ماهیتشان به توافق برسند: بهطور مشخص، یکی برنده است و یکی بازنده.
اما اینجور شفافیت هدف و این مدل از موفقیت بسیار پیچیدهتر میشود، اگر روی سیارهای اجرا شود که بهسرعت در حال از دستدادن منابع آب شیرین خود است و بیش از حد سوخت فسیلی مصرف میکند. در جهانی فرضی که در آن مردم میتوانند زندگی جاودان داشته باشند، منابع را بهطور نامحدود مصرف کنند و، با استفاده از چارچوبهای سیاسی منسوخ، اعمال نفوذ سیاسی کنند؛ آیا ما باید این فرصت را به آنها بدهیم؟
در پایان، طبقهبندی من (هر چقدر هم که من آن را محض سرگرمی ساخته باشم)، واقعاً اهمیتی برای آدمهای معمولی ندارد. برای آدمهای معمولی، بین تکینگی آنچنان که از سوی آیندهپژوهان ربع اول یا دوم تصور میشود و جهانی که در آن آنها پیشاپیش بهشکلی پیوسته و مخفیانه به طرف «بازندۀ» هر تصمیم خودکار رانده میشوند، تفاوتی وجود ندارد.
الگوریتمهایی که پیشاپیش برای افرادی نمرۀ فیکوِ ۱۸ کمتری دارند، پرداخت حق بیمۀ بیشتری تعیین میکند، یا سیاهپوستان را برای مدت بیشتری به زندان میفرستد، یا پلیسِ بیشتری روانۀ محلههایی میکنند که از قبل پر از نیروی پلیس هستند، و دوربینهای تشخیص چهره در هر گوشه و کنارش نصب شدهاند، همۀ اینها برای فردی که مورد قضاوت است همانند قدرتهای قدیمی جلوه میکند.
در پایان، کل مسئله بر سر قدرت و نفوذ است. بدترین سناریو نه هوش مصنوعی انتقامجو است، نه این که سرگئی برین آنقدر عمر نکند که تولد دویست سالگیاش را جشن بگیرد. در بدترین سناریو، سرمایهداری دیجیتال به مسیر خود ادامه میدهد با ابزارهایی که هماکنون در دست دارد و هر روز هم گستردهتر میشوند، درحالیکه حتی یک نفر از طبقۀ نخبگان به چشم نمیخورد که به ماجرا شک کرده باشد.
مترجم: علی برزگر
