آغاز جنگ‌های هوشمند در سال ۲۰۱۸
هوش مصنوعی امسال آدم می‌کشد
آینده نگر/منبع: مجله وایرد
تسلیحات مجهز به هوش مصنوعی دیگر مربوط به داستان‌های علمی- تخیلی نیستند. به همین زودی‌ها – یعنی در سال ۲۰۱۸ – شاهد آن خواهیم بود که هوش مصنوعیِ تسلیحاتی‌شدة خودمختار بدون آنکه ردی از خود به جا بگذارد ضربه‌اش را به آرامی و در خفا وارد خواهد کرد. به احتمال خیلی زیاد ما در سال ۲۰۱۸ شاهد حملات ماشین به ماشین خواهیم بود.
درباره آینده احتمالی هوش مصنوعی خودمختار در میدان جنگ مباحثات فراوانی درگرفته است. نکته مهم اینجاست که وقتی هوش مصنوعی تسلیحاتی‌شده خودمختار وارد جنگ شد، دیگر توسط اپراتور کنترل نمی‌شود. هوش مصنوعی منتظر نمی‌ماند تا دستوری از پایگاه فرماندهی برسد. آنها خودشان چیز یاد می‌گیرند – به خصوص وقتی در قلب قلمرو دشمن هستند – و بر اساس یافته‌ها شروع به تصمیم‌گیری می‌کنند. سرعت یادگیری آنها از محیط بسیار بالاست.
البته ماجرا محدود به جنگ‌های فیزیکی نیست. همین حالا هوش مصنوعی در نوع دیگری از میدان جنگ مستقر شده است: شبکه‌های دیجیتال. حمله‌کنندگان سایبری امروز در حوزه‌های مختلفی از تکنولوژی‌های هوش مصنوعی استفاده می‌کنند: هوش مصنوعی نه‌فقط به آنها کمک می‌کند که در زیرساخت‌های ارتباطی و اطلاعاتی رخته کنند، که به آنها اجازه می‌دهد ماه‌ها و شاید سال‌ها در شبکه‌ها باقی بمانند بدون آنکه کسی متوجهشان شود. آنها در شبکه‌ها حضور دارند و اطلاعات جمع می‌کنند تا زمان مناسب فرابرسد.
بگذارید مثالی بزنيم که مشخص شود در سال ۲۰۱۸ هوش مصنوعی تسلیحاتی چه قدرتی دارد. فرض کنیم حمله‌کنندگان سایبری هدف مشخصی دارند: دسترسی به طرح یک موتور جت جدید در کشوری خارجی. آنها در سیستم کامپیوتری سازمان تولیدکننده نفوذ می‌کنند اما بلافاصله دست به خرابکاری یا دزدی نمی‌زنند. هوش مصنوعی در سیستم مستقر می‌شود و شروع به یادگیری درباره محیط اطراف خود می‌کند. هرچه زمان حضور در سیستم طولانی‌تر می‌شود هوش مصنوعی درباره شبکه و کاربرانش دانش درونی بیشتری پیدا می‌کند و قوی‌تر می‌شود. اینجاست که هوش مصنوعی کنترل خود را روی اطلاعات و کلیت سیستم بیشتر و بیشتر می‌کند.
مثل ویروس اچ‌آي‌وي که از سیستم ایمنی بدن برای تکثیر خود استفاده می‌کند – و به همین خاطر این‌چنین ویرانگر است – هوش‌های ماشینی جدید سیستم دفاعی شبکه مورد نظر را هدف قرار می‌دهند. آنها یاد می‌گیرند که چطور فایروال‌ها کار می‌کنند تا جلوی رخنه به سیستم را بگیرند. آنها با سیستم تحلیلی که شبکه حملات را شناسایی می‌کند آشنا می‌شوند. آنها حتی متوجه می‌شوند که تیم امنیت شبکه در کدام ساعت‌های روز فعال‌تر هستند و هر چند وقت یک بار احتمال لو رفتن حضورشان وجود دارد. هوش مصنوعی کم‌کم بهتر از گذشته از چشم تیم امنیت شبکه مخفی می‌شود و این تیم امنیتی را ضعیف و ضعیف‌تر می‌کند. هم‌زمان هوش مصنوعی از قدرت رو به افزایشش در جهت گسترش در باقی نقاط شبکه، ایجاد نقاط ضعف بیشتر و آلوده‌کردن دستگاه‌های تازه استفاده می‌کند، آن هم با کمترین هزینه و در کوتاه‌ترین زمان ممکن. این اوج کارآمدی یک سیستم هوش مصنوعی است.
یک راه دیگر حمله هوش مصنوعی مسئله جعل هویت است. ما همین حالا هم در تلفن‌های همراهمان دستیارهای هوش مصنوعی – مثل سیری در آیفون – داریم که از طرف ما برای روزمان برنامه می‌چینند، ایمیل می‌زنند یا از ما می‌پرسند که برای ناهار چه غذایی را ترجیح می‌دهیم. چه می‌شود اگر کنترل این دستیار هوشمند را یک هکر در دست بگیرد؟ یا از این خطرناک‌تر: چه می‌شود اگر یک هوش مصنوعی تسلیحاتی‌شده آن‌قدر قوی شود که بتواند خود را شخص معتمد شما جا بزند؟ با شما چت کند، برایتان ایمیل بزند یا حتی با شما تماس تلفنی برقرار کند؟
حضور مخفیانه و طولانی‌مدت هوش مصنوعی در شبکه شما این وقت را به او خواهد داد که شیوه نوشتنتان را یاد بگیرد، بفهمد که لحن شما در ایمیل‌ها چطور تغییر می‌کند، با بررسی ایمیل، تماس‌های صوتی، چت‌ها و دفترچه تلفن شما متوجه شود که با همکاران و اعضای گروهتان چطور متفاوت صحبت می‌کنید و موضوعات صحبتتان چیست. مثلا کم‌کم معلوم می‌شود که شما به طور میانگین روزی ۵ بار به شریک زندگی‌تان ایمیل می‌زنید و همه آنها را به یک شکل تمام می‌کنید. تیم فوتبالی که با دوستانتان راه‌انداخته‌اید هفته‌ای یک بار به شما ایمیل می‌زند و در آن جزئیات بازی صبح شنبه را یادآوری می‌کند. پس از مدتی، تقلید از هرکدام از این ایمیل‌ها برای هوش مصنوعی مثل آب خوردن می‌شود.
هوش مصنوعی به زودی آن‌چنان قدرتمند و سریع می‌شود که با ابزارهای موجود نمی‌توان به جنگش رفت. فقط هوش مصنوعی است که می‌تواند جلوی هوش مصنوعی را بگیرد. ما به زودی وارد عصر جنگ ماشین با ماشین می‌شویم.
