اتحاد پرقدرت و سودآور بین هوش مصنوعی و یک جامعه مبتنی بر داده‌ها، باعث شده شبکه‌های اجتماعی به معماران مبادلات جامعه امروزی و رهبران جدید تغییر شکل و ساختار واقعی واقعیت تبدیل شوند. به‌طور همزمان، فناوری‌های مبتنی بر هوش مصنوعی مایل به تضعیف مکانیزم‌های حکومت جهانی، به جای اجرای آن خواهند بود. در همین راستا، اضطراب عمومی درباره خسارت تبدیل شدن به یک انقلاب الگوریتمی و از دست دادن کنترل آن یا فرار از پاسخگویی در مقابل آن افزایش یافته است. در نهایت اینکه اعتماد به حکومت ملی و جهانی در نقطه شکست است. به این ترتیب، سازمان ملل متحد با یک مجموعه گسترده از چالش‌هایی در این زمینه مواجه است که در ادامه به آن اشاره می‌کنیم.
نخست اینکه هوش مصنوعی به‌طور ذاتی یک تکنولوژی با کاربرد دوگانه و با پیامد‌های قدرتمندی (هم مثبت و هم منفی) است که پیش‌بینی، محدود کردن یا تغییر محتوای آن را دشوار می‌کند. برای نمونه، Deepfake را در نظر بگیرید. برنامه‌های پیچیده هوش مصنوعی که اکنون می‌تواند صداها، تصاویر و ویدئو‌ها را دستکاری کرده و هویت‌های جعلی را ایجاد کند که اغلب تمایز آن از نمونه اصلی غیرممکن است. الگوریتم‌های یادگیری عمیق (Deep-learning) می‌توانند با دقت شگفت‌انگیز، با ترکیب لب‌های انسانی (لب خوانی) و تا حدودی شبیه‌سازی حالت و شکل‌های مختلف صورت، سخنرانی کنند.
ممکن است پس از به نتیجه رسیدن این پروژه‌ها در آزمایشگاه، چنین شبیه‌سازی‌هایی به راحتی با اثرات گسترده‌ای مورد سوءاستفاده قرار گیرد (این موضوع در حال حاضر در سطح پایین اتفاق می‌افتد). در آستانه انتخابات، فیلم‌های Deepfake می‌تواند به اشتباه تصاویر مقامات دولتی را که در حال انجام کار‌های غیرقانونی مانند دریافت رشوه یا پولشویی هستند را نشان دهد. هراس عمومی با انتشار هشدار‌های ویدئویی درباره بیماری‌های غیرواقعی یا حملات سایبری ایجاد شده و حوادث جعلی به‌طور بالقوه منجر به یک بحران جهانی شود. به هر حال، چنین قابلیت‌ها و شبیه‌سازی‌های گمراه‌کننده می‌تواند به‌طور موثری بر افکار عمومی تأثیر گذاشته و پیامد‌های بلندمدت و پرقدرتی برای نقش سازمان ملل در صلح و امنیت داشته باشد. همچنین انتشار اخبار جعلی، ضمن تضعیف حس اعتماد و حقیقت میان شهروندان و دولت (در واقع در میان دولت‌ها) می‌تواند عمیقا سیستم حکمرانی جهانی را از بین ببرد.
دوم، هوش مصنوعی در حال حاضر با طیف وسیعی از سایر فناوری‌ها از جمله فناوری‌های زیستی، به منظور تقویت امنیت جهانی، هماهنگ بوده و همکاری می‌کند. همچنین سیستم‌های این فناوری در سراسر جهان با استفاده از داده‌های کلان به‌دست آمده مانند الگو‌های ترافیکی شهرها، بازار‌های مالی، داده‌های روند رفتار مصرف‌کننده، پرونده‌های سلامت و علم ژنتیک آموزش دیده تا به منظور پیش‌بینی جنبه‌های مختلف زندگی روزمره انسان‌ها کاربردی باشد. فناوری‌های هوش مصنوعی می‌توانند داده‌های رفتاری و بیولوژیک انسان و حتی پیامد‌های آن را در شیوه‌های نوآورانه و اغلب دستکاری شده کنترل و مهار کنند. به‌عنوان مثال، عروسک هوشمند My Friend Cayla، داده‌های صوتی و احساسات کودکانی را که با آن بازی می‌کنند، به سیستم‌های کلاد می‌فرستاد. البته این اتفاق در نهایت منجر به شکایت کمیسیون تجاری فدرال آمریکا و ممنوعیت استفاده از آن در آلمان شد.
در آمریکا، در حال حاضر سیستم‌های تجزیه و تحلیل احساسی در دادگاه برای تشخیص و راست‌آزمایی اظهارات افراد استفاده می‌شود. حتی ممکن است به زودی این فناوری در مصاحبه‌های شغلی برای ارزیابی پاسخ افراد و آمادگی شغلی آن‌ها به کار برده شود. توانایی هوش مصنوعی برای نفوذ و کنترل بالقوه روی رفتار‌های فردی انسان پیامد‌های مستقیمی برای فعالیت‌ها و پیمان‌های حقوق بشر سازمان ملل متحد دارد. در حقیقت، شکل‌های جدید کنترل اجتماعی و زیست‌محیطی مستلزم تجدیدنظر درباره چارچوب کنونی است تا ضمن نظارت بر اعلامیه جهانی حقوق بشر، آن را اجرا کند. همچنین به‌طور قطع یک سیستم چندجانبه برای پیش‌بینی بهتر و درک این زمینه نوظهور مورد نیاز است.
در نهایت، توانایی فناوری‌های مبتنی بر هوش مصنوعی برای تأثیرگذاری بر جمعیت‌های بزرگ، از سرعت و ارزش بالایی برخوردار بوده که مطمئنا نمایشی برای تضاد‌های آینده است. در واقع چشم‌انداز یک «نبرد سایبری» وجود دارد که در آن کشور‌های پرقدرت و سیستم‌های بزرگ فناوری وارد رقابت آزاد برای تجمیع داده افراد، به‌عنوان عاملی برای ایجاد برتری اقتصادی، پزشکی و امنیتی در سراسر جهان شده‌اند. شکل‌های استعمار سایبری (cyber-colonization) به‌عنوان دولت‌های قوی و قادر به استفاده از هوش مصنوعی و بیوتکنولوژی برای درک و کنترل سایر جوامع و اکوسیستم‌ها در حال توسعه است.
جوامع امروزی از لحاظ سیاسی، قانونی و اخلاقی برای استقرار هوش مصنوعی آماده نیستند. سازمان ملل متحد که چند دهه قبل از ظهور این فناوری‌ها تأسیس شده، به دلایل مختلفی برای توسعه یک حکومت مسوولیت‌پذیر که بتواند پتانسیل هوش مصنوعی را از این ریسک‌ها دور کرده و به سوی ایمنی و رفاه جمعی انسان‌ها هدایت کند، ضعیف ظاهر شده است.
مرکز تحقیقات سیاست‌گذاری در دانشگاه ملل متحد (UNU) که مسوول ارائه استراتژی دبیرکل سازمان ملل در مورد فناوری‌های جدید است، یک «هوش مصنوعی و پلت‌فرم حکمرانی جهانی» به‌عنوان یک فضای فراگیر برای محققان، سیاست‌گذاران، شرکت‌ها و اندیشه‌گران ایجاد کرده تا چالش‌های سیاستی جهانی مطرح شده توسط هوش مصنوعی کشف کنند.
