كنترل ابر هوش مصنوعي غيرممكن است

ايده هوش مصنوعي كه چند سالي است در دنيا سر و صدا به پا كرده، نگراني هايي را هم براي دانشمندان اين حوزه ايجاد كرده و عده اي بر اين باورند كه نمي توان ابر هوش هاي مصنوعي را كنترل كرد. به گزارش sciencealert، زماني كه هوش مصنوعي در دنيا مطرح شد، بسياري معتقد بودند كه ظهور اين فناوري نوظهور ممكن است موضع بشر را در بسياري از مشاغل به خطر بياندازد و نيروي انساني به خطر بيافتد. علاوه بر اين، خطر ديگري كه در اين رابطه مطرح شد، احتمال از كنترل خارج شدن كامپيوترهاي ابرهوشمند است كه ممكن است به صورت خودمختار وارد عمل شوند. نكته مهم اين است كه كنترل ابر هوش مصنوعي بسيار فراتر از درك انسان، مستلزم شبيه سازي ابر هوش مصنوعي است كه بشر قادر به تحليل و كنترل آن باشد. به گزارش سيناپرس، اما اگر قادر به درك آن نباشيم، ايجاد چنين شبيه سازي غيرممكن است. اگر بشر قادر به درك نوع سناريوهايي باشيم كه هوش مصنوعي قرار است ايجاد كند، نمي توان قوانيني مانند «به انسان آسيب وارد نكن» را تنظيم كرد. زماني كه يك سيستم كامپيوتري در سطح بالاتر از محدوده برنامه نويسان كار مي كند، ديگر نمي توان محدوديت هايي را تعيين كرد. محققان معتقدند: ابر هوش مصنوعي مشكل متفاوت تري را نسبت به عنوان «اخلاق رباتيك» ايجاد مي كند. اين مسئله به اين دليل رخ مي دهد كه ابر هوش مصنوعي يك مسئله چند وجهي است و بنابراين، قادر به بسيج منابع مختلف براي دستيابي به اهدافي است كه براي انسان غيرقابل درك است چه برسد به قابل كنترل بودن آن. يكي از مشكلات ايجاد شده اين است كه بدانيم آيا يك برنامه كامپيوتري به نتيجه مي رسد. همان طور كه محققان از طريق برخي علوم رياضيات هوشمند ثابت كرده كه براي بشر غيرممكن است كه بتواند هر برنامه خاصي را برنامه نويسي كند اما به گزارش سيناپرس، اين در مورد ابر هوش مصنوعي صدق نمي كند به طوري كه قادر است هر برنامه اي را به يكباره در حافظه خود نگه دارد. به عنوان مثال، هر برنامه اي كه براي توقف هوش مصنوعي و جلوگيري از آسيب رساندن به بشر و نابودي دنيا نوشته شده باشد، ممكن است به نتيجه برسد يا نرسد اما از نظر رياضيات، قابل كنترل نيستند. درواقع، اين باعث مي شود الگوريتم هاي مهار غيرقابل كنترل شوند. جايگزيني براي آموزش برخي اصول اخلاقي به هوش مصنوعي وجود ندارد و اين كه هيچ الگوريتمي نمي تواند به طور مثال به ابر هوش مصنوعي دستور دهد كه جهان را نابود نكند، محدود كردن قابليت هاي ابر هوش مصنوعي است. به گزارش سيناپرس، اگر دنيا به سمت استفاده از هوش مصنوعي حركت مي كند، نبايد به دنبال از كنترل خارج شدن اين فناوري بود. اگر بخواهيم با هوش مصنوعي پيش برويم، حتي ممكن است ندانيم چه زماني يك ابر هوش مصنوعي از كنترل بشر خارج مي شود و اين غيرقابل درك است. يك ابر هوش مصنوعي كه جهان را كنترل مي كند، به نظر مي رسد مقوله اي علمي تخيلي است.