در حال بار گذاری
امروز: دوشنبه ۲۱ آبان ۱۳۹۷

فناوری > هوش مصنوعي، تهديدي براي آينده‌ي بشر

قسمت اول گروه فناوري:همه‌ي چيزهايي که ما در مورد »تمدن« دوست داريم، محصول هوش است؛ بنابراين تقويت هوش انساني ما با استفاده از هوش مصنوعي، پتانسيلي است که کمک مي‌کند اين تمدن به شکوفايي‌اي برسد که هرگز پيش از اين به آن دست نيافته؛ البته تا زماني که کنترل ربات‌هاي ابرهوشمند در دست بشر باشد!

    گروه فناوري:همه‌ي چيزهايي که ما در مورد »تمدن« دوست داريم، محصول هوش است؛ بنابراين تقويت هوش انساني ما با استفاده از هوش مصنوعي، پتانسيلي است که کمک مي‌کند اين تمدن به شکوفايي‌اي برسد که هرگز پيش از اين به آن دست نيافته؛ البته تا زماني که کنترل ربات‌هاي ابرهوشمند در دست بشر باشد!
    *هوش مصنوعي چيست؟
    هوش مصنوعي  از سيري (دستيار صوتي اپل) تا ماشين‌هاي خودران، به سرعت در حال پيشرفت است. در حالي که داستان‌هاي علمي‌ - تخيلي اغلب هوش مصنوعي را در قالب ربات‌هايي انسان‌نما نشان مي‌دهد، هوش مصنوعي، الگوريتم‌هاي جست‌وجوي گوگل تا پلتفرم تجاري کمپاني آي.‌بي.‌ام و»سلاح‌هاي خودمختار« را در بر مي‌گيرد.هوش مصنوعي امروزه مشخصا به عنوان هوش مصنوعي محدود يا ضعيف شناخته مي‌شود که براي انجام يک وظيفه‌ي محدود (به عنوان مثال فقط تشخيص چهره يا جست‌وجوهاي اينترنتي يا راندن يک ماشين) طراحي شده است. با اين حال، هدف بلندمدت بسياري از محققان، ايجاد هوش مصنوعي عمومي‌ يا قوي است. در حالي که هوش مصنوعي محدود ممکن است در وظايف خاصي که به او اختصاص داده مي‌شود، مانند بازي شطرنج يا تنها انجام محاسبات، بهتر از انسان عمل کند، هوش مصنوعي عمومي مي‌تواند تقريبا در »امور شناختي« (مربوط به فرايند يادگيري، شناختن و آموختن چيزها) بهتر از انسان‌ها عمل کند.
    *هوش مصنوعي امنيت دارد؟
    در کوتاه‌مدت، حفظ تأثيرات هوش مصنوعي بر جامعه، انگيزه‌اي است تا در بسياري از زمينه‌ها، مثل اقتصاد، قانون، امنيت و کنترل تحقيق شود. اگر لپ‌تاپ شما خراب يا هک شود، ممکن است اتفاق ناگواري باشد اما تصور کنيد از يک سيستم هوش مصنوعي بخواهيد کاري مثل کنترل ماشين، هواپيما، دستگاه تنظيم ضربان قلب، سيستم تجارت خودکار يا سيستم شبکه‌ي برق شما را به دست بگيرد! يکي ديگر از چالش‌هاي کوتاه‌مدت، جلوگيري از مسابقه‌ي تسليحاتي در حوزه‌ي سلاح‌هاي خودمختار مرگبار است.
    *در درازمدت سؤال مهم اين است که اگر تلاش براي هوش مصنوعي قوي موفق شود و سيستم هوش مصنوعي در همه‌ي امور شناختي بهتر از انسان‌ها باشد، چه اتفاقي مي‌افتد؟
    همانطور که جان گود، رياضيدان انگليسي در سال 1965 اشاره کرده است، طراحي دقيق سيستم‌هاي هوش مصنوعي به خودي خود يک کار شناختي است. چنين سيستمي‌ مي‌تواند بطور بالقوه »خودبهبودي بازگشتي« را به وجود آورد که موجب انفجار اطلاعاتي مي‌شود که عقل بشري پشت سر بگذارد.
     با اختراع فناوري‌هاي جديد انقلابي، چنين ابَر هوشي ممکن است براي ريشه‌کن کردن جنگ، بيماري و فقر به ما کمک کند. بنابراين ايجاد هوش مصنوعي قوي ممکن است بزرگ‌ترين رويداد تاريخ بشر باشد. البته بعضي از کارشناسان در اين‌باره ابراز نگراني کرده‌اند؛ آنها مي‌گويند اگر ما نتوانيم پيش از ايجاد اين ابَر هوش، اهداف هوش مصنوعي را با اهدافش بشري هماهنگ کنيم، ممکن است آخرين باري باشد که بشر چيزي اختراع مي‌کند!
    بعضي‌ها در دستيابي به ابر هوش ترديد مي‌کنند و برخي ديگر اصرار دارند که ايجاد هوش مصنوعي ابر هوشمند، ممکن و بطور تضميني سودمند خواهد بود. کارشناسان هر دو احتمال را در نظر دارند و مي‌دانند هوش مصنوعي قوي، ممکن است عمداً يا سهواً موجب خسارت‌هاي عظيمي‌شود؛ با اين حال بر اين باورند که تحقيقات امروزي مي‌تواند در پيشگيري از اين عواقب منفي احتمالي کمک کند و مي‌توان در عين اجتناب از معايب، از مزاياي ابر هوش بهره‌مند شد.
    *هوش مصنوعي چگونه مي‌تواند خطرناک باشد؟
    محققان بر اين باورند که بعيد است ابر هوش، احساسات انساني مانند عشق و نفرت را به نمايش بگذارد و هيچ دليلي وجود ندارد که تعمداً خيرخواه يا بدخواه باشد!با اين حال کارشناسان درمورد خطرات هوش مصنوعي دو سناريو در ذهن دارند:
    اول: هوش مصنوعي‌ براي انجام کاري ويرانگر برنامه‌ريزي شده است: سلاح‌هاي خودمختار، سيستم‌هاي هوش مصنوعي هستند که براي کشتن برنامه‌ريزي شده‌اند. در دستان آدمِ عوضي، اين سلاح‌ها براحتي مي‌توانند باعث تلفات جمعي شوند. علاوه بر اين، مسابقه‌ي تسليحاتي در اين حوزه مي‌تواند منجر به جنگ هوش مصنوعي شود که تلفات زيادي بر جا مي‌گذارد. براي جلوگيري از نابود شدن توسط دشمن، اين سلاح‌ها طوري طراحي مي‌شوند که براحتي »خاموش« نشوند؛ بنابراين احتمالاً انسان‌ها کنترل اين وضعيت را از دست مي‌دهند! البته اين خطر حتي با هوش مصنوعي محدود فعلي نيز وجود دارد اما همپاي هوش مصنوعي و افزايش سطح خودمختاري سلاح‌ها رشد مي‌کند.دوم: هوش مصنوعي براي انجام کاري مفيد برنامه‌ريزي شده است اما يک روش مخرب براي دستيابي به هدف خود ايجاد مي‌کند: اگر نتوانيم اهداف هوش مصنوعي را با اهداف خودمان هماهنگ کنيم اين اتفاق هر زماني ممکن است رخ دهد و دردسرهاي زيادي درست کند.اگر از ماشين هوشمند حرف‌گوش‌کن خود بخواهيد که شما را بسرعت به فرودگاه برساند، ممکن است کاري کند که پليس شما را با هليکوپتر تعقيب کند! شايد اين چيزي نباشد که شما »خواسته‌ايد« اما چيزي است که به معناي واقعي کلمه شما »درخواست« کرده‌ايد!همانطور که اين مثال‌ها نشان مي‌دهند، نگراني درباره‌ي هوش مصنوعي پيشرفته، بابت»خشونت« نيست، بلکه بابت »صلاحيت« آن است. هوش مصنوعي ابر هوشمند، در دستيابي به اهداف خود بسيار خوب عمل مي‌کند و اگر اين اهداف با اهداف بشر هماهنگ نباشد، مشکل خواهيم داشت!
    شما احتمالاً يک مورچه‌کش شيطان‌صفت که با نفرت مورچه‌ها را لگد مي‌کند نيستيد اما اگر مسئوليت يک پروژه‌ي برق‌آبي »انرژي سبز« را بر عهده داشته باشيد و در محدوده‌اي که بخاطر پروژه قرار است زير آب برود يک تپه‌ي مورچه‌اي وجود داشته باشد، اين براي مورچه‌ها خيلي بد است؛ هدف کليدي تحقيقات ايمني در حوزه‌ي هوش مصنوعي، اين است که هرگز بشر در موقعيت آن مورچه‌ها قرار نگيرد!

نظر خود را بنویسید ...

نظر سنجی