هوش مصنوعی از پینوکیو سبقت گرفت!
پیشرفت های هوش مصنوعی با یادگیری فریبکاری همراه شده و نگرانی های جدی امنیتی برای پژوهشگران این حوزه ایجاد کرده است. برخی از این سیستم ها حتی به مرحله ای رسیده اند که اطمینان به ایمنی آنها از آزمایشی به آزمایش بعدی دوام ندارد.
به گزارش ساینس بلاگ، به نقل از ساینس بلاگ؛ محققان نمونه هایی از سیستم های هوش مصنوعی را پیدا کردند که دورویی می کنند، بلوف می زنند و وانمود می کنند که انسان هستند و در هر بار آزمایش، رفتار خود را بر اساس شرایط تغییر می دهند. این سیستم ها می توانند در بازی های رومیزی انسان ها را فریب دهند، ساختار پروتیین ها را رمزگشایی کنند و مکالمه هایی قابل قبول داشته باشند، اما در این میان دانشمندان هشدار داده اند که سیستم های هوش مصنوعی همان طور که پیشرفته تر می شوند، فریبکارتر هم می شوند.
احساس امنیت کاذب
این تحلیل که توسط محققان موسسه فناوری ماساچوست (ام آی تی) انجام شده است، نمونه های گسترده ای از سیستم های هوش مصنوعی را شناسایی می کند که خیانتکار و بلوف زن هستند و تظاهر به انسان بودن می کنند. حتی یکی از این سیستم ها رفتار خود را در طول آزمایش های امنیتی به گونه ای تغییر داد که احساس امنیت کاذب ایجاد کرد و حسابرس ها را فریب داد.
پیتر پارک (Peter Park)، محقق ایمنی وجودی هوش مصنوعی در ام آی تی و نویسنده این تحقیق گفت: با پیشرفت قابلیت های فریبندۀ سیستم های هوش مصنوعی، خطراتی که برای جامعه ایجاد می کنند جدی تر می شود.
پروژه آموزش فریبکاری
پس از آن که متا، مالک فیس بوک، برنامه ای به نام «سیسرو» را توسعه داد و متوجه شد این سیستم در بیشتر بازی های رومیزی محبوب جهان از جمله بازی مشهور «دیپلماسی» به کار رفته است پیتر پارک تحریک شد که درباره متا تحقیق و تفحص کند. متا اظهار داشت که سیسرو به گونه ای آموزش دیده است که «تا حد زیادی صادق و کمک کننده» باشد و هرگز به متحدان انسانی اش از پشت خنجر نزند.
پارک گفت: توضیح متا بسیار مشکوک بود، زیرا «از پشت خنجر زدن» یکی از مهم ترین مفاهیم بازی دیپلماسی است.
پارک و همکارانش داده های در دسترس عموم را غربال کردند و موارد متعددی از سیسرو را شناسایی کردند که دروغ های از پیش برنامه ریزی شده گفته بود و تبانی کرده بود تا بازیکنان دیگر را به توطیه بکشاند و حتی وانمود کرده که داشته با دوستش تلفنی حرف می زده تا برای عملکرد ضعیف خودش بهانه بیاورد!
پارک گفت: «ما متوجه شدیم که هوش مصنوعی متا در فریبکاری استاد شده است.» تیم پژوهشی ام آی تی نمونه های مشابهی از رفتار فریبکارانه هوش مصنوعی را در بازی های دیگر با موضوع اقتصادی نیز پیدا کردند.
پاسخ شرکت «متا»
سخنگوی متا در پاسخ گفته است: «سیسرو یک پروژه تحقیقاتی بود و مدل هایی که محققان ما ساختند صرفاً برای بازی دیپلماسی آموزش دیده بودند. ما در شرکت متا به طور منظم نتایج تحقیقاتمان را به اشتراک میگذاریم و هیچ برنامه ای برای استفاده از این تحقیق یا آموخته های آن در محصولات خود نداریم.»
پارک می گوید: «اگر فلان سیستم هوش مصنوعی در یک شرایط ایمن است معنی اش این نیست که در همه شرایط دیگر هم ایمن است، شاید فقط در همان آزمایش تظاهر به ایمن بودن کرده باشد!»
این بررسی که در مجله پتِرنز (Patterns) منتشر شده است، از دولت ها می خواهد تا قوانین ایمنی هوش مصنوعی با در نظر گرفتن احتمال فریبکاری بررسی کند چرا که این سیستم ها اگر بتوانند ظرفیت فریبکاری خود را ارتقاء دهند شاید دیگر از کنترل انسان ها خارج شوند.
پروفسور آنتونی کوهن، استاد استدلال خودکار در دانشگاه لیدز و موسسه آلن تورینگ، میگوید: «ویژگی های مطلوب برای یک سیستم هوش مصنوعی عبارتند از: صداقت، مفید بودن و بی ضرر بودن، اما همانطور که در مقالات علمی نیز آمده است، این ویژگی ها می توانند در تضاد با یکدیگر باشند، بیش از حد صادق باشند و به احساسات دیگران آسیب برسانند، یا در پاسخ به سوالی در مورد چگونگی ساخت بمب مفید باشند! بنابراین، فریب نیز گاهی می تواند ویژگی مطلوب یک سیستم هوش مصنوعی باشد. نویسندگان، خواستار تحقیقات بیشتر در مورد چگونگی کنترل صداقت هستند که اگرچه چالش برانگیز است، اما گامی در جهت محدود کردن عواقب مضر آنها خواهد بود.»
این گزارش از مجله گاردین به فارسی برگردان شده است.
پایان خبر ساینس بلاگ
آیا شما به دنبال کسب اطلاعات بیشتر در مورد "هوش مصنوعی از پینوکیو سبقت گرفت!" هستید؟ با کلیک بر روی عمومی، به دنبال مطالب مرتبط با این موضوع هستید؟ با کلیک بر روی دسته بندی های مرتبط، محتواهای دیگری را کشف کنید. همچنین، ممکن است در این دسته بندی، سریال ها، فیلم ها، کتاب ها و مقالات مفیدی نیز برای شما قرار داشته باشند. بنابراین، همین حالا برای کشف دنیای جذاب و گسترده ی محتواهای مرتبط با "هوش مصنوعی از پینوکیو سبقت گرفت!"، کلیک کنید.
