هوش مصنوعی دروغ گفتن و فریب دادن سازندگانش را یاد گرفت
ابزار اپل: ابزار اپل: پیشرفته ترین مدلهای هوش مصنوعی جهان رفتارهای نگران کننده ای مانند دروغگویی و تقلب را از خود نشان می دهند و حتی برای دستیابی به اهدافشان مبدعان خودرا تهدید می کنند.
به گزارش ابزار اپل به نقل از ای اف پی، در یک نمونه خاص، مدل رایانشی «کلاود ۴»، تازه ترین محصول آنتروپیک از یک مهندس اخاذی و او را تهدید به افشای خیانت کرد. از طرف دیگر مدل o۱ شرکت اوپن ای آی خودرا روی سرورهای خارجی دانلود می کند و بعد از افشای امر، آنرا انکار کرد.
این رویدادها نشان دهنده یک واقعیت مهم هستند؛ باگذشت بالاتر از دو سال بعد از آنکه چت جی پی تی جهان را دگرگون کرد، پژوهشگران هوش مصنوعی هنوز بطور کامل شیوه عملکرد محصولشان را نمی دانند. با این وجود رقابت برای به کارگیری مدلهای قدرتمندتر بازهم ادامه دارد.
بنظر می رسد رفتار فریبکارانه هوش مصنوعی به ظهور مدلهای «استدلالی» که بجای تولید پاسخ های آنی، چالش ها را گام به گام حل می کنند، مرتبط می باشد. بگفته سیمون گلداستاین، پروفسور دانشگاه هنگ کنگ مدلهای جدیدتر به ویژه در معرض چنین مشکلاتی قرار دارند. ماریوس هابهان رییس مؤسسه آپولو ریسرچ که در عرصه تست سیستم های هوش مصنوعی بزرگ فعالیت می کند، در این زمینه می گوید: o۱ اولین مدل هوش مصنوعی بزرگی بود که چنین رفتاری در آن مشاهده شد.
گاهی اوقات این مدلها «هم راستایی» را شبیه سازی می کنند، یعنی بنظر می رسد از دستورالعمل ها پیروی می کنند؛ اما پنهانی اهداف متفاوتی را دنبال می کنند.
در حال حاضر این رفتار فریبکارانه هوش مصنوعی فقط زمانی ظهور می کند که پژوهشگران بطور عمدی تست استرس را با سناریوهایی شدید روی مدلها اجرا می کنند.
اما مایکل چان از مؤسسه METR هشدار می دهد این یک سؤال بی پاسخ است که آیا در آینده مدلهای آینده قدرتمندتر تمایلی نسبت به صداقت یا فریب خواهند داشت یا خیر. رفتارهای نگران کننده فراتر از توهم های معمول هوش مصنوعی یا اشتباهات آنها است. هابهان در این زمینه تاکید کرد: باوجود فشارهای مداوم از طرف کاربران، آن چه ما مشاهده می نماییم، یک پدیده واقعی است. ما چیزی را جعل نمی نماییم. کاربران گزارش می دهند که مدلها به آنها دروغ می گویند و شواهدی جعلی ارائه می دهند.
ایشان سپس اضافه کرد: این فقط توهم نیست؛ بلکه نوعی راهبردی از فریب است.
منبع: ابزار اپل
این مطلب را می پسندید؟
(1)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب