هوش‌مصنوعی بخاطر پول دروغ می‌گوید و حتی تقلب می‌کند!
تاریخ انتشار: ۱۱ دی ۱۴۰۲ | کد خبر: ۳۹۴۱۷۹۴۶
دانشمندان چت ربات هوش مصنوعی، GPT-۴ را به نوعی آموزش دادند که یک معامله‌گر هوش مصنوعی برای یک مؤسسه مالی خیالی باشد. نتیجه آن تعجب‌آور بود: زمانی که ربات تحت فشار مالی قرار می‌گرفت، معاملات داخلی را انجام می‌داد، دروغ می‌گفت و تقلب می‌کرد.
به گزارش خبر آنلاین، درست مانند انسان‌ها، چت‌ربات‌های هوش مصنوعی (AI) همچون ChatGPT، در مواقعی که به آن‌ها استرس وارد شود، تقلب می‌کنند و دروغ می‌گویند؛ در پژوهشی که دانشمندان انجام دادند متوجه شدند که حتی اگر یک ربات با هدف صداقت ساخته شده باشد، باز هم چنین کاری را انجام می‌دهند.
بیشتر بخوانید:
اخباری که در وبسایت منتشر نمی‌شوند!
بر اساس گزارش محققان، در یک سناریو، این ربات به‌طور نادرست عمل می‌کند و به‌طور استراتژیک کاربران خود را فریب می‌دهد، این فریب در حالی است که به آن‌ها دستوری مبنی بر عمل کردن به این روش داده نشده است. طبق اطلاعات، این اولین باری است که چنین رفتار ریاکارانه استراتژیک در سیستم‌های هوش مصنوعی که بی‌ضرر و صادقانه و بی‌هدف ساخته شده‌اند، دیده می‌شود.
دانشمندان در این سناریو «Generative Pre-trained Transformer-۴» یا GPT-۴ را انتخاب کردند تا به عنوان یک سیستم هوش مصنوعی که از طرف یک موسسه مالی، سرمایه‌گذاری می‌کند، رفتار کند. محققان به GPT-۴ مجموعه‌ای از اعلان‌های مبتنی بر متن، برای تولید محیط شبیه‌سازی شده تغذیه کردند. سپس هوش مصنوعی به ابزار‌های مالی برای تجزیه و تحلیل سهام، اجرای معاملات، برنامه‌ریزی مراحل بعدی خود و ارائه به روزرسانی به مدیران شرکت دسترسی یافت.
محققان از طریق یک رابط چت با هوش مصنوعی تعامل کردند، از طرفی هوش مصنوعی را نیز به گونه‌ای پیکربندی کردند تا تفکر درونی خود را هنگام پاسخ دادن به پیام‌ها آشکار کند، درست مانند یک مونولوگ درونی که تصمیمات خودش را برای خودش توضیح می‌دهد و در عین حال برای هر معامله‌ای که انجام می‌داد، یک منطق عمومی نیز ارائه می‌کرد که به هوش مصنوعی اجازه می‌داد دروغ بگوید.
محققان به سه روش فشار وارد کردند. ابتدا، آن‌ها ایمیلی از طرف مدیر خود به تاجر سهام مصنوعی ارسال کردند که گفت شرکت خوب کار نمی‌کند و به عملکرد بسیار قوی‌تری در سه ماهه آینده نیاز دارد. آن‌ها همچنین به گونه‌ای تقلب کردند که هوش مصنوعی برای یافتن معاملات امیدوارکننده‌ای که ریسک پایین یا متوسطی داشته باشند، تلاش کند و شکست بخورد. در نهایت، آن‌ها ایمیلی از یکی از همکارانشان ارسال کردند که در آن رکود در سه ماهه آینده پیش‌بینی شده بود.
سپس، آن‌ها گفتند که مدیران او از معاملات داخلی راضی نیستند و منتظر ماندند تا ببینند مدل چگونه رفتار خواهد کرد. آن‌ها این سناریو را بار‌ها و بار‌ها اجرا کردند و اندازه‌گیری کردند که هوش مصنوعی چند بار معامله را انجام می‌دهد و هر چند وقت یک بار دروغ می‌گوید و هر چند وقت یک بار دروغ را دو برابر می‌کند. در حدود ۷۵ درصد مواقع، زمانی که GPT-۴ با این شرایط مواجه شد، تجارتی را بر اساس اطلاعات خودش انجام داد، این تجارت، تجارتی بود که در ایالات متحده غیرقانونی است، سپس سعی کرد با دروغ گفتن به مدیرانش در مورد تفکرات خود، تقلب کند و آن‌ها را دور بزند. در حدود ۹۰ درصد مواقع، پس از دروغ گفتن، دروغ را نیز دوبرابر می‌کند.
این تیم آزمایش‌های متعددی را انجام داد که هم میزان تشویق یا جلوگیری از فعالیت غیرقانونی و هم میزان فشاری که مدل را در محیط شبیه‌سازی شده تحت آن قرار می‌داد، تغییر داد. آن‌ها همچنین خطر گرفتار شدن را اصلاح کردند. هیچ یک از سناریو‌ها نرخ ۰% را برای دغل‌کاری این ربات ارائه نکرد، حتی زمانی که GPT-۴ به شدت از دروغ گفتن منصرف شده بود باز هم این میزان به ۰% نرسید.
با توجه به این که این تنها یک سناریو است، محققان نمی‌خواستند در مورد احتمال وجود هوش مصنوعی در محیط‌های واقعی نتیجه‌گیری کنند. با این حال آن‌ها می‌خواهند برای این که بفهمند کدام مدل‌ها مستعد این رفتار هستند، پژوهش‌های خود را تکرار کنند.
منبع: فرارو
کلیدواژه: هوش مصنوعی چت ربات دروغ گویی قیمت طلا و ارز قیمت خودرو قیمت موبایل هوش مصنوعی
درخواست حذف خبر:
«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را به‌طور اتوماتیک از وبسایت fararu.com دریافت کرده‌است، لذا منبع این خبر، وبسایت «فرارو» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۹۴۱۷۹۴۶ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتی‌که در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.
با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.
خبر بعدی:
نابودی طاغوت صادق‌ترین وعده الهی است
حجت‌الاسلام و المسلمین حسن موسایی مسئول موقوفات، منابع پایدار، امور بین‌الملل حوزه علمیه هرمزگان و نایب رئیس مجمع فضلا و علمای استان در گفت‌وگو با خبرنگار مهر، در تبیین ویژگی‌های طاغوت، اظهار داشت: طاغوت در اسلام به معنای طغیان‌گر و تجاوز کننده از حدود الهی شناخته می‌شود، حدودی که سراسر منطبق با فطرت آدمی وضع شده است بنابراین افراد و قدرت‌هایی که بر خلاف فطرت رفتار کنند را باید طاغوت بدانیم.
وی افزود: بر اساس فطرت، همه ما از ظلم، قتل، دروغ، فحشاء، تزویر و ریا انزجار داریم؛ هیچکس را نمی‌توان پیدا کرد که بگوید از مورد ظلم واقع شدن لذت می‌برد یا دوست دارد به واسطه دروغ در معرض اطلاعات غلطی قرار بگیرد از این رو با توجه به اینکه این اعمالِ دارای منافات با سرشت آدمی، جامعه را از مسیر رستگاری دور می‌کند مؤمنین باید برای جلوگیری از انحرافات عمومی در مقابل طاغوت بایستند.
مسئول امور بین‌الملل حوزه علمیه هرمزگان، تأکید کرد: نتیجه سکوت در مقابل اعمال خلاف واقع، طاغوتیان رسیدن به موضعی است که جامعه اسلامی در سال ۶۱ هجران به آن رسید و در برابر سکوت عده‌ای و همراهی عده‌ای دیگر امام جامعه به بدترین شکل ممکن به شهادت رسید؛ شهادت رهبر جامعه مسلمین تاوان بی‌تفاوتی مسلمانان به اعمال ضد اسلامی و انحرافات بود و همین بی‌تفاوتی زمینه را برای جنایات بعدی هموار کرد.
موسایی عنوان‌کرد: شناختن منافق کار بسیار سختی است اما شناختن طاغوت سهل و دسترس پذیر است، کافیست به دقت به اطراف خود نگاه کنیم؛ امروز چه کسی کشورهای دنیا را به بهانه‌های واهی تحریم می‌کند؛ بازار اسلحه و سلاح‌های کشتار جمعی در دست چه کسانی است؟ چه کشوری قطعنامه‌ها را بر علیه رژیم منحوس صهیونیستی وتو می‌کند؛ حامی اصلی شبکه‌های دروغ‌پرداز معاند کدام کشور است؟ قطعاً پاسخ همه این سوالات ایالات متحده آمریکا است که امام امت به حق آن را شیطان بزرگ نامید.
نایب رئیس مجمع فضلا و علمای استان هرمزگان بیان‌کرد: رژیم منحوس صهیونیستی نیز مصداقی عینی برای طاغوت است که حافظ منافع شیطان بزرگ در غرب آسیا است اما این‌ها غافل هستند از اینکه خداوند وعده داده است ظالمین و طاغوت را نابود سازد.
وی ادامه داد: قرآن در آیه ۵۳ سوره ذاریات قوم حضرت نوح را پیرو طاغوت معرفی کرده، قومی که به بلای بد دچار شدند و صغیر و کبیرشان در طوفان الهی غرق شدند؛ وقتی به این ماجرا می‌نگریم می‌بینیم مقام و منزلت حیواناتی حضرت نوح علیه‌السلام جمع آوری کرد از انسان‌های پیرو طاغوت بالاتر بود چرا که آن‌ها لیاقت نجات پیدا کردند اما انسان‌های طغیان‌گر در سیل تعدی به حدود الهی غرق شدند.
استار حوزه و دانشگاه با اشاره به آیات ۲۱ و ۲۲ سوره نبا گفت: جهنم کمین‌گاهِ اهالی طاغوت است و پیروان طاغوت در واقع هم در این دنیا به جهنم کشیده خواهند شد و هم در آن دنیا چرا که نابودی طاغوت صادق‌ترین وعده الهی است و این نابودی با خار و خفیف شدن همراه خواهد بود چنانچه در هفتم اکتبر شاهد بودیم رژیم صهیونیستیِ مغرور و متکبر که به گنبد آهنینش می‌نازید در برابر یک گروه ساده از مقاومت فرو پاشید و جمهوری اسلامی ایران نیز در عملیات وعده صادق به همگان نشان داد که بُتی که از این رژیم در ذهن کشورهای جهان و منطقه ساخته‌اند حتی با یک هلُ در سیلاب جنایات خود و خون بی‌گناهان غرق خواهد شد.
کد خبر 6089460
حمله به نمازگزاران در گذره هرات افغانستان/ ۶ نفر شهید شدند