رفتار تملق آمیز ChatGPT صدای کاربران را درآورد؛ OpenAI آپدیت را لغو کرد - زندگی در ترکیه

هدف اصلی OpenAI از این به روزرسانی، بهبود جنبه های مربوط به هوش و شخصیت مدل GPT-4o بود تا تعاملات طبیعی تر و کارآمدتری را برای کاربران فراهم کند. با این حال، به نظر می رسد اتکای بیش از حد به بازخوردهای کوتاه مدت کاربران و نادیده گرفتن تاثیر تعاملات بلندمدت، نتیجه ای معکوس به همراه داشت. این رویکرد باعث شد مدل به جای ارائه پاسخ های صادقانه و متعادل، تمایل شدیدی به تایید هرگونه ورودی از سوی کاربر پیدا کند و شخصیتی چاپلوس و غیرقابل اعتماد از خود نشان دهد.

سم آلتمن، مدیرعامل OpenAI، به وسیله پستی در شبکه اجتماعی ایکس (توییتر سابق) این موضوع را تایید کرد. او اعلام نمود که به روزرسانی اخیر GPT-4o لغو شده و ChatGPT به شرایط پیشین خود بازگشته است. آلتمن بعلاوه قول داد که تیم توسعه دهنده روی اصلاحات بیشتری کار خواهد نمود تا شخصیت این هوش مصنوعی در آینده بهبود پیدا کند و از بروز چنین مشکلاتی جلوگیری گردد. OpenAI پذیرفت که در طراحی این به روزرسانی اشتباهی اتفاق افتاده و ساختار مدل نو به گونه ای شکل گرفته بود که صداقت آن را تحت الشعاع قرار می داد؛ رفتاری که می توانست برای کاربران ناخوشایند یا حتی در مواردی مضر باشد.

این شرکت تاکید نمود که از این تجربه درس های مهمی آموخته و در حال بازبینی روش های آموزشی مدل ها و بعلاوه دستورهای سیستمی خود است. یکی از اهداف کلیدی، تقویت سیستم های ایمنی برای پیشگیری از تکرار چنین رفتارهای نامطلوبی در مدل های زبانی آینده محسوب می گردد.

علاوه بر این، OpenAI برنامه هایی برای افزایش کنترل کاربران بر تجربه خود از ChatGPT دارد. این شرکت در حال آزمایش روش هایی است که به کاربران امکان می دهد بازخوردهای لحظه ای خود را حین مصاحبه با چت بات ثبت نمایند. بعلاوه، گزینه ای برای انتخاب از میان شخصیت های مختلف برای ChatGPT در دست آنالیز واقع شده است تا کاربران بتوانند تجربه ای شخصی سازی شده تر داشته باشند. OpenAI امیدوار است با در نظر گرفتن بازخوردهای فرهنگی و دموکراتیک در طراحی رفتار پیش فرض مدل، تعاملات آینده با ChatGPT را بهبود بخشد و اطمینان حاصل کند که رفتار این هوش مصنوعی با انتظارات و هنجارهای جوامع مختلف سازگاری بیشتری دارد. هدف نهایی، دستیابی به تعادل بهتری میان هوش، شخصیت و صداقت در ChatGPT و ارائه تجربه ای مفیدتر و قابل اعتمادتر برای همه کاربران در سراسر دنیا است.

منبع: arstechnica