اوپن‌ای‌آی در حال توسعه راهکارهایی برای کاهش “توهم” (hallucination) در ChatGPT است؛ مشکلی که در آن مدل پاسخ‌های باورپذیر اما نادرست تولید می‌کند. این راهکارها شامل افزودن «سطح اعتماد» به پاسخ‌ها، پاداش دادن به مدل برای گفتن «نمی‌دانم» به جای حدس زدن، و بازطراحی معیارهای ارزیابی برای جریمه کردن اعتماد کاذب است.
هدف نهایی، ایجاد هوش مصنوعی است که نه تنها باهوش‌تر، بلکه صادق‌تر و قابل‌اعتمادتر باشد، به‌ویژه در حوزه‌های حساسی مانند پزشکی و حقوق. این تغییرات می‌توانند اعتماد به سیستم‌های هوش مصنوعی را به طور چشمگیری افزایش دهند.
نوشته برنامه OpenAI برای هوشمندتر و صادق‌تر کردن ChatGPT مشخص شد اولین بار در چیکاو. پدیدار شد.
source