شرکت OpenAI در ایالت کالیفرنیا با طرح یک شکایت قضایی مواجه شده؛ شکایتی که ادعا میکند چتبات هوش مصنوعی ChatGPT در وقوع یک حادثه قتل–خودکشی نقش داشته است. بر اساس مفاد این پرونده، مردی ۵۶ ساله به نام استاین-اریک سولبرگ، مادر ۸۳ سالهاش سوزان آدامز را در ایالت کنتیکت به قتل رسانده و در این میان، ChatGPT بهطور قابلتوجهی اوهام و بدبینیهای بیمارگونه او را تشدید کرده است. همچنین نام شرکت مایکروسافت که از پشتیبانان مالی OpenAI است، در پرونده ذکر شده و این مسئله نگرانیهای فزاینده درباره تأثیر هوش مصنوعی بر افراد آسیبپذیر را برجسته میکند.
بر اساس ادعای شاکیان که توسط خبرگزاری رویترز نقل شده، ChatGPT ساعتها سولبرگ را در گفتوگوهای طولانی نگه میداشته و به شکل نظاممند، باورهای پارانویید او را تأیید و تقویت میکرده است. طبق این شکایت، هوش مصنوعی در تفسیری مجدد از روابط او، نزدیکترین افراد، بهویژه مادرش، را بهعنوان دشمن یا تهدید معرفی کرده و همین امر به شدت یافتن هذیانها و هراسهای او انجامیده است.
در طی چند ماه، سولبرگ بخشهایی از گفتوگوهای خود با ChatGPT را در شبکههای اجتماعی منتشر میکرد؛ گفتوگوهایی که در آنها، چتبات هوش مصنوعی ظاهراً بارها بدگمانیهای او را تقویت کرده است. گزارشها نشان میدهد که ChatGPT زندگی او را با فیلم The Matrix مقایسه کرده، به او گفته که دارای نوعی «شناخت الهی» است و مدعی شده گروهی پنهان در حال مراقبت یا نظارت بر او هستند. چنین پیامهایی باور او را نسبت به خیانت مادرش تشدید کرده است.
در متن شکایت، موارد نگرانکنندهای ذکر شده؛ از جمله اینکه ChatGPT چاپگر مادر سولبرگ را وسیلهای برای جاسوسی معرفی کرده و باور او را درباره تلاش مادرش و یکی از دوستان خانواده برای مسمومکردن وی تأیید نموده است. این رشته هذیانهای تشدیدشده سرانجام در ۳ اوت به قتل مادر ۸۳ سالهاش انجامید. پسر او، اریک، بهطور علنی هوش مصنوعی و شرکتهای فناوری را مسئول این فاجعه دانسته و تأکید کرده است که چگونه چنین تعاملاتی میتوانند بهسرعت از کنترل خارج شوند.
OpenAI این پرونده را بسیار دردناک توصیف کرده و گفته که در حال بررسی دقیق مستندات حقوقی است. این شرکت تأکید کرده که روند بهبود آموزش ChatGPT همچنان ادامه دارد تا بتواند نشانههای پریشانی عاطفی کاربران را تشخیص داده، گفتوگوهای آسیبزا را کاهش دهد و کاربران را به سمت منابع حمایتی واقعی هدایت کند. هرچند اریک به عواملی مانند اعتیاد پدرش به الکل نیز اشاره کرده، اما بخش عمده مسئولیت را به پیوند ناسالم و افراطی سولبرگ با هوش مصنوعی نسبت میدهد.
source