GPT-5 و افزایش پاسخ های مضر در چت بات ها

ChatGPT (Generative Pre-trained Transformer) یک مدل زبان بزرگ (LLM) است که توسط شرکت OpenAI(اوپن ای آی) توسعه داده شده است. این چت‌بات هوش مصنوعی بر پایه معماری مدل‌های ترانسفورمر بنا شده است و برای درک و تولید متن شبیه به زبان انسان آموزش دیده است. چت جی پی تی با استفاده از حجم عظیمی از داده‌های متنی (وب‌سایت‌ها، کتاب‌ها و مقالات) آموزش داده شده تا بتواند الگوهای زبان، دستور زبان و دانش گسترده‌ای را بیاموزد.

 

قابلیت اصلی چت جی پی تی، توانایی آن در مکالمه تعاملی و تولید محتوای متنوع است. کاربران می‌توانند با آن گفتگو کنند، سوال بپرسند، خلاصه‌ای از متون طولانی دریافت کنند، کد نویسی کنند، متون خلاقانه بنویسند یا حتی مقالات پیچیده را توضیح دهند. موفقیت بی‌نظیر آن پس از عرضه در اواخر سال ۲۰۲۲، ناشی از سهولت استفاده، قابلیت‌های چندمنظوره و توانایی آن در ارائه پاسخ‌های منسجم و مرتبط بوده است که آن را به یک ابزار انقلابی در آموزش، کار حرفه‌ای و زندگی روزمره تبدیل کرده است.

 

مدل‌های زیربنایی ChatGPT، از جمله GPT-3.5، GPT-4 و نسخه‌های جدیدتر مانند GPT-4o و GPT-5، نشان‌دهنده تکامل سریع در قدرت و پیچیدگی هوش مصنوعی هستند. این مدل‌ها به مرور زمان قابلیت‌های استدلال، چندوجهی (درک تصویر و صدا) و ایمنی خود را بهبود بخشیده‌اند، هرچند که همانطور که در ادامه متن خبری مشاهده می‌کنید، حفظ تعادل بین قابلیت‌های پیشرفته و ایمنی در مواجهه با محتوای حساس، یک چالش دائمی و جدی برای OpenAI و کل صنعت هوش مصنوعی باقی مانده است.

 

 

فعالان حوزه دیجیتال در گزارش‌های جدیدی اعلام کرده‌اند که GPT-5، آخرین مدل هوش مصنوعی شرکت OpenAI، پاسخ‌های مضرتر و خطرناک‌تری را در مقایسه با نسخه‌های قبلی خود ارائه می‌دهد. این نتایج نگران‌کننده، به‌ویژه در پاسخ به سوالات مربوط به خودکشی، خودآزاری و اختلالات خوردن مشاهده شده‌اند و تعادل دشوار میان تعامل کاربر و ایمنی هوش مصنوعی را در معرض پرسش جدی قرار می‌دهند.

شرکت OpenAI مدل جدید GPT-5 را در آگوست گذشته (تقریباً نه ماه پس از عرضه مدل‌های پیشین) رونمایی کرد و آن را به عنوان یک پیشرفت بزرگ در حوزه ایمنی و قابلیت‌ها معرفی نمود. با این حال، آزمایش‌های انجام شده توسط متخصصان، شامل مقایسه پاسخ‌های GPT-5 و نسخه قبلی آن یعنی GPT-4o در ۱۲۰ سوال حساس، نتایج متفاوتی را نشان می‌دهد: مدل جدیدتر ۶۳ پاسخ مضر ارائه داده است، در حالی که نسخه قبلی ۵۲ پاسخ مضر داشت. این افزایش خطر، یک عقب‌گرد قابل توجه در تلاش‌های شرکت برای بهبود فیلترهای ایمنی محسوب می‌شود.

 

مرکز مواجهه با نفرت دیجیتال (CCDH) که این آزمایش‌ها را انجام داده، تأکید می‌کند که GPT-5 درخواست‌های خطرناکی را اجرا می‌کند که نسخه‌های قبلی قبلاً قاطعانه آن‌ها را رد می‌کردند. به عنوان مثال، مدل جدید درخواست‌هایی مانند نوشتن "یادداشت خودکشی فانتزی به والدین" یا ارائه "فهرستی دقیق از شش روش رایج خودآزاری" را پذیرفته است. در موارد دیگر، GPT-5 در مورد نحوه پنهان کردن اختلالات خوردن مشاوره ارائه کرده است. این در حالی است که GPT-4o در پاسخ به چنین درخواست‌هایی، رویکردی مسئولانه‌تر در پیش می‌گرفت و کاربران را به جستجوی کمک از متخصصان حوزه سلامت روان راهنمایی می‌کرد.

 

عمران احمد، مدیرعامل CCDH، این یافته‌ها را «بسیار نگران‌کننده» توصیف کرده و معتقد است که مدل جدید به احتمال زیاد برای ارتقاء هرچه بیشتر تعامل کاربر (Engagement) به قیمت کاهش وضوح استانداردهای ایمنی طراحی شده است. این وضعیت با چالش‌های حقوقی و اخلاقی فعلی OpenAI تشدید می‌شود، چرا که این شرکت هم‌اکنون با شکایتی از سوی خانواده یک نوجوان آمریکایی روبروست که پس از دریافت اطلاعات و کمک از ChatGPT برای نوشتن نامه‌ای به والدینش، دست به خودکشی زده است.

 

در پاسخ به این خطرات، OpenAI اخیراً اعلام کرده است که اقدامات جدیدی را برای تقویت محافظت در برابر محتوای حساس، به‌ویژه برای کاربران زیر ۱۸ سال، در دست اجرا دارد. این اقدامات شامل توسعه کنترل‌های والدین و سیستمی برای پیش‌بینی سن کاربران برای فیلترسازی محتوا است.

با این وجود، این گزارش‌ها چالشی اساسی در صنعت هوش مصنوعی را برجسته می‌کند: حفظ تعادل میان قدرت هوش مصنوعی و ایمنی کاربران. با توجه به اینکه ChatGPT هم‌اکنون حدود ۷۰۰ میلیون کاربر جهانی دارد، نیاز به چارچوب‌های نظارتی مؤثر در سطح بین‌المللی برای همگام شدن با سرعت شگفت‌انگیز پیشرفت‌های فناوری و اطمینان از مسئولیت‌پذیری مدل‌ها، بیش از پیش تقویت می‌شود. سازمان‌های نظارتی باید تضمین کنند که در رقابت برای دستیابی به "باهوش‌ترین" هوش مصنوعی، ملاحظات حیاتی سلامت روان و ایمنی کاربران، به فراموشی سپرده نشود.

 

فعالین دیجیتال گزارش داده اند که آخرین نسخه ChatGPT پاسخ های مضرتری، به ویژه در مورد سوالات در ارتباط با خودکشی، خودآزاری و اختلالات خوردن،   نسبت به نسخه های قبلی این ربات هوشمند عرضه نموده است. شرکت OpenAI نسخه جدید، GPT-۵، را در آگوست گذشته راه اندازی نمود و آن را به عنوان پیشرفتی در حوزه ایمنی هوش مصنوعی توصیف کرد. با این حال، آزمایش های انجام شده توسط کارشناسان، که شامل ۱۲۰ سوال در مورد GPT-۵ و نسخه قبلی آن، GPT-۴o بود، نتایج نگران کننده ای را نشان داد: نسخه جدیدتر ۶۳ پاسخ مضر در مقایسه با ۵۲ پاسخ برای نسخه قبلی عرضه داد. آزمایش های مرکز مواجهه با نفرت دیجیتال نشان داد که مدل جدید درخواست های خطرناکی را که نسخه قبلی رد می کرد، اجرا می کند، مانند نوشتن یادداشت خودکشی فانتزی به والدین و عرضه فهرستی دقیق از شش روش رایج خودآزاری، در صورتی که نسخه قبلی به کاربران سفارش می کرد که از متخصصان کمک بگیرند.

ثبت دیدگاه

آدرس ایمیل شما منتشر نخواهد شد. فیلدهای الزامی علامت گذاری شده اند *