شرکت OpenAI چندین قابلیت ایمنی برای کودکان و نوجوانان در نظر گرفته بود؛ از جمله ارسال هشدار به والدین، تعامل کمتر شبیه به یک دوست واقعی و حالت تدریس هوشمند. مانند هر شخص دیگری، من هم این اعلان‌ها را صمیمانه و باورپذیر تلقی کردم. اما نتایج بررسی‌های اخیر، مرا کاملاً شوکه کرده است.
به گزارش واضح به نقل از دیجیتال ترندز، «مؤسسه ایمنی هوش مصنوعی جوانان» وابسته به سازمان غیرانتفاعی Common Sense Media اعلام کرده است که هر سه قابلیت یادشده نتوانسته‌اند انتظارات را برآورده کنند. این سازمان پس از انجام آزمایشی با بیش از ۴۰۰۰ پرامپت (دستور متنی)، در تاریخ ۷ اکتبر ۲۰۲۶ بدترین رتبه ایمنی یعنی «ریسک غیرقابل قبول» (Unacceptable Risk) را به حساب‌های ChatGPT ویژه نوجوانان اختصاص داد.
سازمان Common Sense Media چگونه ایمنی ChatGPT را آزمایش کرد؟شرکت OpenAI مدعی است که چت‌جی‌پی‌تی تلاش می‌کند هشدارهای مربوط به چت‌های پرخطر را ظرف مدت یک ساعت به والدین (دارای حساب‌های متصل) ارسال کند. آزمایش‌کنندگان بیش از یک دوجین حساب جدید نوجوانان را به حساب‌های والدین متصل کردند و سپس به مدت یک ساعت به صورت کاملاً آزادانه درباره موضوعات حساسی مانند اختلالات خوردن، خودکشی یا آسیب به خود صحبت کردند. با این حال، هیچ هشداری برای والدین ارسال نشد!
این نتیجه واقعاً مرا شگفت‌زده کرد؛ چرا که گفتگو درباره چنین موضوعات حساسی آن هم برای این مدت طولانی بدون فعال شدن مکانیزم‌های ایمنی هوش مصنوعی — که دقیقاً برای همین هدف طراحی شده‌اند — بسیار عجیب است. در طول هفته‌ها آزمایش، تنها چهار هشدار ارسال شد که همگی مربوط به حساب‌هایی با سابقه طولانی در طرح موضوعات بحرانی بودند.
بر اساس این الگو، به نظر می‌رسد سیستم ارسال هشدار OpenAI به سابقه انباشته‌شده حساب کاربری وابسته است، نه به شدت و خطرات چت‌ها در لحظه و به صورت برخط. علاوه بر این، چت‌جی‌پی‌تی نتوانست به هدف سازمان Common Sense مبنی بر شناسایی ۹۵ درصدی پرامپت‌های بحرانی در سه دسته از پنج دسته آسیب‌های شدید دست یابد.
اگرچه توصیه‌های ارائه شده توسط این چت‌بات غالباً از نظر پزشکی و بالینی درست و صحیح بودند، اما خواندن و درک پاسخ‌ها (از دیدگاه یک کودک یا نوجوان) پیچیده‌تر و سخت‌تر شده بود. این یک سازش و معامله کاملاً نگران‌کننده و نامناسب به نظر می‌رسد.
دیگر نتایج نگران‌کننده از آزمایش سیستم‌های ایمنی هوش مصنوعیحالت مطالعه (Study mode) به جای ارائه پاسخ مستقیم، نقش یک معلم خصوصی را ایفا می‌کند؛ با این حال، وجود دکمه‌ای تحت عنوان «پاسخ را به من نشان بده» باعث می‌شود فرایند تدریس کلاً دور زده شود! همچنین، حذف پیشوند «study@» به نوجوانان اجازه می‌دهد از ساعات مطالعه تنظیم‌شده توسط والدین خارج شوند.
از سوی دیگر، چت‌جی‌پی‌تی از نقش‌آفرینی به عنوان شریک عاطفی یا جنسی امتناع می‌ورزد، اما زمانی که یک نوجوان به آن به چشم یک دوست تکیه می‌کند، همچنان احساسات صمیمانه را القا می‌کند. این مرزبندی به نظرم بیش از حد کم‌رنگ و سست است. همچنین این ابزار سن افراد را بر اساس فعالیت حساب تخمین می‌زند، اما هرگز حساب‌های ثبت‌شده به عنوان بزرگسال را به تجربه کاربری نوجوانان تغییر نداده است.
سازمان Common Sense Media از OpenAI خواسته است تا زمان تایید و راستی‌آزمایی سیستم‌های ایمنی توسط ارزیابان مستقل، بازاریابی خود را متوقف کرده و دسترسی نوجوانان به ChatGPT را محدود نگه دارد.
پاسخ شرکت OpenAI به حواشی و انتقادات مطرحشدهشرکت OpenAI با رد این ادعاها عنوان کرد که آزمون‌های انجام‌شده، عملکرد واقعی ابزارهای حفاظتی نوجوانان را منعکس نمی‌کنند. آن‌ها مدعی شدند بررسی‌های فنی‌شان نشان می‌دهد بخش زیادی از آزمایش‌ها قبل از فعال‌سازی کامل کنترل‌های والدین روی حساب‌های تازه متصل‌شده انجام گرفته است (به گزارش Futurism).
در مقابل، سازمان Common Sense بر صحت نتایج آزمایش‌های خود تأکید ورزید و اشاره کرد که OpenAI بعداً اعلام کرده متصل شدن حساب‌ها حدود سه ساعت زمان نیاز دارد تا فعال شود. با این حال، برخی از حساب‌ها بسیار طولانی‌تر از این زمان متصل بودند و باز هم هیچ هشداری دریافت نکردند.
در این نقطه، دشوار است که شک نکنیم آیا سیستم‌های ایمنی هوش مصنوعی OpenAI برای مسئولیتی که این شرکت از والدین می‌خواهد به آن اعتماد کنند، آماده هستند یا خیر.
