أعلنت شركة OpenAI الأمريكية يوم الثلاثاء أنها ستُطبّق آلية رقابة أبوية على أداة الذكاء الاصطناعي ChatGPT، بعد أن اتهم آباء أمريكيون روبوت الدردشة في أواخر أغسطس بتحريض ابنهم على الانتحار.
وصرحت OpenAI في منشور على مدونتها: “في الشهر المقبل، سيتمكن الآباء من ربط حساباتهم بحسابات أبنائهم المراهقين، والتحكم في كيفية استجابة ChatGPT لأطفالهم من خلال قواعد سلوكية من النموذج”. ووفقًا للشركة، سيتمكن الآباء أيضًا من تلقي تنبيهات في حال رصد “ضيق حاد” في محادثات أطفالهم، والتحكم في إعدادات الحساب.
يأتي هذا الإعلان عقب منشورٍ نُشر في أواخر أغسطس/آب، أشارت فيه الشركة إلى أنها تُعِدّ آليةً للرقابة الأبوية. في اليوم السابق، رفع والدا مراهقٍ من كاليفورنيا يبلغ من العمر 16 عامًا، انتحر، دعوى قضائية ضد OpenAI، متهمَين ChatGPT بتزويد ابنهما بتعليماتٍ مُفصّلةٍ للانتحار وتشجيعه على ذلك.
وأضافت الشركة في منشورها على مدونتها يوم الثلاثاء: “نواصل تحسين كيفية تعرّف نماذجنا على علامات الضيق النفسي والعاطفي والاستجابة لها”. وتؤكد OpenAI أنها ستتخذ خطوات إضافية، مُخطط لها خلال الـ 120 يومًا القادمة.
وبالتالي، ستعيد الشركة توجيه بعض “المحادثات الحساسة” إلى نماذج تفكير أكثر تقدمًا، مثل نموذج GPT-5. وتؤكد الشركة الأمريكية: “تتبع نماذج التفكير إرشادات السلامة وتطبقها بشكل أكثر منهجية”.