Character.AI تُقيّد الدردشة المفتوحة للمستخدمين الذين تقل أعمارهم عن 18 عامًا وتُقدّم تدابير أمان

منصة الدردشة الآلية المدعومة بالذكاء الاصطناعي، الشخصية أعلنت شركة فيسبوك أن المستخدمين الذين تقل أعمارهم عن 18 عامًا لن يتمكنوا بعد الآن من المشاركة في محادثات مفتوحة مع روبوتات الدردشة الذكية الخاصة بها، وذلك في أعقاب مخاوف المشرعين والأسر بشأن المخاطر المحتملة التي قد تشكلها المنصة على المراهقين.

من المقرر أن يدخل هذا التغيير حيز التنفيذ في 25 نوفمبر. في غضون ذلك، تخطط المنصة لتقديم تجربة مُعدّلة للمستخدمين دون سن 18 عامًا، تُمكّنهم من مواصلة أنشطتهم الإبداعية، مثل إنتاج مقاطع الفيديو والقصص والبثّات التفاعلية مع الشخصيات. خلال هذه الفترة الانتقالية، ستُقتصر جلسات الدردشة للمستخدمين دون سن 18 عامًا على ساعتين يوميًا، مع توقع تقليص الوقت بشكل أكبر في الأسابيع التي تسبق التطبيق الكامل.

بالإضافة إلى ذلك، ستُطبّق Character.AI إجراءات جديدة للتحقق من العمر لضمان حصول المستخدمين على ميزات مناسبة لأعمارهم. وقد طورت الشركة نظامًا داخليًا لضمان العمر، وستدمجه مع أدوات خارجية، بما في ذلك Persona، لتعزيز الدقة والموثوقية.

أعلنت المنصة أيضًا عن إنشاء وتمويل مختبر سلامة الذكاء الاصطناعي، وهو منظمة مستقلة غير ربحية تُعنى بتعزيز معايير السلامة في مجال الترفيه القائم على الذكاء الاصطناعي. سيركز المختبر على تطوير مناهج سلامة مبتكرة، والتعاون مع خبراء خارجيين، ومشاركة نتائج الأبحاث. وتعتزم Character.AI أن يُولي المختبر نفس مستوى الاهتمام المُركّز على السلامة في مجال الترفيه القائم على الذكاء الاصطناعي، كما هو مُطبّق في تطبيقات الذكاء الاصطناعي الأخرى، وتعتزم إشراك شركات التكنولوجيا والأكاديميين والباحثين وصانعي السياسات في هذه المبادرة.

تُحدّث شركة Character.AI منصتها المخصصة لمن هم دون سن 18 عامًا لتعزيز سلامة المراهقين وسط مخاوف تنظيمية

أعلنت شركة Character.AI عن تغييرات على منصتها للمستخدمين دون سن 18 عامًا استجابةً للمخاوف المتزايدة بشأن تفاعلات الذكاء الاصطناعي مع المراهقين. وقد سلّطت التقارير والاستفسارات الأخيرة من الجهات التنظيمية الضوء على المخاطر المحتملة المرتبطة بمحادثات الذكاء الاصطناعي المفتوحة، حتى مع وجود ضوابط للمحتوى. بعد مراجعة ملاحظات الجهات التنظيمية وخبراء السلامة وأولياء الأمور، قررت الشركة ضرورة تعديل تجربة المستخدمين دون سن 18 عامًا لحماية المستخدمين الشباب بشكل أفضل.

تُمثل هذه التعديلات خطواتٍ مهمةً للمنصة، وهي عمومًا أكثر حذرًا من التدابير التي اتخذتها خدماتٌ مماثلة. الهدف هو إعطاء الأولوية لسلامة المستخدمين المراهقين مع الاستمرار في توفير فرصٍ للإبداع والاستكشاف والمشاركة. تعتزم Character.AI مواصلة العمل مع خبراء السلامة والهيئات التنظيمية والجهات المعنية الأخرى لضمان بقاء حماية المستخدمين في صميم اهتماماتها، بينما تُطوّر المنصة ميزاتٍ جديدةً تُشجع على التعبير الإبداعي والتفاعل المجتمعي.

Character.AI عبارة عن منصة ذكاء اصطناعي محادثة تتيح للمستخدمين التفاعل مع شخصيات مدفوعة بالذكاء الاصطناعي وإنشاءها، أو شخصيات روبوتية، مدعومة بنماذج لغوية كبيرة.