Character.AI限制18歲以下用戶進行開放式聊天，並推出安全措施

人工智慧聊天機器人平台 角色.AI 該公司宣布，由於立法者和家庭對該平台可能對青少年造成的潛在風險表示擔憂，18 歲以下的用戶將無法再與其人工智慧聊天機器人進行開放式對話。

該變更計劃於11月25日生效。在此期間，平台計劃為18歲以下用戶推出改進後的體驗，讓他們可以繼續進行創作活動，例如製作影片、故事以及與角色互動直播。過渡期間，18歲以下用戶的聊天時間將限制為每天兩小時，預計在全面實施前的幾週內還會進一步縮短。

此外，Character.AI 將實施新的年齡驗證措施，以確保用戶看到的功能與其年齡相符。該公司已開發出一套內部年齡驗證系統，並將與包括 Persona 在內的第三方工具集成，以提高準確性和可靠性。

該平台還宣布成立並資助人工智慧安全實驗室（AI Safety Lab），這是一個致力於推進人工智慧娛樂領域安全規範的獨立非營利組織。該實驗室將專注於開發創新的安全方案，與外部專家合作，並分享研究成果。 Character.AI 希望該實驗室能夠像對待其他人工智慧應用一樣，對人工智慧娛樂領域給予同等程度的安全關注，並計劃讓科技公司、學術界、研究人員和政策制定者參與到這項計劃中來。

Character.AI 更新 18 歲以下用戶平台，以加強青少年安全，並應對監管方面的擔憂

鑑於大眾對人工智慧與青少年互動日益增長的擔憂，Character.AI宣布對其平台針對18歲以下用戶的體驗進行調整。近期監管機構的報告和問詢凸顯了開放式人工智慧對話的潛在風險，即便設定了內容控制措施也無濟於事。在聽取了監管機構、安全專家和家長的回饋後，該公司認為有必要修改18歲以下用戶的體驗，以便更好地保護年輕用戶。

這些調整對平台而言意義重大，整體而言也比類似服務採取的措施更為謹慎。其目標是在保障青少年使用者安全的同時，仍提供他們創造、探索和參與的機會。 Character.AI 計畫繼續與安全專家、監管機構和其他利害關係人合作，確保在平台開發鼓勵創意表達和社群互動的新功能時，使用者保護始終是核心。

Character.AI 是一個對話式人工智慧平台，允許使用者與由大型語言模型驅動的人工智慧角色（或機器人角色）進行互動並創建它們。