美國多州檢察長致信警告：「性化」AI聊天機器人對兒童構成威脅

National Association of Attorneys General（NAAG）已致函包括OpenAI、Anthropic、Apple和Meta在內的13家AI公司，要求加強保護兒童免受不當及有害內容侵害的措施。

該協會警告稱，兒童正通過“調情”AI聊天機器人接觸到帶有性暗示的內容。

“讓兒童接觸到性化內容是不可辯解的，”多位檢察總長寫道。“而如果由人類實施會被認為是非法甚至犯罪的行為，僅僅因為是由機器完成，也不能被原諒。”

該信件還將此事與社交媒體的興起進行了比較，稱政府機構未能充分強調其對兒童產生的負面影響。

“社交媒體平台對兒童造成了重大傷害，部分原因是政府監管機構行動不夠及時。這是一個教訓。AI的潛在危害和潛在益處一樣，都遠超社交媒體的影響，”該組織寫道。

AI在兒童中的使用已相當普遍。在美國，非營利組織Common Sense Media的調查發現，截至2024年，十分之七的青少年曾嘗試過生成式AI。2025年7月，該組織發現超過四分之三的青少年正在使用AI伴侶，且有一半受訪者表示他們經常依賴這些AI伴侶。

其他國家也出現了類似趨勢。在英國，監管機構Ofcom去年的一項調查顯示，半數8至15歲的網絡兒童在過去一年內使用過生成式AI工具。

這些工具的廣泛使用引發了家長、學校和兒童權益團體日益增長的擔憂，他們指出風險包括帶有性暗示的“調情”聊天機器人、AI生成的兒童性虐待材料、霸凌、誘拐、勒索、虛假資訊、隱私洩露以及對心理健康影響的不確定性。

Meta近期特別受到抨擊，因為內部文件洩露顯示其AI Assistants曾被允許“與兒童調情並進行浪漫角色扮演”，其中包括年僅八歲的兒童。這些文件還顯示，政策允許聊天機器人告訴兒童他們的“年輕形體是一件藝術品”，並將其描述為“珍寶”。Meta隨後表示已刪除這些指導方針。

NAAG表示，這些揭露讓檢察總長們“對這種明顯漠視兒童情感健康的行為感到厭惡”，並警告稱風險並不僅限於Meta。

該組織還引用了針對Google和Character.ai的訴訟，指控性化聊天機器人導致一名青少年自殺，並鼓勵另一名青少年殺害其父母。

44位簽署人之一、田納西州檢察總長Jonathan Skrmetti表示，公司不能為使未成年人性化互動正常化的政策辯護。

“演算法出錯是一回事——這可以修正——但公司經營者主動採納明確授權誘拐的指導方針則是另一回事，”他說。“如果我們無法讓創新遠離傷害兒童，那就不是進步——而是一場災難。”

Decrypt已聯繫信中提及的所有AI公司，但尚未收到回覆。