Anthropic разрешила детям использовать свои ИИ-технологии

• Стартап Anthropic обновил свою политику, разрешив несовершеннолетним использовать сторонние приложения на базе его ИИ-технологий.
• Ориентированным на детскую и подростковую аудиторию разработчикам необходимо выполнить ряд требований перед внедрением моделей компании.

Стартап Anthropic обновил свою политику, позволив несовершеннолетним пользователям применять его генеративные ИИ-системы в определенных обстоятельствах.

Согласно блогу, дети и подростки смогут задействовать сторонние приложения, базирующиеся на моделях компании. Для этого необходимо, чтобы разработчики сервисов реализовали определенные функции защиты и раскрыли пользователям, какие технологии Anthropic они интегрировали.

Среди перечисленных стартапом требований : включение алгоритма проверки возраста, системы модерации и фильтрации контента, а также механизмов мониторинга и отчетности. Кроме того, разработчики должны предоставить образовательные ресурсы по «безопасному и ответственному» использованию ИИ для несовершеннолетних.

Компания заявила, что может обеспечить «технические меры», направленные на адаптацию ИИ-продуктов для детей и подростков. Например, предоставить «подсказку системы безопасности», которую ориентированные на несовершеннолетних организации должны будут внедрить.

Задействующим ИИ-технологии Anthropic разработчикам также необходимо соблюдать «применимые» правила о защите детей и конфиденциальности данных, включая Закон о защите конфиденциальности детей в интернете.

По данным компании, она планирует «периодически» проверять приложения на соответствие требованиям. В случае их неоднократного нарушения Anthropic будет приостанавливать или удалять учетные записи.

Компания добавила, что разработчики должны «четко заявлять» о соответствии требованиям на официальных сайтах или в документации.

«Есть определенные случаи, когда ИИ-инструменты могут дать значительные преимущества молодым пользователям, например, подготовка к экзаменам или репетиторская поддержка. Имея это в виду, обновленная политика позволяет организациям включать наш API в свои продукты для несовершеннолетних», ― говорится в блоге.

Ранее Anthropic запустила iOS-приложение Claude и представила корпоративный премиум-план Team.