OpenAI 強化されたティーンの安全対策とペアレンタルコントロールを導入 ChatGPT

OpenAI 人工知能研究機関の は、10代のユーザーの安全性を高めることを目的としたアップデートを発表した。 

同社は次のように説明した ChatGPT 15歳の子どもとのやりとりは大人とのやりとりとは異なるべきであり、ユーザーが18歳以上かXNUMX歳未満かを評価し、それに応じて体験をカスタマイズできる長期的なシステムを開発している。

18歳未満のユーザーは、 ChatGPT 年齢に応じたポリシーに関する経験。これには、露骨な性的なコンテンツのブロックや、まれに深刻な苦痛が生じる場合には、安全を確保するために法執行機関を介入させる可能性も含まれます。

年齢を確実に判断できない場合や情報が不完全な場合、プラットフォームはデフォルトで 18 歳未満のユーザー向けのエクスペリエンスを設定しますが、成人向けには、成人向け機能にアクセスするために年齢を確認する方法が提供されます。

当面は、ペアレンタルコントロールが家族にとって最も効果的な管理方法となることが期待される。 ChatGPT 家庭で使われています。 

今月末までに利用可能になる予定のこれらのコントロールにより、13歳以上のティーンエイジャーであれば、簡単な電子メールの招待状を使用して、保護者が自分のアカウントをティーンエイジャーのアカウントにリンクできるようになります。 

親は、どのように指導できるでしょうか ChatGPT 10 代の若者特有の行動ルールに従って若者に応答し、メモリやチャット履歴を含むどの機能が有効または無効になっているかを管理し、システムが若者が深刻な苦痛を経験していることを検出した場合に通知を受け取ります。

 保護者と連絡が取れない稀な緊急事態が発生した場合、法執行機関が介入する可能性があります。専門家の指導に基づき、この機能は保護者とお子様の信頼関係を維持することを目的としています。さらに、保護者はお子様がアクセスできない時間帯を設定することができます。 ChatGPTこれらのペアレンタルコントロールは、長時間のセッション中に休憩を促すアプリ内リマインダーなどの既存のプラットフォーム機能を補完するものです。

AIと10代のメンタルヘルス：法的および安全上の懸念が高まる中、FTCがチャットボットプラットフォームを調査

この夏、AIの役割に関する一連の懸念すべき報告がありました。 メンタルヘルス関連の事件 規制当局の監視が強化され、法的措置が継続中である。 

Character.AIに対して訴訟が起こされており、 OpenAI 彼らのプラットフォームが10代の若者の 自殺と自傷行為 重要な瞬間に適切なサポートを提供しないことで、こうした状況は悪化しています。これを受けて、米国連邦取引委員会（FTC）は、大手テクノロジー企業が、特に若年層ユーザー向けにコンパニオンとして販売されているAIチャットボットをどのように設計し、監督しているかについて調査を開始しました。 

こうした取り組みにもかかわらず、オープンソースやプライベートモデルを含むさまざまなチャットボットオプションが広く利用可能であることは、これらのリスクに対処することが複雑で根深い課題のままであることを意味します。