Meta AIが10代の自殺・自傷リスクを検知して保護者に通知する機能を導入、危険な会話を見つける専用AIも開発

Meta AIは、10代の利用者がAIとの会話で自殺や自傷のリスクを示した場合、保護者に通知する機能を導入しました。危険な会話を検知する専用AIも開発され、若者の安全保護にAI技術が活用されています。

• Meta AIが10代の自殺・自傷リスクを検知し保護者に通知する新機能を導入した。
• 危険な会話を特定するための専用AIも開発された。
• この機能は、若年層のメンタルヘルス保護を目的としている。
• プライバシーへの配慮とリスク検知のバランスが今後の課題となるとされる。