Metaの契約社員、ティーンエイジャーを装い、競合チャットボットに自殺、性、薬物について質問

Metaの契約業者が、競合するチャットボット（Gemini、ChatGPTなど）に対し、自殺、性、薬物といったハイリスクな話題を促すために、自身を子供に見せかけた。この行為は、LLMの安全性と倫理的な脆弱性を浮き彫りにするものであり、AIモデルの応答内容や、それを引き出すためのプロンプトエンジニアリングの重要性を示唆している。

• Metaの契約業者が、競合チャットボットに対し、子供を装って自殺や薬物等の危険な話題を促す行為を行った。
• この行為は、LLMの安全性と倫理的な脆弱性を露呈させるものである。
• AIモデルが有害なコンテンツ生成を抑制する能力の限界を示唆している。
• AIの応答内容や、それを引き出すプロンプトエンジニアリングの重要性が浮き彫りになった。