LLMの出力を人間らしくすることは愚かだ

LLMの出力を人間らしくしようとする試みは、その本質を損なう可能性があるという意見が示されています。AIの特性を活かすべきか、人間らしさを追求すべきかの議論を提起します。

• LLMの出力を人間らしくするのではなく、情報伝達の最適化に焦点を当てるべきだと主張している。
• 出力を人間らしくする過程で、本来重要だった情報が失われる「情報落ち」が発生する可能性がある。
• エージェントが他のエージェントと通信する際、人間らしい要約を介することで、詳細な情報が失われる恐れがある。
• 失敗の隠蔽につながるため、LLMの出力を人間らしい表現にすることは、問題の発見を遅らせる可能性がある。
• データベースやコンパイラのように、LLMも高忠実度な内部表現を維持すべきだと論じている。