幻覚を示すエージェントのリスクを最大限に低減するにはどうすればよいですか。
大規模言語モデル(LLM)は、十分な情報が不足している場合に、意図せず追加の詳細を導入できます。
この問題を軽減するには、次の戦略を検討してください。
- 必要な知識を提供: ビジネス・オブジェクト、REST API、RAGドキュメントなどの関連ソースを統合し、LLMが正確で最新の情報にアクセスできるようにします。
- 明示的なプロンプト指示の使用: LLMに、提供された情報以外の情報を追加または推測しないように明確に指示し、刺繍や製造のリスクを軽減します。