毎度検索か常時検索か

AI向けにローカルファイルの検索サーバーを構築しようと思っているんだけど、質問があった時に検索する毎度検索にするか、自動的に検索しておく常時検索にするか迷っている。