LLM 設定

Guida はローカル LLM を使ったスクリプト処理をサポートします。分類、要約、抽出、判断補助などを、ブラウザー自動化の中に組み込めます。

対応する使い方

Ollama でローカルモデルを実行する
LlamaSharp を使う
スクリプトから g.llm.promptLocalLlm() を呼び出す
画像対応モデルにスクリーンショットを渡す
キューワーカーと組み合わせて大量項目を分類する

基本例

const html = await g.page.getDom();
const answer = await g.llm.promptLocalLlm(
  "llama3.2",
  "次の HTML から主要な見出しを日本語で要約してください:\n" + html.slice(0, 5000)
);

g.store.put("summaries", await g.page.getUrl(), { answer });

設定

AI バックエンドは Settings > AI Assistant で設定します。Ollama を使う場合は ollama.com からインストールし、モデルを取得してください。

ollama pull llama3.2

注意

ローカル LLM はデータを外部プロバイダーへ送らずに使える一方、モデルの精度、速度、メモリ使用量は選んだモデルとマシンに依存します。外部 API を使うスクリプトを書く場合は、その通信先と認証情報の扱いを確認してください。