← Zurück zu den Rezepten

Das lokale LLM fragen

Einen Prompt an das konfigurierte lokale LLM senden und optional die aktive Seite zusammenfassen.

MCP und KI Fortgeschritten JavaScript ask_the_llm.js

Voraussetzungen

  • Ein in Settings > AI konfigurierter LLM-Provider
  • Ein lokaler Modellname, der beim konfigurierten Provider verfügbar ist

Erwartetes Ergebnis

Guida protokolliert die Modellantwort und fasst Seitentext zusammen, wenn ein Browser-Tab Inhalte geladen hat.

Verwandte Dokumentation

LLM-EinrichtungKI, HTTP und Werkzeuge

Quellbeispiel

ask_the_llm.js

Nutzen Sie die lokale LLM-API, wenn ein Skript Text erzeugen, klassifizieren, extrahieren oder zusammenfassen soll.

// LLM fragen - lokales KI-Modell für Analyse verwenden
//
// Dieses Skript sendet einen Prompt an das konfigurierte LLM
// und protokolliert die Antwort.
// Voraussetzung: LLM-Provider in Settings > AI.
g.log("Sende Prompt an LLM...");
// Einfache Texterzeugung (Modellnamen anpassen)
const model = "llama3";
const response = await g.llm.promptLocalLlm(
model,
"Erkläre in zwei Sätzen, was ein Web Scraper tut."
);
g.log("LLM-Antwort:");
g.log(response);
// LLM kann auch mit Seiteninhalt kombiniert werden
// (setzt einen Browser-Tab mit geladener Seite voraus)
const tabs = g.tabs.getTabs();
if (tabs && tabs.length > 0) {
const pageText = await g.dom.extractContent("body");
if (pageText && pageText.length > 0) {
// Auf die ersten 500 Zeichen kürzen
const snippet = pageText.substring(0, 500);
const summary = await g.llm.promptLocalLlm(
model,
"Fasse diese Webseite in einem Absatz zusammen:\n\n" + snippet
);
g.log("Seitenzusammenfassung: " + summary);
} else {
g.log("Die Seite hat keinen Textinhalt zum Zusammenfassen.");
}
}