← Torna alle soluzioni

Chiedere direttamente all'LLM locale

Invia un prompt all'LLM locale configurato e, opzionalmente, riassumi la pagina attiva.

MCP e IA Intermedio JavaScript ask_the_llm.js

Prerequisiti

  • Un servizio LLM configurato in Impostazioni > IA
  • Un nome modello locale disponibile per il tipo di servizio configurato

Risultato atteso

Guida registra la risposta del modello e riassume il testo della pagina se una scheda del browser ha contenuto caricato.

Esempio di codice sorgente

ask_the_llm.js

Usa l’API LLM locale quando uno script ha bisogno di generazione di testo, classificazione, estrazione o riepilogo.

// Chiedi all'LLM: usa un modello IA locale per l'analisi
//
// Questo script invia un prompt all'LLM configurato
// e registra la risposta.
// Richiede un servizio LLM configurato in Impostazioni > IA.
g.log("Invio prompt all'LLM...");
// Generazione di testo semplice (specifica il nome del modello)
const model = "llama3"; // Cambia con il modello installato
const response = await g.llm.promptLocalLlm(
model,
"Spiega in due frasi cosa fa uno strumento di estrazione dati dal web."
);
g.log("Risposta LLM:");
g.log(response);
// Puoi anche combinare LLM e contenuto della pagina
// (richiede una scheda del browser con una pagina caricata)
const tabs = g.tabs.getTabs();
if (tabs && tabs.length > 0) {
const pageText = await g.dom.extractContent("body");
if (pageText && pageText.length > 0) {
// Riduci ai primi 500 caratteri per restare nei limiti di contesto
const snippet = pageText.substring(0, 500);
const summary = await g.llm.promptLocalLlm(
model,
"Riassumi questa pagina web in un paragrafo:\n\n" + snippet
);
g.log("Riepilogo pagina: " + summary);
} else {
g.log("La pagina non ha contenuto testuale da riassumere.");
}
}