Preguntar al LLM local

// Preguntar al LLM - Usar un modelo local de IA para analisis
//
// Este script envia una instruccion al LLM configurado
// y registra la respuesta.
// Requiere un proveedor de LLM configurado en Settings > AI.

g.log("Enviando instruccion al LLM...");

// Generacion de texto sencilla (indique el nombre de su modelo)
const model = "llama3";  // Cambie esto por su modelo instalado
const response = await g.llm.promptLocalLlm(
    model,
    "Explain what a web scraper does in two sentences."
);

g.log("Respuesta del LLM:");
g.log(response);

// Tambien puede combinar el LLM con contenido de la pagina
// (requiere una pestana de navegador con una pagina cargada)
const tabs = g.tabs.getTabs();
if (tabs && tabs.length > 0) {
    const pageText = await g.dom.extractContent("body");

    if (pageText && pageText.length > 0) {
        // Recortar a los primeros 500 caracteres para respetar los limites de contexto
        const snippet = pageText.substring(0, 500);

        const summary = await g.llm.promptLocalLlm(
            model,
            "Summarize this web page in one paragraph:\n\n" + snippet
        );

        g.log("Resumen de la pagina: " + summary);
    } else {
        g.log("La pagina no tiene texto que resumir.");
    }
}