← 레시피로 돌아가기

로컬 LLM에 묻기

설정된 로컬 LLM에 프롬프트를 보내고, 필요하면 활성 페이지를 요약합니다.

MCP와 AI 중급 JavaScript ask_the_llm.js

전제 조건

  • Settings > AI에서 LLM 공급자가 설정되어 있음
  • 설정된 공급자에서 사용할 수 있는 로컬 모델 이름

예상 결과

Guida가 모델 응답을 로그에 출력하고, 브라우저 탭에 콘텐츠가 로드되어 있으면 페이지 텍스트를 요약합니다.

소스 예제

ask_the_llm.js

스크립트에서 텍스트 생성, 분류, 추출, 요약이 필요하면 로컬 LLM API를 사용합니다.

// LLM에 묻기 - 로컬 AI 모델로 분석하기
//
// 이 스크립트는 설정된 LLM에 프롬프트를 보내고
// 응답을 로그에 출력합니다.
// Settings > AI에서 LLM 공급자가 설정되어 있어야 합니다.
g.log("LLM에 프롬프트를 보내는 중...");
// 단순 텍스트 생성(설치된 모델 이름 지정)
const model = "llama3"; // 자신의 모델 이름으로 바꾸세요
const response = await g.llm.promptLocalLlm(
model,
"웹 스크래퍼의 역할을 두 문장으로 설명하세요."
);
g.log("LLM 응답:");
g.log(response);
// 페이지 콘텐츠와 LLM을 함께 사용할 수도 있습니다
// (콘텐츠를 로드한 브라우저 탭이 필요합니다)
const tabs = g.tabs.getTabs();
if (tabs && tabs.length > 0) {
const pageText = await g.dom.extractContent("body");
if (pageText && pageText.length > 0) {
// 컨텍스트 한도에 맞도록 처음 500자로 자릅니다
const snippet = pageText.substring(0, 500);
const summary = await g.llm.promptLocalLlm(
model,
"이 웹 페이지를 한 단락으로 요약하세요:\n\n" + snippet
);
g.log("페이지 요약: " + summary);
} else {
g.log("요약할 페이지 텍스트가 없습니다.");
}
}