LLM 설정

Guida는 로컬 LLM을 사용한 스크립트 처리를 지원합니다. 분류, 요약, 추출, 판단 보조 등을 브라우저 자동화 안에 넣을 수 있습니다.

지원하는 사용 방식

Ollama로 로컬 모델 실행
LlamaSharp 사용
스크립트에서 g.llm.promptLocalLlm() 호출
이미지 대응 모델에 스크린샷 전달
큐 워커와 결합해 많은 항목 분류

기본 예

const html = await g.page.getDom();
const answer = await g.llm.promptLocalLlm(
  "llama3.2",
  "다음 HTML에서 주요 제목을 한국어로 요약하세요:\n" + html.slice(0, 5000)
);

g.store.put("summaries", await g.page.getUrl(), { answer });

설정

AI 백엔드는 Settings > AI Assistant 에서 설정합니다. Ollama를 사용하려면 ollama.com에서 설치하고 모델을 받으세요.

ollama pull llama3.2

주의

로컬 LLM은 데이터를 외부 공급자로 보내지 않고 사용할 수 있지만, 모델의 정확도, 속도, 메모리 사용량은 선택한 모델과 컴퓨터에 따라 달라집니다. 외부 API를 사용하는 스크립트를 작성한다면 통신 대상과 인증 정보 처리를 확인하세요.