Kako Konfigurisati LM Studio za Pristup Internetu i Ekstrakciju Podataka

Table of Contents

1. Ključne Tačke
2. Uvod
3. Šta je MCP Server?
4. Kako Izraditi MCP Server za Ekstrakciju Teksta
5. Registracija MCP Servera u LM Studiju
6. Dodatni MCP Server za Pretraživanje Mreže
7. Korištenje Novih Internet Alata u LM Studiju
8. Često Postavljana Pitanja (FAQ)

Ključne Tačke

• LM Studio omogućava rad sa lokalnim AI modelima uz dodatak internet pristupa putem MCP servera.
• Postupak za kreiranje MCP servera uključuje pisanje koda za ekstrakciju teksta i linkova sa URL-ova.
• Korištenjem integracija, lokalni modeli mogu pretraživati mrežu i obezbjediti ažurirane informacije.

Uvod

U svijetu umjetne inteligencije, alati koji omogućavaju lokalnu obradu podataka postaju sve popularniji. LM Studio se ističe kao platforma koja omogućava korisnicima da pokreću snažne AI modele direktno na svojim mašinama, čime se osigurava privatnost prilikom interakcije. Međutim, jedan od glavnih izazova sa lokalnim modelima je nemogućnost pristupa ažurnim informacijama ili podacima sa interneta. Ovaj problem se riješava uz pomoć MCP servera (Model Context Protocol), koji omogućava lokalnim modelima da pristupaju internetu i izvode zadatke kao što su ekstrakcija teksta i pretraživanje web stranica. U ovom članku ćemo detaljno istražiti kako možete konfigurisati LM Studio za korištenje ovog dodatnog kapaciteta.

Šta je MCP Server?

MCP server predstavlja dodatni alat koji proširuje funkcionalnost lokalnih AI modela. Ovaj server omogućava modelima da komuniciraju sa vanjskim resursima, uključujući internet, i da dobijaju ažurirane informacije. To znači da, umjesto da se oslanjate isključivo na statičke podatke, možete omogućiti vašem modelu da pretražuje mrežu i izvodi razne zadatke u stvarnom vremenu.

Kako Izraditi MCP Server za Ekstrakciju Teksta

Prvi korak u postavljanju MCP servera je kreiranje potrebnih datoteka i instalacija potrebnih biblioteka. U nastavku su koraci koje trebate slijediti:

1. Izrada pyproject.toml datoteke: Otvorite novi folder, nazovite ga mcp-server, i unutar njega kreirajte datoteku pyproject.toml sa sljedećim sadržajem:

   [build-system]
   requires = ["setuptools>=42", "wheel"]
   build-backend = "setuptools.build_meta"
   
   [project]
   name = "url-text-fetcher"
   version = "0.1.0"
   description = "FastMCP server for URL text fetching"
   authors = [{ name="Evgeny Igumnov", email="[email protected]" }]
   dependencies = [
     "fastmcp",
     "requests",
     "beautifulsoup4",
   ]
   
   [project.scripts]
   url-text-fetcher = "url_text_fetcher.mcp_server:main"
   

2. Kreiranje mcp_server.py: U folderu mcp-server/url_text_fetcher, kreirajte datoteku mcp_server.py sa sljedećim kodom:

   from mcp.server.fastmcp import FastMCP
   import requests
   from bs4 import BeautifulSoup
   from typing import List
   
   mcp = FastMCP("URL Text Fetcher")
   
   @mcp.tool()
   def fetch_url_text(url: str) -> str:
       """Preuzmite sav vidljivi tekst sa URL-a."""
       resp = requests.get(url, timeout=10)
       resp.raise_for_status()
       soup = BeautifulSoup(resp.text, "html.parser")
       return soup.get_text(separator="\n", strip=True)
   
   @mcp.tool()
   def fetch_page_links(url: str) -> List[str]:
       """Vraća listu svih linkova na stranici."""
       resp = requests.get(url, timeout=10)
       resp.raise_for_status()
       soup = BeautifulSoup(resp.text, "html.parser")
       return [a['href'] for a in soup.find_all('a', href=True)]
   
   def main():
       mcp.run()
   
   if __name__ == "__main__":
       main()
   

3. Instalacija MCP servera: Nakon što ste kreirali potrebne datoteke, instalirajte svoj MCP server lokalno:

   pip install -e .
   

Registracija MCP Servera u LM Studiju

Nakon što ste kreirali i instalirali svoj MCP server, sljedeći korak je registracija u LM Studiju:

1. Otvorite LM Studio i potražite sekciju “Integracije” na dnu chat prozora.
2. Kliknite na “Instaliraj” i zatim “Uredi mcp.json”.
3. Dodajte svoj novi MCP server u JSON datoteku ovako:

   {
     "mcpServers": {
       "url-text-fetcher": {
         "command": "python",
         "args": [
           "-m",
           "url_text_fetcher.mcp_server"
         ]
       }
     }
   }
   

Dodatni MCP Server za Pretraživanje Mreže

LM Studio također podržava gotove MCP servere, poput onog za Brave Search, koji omogućava vašem lokalnom modelu da aktivno pretražuje internet za odgovore.

1. Provjerite imate li instaliran npx (dolazi s Node.js), a zatim instalirajte:

   npm i -D @modelcontextprotocol/server-brave-search
   

2. Dodajte ga u vaš mcp.json:

   {
     "mcpServers": {
       "brave-search": {
         "command": "npx",
         "args": [
           "-y",
           "@modelcontextprotocol/server-brave-search"
         ],
         "env": {
           "BRAVE_API_KEY": "ovdje_dodajte_svoj_API_KLJUČ"
         }
       },
       "url-text-fetcher": {
         "command": "python",
         "args": [
           "-m",
           "url_text_fetcher.mcp_server"
         ]
       }
     }
   }
   

Korištenje Novih Internet Alata u LM Studiju

Kada su vaši MCP serveri konfigurisani, jednostavno idite na sekciju “Integracije” u LM Studiju i odaberite svoj server:

• mcp/url-text-fetcher (za preuzimanje teksta ili linkova sa URL-a)
• mcp/brave-search (za pretraživanje mreže)

Sada imate lokalni LLM koji može pretraživati internet, ekstraktovati sadržaj i odgovarati na pitanja sa ažurnim informacijama, dok istovremeno održavate potpunu kontrolu i privatnost.

Često Postavljana Pitanja (FAQ)

1. Šta je LM Studio?
LM Studio je platforma koja omogućava korisnicima da pokreću lokalne AI modele, pružajući im maksimalnu privatnost i kontrolu nad podacima.

2. Kako MCP serveri funkcionišu?
MCP serveri omogućavaju lokalnim AI modelima da pristupaju vanjskim resursima, uključujući internet, čime se proširuju njihove mogućnosti.

3. Da li je potrebno imati posebno znanje za postavljanje MCP servera?
Osnovno poznavanje programiranja, posebno u Pythonu, može biti korisno, ali uz prateće upute, većina korisnika može uspješno postaviti server.

4. Mogu li koristiti LM Studio bez internet pristupa?
Da, LM Studio može raditi lokalno bez internet veze, ali u tom slučaju modeli neće imati pristup ažuriranim informacijama.

5. Gdje mogu pronaći dodatne resurse za LM Studio?
Posjetite zvaničnu stranicu LM Studija ili istražite online zajednice i forume posvećene AI i lokalnim modelima.