LM stúdió egy olyan eszköz, amely lehetővé teszi Futtassa a helyi nagy nyelvi modelleket (LLM) a számítógépén. Az egyik legjobb dolog ebben a segédprogramban az, hogy lehetővé teszi a modellek helyben történő futtatását a maximális magánélet biztosítása érdekében. Ebben az útmutatóban megyünk Konfigurálja az LM Studio -t több AI használatához offline PC -n, Tehát, ha érdekli, folytassa az olvasást.
Konfigurálja az LM Studio -t több AI használatához offline PC -n
LM stúdió Lehetővé teszi a nagy nyelvi modellek letöltését és futtatását a számítógépen anélkül, hogy az internetre lenne szükség. Segít az adatainak privátnak tartásában azáltal, hogy mindent helyben feldolgoz. Ezzel több AI modellt használhat olyan feladatokhoz, mint a tartalom létrehozása és az adatok elemzése. Ha azt szeretné, hogy az LM Studio több AI -t használjon offline PC -n, kövesse az alábbiakban említett lépéseket.
- Telepítse az LM Studio -t
- Telepítse több modellt
- Kezdje el a modell használatát
Beszéljük meg részletesen.
1] Telepítse az LM Studio -t
Mindenekelőtt az LM Studio eszközt be kell szereznünk a hivatalos weboldalukról. Tehát ehhez mennie kell lmstudio.ai - Mivel a Windows -t használom, kiválasztom Töltse le az LM Studio -t a Windows számára, De a platformjától függően le kell töltenie az LM Studio verziót. Miután elkészült, ez kiváltja a tisztelt EXE fájl letöltését.
Az LM Studio telepítési média letöltése után kattintson duplán rá, majd válassza ki azt a felhasználót, amelyhez telepíteni kívánja az alkalmazást. Ha az összes felhasználó számára telepíteni szeretné, akkor adminisztrátori hozzáférésre van szüksége, mivel az UAC prompt kap. Mivel hozzáférésem van, ezt megtettem, majd kiválasztottam a mappát, és végül elindítottam az alkalmazást.
2] Több modell telepítése
eltávolító eszköztár
Miután elindította az LM stúdiót, a rendszer kéri, hogy töltse le az első LLM modelleket, kattintson Szerezd meg az első LLM -et, majd töltse le a javasolt modellt. Abban az esetben, ha kiválasztja a saját modelljét, kattintson Ugrás a beszállásra.
Bármely LLM modell letöltéséhez kattintson a Fedezze fel (nagyító) ikon. Most keresse meg a letölteni kívánt modellt. Az egyik legjobb dolog az LM stúdióban az a tény, hogy ellenőrzi a rendszer részleteit, és megmondja, hogy a modell túl nagy a gépéhez. Például a DeepSeek Coder V2 Lite túl nagy a készülékemhez, míg Hívja a 3.2 1B telefonszámot simán fog futni.
Miután megtudta, melyik modell fog működni a gépén, kattintson a Letöltés ikon, és hagyja, hogy letöltse a modellt. A hálózati sávszélességtől függően egy ideig eltarthat.
Ez letölti az LLM modellt a futási idővel együtt. Ha azonban egy másik modellre szeretne frissíteni, akkor az én esetemben, mondjuk, szerettem volna telepíteni a cpu llama.cpp-t, mivel nincs erős GPU-m, és a GPU-gyorsulás nem olyan, amit a gépem képes kezelni, Elmentem a Futásidő fül, és kattintson a gombra Frissít gomb a futásidejű modell mellett.
A letöltés érdekében Egy másik modell, El kell mennie a Felfedez Ismét gomb, keresse meg a letölteni kívánt modellt. Ezután kattintson a Letöltés ehhez kapcsolódó gomb. Várjon néhány percet, amikor letölti a modelljét. Miután letöltötte, elmehet a Futásidő Töltse le a frissítéseket, ha rendelkezésre áll, és ha szükséges, és akkor csak annyit kell tennie, hogy kattintson Terhelési modellek. Ezzel elindítja a modell szerverét a számítógépen.
Megjegyzés: Ha a modell elindítása nélkül bezárta a Discover Prompt -ot, lépjen a képernyő bal alsó sarkából a letöltési ikonra, majd válassza a modellhez társított betöltési modell lehetőséget.
A Windows 10 lefagy a bejelentkezési képernyőn
3] Kezdje el a modell használatát
A modellek letöltése után csak annyit kell tennie, hogy elindul a csevegő ikonra. Ezután nézd meg az ablak tetejét, és látni fogja az összes modelljét, kattintson a Modell hogy ki akarja választani.
Használása előtt akár megváltoztathatja a modell preferenciáit. Ehhez kattintson a modell melletti oldalsó nyílra, majd módosítsa a beállításokat, például GPU kirakodás, CPU szálkészlet mérete, kontextus hossza, és egyéb lehetőségek. Miután elkészült, kattintson csak kattintson Terhelési modell.
Miután a modell betöltötte, lépjen a chatbotba, és kezdje el beszélgetni az AI modellel. Ne felejtse el megjegyezni a RAM és a CPU számát az ablak jobb alsó sarkában.
Remélhetőleg ezen útmutató segítségével több LLM modellt futtathat az LM Studio -ban. Vannak azonban más Eszközök az LLM helyben történő futtatásához, Nézd meg őket is.
Olvas: Az MSTY LLM a Windows számára biztonságos? Hogyan kell telepíteni?
Az LM Studio offline állapotban dolgozik?
Igen, LM stúdió offline állapotban dolgozik. Miután letöltötte a szükséges modelleket és a futási időket, teljes egészében internetkapcsolat nélkül használhatja. Az összes feldolgozást helyben végezzük a gépen, biztosítva, hogy az adatok magántulajdonban maradjanak.
Olvas: Hozzon létre AI -szereket LLMS Claude, Copilot, Chatgpt, Ikrek használatával
a Windows 10 visszaállítja az engedélyeket
Mennyi RAM -ra van szükségem az LM stúdióhoz?
Az LM Studio minden modelljének eltérő RAM -követelményei vannak. Javasoljuk azonban, hogy legalább 16 GB RAM -ot kapjon, ha bármilyen modellt kíván futtatni problémák nélkül. Ezenkívül, ha képes hozzáadni egy GPU -t, akkor ezt is megteszi.
Olvassa el még: Futtassa a QWEN AI -t helyben a Windows 11 -en -
