Hogyan lehet beállítani a LocalGPT -t a kezdőknek a Windows -on

Ha nem akarja fizetni az LLM -t, vagy biztonságban szeretné tartani az adatait, akkor be kell állítania a LocalGPT -t - Ez lehetővé teszi, hogy teljes mértékben ellenőrizze az AI működését és feldolgozását. Ez biztosítja a magánélet védelmét is, mivel minden adat a helyi rendszeren marad, ahelyett, hogy külső kiszolgálókra küldenék.

Állítsa be a helyi GPT -t a Windows PC -n

A LocalGPT egy nyílt forráskódú eszköz, amelyet a privegatpt , úgy tervezték, hogy nagy nyelvi modelleket (LLM -eket) használjon a felhasználói eszközökön magánhasználat céljából. A Privategpt -rel ellentétben, amely kizárólag a CPU végrehajtására támaszkodik, a LocalGPT támogatja a hardvergyorsítást a GPU -n keresztül a jobb teljesítmény és a csökkentett késés érdekében. A GPT-4All modell és a LlamaMeddings helyett, amelyek elég izmosak, a LocalGPT a Vicuna-7B LLM-et és az IctortoreMdings-et használja. Olyan modellekkel működik, mint a BlenderBot és a WizardLM-7B, lehetővé téve számunkra, hogy a modelleket konkrét igények alapján cseréljük. A teljes csővezeték helyben működik, biztosítva az adatvédelmet, miközben a fejlett NLP -képességeket külső API -bizalom nélkül biztosítja, így tökéletes jelölt egy helyben működtetett AI módra.

Ebben az útmutatóban beállítjuk a helyi GPT -t a Windows -on. Az alábbiakban említett lépéseket követheti.

1. Töltse le és telepítse a miniconda -t
2. Telepítse a LocalGPT tárolóját
3. Telepítési függőségek
4. Futtassa a LocalGPT -t

Beszéljük meg részletesen.

hogyan lehet eltávolítani a bootcampot

1] Töltse le és telepítse a Miniconda -t

A Miniconda a Conda csomagkezelő könnyű terjesztése, amelynek célja a Python környezetek gyors beállítása. Csak az alapvető eszközöket biztosítja, lehetővé téve a felhasználók számára, hogy testreszabhassák a telepítésüket, ha szükség szerint konkrét csomagokat adnak hozzá. A letöltéshez látogasson el az anaconda.com webhelyre, görgessen le, lépjen a következő oldalra Miniconda telepítők,  majd töltse le a Windows számára, mivel ez az útmutató a Windows számára.

Most futtassa a telepítőt, és kövesse a képernyőn megjelenő utasításokat a telepítési folyamat befejezéséhez azonban ellenőrizze, hogy amikor a  Speciális telepítési lehetőségek,  Jelölje be az összes dobozt, és végül töltse ki a telepítést.

Keresse meg, hogy ellenőrizze, hogy telepítve van -e vagy sem  „Anaconda prompt”  A Start menüben és nyissa meg a CLI -t. Most futtathatja a konda lista Csak annak megerősítésére, hogy telepítve van.

2] Telepítse a LocalGPT tárolóját

Most telepítenünk kell a LocalGPT lerakatot a GitHub -on a Prompt Engineer. Onnan megszerezhetjük. Ehhez navigáljon github.com - Megjuthat az oldalon, hogy többet megtudjon a LocalGPT -ről, és telepítse azt  Kód> Zip letöltése.  Miután a ZIP fájlt letöltötte, lépjen a  Letöltés  Mappát kattintson a jobb gombbal a ZIP fájlra, válassza az Extract lehetőséget, állítson be egy olyan helyet, ahol ki akarja vonni a fájlt, és befejezze a folyamatot. Nyissa meg a kibontott mappát, benne egy mappát, amelyet Localgpt-Main. Csak az egyszerűség kedvéért beillesztjük a mappát az asztalra, és elnevezzük 'LGPT'.

3] Telepítési függőségek

Most egy virtuális környezetet kell létrehoznunk, ahol telepítjük az összes függőséget. Ehhez nyissa meg a  „Anaconda prompt”  A Start menüből, és futtassa a következő parancsokat.

a feladatkezelő nem válaszol

MEGJEGYZÉS: Cserélje ki a „Environment_name” változót bármilyen választott névre.

Ha azt kéri, hogy töltsön le bármilyen csomagot, kérjük, adja meg az egyetértést, és folytassa.

Most telepítenünk kell a csomagot, amelyet korábban letöltöttünk. Ehhez először a következő parancsok segítségével kell navigálni a könyvtárba.

cd LGPT

Ahelyett, hogy az összes alkatrészt egyenként telepítenénk, a következő parancsot használhatjuk egyszerre telepíteni.

geforce tapasztalat valami rosszul esett

pip install -r requirements.txt

Két hibát tapasztalhat.

• Import Torch ModulenOntFoundError:  Fut Pip Install Torch Torchvision Torchaudio  majd futtassa a fent említett parancsot.
• A Microsoft C ++ szükséges:  Kattintson az említett URL -re, és töltse le a Visual Studio -t kattintással  Töltse le a Build Eszközöket,  Miután a Visual Studio nyitva van, át kell mennie az eszközökön, amelyek még nem rendelkeznek, és letöltenie kell őket.

A probléma megoldása után futtassa újra a telepítő parancsot, és a telepítés után lépjen tovább a következő lépéshez.

4] Futtassa a LocalGPT -t

Mindenekelőtt a Python lenyelést kell futtatnia, ami azt jelenti, hogy adatokat importál a forrásdokumentumokból, feldolgozza a dokumentumokat, és beágyazásaikat egy vektor -adatbázisban (Chroma DB) tárolja. Ehhez a következő parancsot kell végrehajtania.

Javasoljuk, hogy tartsa szemmel a CPU használatát a feladatkezelő használatával.

Most a CCess az állandók.py fájlt a localgpt könyvtárban. Tiltsa le a Llama 3 modellt egy megjegyzés hozzáadásával a vonalához, és aktiválja a Llama 2 modellt (7B paraméterek) azáltal, hogy eltávolítja a megjegyzést a sorából.

Miután elkészült, a LocalGPT -t a következő paranccsal kell futtatnia.

python run_local_gpt.py

Ha hibát tapasztal, hogy ezt állítja hívás  Hiányzik, futtasson  PIP telepítse a CALL-CPP-PYTHON-t.

Remélhetőleg ezen útmutató segítségével képes lesz helyben futtatni a LocalGPT -t a számítógépen.

Olvas: Hogyan lehet használni a zavarosság AI -t kutatáshoz

bing beállítások oldal

Hogyan telepítsük a Privategpt -t a Windows -on?

A Privategpt Windows telepítéséhez először telepítse a Python -ot és egy olyan csomagkezelőt, mint a Conda. Ezután klónozza a Privategpt tárolóját, és állítson be egy virtuális környezetet. Ezután telepítenie kell a függőségeket költészet vagy pip segítségével. Töltse le egy kompatibilis nyelvi modellt. Végül konfigurálnia kell a környezeti változókat, be kell szereznie a dokumentumokat, és futtatnia kell az alkalmazást az adatok helyben történő lekérdezéséhez.

Olvas:  Hogyan lehet a mélyöség helyben futtatni a Windows 11 -en

Hogyan lehet beállítani a WSL -t a Windows -on?

-Hoz Állítsa be a WSL -t a Windows -on , Nyissa meg a PowerShell -t adminisztrátorként és futtasson WSL –Install - Ez lehetővé teszi a WSL -t, telepíti a Linux kernelt, és alapértelmezettként állítja be a WSL 2 -t. Indítsa újra a számítógépet, majd válasszon egy Linux eloszlást a telepítéshez. Indítsa el a terjesztést, állítson be felhasználónevet és jelszót, és készen áll a Linux használatára a Windows rendszeren.

Olvassa el még:  Futtassa a chatgpt klónt helyben a számítógépen a GPT4All használatával -