Hogyan telepíthető a LLaMA 3 Windows 11 PC-re?

A Llama 3 a Meta legújabb nagy nyelvű modellje. Különféle célokra használhatja, például kérdések megválaszolására, iskolai házi feladatokkal és projektekkel kapcsolatos segítségnyújtásra stb. Ha helyileg telepíti a Llama 3-at a Windows 11 rendszerű gépére, akkor bármikor, még internet-hozzáférés nélkül is használhatja. Ez a cikk megmutatja hogyan kell telepíteni a Llama 3-at Windows 11 PC-re .

A Llama 3 telepítése Windows 11 számítógépre

A Llama 3 telepítése Windows 11 rendszerű számítógépre Pythonon keresztül technikai készségeket és ismereteket igényel. Néhány alternatív módszer azonban lehetővé teszi a Llama 3 helyi telepítését a Windows 11 rendszerű gépen. Megmutatom ezeket a módszereket.

A Llama 3 Windows 11 rendszerű számítógépére történő telepítéséhez végre kell hajtania néhány parancsot a Parancssorban. Ez azonban csak a parancssori verzió használatát teszi lehetővé. További lépéseket kell tennie, ha használni szeretné a webes felhasználói felületet. Megmutatom mindkét módszert.

Telepítse a Llama 3-at Windows 11 PC-n a CMD-n keresztül

A Llama 3 Windows 11 rendszerű számítógépen történő üzembe helyezéséhez telepítenie kell az Ollamát a Windows rendszerű számítógépére. Ugyanennek a lépései a következők:

nem tudja mozgatni az asztali ikonokat a Windows 10

1. Látogatás Ollama hivatalos honlapja .
2. Kattintson a Letöltés gombot, majd válassza ki Windows .
3. Most kattintson a Letöltés Windowshoz gombot az exe fájl PC-re mentéséhez.
4. Futtassa az exe fájlt az Ollama telepítéséhez a gépére.

Miután az Ollama telepítve van az eszközére, indítsa újra a számítógépet. A háttérben kell futnia. A rendszertálcán láthatja. Most kattintson a Modellek lehetőségre az Ollama webhelyén. Látni fogja a különböző modelljeit.

A Llama 3.1 a következő három paraméterrel érhető el:

• 8B
• 70B
• 405B

Az utolsó a legnagyobb paraméter, és nyilvánvalóan nem futtatható alsó kategóriás PC-n. A Llama 3.2 a következő két paraméterrel rendelkezik:

• 1B
• 3B

Kattintson arra a Llama verzióra, amelyet telepíteni szeretne a számítógépére. Például, ha telepíteni szeretné a Llama 3.2-t, kattintson a Llama 3.2-re. A legördülő menüben kiválaszthatja a telepíteni kívánt paramétert. Ezután másolja ki a mellette lévő parancsot, és illessze be a parancssorba.

Az Ön kényelme érdekében mindkét parancsot a Llama 3.2 modellhez írtam. A Llama 3.2 3B modell telepítéséhez futtassa a következő parancsot:

ollama run llama3.2:3b

A Llama 3.2 1B modell telepítéséhez használja a következő parancsot:

ollama run llama3.2:1b

Nyissa meg a Parancssort, írja be a fent említett parancsok bármelyikét (az Ön igényeinek megfelelően), és nyomja meg a Enter . A szükséges fájlok letöltése eltart egy ideig. A letöltési idő az internetkapcsolat sebességétől is függ. A befejezés után látni fogja a siker üzenetet a Parancssorban.

Most írja be az üzenetet a Llama 3.2 modell használatához. Ha a Llama 3.1 modellt szeretné telepíteni, használja az Ollama webhelyén elérhető parancsokat.

Amikor legközelebb elindítja a Parancssort, használja ugyanazt a parancsot a Llama 3.1 vagy 3.2 futtatásához a számítógépen.

A Llama 3 CMD-n keresztüli telepítésének van egy hátránya. Nem menti el a csevegési előzményeket. Ha azonban telepíti a helyi gazdagépen, a csevegési előzmények mentésre kerülnek, és jobb felhasználói felületet kap. A következő módszer megmutatja, hogyan kell ezt megtenni.

Telepítse a Llama 3 webes felhasználói felületet a Windows 11 rendszeren

A Llama 3 webböngészőben való használata jobb felhasználói felületet biztosít, és a csevegési előzményeket is menti, mint a CMD ablakban. Megmutatom, hogyan telepítheti a Llama 3-at a böngészőjében.

A Llama 3 webböngészőben való használatához a Llama 3-tól az Ollamáig és a Docker-ig telepítve kell lennie a rendszerére. Ha még nem telepítette a Llama 3-at, telepítse az Ollama segítségével (a fent leírtak szerint). Most töltse le és telepítse a Dockert hivatalos weboldal .

A Docker telepítése után indítsa el, és regisztráljon a fiók létrehozásához. A Docker nem fog futni, amíg nem regisztrál. A regisztráció után jelentkezzen be fiókjába a Docker alkalmazásban. Minimalizálja a Dockert a tálcára. A Docker és az Ollama alkalmazásoknak a háttérben kell futniuk. Ellenkező esetben nem használhatja a Llama 3-at a böngészőjében.

nem tud csatlakozni az nvidia-hoz

Most nyissa meg a Parancssort, másolja ki a következő parancsot, és illessze be a parancssorba:

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

A fenti parancs végrehajtása eltart egy ideig, amíg letölti a szükséges erőforrásokat. Ezért legyen egy kis türelemmel. A parancs befejezése után nyissa meg a Dockert, és válassza ki a Konténerek szakaszt a bal oldalról. Látni fogja, hogy egy tároló automatikusan létrejön a 3000:8080 porttal.

Kattintson a 3000:8080 portra. Ezzel új lapot nyit meg az alapértelmezett webböngészőben. Most regisztráljon és jelentkezzen be a Llama 3 használatához a böngészőjében. Ha látja a címsort, látni fogja localhost:3000 ott, ami azt jelenti, hogy a Llama 3 helyileg a számítógépén található. Használhatja internetkapcsolat nélkül.

elrejteni a címsávot

Válassza ki a láma csevegési modelljét a legördülő menüből. Ha további csevegési modelleket szeretne hozzáadni a Llama 3-hoz, telepítse az Ollamán keresztül a szükséges parancsokkal. Ezt követően a modell automatikusan elérhető lesz a webböngészőjében.

Az összes csevegési előzménye elmentésre kerül, és a bal oldalon érhető el. Ha ki szeretne lépni, jelentkezzen ki a munkamenetből a webböngészőben. Ezután nyissa meg a Docker alkalmazást, és kattintson a Stop gombot a Docker leállításához. Most bezárhatja a Dockert.

Ha legközelebb a Llama 3-at szeretné használni a webböngészőben, indítsa el az Ollama és Docker alkalmazást, várjon néhány percet, majd kattintson a Docker-tárolóban lévő portra a localhost szerver megnyitásához a webböngészőben. Most jelentkezzen be fiókjába, és kezdje el használni a Llama 3-at.

Remélem ez segít.

A Llama 3 futhat Windows alatt?

A számítógép hardverkonfigurációjától függően futtathatja a Llama 3-at a rendszeren. 1B modellje a legkönnyebb. A parancssoron keresztül telepítheti és futtathatja a rendszerén.

Mennyi RAM-ra van szükségem a Llama 3-hoz?

A Llama 3 legkönnyebb modellje a Llama 3.2 1B. A rendszernek 16 GB RAM-mal kell rendelkeznie a Llama 3.2 1B modell futtatásához. Ezen túlmenően a rendszernek nagy teljesítményű GPU-val is rendelkeznie kell. A Llama 3 magasabb modelljei több rendszererőforrást igényelnek.

Olvassa el a következőt : A Leonardo Phoenix AI használata .