Hoe u LocalGPT instelt op Windows voor beginners

Als u niet wilt betalen voor een LLM of uw gegevens veilig wilt houden, u zou LocalGPT moeten opzetten . Hiermee kunt u volledige controle hebben over hoe de AI gegevens werkt en verwerkt. Het zorgt ook voor privacy, omdat alle gegevens op uw lokale systeem blijven in plaats van naar externe servers te worden verzonden.

Stel lokale GPT in op Windows PC

Localgpt is een open-source tool geïnspireerd door privégpt , ontworpen om Large Language Models (LLMS) lokaal op gebruikersapparaten uit te voeren voor privégebruik. In tegenstelling tot PrivateGPT, dat uitsluitend afhankelijk is van CPU -uitvoering, ondersteunt LocalGPT hardware -versnelling via GPU's voor betere prestaties en verminderde latentie. In plaats van het GPT-4All-model en LLAMAEMBEDDINGS, die behoorlijk flink zijn, gebruikt LocalGPT Vicuna-7B LLM en instructorembeddings. Het werkt met modellen zoals Blenderbot en Wizardlm-7B waardoor we modellen kunnen ruilen op basis van specifieke behoeften. De hele pijplijn werkt lokaal en zorgt voor gegevensprivacy, terwijl ze geavanceerde NLP -mogelijkheden leveren zonder externe API -afhankelijkheid, waardoor het een perfecte kandidaat is voor een lokaal bediende AI -modus.

In deze gids zullen we lokale GPT op Windows instellen. U kunt de onderstaande stappen volgen.

1. Download en installeer miniconda
2. Installeer LocalGPT -repository
3. Installeer afhankelijkheden
4. Run LocalGPT

Laten we ze in detail bespreken.

android bestandsoverdracht windows 10

1] Download en installeer miniconda

Miniconda is een lichtgewicht distributie van de Conda -pakketmanager, ontworpen om snel Python -omgevingen op te zetten. Het biedt alleen de benodigdheden, waardoor gebruikers hun installaties kunnen aanpassen door specifieke pakketten toe te voegen als dat nodig is. Ga naar Anaconda.com om het te downloaden, ga naar beneden, ga naar Miniconda -installateurs,  en download het vervolgens voor Windows, want deze handleiding is voor Windows.

Voer nu het installateur uit en volg de instructies op het scherm om het installatieproces te voltooien, zorg er echter voor dat wanneer u op de  Geavanceerde installatie -opties,  Vink alle vakjes aan en voltooi ten slotte de installatie.

Zoek om te controleren of het is geïnstalleerd of niet, zoek  'Anaconda prompt'  in het startmenu en open de CLI. Nu kunt u de conda -lijst Om te bevestigen dat het is geïnstalleerd.

2] LocalGPT -repository installeren

Nu moeten we de LocalGPT -repository installeren, wordt door de snelle ingenieur gehost op GitHub. We kunnen het vanaf daar krijgen. Om dit te doen, navigeer naar github.com . U kunt de pagina doorlopen voor meer informatie over de localgpt en om deze te installeren, moet u op klikken  Code> Zip downloaden.  Zodra het zip -bestand is gedownload, gaat u naar de  Downloaden  Map, klik met de rechtermuisknop op het zip-bestand, selecteer Uittreksel, Stel een locatie in waar u het bestand wilt extraheren en het proces wilt voltooien. Open de geëxtraheerde map, erin staat u een map met de naam Localgpt-Main. Alleen al omwille van de eenvoud plakken we de map op de desktop en noemen het deze 'LGPT'.

3] Installeer afhankelijkheden

kan niet inloggen op Windows 10

Nu moeten we een virtuele omgeving creëren waar we alle afhankelijkheden gaan installeren. Open de  'Anaconda prompt'  in het startmenu en voer de volgende opdrachten uit.

Opmerking: vervang de variabele 'omgevingsnaam' door elke naam van uw keuze.

Als het u vraagt ​​om een ​​pakket te downloaden, geef dan uw toestemming en ga verder.

Nu moeten we het pakket installeren dat we eerder hebben gedownload. Om dit te doen, moet u eerst naar de map navigeren met behulp van de volgende opdrachten.

cd LGPT

In plaats van alle componenten één voor één te installeren, kunnen we de volgende opdracht gebruiken om ze allemaal tegelijk te installeren.

pip install -r requirements.txt

U kunt twee fouten tegenkomen.

• Importeer Torch ModulenotFounderror:  Loop PIP Installeer Torch Torchvision Torchaudio  en voer vervolgens het bovengenoemde opdracht uit.
• Microsoft C ++ is vereist:  Klik op de genoemde URL en download Visual Studio door op te klikken  Download build -tools,  Zodra Visual Studio open is, moet u de tools doorlopen die u niet hebt en ze downloaden.

Nadat u het probleem hebt opgelost, voert u de opdracht Installer opnieuw uit en gaat u eenmaal geïnstalleerd door naar de volgende stap.

4] RUN LOCALGPT

Allereerst moet u de Python -inname uitvoeren, wat betekent dat het importeren van gegevens uit de brondocumenten, het verwerken van uw documenten en het opslaan van hun inbeddings in een vectordatabase (Chroma DB). Om dit te doen, moet u de volgende opdracht uitvoeren.

We raden u aan om het CPU -gebruik in de gaten te houden met behulp van de taakbeheerder.

Nu, een CCESS het constanten.py -bestand in uw LocalGPT -directory. Schakel het LLAMA 3 -model uit door een opmerking aan zijn lijn toe te voegen en activeer het LLAMA 2 -model (7B -parameters) door de opmerking uit de lijn te verwijderen.

Eenmaal klaar, moet u de LocalGPT uitvoeren met de volgende opdracht.

python run_local_gpt.py

Als u een fout tegenkomt die dat zegt oproepen  ontbreekt, rennen  PIP Installeer Call-CPP-Python.

Hopelijk kunt u lokaal LocalGPT op uw computer uitvoeren met behulp van deze handleiding.

Lezen: Hoe Pertlexity AI te gebruiken voor onderzoek

Hoe installeer ik PrivateGPT op Windows?

Installeer eerst Python en een pakketmanager als Conda om privateGPT op Windows te installeren. Kloon vervolgens de privateGPT -repository en zet een virtuele omgeving op. Vervolgens moet u afhankelijkheden installeren met behulp van poëzie of PIP. Download een compatibel taalmodel. Ten slotte moet u omgevingsvariabelen configureren, documenten innemen en de applicatie uitvoeren om uw gegevens lokaal te vragen.

Lezen:  Hoe je deepseek lokaal kunt rennen op Windows 11

Hoe WSL in te stellen op Windows?

Naar Stel WSL in op Windows , open PowerShell als beheerder en run wsl –stall . Dit maakt WSL mogelijk, installeert de Linux -kernel en stelt WSL 2 in als standaard. Start uw computer opnieuw op en kies vervolgens een Linux -distributie om te installeren. Start de distributie, stel een gebruikersnaam en wachtwoord in en u bent klaar om Linux op Windows te gebruiken.

Lees ook:  Voer chatgpt -kloon lokaal op de computer uit met GPT4ALL .

kde pdf-viewer