Acesta este un proiect Node.js care utilizează mai multe dependențe pentru a crea o aplicație web complet funcțională.
Pentru a instala dependențele necesare pentru acest proiect, utilizați următoarele comenzi:
npm install bootstrap dotenv ejs express express-session morgan
npm install --save-dev nodemon
Acest proiect utilizează PyTorch pentru procesarea datelor. Instalați PyTorch și dependențele asociate în funcție de platforma dvs.:
pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu121
pip3 install torch torchvision torchaudio
Personal nu dispun de o placă video capabilă nici de ROCm, nici de CUDA, așa că a trebuit să rulez modelul pe procesor. Acest lucru a însemnat că orice prompt primește un răspuns după ore întregi de procesare. Testarea părții AI mi-a fost aproape imposibilă.
pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/rocm6.0
De asemenea, modelul meta-llama/Meta-Llama-3-8B-Instruct
trebuie să se afle la locația ~/.cache/huggingface/hub
.
Pentru a porni serverul de dezvoltare, utilizați următoarea comandă:
npm run server
Aceasta va porni serverul folosind nodemon, care va reîncărca automat aplicația de fiecare dată când sunt detectate modificări în cod.
- Clonați repository-ul proiectului.
- Instalați dependențele NPM și Python conform instrucțiunilor de mai sus.
- Configurați fișierul
.env
cu setările necesare pentru aplicația dvs. - Rulați scriptul
npm run server
pentru a porni serverul de dezvoltare. - Accesați aplicația în browser-ul dvs. la adresa
http://localhost:3000
.