czy ktoś próbował swoich sił w uruchomieniu własnego modelu AI? Olama, ALpaca, może coś innego?
Jeśli chodzi ci o uruchomienie lokalnie AI, to zobacz sobie program LM Studio
https://lmstudio.ai/
Bardziej byłbym skłonny używać rozwiązan proponowanych tutaj:
https://github.com/n8n-io/self-hosted-ai-starter-kit