Instructions to use Vikhrmodels/Borealis with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Libraries
- Transformers
How to use Vikhrmodels/Borealis with Transformers:
# Use a pipeline as a high-level helper from transformers import pipeline pipe = pipeline("automatic-speech-recognition", model="Vikhrmodels/Borealis", trust_remote_code=True)# Load model directly from transformers import AutoModelForCausalLM model = AutoModelForCausalLM.from_pretrained("Vikhrmodels/Borealis", trust_remote_code=True, dtype="auto") - Notebooks
- Google Colab
- Kaggle
Портативная версия Vikhr Borealis под Windows Nvidia GPU
#7
by nerualdreming - opened
Всем привет, собрал портативную версию с удобным установщиком для модели Vikhr Borealis под Windows, протестировал на 4090.
Скачивать тут: https://t.me/neuroport/444
Будет хорошо, если кто-то превратит в hf спейс.
