# Запуск моделі ШІ, Dobby, проекту Sentient на Windows

By [o7xabz](https://paragraph.com/@o7xabz) · 2025-02-01

---

![](https://storage.googleapis.com/papyrus_images/4b406de94048cafed20b096b8f7ce5c65f45a6647dcb54e66112e3daaa128404.jpg)

**Привіт!** Сьогодні ми поговоримо про те, як правильно розгорнути модель штучного інтелекту **Dobby** локально на **Windows.**

Про проект, я писав [тут](https://t.me/abzalliance/417), [тут](https://t.me/abzalliance/440), [тут](https://x.com/o7xabz/status/1882436356682793312). Не буду ще раз це саме повторювати.

Перейдемо **до гайду:**

1\. Завантаження моделі
-----------------------

Перейдіть на сайт [HuggingFace](https://huggingface.co/).

> _Якщо у вас немає_ **_облікового запису_**_, створіть його._

Зайдіть на [сторінку Sentient.](https://huggingface.co/SentientAGI)

![](https://storage.googleapis.com/papyrus_images/3f9ba797f7ce0bf26900353ad9664c71afe829085e3e17fa6416497673a06804.png)

Перейдіть **до моделей:**

![](https://storage.googleapis.com/papyrus_images/61a08104d323f9cf3270dd7f106a7271c81f47fff4fc5048f692e06e3262e09e.png)

Нажимаємо **на неї:**

![](https://storage.googleapis.com/papyrus_images/7b038ee6678f6d0c3a8a5323297a7f706464701d6964f99753b723fd2f6a90bb.png)

Переходимо на сторінку "Files and versions".

![](https://storage.googleapis.com/papyrus_images/a8be17f4cb54d70bef14d4e5bcc1b0b94e3ebde3f459437ca88c49623257c02b.png)

Перед цим створіть у себе на ПК теку `dobby_model` і завантажте туди обрану **модель.**

2\. Встановлення Ollama
-----------------------

`Ollama` – це інструмент (програма) для запуску локальних моделей.

Завантажте та встановіть її за цим [посиланням.](https://ollama.com/) Після встановлення запустіть програму — вона відкриється в **PowerShell.** Додаток автоматично запропонує наступну команду для встановлення. Якщо цього не станеться, перегляньте [деталі інсталяції.](https://github.com/ollama/ollama?tab=readme-ov-file)

![](https://storage.googleapis.com/papyrus_images/a1be8fa5f36a18a432c0c0d3e80c1c55c331eaca18031d54b97e66b108b561b9.png)

3\. Створіть файл, “**Modelfile**“
----------------------------------

`Modelfile` – це простий файл, який вказує Ollama, звідки брати вашу модель.

Для цього відкрийте будь-який текстовий редактор (я використовую [Notepad++](https://notepad-plus-plus.org/downloads/)), створіть файл `Modelfile` без розширення **.txt** та збережіть його в тій самій теці, де знаходиться **ваша модель.**

Впишіть у файл наступний рядок і **збережіть** зміни:

    FROM ./dobby-8b-unhinged-q4_k_m.gguf
    

![](https://storage.googleapis.com/papyrus_images/6255facaa6d9236194969a97e0edce184fbfeac5fee252fd9b94d1ce8e5b21f0.png)

4\. Запуск моделі
-----------------

Коли **Modelfile** готовий, перейдіть за допомогою консолі в теку де находиться модель та файл, **наприклад:**

    cd D:\dobby_model
    

Введіть таку команду:

     ollama create dobby-unhinged -f Modelfile
    

`dobby-unhinged` – це ім’я, яке ви даєте моделі (можна обрати будь-яке, головне потім використовувати так само).

`-f Modelfile` вказує, що беремо інструкції з вашого Modelfile.

> _Після виконання цієї команди Ollama «збере» внутрішню базу даних про модель. Це може зайняти деякий час, залежно від розміру файлу та потужності вашого комп’ютера._

Тепер, коли модель «створена», можна її запустити:

    ollama run dobby-unhinged
    

> `dobby-unhinged` – це та сама назва, яку ви вказали на попередньому кроці.
> 
> Після цієї команди Ollama підготується й відкриє інтерфейс «запит-відповідь» у вашому терміналі (можливо, виглядатиме, як запрошення `>`, куди ви зможете щось ввести).

![](https://storage.googleapis.com/papyrus_images/f8363dd5f51d4249dfe559250c5e3bd4e7a2cbd4007c17fc38584a656ac31d0a.png)

також він знає і **українську мову:**

![](https://storage.googleapis.com/papyrus_images/4e356a190bb4136b3c947c821cf5be8fbcfc7d859c492c2f6ba3ca239b002a2f.png)

Гайд англіською мовою вийде на [Github.](https://github.com/abzalliance)

Якщо Вам було цікаво, **підписуйтесь,**

[https://x.com/o7xabz](https://x.com/o7xabz)

[https://t.me/abzalliance](https://t.me/abzalliance)

---

*Originally published on [o7xabz](https://paragraph.com/@o7xabz/dobby-sentient-windows)*