К содержимому

← Блог

19.06.2026 · обновлено 15.07.2026 · LLM, Vibe Coding, ИИ, сделай сам · 82 просмотра

Локальная LLM как кодинг-ассистент: ставим на Mac и пишем приложение

Облачные ассистенты вроде Claude или Copilot отправляют твой код на чужие серверы. Иногда это недопустимо: код закрытый, данные под NDA, или просто не хочется, чтобы он куда-то уходил. Альтернатива — локальная модель: и помощник по коду, и сам код полностью на твоём ноутбуке, наружу не уходит ничего. Это продолжение темы «что нельзя писать в чат с ИИ», только применительно к разработке.

Урок законченный: ставим движок и модель на Mac, подключаем к VS Code и пишем с её помощью небольшое рабочее приложение — проверялку доступности сервисов. Всё локально.

Проверено на MacBook Pro M1 с 32 ГБ памяти. Благодаря унифицированной памяти Apple Silicon модель грузится в общий пул без отдельной видеопамяти, и машина этого класса спокойно тянет модель на 14B в квантовании Q4 — этого размера достаточно для повседневной помощи по коду.

Что понадобится

  • Mac на Apple Silicon (здесь — M1, 32 ГБ).
  • VS Code.
  • Движок для запуска модели: Ollama (через терминал) или LM Studio (с графическим интерфейсом).
  • Расширение Continue для VS Code — оно связывает редактор с локальной моделью.

Часть 1. Установка

Движок, вариант А: Ollama (через терминал)

Ollama запускает модель и поднимает локальный API, к которому потом подключится редактор.

Установка (через Homebrew или установщик с ollama.com):

brew install ollama

После установки запускаем Ollama фоновой службой — она стартует сейчас и будет подниматься сама при входе в систему:

brew services start ollama

Скачиваем две модели — побольше для чата и правок, и маленькую быструю для автодополнения по ходу набора:

ollama pull qwen2.5-coder:14b
ollama pull qwen2.5-coder:1.5b

Модель 14B весит около 9 ГБ, поэтому первая загрузка идёт не быстро — в терминале виден прогресс со скоростью и оставшимся временем:

pulling manifest
pulling ac9bc7a69dab:   6% ▕███                              ▏ 553 MB/9.0 GB   23 MB/s   5m52s

Когда докачается, в конце появится строка success. Маленькая модель 1.5B скачается заметно быстрее.

Терминал macOS: установка Ollama через Homebrew и загрузка моделей qwen2.5-coder (14B и 1.5B) для локального кодинг-ассистента

Точные теги моделей сверяй на ollama.com/library — линейки обновляются, могут появиться более свежие версии Qwen Coder.

Проверяем, что модель отвечает:

ollama run qwen2.5-coder:14b

Вводим запрос прямо в приглашении — раз это ассистент для кода, сразу проверяем:

>>> напиши функцию на python, которая проверяет, доступен ли URL (вернуть True/False)

Получаем рабочий ответ:

import requests

def is_url_available(url):
    try:
        response = requests.get(url)
        if response.status_code == 200:
            return True
        else:
            return False
    except requests.exceptions.RequestException as e:
        print(f"Ошибка: {e}")
        return False

url = "https://www.google.com"
print(is_url_available(url))

Движок жив и отвечает осмысленно. Выйти из чата — команда /bye. Обрати внимание: таймаут к запросу модель не добавила — к этому вернёмся, когда будем писать приложение.

Ollama работает фоновой службой и держит локальный API на http://localhost:11434 — этот адрес понадобится для подключения редактора.

Движок, вариант Б: LM Studio (графический интерфейс)

Если терминал не по душе, то же самое делается мышкой. Скачиваем LM Studio с lmstudio.ai, устанавливаем. Внутри:

  1. Поиск модели по названию (например qwen2.5-coder), скачиваем нужный размер.
  2. Загружаем модель кнопкой.
  3. Открываем вкладку локального сервера и запускаем его — LM Studio поднимет совместимый API на http://localhost:1234.

Дальше подключение к редактору отличается только адресом и провайдером.

Расширение Continue в VS Code

Открываем VS Code, вкладку Extensions, ищем Continue, ставим. В боковой панели появится его значок.

VS Code: страница расширения Continue — открытого ИИ-агента для кода — в списке установленных расширений

Подключаем Continue к локальной модели

Открываем настройки Continue: палитра команд (Cmd+Shift+P) -> «Continue: Open Config». Откроется файл ~/.continue/config.yaml. Прописываем две модели — чат и автодополнение.

Для Ollama:

name: Локальный ассистент
version: 1.0.0
schema: v1
models:
  - name: Qwen2.5 Coder 14B
    provider: ollama
    model: qwen2.5-coder:14b
    apiBase: http://localhost:11434
    roles: [chat, edit, apply]
  - name: Qwen2.5 Coder 1.5B
    provider: ollama
    model: qwen2.5-coder:1.5b
    apiBase: http://localhost:11434
    roles: [autocomplete]

Если выбрал LM Studio, у модели чата меняются две строки:

    provider: lmstudio
    apiBase: http://localhost:1234/v1

Зачем две модели: автодополнение должно срабатывать мгновенно по мере набора, поэтому на него ставят маленькую быструю модель (1.5B), а на осмысленный чат и правки — модель посильнее (14B).

Проверка, что всё связалось

Открываем любой файл (или создаем новый пустой), начинаем писать код — под курсором должны появляться серые подсказки автодополнения.

VS Code с Continue: чат с моделью Qwen2.5 Coder и автодополнение Python-кода прямо в редакторе

Открываем панель Continue, пишем в чат простой вопрос про код — должен ответить локальный 14B. Если подсказки и чат работают, связка готова, и дальше интернет уже не нужен.

Важный момент, на котором легко споткнуться: внизу панели Continue есть переключатель режима. Для вопросов и генерации кода выбирай Chat. В режиме Agent (автономное редактирование файлов с вызовом инструментов) локальные модели среднего размера часто путаются и вместо ответа выдают странный служебный JSON вида {"name": "...", "arguments": {...}}. Для нашей задачи агентный режим не нужен — переключись на Chat.


Часть 2. Пишем приложение — проверялку сервисов

Теперь собираем с помощью локальной модели небольшую утилиту на Python: на входе список адресов, на выходе отчёт — какой сервис жив, какой нет, и сколько отвечал. Полезно, чтобы быстро проверить, что сайты и сервисы на месте.

Замысел будем реализовывать через модель по шагам:

  1. Функция, которая проверяет один адрес: шлёт запрос, возвращает код ответа и время.
  2. Обработка ошибок: таймаут, недоступный хост — не должны ронять программу.
  3. Функция, которая проходит по списку адресов и собирает результаты.
  4. Вывод отчёта в читаемом виде.
  5. Простой тест к проверке одного адреса.

Готовим папку и окружение

Перед тем как писать и запускать код, создаём отдельную папку проекта и виртуальное окружение Python. Этот шаг легко пропустить, но именно на нём чаще всего застревают: современная macOS не разрешает ставить пакеты в системный Python (выдаёт ошибку externally-managed-environment), а на машине обычно несколько Python сразу, и пакеты из одного не видны другому. Виртуальное окружение снимает обе проблемы — это изолированный Python только для этого проекта.

mkdir ~/checker && cd ~/checker
python3 -m venv venv
source venv/bin/activate

После активации в начале строки терминала появляется (venv) — окружение включено. Ставим в него нужные библиотеки (в чистом окружении их ещё нет):

pip install requests pytest

Дальше файлы проекта (checker.py, test_checker.py) держим в этой папке, а команды запускаем с активированным окружением. Выйти из него потом — команда deactivate.

Шаг 1. Автодополнение

В новом файле checker.py начинаем писать сигнатуру и даём модели дописать тело по ходу набора:

import requests

def check_url(url, timeout=5):
    # проверяет один адрес, возвращает (код ответа, время в секундах)

Останавливаемся — и смотрим, что предложит серая подсказка автодополнения. Принять её — клавиша Tab.

Получаем (за несколько нажатий Tab маленькая модель дописала тело целиком):

import requests

def check_url(url, timeout=5):
    # проверяет один адрес, возвращает (код ответа, время в секундах)
    try:
        response = requests.get(url, timeout=timeout)
        return response.status_code, response.elapsed.total_seconds()
    except requests.RequestException as e:
        print(f"Error checking {url}: {e}")
        return None, None

Заметь: модель автодополнения сама добавила таймаут и измерение времени ответа — то, чего не хватало в первом ответе модели на проверке движка. Маленькая модель на 1.5B с таким локальным контекстом справляется уверенно.

Шаг 2. Чат: основная функция

Открываем панель Continue и отправляем промпт:

Напиши функцию на Python, которая принимает список URL и проверяет каждый: возвращает для каждого адрес, код ответа HTTP и время ответа в секундах. Используй библиотеку requests. Без пояснений, только код.

Получаем:

import requests
import time

def check_urls(urls):
    results = []
    for url in urls:
        start_time = time.time()
        try:
            response = requests.get(url)
            status_code = response.status_code
        except requests.exceptions.RequestException as e:
            status_code = str(e)
        end_time = time.time()
        response_time = end_time - start_time
        results.append((url, status_code, response_time))
    return results

Работает, но видны две небольшие проблемы: у запроса нет таймаута (зависший хост остановит всю проверку), а при ошибке текст исключения кладётся прямо в status_code — то есть в одном поле смешиваются то число, то строка. Ровно это исправим на следующем шаге.

Шаг 3. Чат: таймаут и обработка ошибок

Дорабатываем функцию через чат. Промпт:

Доработай функцию check_urls: добавь таймаут 5 секунд на каждый запрос, а при ошибке или таймауте помечай сервис как недоступный и продолжай проверять остальные. Верни список кортежей (адрес, статус, время ответа). Только код.

Над блоком кода в ответе жмём Insert Code — код аккуратно ложится в файл.

Получаем:

import requests
import time

def check_urls(urls):
    results = []
    for url in urls:
        start_time = time.time()
        try:
            response = requests.get(url, timeout=5)
            status_code = response.status_code
        except (requests.RequestException, Timeout):
            status_code = "недоступен"
        end_time = time.time()
        response_time = end_time - start_time
        results.append((url, status_code, response_time))
    return results

Код почти готов, но редактор сразу подчёркивает строку с except, а внизу появляется «⚠ 1» — что-то не так. И вот тут важный момент для новичка: знать самому, в чём дело и как чинить, не нужно — в этом и смысл работы с ассистентом. Мы просто сообщаем модели, что видим ошибку, и она исправляет сама. Пишем в чат:

В функции check_urls редактор подсвечивает ошибку в строке с except: имя Timeout не определено. Исправь эту ошибку. Верни только исправленный код.

Получаем исправленный код:

        except (requests.RequestException, requests.Timeout):

Модель уточнила имя до requests.Timeout — теперь оно определено, подчёркивание и «⚠ 1» уходят. Это и есть рабочий цикл: модель написала, редактор показал проблему, мы вернули проблему модели — она поправила. Помнить наизусть внутренности requests необязательно, достаточно заметить ошибку и переадресовать её модели.

Про сам способ вставки кода стоит сказать прямо: гладкой правки «на месте» с diff, как в облачных ассистентах, у локальной связки нет. Кнопка Insert Code просто добавляет код в файл, и легко получить вторую копию функции, а автоматическое слияние у локальной модели работает ненадёжно. Самый простой и надёжный путь для новичка — попросить модель вернуть весь файл целиком, затем в файле выделить всё (Cmd+A) и вставить поверх. Никаких дублей и угадывания, что куда легло. Этим способом и пользуемся дальше.

Шаг 4. Чат: отчёт и запуск

Дальше пользуемся простым путём — просим модель вернуть весь файл целиком, потом выделяем всё в файле (Cmd+A) и вставляем поверх. В чат отправляем промпт:

Вот функция check_urls. Добавь к ней функцию print_report(results), которая печатает таблицу: адрес, статус, время ответа в секундах (округли до 2 знаков). И блок if name == «main«, который проверяет список из нескольких адресов: https://google.com, https://example.com и заведомо несуществующий https://nosuchsite.invalid. Верни весь файл целиком, только код.

Получаем:

import requests
import time

def check_urls(urls):
    results = []
    for url in urls:
        start_time = time.time()
        try:
            response = requests.get(url, timeout=5)
            status_code = response.status_code
        except (requests.RequestException, requests.Timeout):
            status_code = "недоступен"
        end_time = time.time()
        response_time = end_time - start_time
        results.append((url, status_code, response_time))
    return results

def print_report(results):
    print(f"{'Адрес':<50} {'Статус':<10} {'Время ответа (с)':<15}")
    for url, status, response_time in results:
        print(f"{url:<50} {status:<10} {response_time:.2f}")

if __name__ == "__main__":
    urls = [
        "https://google.com",
        "https://example.com",
        "https://nosuchsite.invalid"
    ]
    results = check_urls(urls)
    print_report(results)

Запускаем (кнопкой ▷ вверху Visual Studio Code справа или командой python3 checker.py) и получаем рабочий отчёт:

Адрес                                              Статус     Время ответа (с)
https://google.com                                 200        1.61
https://example.com                                200        0.65
https://nosuchsite.invalid                         недоступен 0.07

Несуществующий адрес помечен как недоступный, живые отдали код 200 и время ответа. Приложение работает.

Если перед таблицей в терминале выскочит предупреждение вида NotOpenSSLWarning ... LibreSSL — это не ошибка, а безобидное замечание системного Python на macOS, на работу оно не влияет. Убирается установкой Python через Homebrew, но для урока не обязательно.

Шаг 5. Чат: тест

Последний шаг — тест. Если коротко, тест это маленькая программа, которая сама проверяет, что твоя функция работает правильно. Зачем он нужен: когда позже будешь менять код, достаточно запустить тест — и сразу видно, не сломалось ли то, что раньше работало. Перепроверять руками каждый раз не придётся.

Просим модель написать тест:

Напиши простой тест на pytest для функции check_urls: проверь, что для списка из одного заведомо рабочего адреса возвращается список из одного элемента, и что статус — это число 200. Только код.

Получаем:

import pytest
from main import check_urls

def test_check_urls():
    urls = ["https://google.com"]
    results = check_urls(urls)
    assert len(results) == 1
    assert isinstance(results[0][1], int)
    assert results[0][1] == 200

Запускать пока рано. Модель импортировала функцию из модуля main — имя нашего файла она не видит и взяла наугад, а файл называется checker.py. Это та информация, которую можем дать только мы. И снова не правим руками, а сообщаем модели:

Файл с функцией называется checker.py. Поправь в тесте импорт и верни весь код теста целиком.

Получаем исправленный тест:

import pytest
from checker import check_urls

def test_check_urls():
    urls = ["https://google.com"]
    results = check_urls(urls)
    assert len(results) == 1
    assert isinstance(results[0][1], int)
    assert results[0][1] == 200

Создаём в той же папке новый файл test_checker.py и вставляем в него этот код (выделить всё, вставить). Сам checker.py не трогаем — тест лежит отдельно.

Запускаем тест из активированного окружения — pytest сам найдёт файлы с тестами:

python -m pytest

Получаем:

==================================== test session starts =====================================
platform darwin -- Python 3.14.6, pytest-9.1.0, pluggy-1.6.0
rootdir: /Users/you/checker
collected 1 item

test_checker.py .                                                                      [100%]
===================================== 1 passed in 4.12s ======================================

Зелёная строка 1 passed означает, что функция отработала как ожидалось. Тест обращается к реальному адресу, поэтому ему нужен интернет — в больших проектах сеть в тестах обычно подменяют заглушкой, но для первого знакомства так нагляднее.

Базовая версия целиком

Файл checker.py целиком:

import requests
import time

def check_urls(urls):
    results = []
    for url in urls:
        start_time = time.time()
        try:
            response = requests.get(url, timeout=5)
            status_code = response.status_code
        except (requests.RequestException, requests.Timeout):
            status_code = "недоступен"
        end_time = time.time()
        response_time = end_time - start_time
        results.append((url, status_code, response_time))
    return results

def print_report(results):
    print(f"{'Адрес':<50} {'Статус':<10} {'Время ответа (с)':<15}")
    for url, status, response_time in results:
        print(f"{url:<50} {status:<10} {response_time:.2f}")

if __name__ == "__main__":
    urls = [
        "https://google.com",
        "https://example.com",
        "https://nosuchsite.invalid"
    ]
    results = check_urls(urls)
    print_report(results)

И тест test_checker.py:

import pytest
from checker import check_urls

def test_check_urls():
    urls = ["https://google.com"]
    results = check_urls(urls)
    assert len(results) == 1
    assert isinstance(results[0][1], int)
    assert results[0][1] == 200

Что по ходу писала модель и что пришлось поправить:

  • автодополнение (1.5B) само написало проверку одного адреса, сразу с таймаутом и временем ответа;
  • чат (14B) собрал проверку списка, добавил таймаут и обработку ошибок;
  • один раз модель оставила неопределённое имя Timeout — редактор подсветил, модель исправила по нашей просьбе;
  • в тесте модель не угадала имя файла (main вместо checker) — это подставили сами, потому что имя файла знаем только мы;
  • гладкой правки «на месте» у локальной связки нет, поэтому код вставляли заменой всего файла.

Ничего из этого не требовало знания Python наизусть — только умения заметить проблему и вернуть её модели. Это и есть работа с локальным ассистентом.


Доводим до ума: настоящий инструмент

Базовая версия работает, но адреса в ней зашиты в код. Сделаем из неё настоящий инструмент: чтобы адреса задавались при запуске, а тест проверял несколько из них.

Шаг 6. Адреса из аргументов командной строки

Перепиши блок if name == «main» в этом файле так, чтобы адреса для проверки брались из аргументов командной строки (sys.argv). Если аргументов нет — выведи подсказку, как пользоваться. Верни весь файл целиком, только код.

Выделяем всё в файле (Cmd+A), вставляем ответ поверх.

Получаем (вверху добавился import sys, остальные функции без изменений, а блок запуска стал таким):

if __name__ == "__main__":
    if len(sys.argv) < 2:
        print("Использование: python checker.py URL1 [URL2 ... URLN]")
    else:
        urls = sys.argv[1:]
        results = check_urls(urls)
        print_report(results)

Проверяем с адресами:

python checker.py https://google.com https://nosuchsite.invalid
Адрес                                              Статус     Время ответа (с)
https://google.com                                 200        2.13
https://nosuchsite.invalid                         недоступен 0.01

И без аргументов — выводится подсказка:

python checker.py
Использование: python checker.py URL1 [URL2 ... URLN]

Список адресов больше не нужно править в коде — инструмент берёт их при запуске.

Шаг 7. Тест на несколько адресов

Базовый тест проверяет один адрес. Расширим его на несколько — так надёжнее: если будущая правка сломает обработку какого-то случая, это будет видно. В pytest для этого есть параметризация (@pytest.mark.parametrize): одна и та же проверка прогоняется на каждом входе и считается отдельным тестом. Имя файла снова даём прямо в промпте, чтобы модель не угадывала:

Перепиши тест в test_checker.py так, чтобы он через @pytest.mark.parametrize проверял несколько адресов: https://google.com и https://example.com. Для каждого адреса проверь, что функция check_urls возвращает список из одного элемента и что статус равен 200. Файл с функцией называется checker.py. Только код.

Получаем:

import pytest
from checker import check_urls

@pytest.mark.parametrize("url", ["https://google.com", "https://example.com"])
def test_check_urls(url):
    results = check_urls([url])
    assert len(results) == 1
    assert isinstance(results[0][1], int)
    assert results[0][1] == 200

Запускаем:

python -m pytest
collected 2 items

test_checker.py ..                                                                     [100%]
===================================== 2 passed in 2.70s ======================================

Теперь 2 passed — два адреса дали два отдельных прогона.

Здесь легко запутаться, поэтому поясню. Грубо: программа спрашивает «какие сайты проверить?» у пользователя — поэтому в Шаге 6 она берёт адреса из командной строки. Тест говорит «я проверю вот эти известные случаи и заранее знаю, что должно получиться» — поэтому адреса в нём заданы прямо в коде. Тест обязан заранее знать и вход, и ожидаемый результат, иначе ему нечего сверять. Поэтому фиксированные адреса в тесте — это правильно, выносить их в командную строку не нужно: это выбранные разработчиком случаи для проверки.

Готовый инструмент целиком

Файл checker.py:

import requests
import time
import sys

def check_urls(urls):
    results = []
    for url in urls:
        start_time = time.time()
        try:
            response = requests.get(url, timeout=5)
            status_code = response.status_code
        except (requests.RequestException, requests.Timeout):
            status_code = "недоступен"
        end_time = time.time()
        response_time = end_time - start_time
        results.append((url, status_code, response_time))
    return results

def print_report(results):
    print(f"{'Адрес':<50} {'Статус':<10} {'Время ответа (с)':<15}")
    for url, status, response_time in results:
        print(f"{url:<50} {status:<10} {response_time:.2f}")

if __name__ == "__main__":
    if len(sys.argv) < 2:
        print("Использование: python checker.py URL1 [URL2 ... URLN]")
    else:
        urls = sys.argv[1:]
        results = check_urls(urls)
        print_report(results)

Файл test_checker.py:

import pytest
from checker import check_urls

@pytest.mark.parametrize("url", ["https://google.com", "https://example.com"])
def test_check_urls(url):
    results = check_urls([url])
    assert len(results) == 1
    assert isinstance(results[0][1], int)
    assert results[0][1] == 200

Запуск инструмента: python checker.py https://google.com https://example.com. Проверка исправности: python -m pytest. Всё локально, код никуда не уходит.

Границы метода

Локальная модель на 14B — хороший помощник на каждый день: автодополнение, бойлерплейт, рефакторинг, объяснение чужого кода, небольшие функции. Но в сложных многофайловых задачах и тонкой логике облачные Claude или GPT пока заметно сильнее.

Как убрать всё с компьютера

Если хочется откатить эксперимент и освободить место, всё убирается без следов. Фоновую службу останавливаем командой brew services stop ollama (а если запускали вручную через ollama serve — просто закрываем то окно терминала).

Посмотреть скачанные модели и их размер можно командой ollama list, удалить конкретную — ollama rm qwen2.5-coder:14b и ollama rm qwen2.5-coder:1.5b; места они занимают ощутимо (14B это около 9 ГБ), так что после удаления диск заметно освобождается. Е

сли решено убрать Ollama целиком — сносим программу через brew uninstall ollama и чистим остатки, удалив папку ~/.ollama.

Виртуальное окружение проекта удаляется как обычная папка вместе с самим проектом, ничего отдельного для него делать не нужно.

Расширение Continue убирается из VS Code на вкладке Extensions, его настройки лежат в папке ~/.continue.

LM Studio, если ставили, удаляется как обычное приложение macOS — перетащить из «Программ» в корзину, а скачанные в нём модели лежат в его папке внутри домашнего каталога и уходят вместе с ним.

Итог

За вечер на обычном Маке поднимается полностью локальный кодинг-ассистент: Ollama или LM Studio как движок, Continue в VS Code как интерфейс, модель Qwen Coder как мозг. И главное — код никуда не уходит. Именно поэтому для закрытых проектов и работы с чувствительными данными ассистента стоит держать локально, у себя.

Продолжать подобную тематику?

1 голос