Локальная LLM как кодинг-ассистент: ставим на Mac и пишем приложение
Облачные ассистенты вроде Claude или Copilot отправляют твой код на чужие серверы. Иногда это недопустимо: код закрытый, данные под NDA, или просто не хочется, чтобы он куда-то уходил. Альтернатива — локальная модель: и помощник по коду, и сам код полностью на твоём ноутбуке, наружу не уходит ничего. Это продолжение темы «что нельзя писать в чат с ИИ», только применительно к разработке.
Урок законченный: ставим движок и модель на Mac, подключаем к VS Code и пишем с её помощью небольшое рабочее приложение — проверялку доступности сервисов. Всё локально.
Проверено на MacBook Pro M1 с 32 ГБ памяти. Благодаря унифицированной памяти Apple Silicon модель грузится в общий пул без отдельной видеопамяти, и машина этого класса спокойно тянет модель на 14B в квантовании Q4 — этого размера достаточно для повседневной помощи по коду.
Что понадобится
- Mac на Apple Silicon (здесь — M1, 32 ГБ).
- VS Code.
- Движок для запуска модели: Ollama (через терминал) или LM Studio (с графическим интерфейсом).
- Расширение Continue для VS Code — оно связывает редактор с локальной моделью.
Часть 1. Установка
Движок, вариант А: Ollama (через терминал)
Ollama запускает модель и поднимает локальный API, к которому потом подключится редактор.
Установка (через Homebrew или установщик с ollama.com):
brew install ollama
После установки запускаем Ollama фоновой службой — она стартует сейчас и будет подниматься сама при входе в систему:
brew services start ollama
Скачиваем две модели — побольше для чата и правок, и маленькую быструю для автодополнения по ходу набора:
ollama pull qwen2.5-coder:14b
ollama pull qwen2.5-coder:1.5b
Модель 14B весит около 9 ГБ, поэтому первая загрузка идёт не быстро — в терминале виден прогресс со скоростью и оставшимся временем:
pulling manifest
pulling ac9bc7a69dab: 6% ▕███ ▏ 553 MB/9.0 GB 23 MB/s 5m52s
Когда докачается, в конце появится строка success. Маленькая модель 1.5B скачается заметно быстрее.

Точные теги моделей сверяй на ollama.com/library — линейки обновляются, могут появиться более свежие версии Qwen Coder.
Проверяем, что модель отвечает:
ollama run qwen2.5-coder:14b
Вводим запрос прямо в приглашении — раз это ассистент для кода, сразу проверяем:
>>> напиши функцию на python, которая проверяет, доступен ли URL (вернуть True/False)
Получаем рабочий ответ:
import requests
def is_url_available(url):
try:
response = requests.get(url)
if response.status_code == 200:
return True
else:
return False
except requests.exceptions.RequestException as e:
print(f"Ошибка: {e}")
return False
url = "https://www.google.com"
print(is_url_available(url))
Движок жив и отвечает осмысленно. Выйти из чата — команда /bye. Обрати внимание: таймаут к запросу модель не добавила — к этому вернёмся, когда будем писать приложение.
Ollama работает фоновой службой и держит локальный API на http://localhost:11434 — этот адрес понадобится для подключения редактора.
Движок, вариант Б: LM Studio (графический интерфейс)
Если терминал не по душе, то же самое делается мышкой. Скачиваем LM Studio с lmstudio.ai, устанавливаем. Внутри:
- Поиск модели по названию (например
qwen2.5-coder), скачиваем нужный размер. - Загружаем модель кнопкой.
- Открываем вкладку локального сервера и запускаем его — LM Studio поднимет совместимый API на
http://localhost:1234.
Дальше подключение к редактору отличается только адресом и провайдером.
Расширение Continue в VS Code
Открываем VS Code, вкладку Extensions, ищем Continue, ставим. В боковой панели появится его значок.

Подключаем Continue к локальной модели
Открываем настройки Continue: палитра команд (Cmd+Shift+P) -> «Continue: Open Config». Откроется файл ~/.continue/config.yaml. Прописываем две модели — чат и автодополнение.
Для Ollama:
name: Локальный ассистент
version: 1.0.0
schema: v1
models:
- name: Qwen2.5 Coder 14B
provider: ollama
model: qwen2.5-coder:14b
apiBase: http://localhost:11434
roles: [chat, edit, apply]
- name: Qwen2.5 Coder 1.5B
provider: ollama
model: qwen2.5-coder:1.5b
apiBase: http://localhost:11434
roles: [autocomplete]
Если выбрал LM Studio, у модели чата меняются две строки:
provider: lmstudio
apiBase: http://localhost:1234/v1
Зачем две модели: автодополнение должно срабатывать мгновенно по мере набора, поэтому на него ставят маленькую быструю модель (1.5B), а на осмысленный чат и правки — модель посильнее (14B).
Проверка, что всё связалось
Открываем любой файл (или создаем новый пустой), начинаем писать код — под курсором должны появляться серые подсказки автодополнения.

Открываем панель Continue, пишем в чат простой вопрос про код — должен ответить локальный 14B. Если подсказки и чат работают, связка готова, и дальше интернет уже не нужен.
Важный момент, на котором легко споткнуться: внизу панели Continue есть переключатель режима. Для вопросов и генерации кода выбирай Chat. В режиме Agent (автономное редактирование файлов с вызовом инструментов) локальные модели среднего размера часто путаются и вместо ответа выдают странный служебный JSON вида {"name": "...", "arguments": {...}}. Для нашей задачи агентный режим не нужен — переключись на Chat.
Часть 2. Пишем приложение — проверялку сервисов
Теперь собираем с помощью локальной модели небольшую утилиту на Python: на входе список адресов, на выходе отчёт — какой сервис жив, какой нет, и сколько отвечал. Полезно, чтобы быстро проверить, что сайты и сервисы на месте.
Замысел будем реализовывать через модель по шагам:
- Функция, которая проверяет один адрес: шлёт запрос, возвращает код ответа и время.
- Обработка ошибок: таймаут, недоступный хост — не должны ронять программу.
- Функция, которая проходит по списку адресов и собирает результаты.
- Вывод отчёта в читаемом виде.
- Простой тест к проверке одного адреса.
Готовим папку и окружение
Перед тем как писать и запускать код, создаём отдельную папку проекта и виртуальное окружение Python. Этот шаг легко пропустить, но именно на нём чаще всего застревают: современная macOS не разрешает ставить пакеты в системный Python (выдаёт ошибку externally-managed-environment), а на машине обычно несколько Python сразу, и пакеты из одного не видны другому. Виртуальное окружение снимает обе проблемы — это изолированный Python только для этого проекта.
mkdir ~/checker && cd ~/checker
python3 -m venv venv
source venv/bin/activate
После активации в начале строки терминала появляется (venv) — окружение включено. Ставим в него нужные библиотеки (в чистом окружении их ещё нет):
pip install requests pytest
Дальше файлы проекта (checker.py, test_checker.py) держим в этой папке, а команды запускаем с активированным окружением. Выйти из него потом — команда deactivate.
Шаг 1. Автодополнение
В новом файле checker.py начинаем писать сигнатуру и даём модели дописать тело по ходу набора:
import requests
def check_url(url, timeout=5):
# проверяет один адрес, возвращает (код ответа, время в секундах)
Останавливаемся — и смотрим, что предложит серая подсказка автодополнения. Принять её — клавиша Tab.
Получаем (за несколько нажатий Tab маленькая модель дописала тело целиком):
import requests
def check_url(url, timeout=5):
# проверяет один адрес, возвращает (код ответа, время в секундах)
try:
response = requests.get(url, timeout=timeout)
return response.status_code, response.elapsed.total_seconds()
except requests.RequestException as e:
print(f"Error checking {url}: {e}")
return None, None
Заметь: модель автодополнения сама добавила таймаут и измерение времени ответа — то, чего не хватало в первом ответе модели на проверке движка. Маленькая модель на 1.5B с таким локальным контекстом справляется уверенно.
Шаг 2. Чат: основная функция
Открываем панель Continue и отправляем промпт:
Напиши функцию на Python, которая принимает список URL и проверяет каждый: возвращает для каждого адрес, код ответа HTTP и время ответа в секундах. Используй библиотеку requests. Без пояснений, только код.
Получаем:
import requests
import time
def check_urls(urls):
results = []
for url in urls:
start_time = time.time()
try:
response = requests.get(url)
status_code = response.status_code
except requests.exceptions.RequestException as e:
status_code = str(e)
end_time = time.time()
response_time = end_time - start_time
results.append((url, status_code, response_time))
return results
Работает, но видны две небольшие проблемы: у запроса нет таймаута (зависший хост остановит всю проверку), а при ошибке текст исключения кладётся прямо в status_code — то есть в одном поле смешиваются то число, то строка. Ровно это исправим на следующем шаге.
Шаг 3. Чат: таймаут и обработка ошибок
Дорабатываем функцию через чат. Промпт:
Доработай функцию check_urls: добавь таймаут 5 секунд на каждый запрос, а при ошибке или таймауте помечай сервис как недоступный и продолжай проверять остальные. Верни список кортежей (адрес, статус, время ответа). Только код.
Над блоком кода в ответе жмём Insert Code — код аккуратно ложится в файл.
Получаем:
import requests
import time
def check_urls(urls):
results = []
for url in urls:
start_time = time.time()
try:
response = requests.get(url, timeout=5)
status_code = response.status_code
except (requests.RequestException, Timeout):
status_code = "недоступен"
end_time = time.time()
response_time = end_time - start_time
results.append((url, status_code, response_time))
return results
Код почти готов, но редактор сразу подчёркивает строку с except, а внизу появляется «⚠ 1» — что-то не так. И вот тут важный момент для новичка: знать самому, в чём дело и как чинить, не нужно — в этом и смысл работы с ассистентом. Мы просто сообщаем модели, что видим ошибку, и она исправляет сама. Пишем в чат:
В функции check_urls редактор подсвечивает ошибку в строке с except: имя Timeout не определено. Исправь эту ошибку. Верни только исправленный код.
Получаем исправленный код:
except (requests.RequestException, requests.Timeout):
Модель уточнила имя до requests.Timeout — теперь оно определено, подчёркивание и «⚠ 1» уходят. Это и есть рабочий цикл: модель написала, редактор показал проблему, мы вернули проблему модели — она поправила. Помнить наизусть внутренности requests необязательно, достаточно заметить ошибку и переадресовать её модели.
Про сам способ вставки кода стоит сказать прямо: гладкой правки «на месте» с diff, как в облачных ассистентах, у локальной связки нет. Кнопка Insert Code просто добавляет код в файл, и легко получить вторую копию функции, а автоматическое слияние у локальной модели работает ненадёжно. Самый простой и надёжный путь для новичка — попросить модель вернуть весь файл целиком, затем в файле выделить всё (Cmd+A) и вставить поверх. Никаких дублей и угадывания, что куда легло. Этим способом и пользуемся дальше.
Шаг 4. Чат: отчёт и запуск
Дальше пользуемся простым путём — просим модель вернуть весь файл целиком, потом выделяем всё в файле (Cmd+A) и вставляем поверх. В чат отправляем промпт:
Вот функция check_urls. Добавь к ней функцию print_report(results), которая печатает таблицу: адрес, статус, время ответа в секундах (округли до 2 знаков). И блок if name == «main«, который проверяет список из нескольких адресов: https://google.com, https://example.com и заведомо несуществующий https://nosuchsite.invalid. Верни весь файл целиком, только код.
Получаем:
import requests
import time
def check_urls(urls):
results = []
for url in urls:
start_time = time.time()
try:
response = requests.get(url, timeout=5)
status_code = response.status_code
except (requests.RequestException, requests.Timeout):
status_code = "недоступен"
end_time = time.time()
response_time = end_time - start_time
results.append((url, status_code, response_time))
return results
def print_report(results):
print(f"{'Адрес':<50} {'Статус':<10} {'Время ответа (с)':<15}")
for url, status, response_time in results:
print(f"{url:<50} {status:<10} {response_time:.2f}")
if __name__ == "__main__":
urls = [
"https://google.com",
"https://example.com",
"https://nosuchsite.invalid"
]
results = check_urls(urls)
print_report(results)
Запускаем (кнопкой ▷ вверху Visual Studio Code справа или командой python3 checker.py) и получаем рабочий отчёт:
Адрес Статус Время ответа (с)
https://google.com 200 1.61
https://example.com 200 0.65
https://nosuchsite.invalid недоступен 0.07
Несуществующий адрес помечен как недоступный, живые отдали код 200 и время ответа. Приложение работает.
Если перед таблицей в терминале выскочит предупреждение вида NotOpenSSLWarning ... LibreSSL — это не ошибка, а безобидное замечание системного Python на macOS, на работу оно не влияет. Убирается установкой Python через Homebrew, но для урока не обязательно.
Шаг 5. Чат: тест
Последний шаг — тест. Если коротко, тест это маленькая программа, которая сама проверяет, что твоя функция работает правильно. Зачем он нужен: когда позже будешь менять код, достаточно запустить тест — и сразу видно, не сломалось ли то, что раньше работало. Перепроверять руками каждый раз не придётся.
Просим модель написать тест:
Напиши простой тест на pytest для функции check_urls: проверь, что для списка из одного заведомо рабочего адреса возвращается список из одного элемента, и что статус — это число 200. Только код.
Получаем:
import pytest
from main import check_urls
def test_check_urls():
urls = ["https://google.com"]
results = check_urls(urls)
assert len(results) == 1
assert isinstance(results[0][1], int)
assert results[0][1] == 200
Запускать пока рано. Модель импортировала функцию из модуля main — имя нашего файла она не видит и взяла наугад, а файл называется checker.py. Это та информация, которую можем дать только мы. И снова не правим руками, а сообщаем модели:
Файл с функцией называется checker.py. Поправь в тесте импорт и верни весь код теста целиком.
Получаем исправленный тест:
import pytest
from checker import check_urls
def test_check_urls():
urls = ["https://google.com"]
results = check_urls(urls)
assert len(results) == 1
assert isinstance(results[0][1], int)
assert results[0][1] == 200
Создаём в той же папке новый файл test_checker.py и вставляем в него этот код (выделить всё, вставить). Сам checker.py не трогаем — тест лежит отдельно.
Запускаем тест из активированного окружения — pytest сам найдёт файлы с тестами:
python -m pytest
Получаем:
==================================== test session starts =====================================
platform darwin -- Python 3.14.6, pytest-9.1.0, pluggy-1.6.0
rootdir: /Users/you/checker
collected 1 item
test_checker.py . [100%]
===================================== 1 passed in 4.12s ======================================
Зелёная строка 1 passed означает, что функция отработала как ожидалось. Тест обращается к реальному адресу, поэтому ему нужен интернет — в больших проектах сеть в тестах обычно подменяют заглушкой, но для первого знакомства так нагляднее.
Базовая версия целиком
Файл checker.py целиком:
import requests
import time
def check_urls(urls):
results = []
for url in urls:
start_time = time.time()
try:
response = requests.get(url, timeout=5)
status_code = response.status_code
except (requests.RequestException, requests.Timeout):
status_code = "недоступен"
end_time = time.time()
response_time = end_time - start_time
results.append((url, status_code, response_time))
return results
def print_report(results):
print(f"{'Адрес':<50} {'Статус':<10} {'Время ответа (с)':<15}")
for url, status, response_time in results:
print(f"{url:<50} {status:<10} {response_time:.2f}")
if __name__ == "__main__":
urls = [
"https://google.com",
"https://example.com",
"https://nosuchsite.invalid"
]
results = check_urls(urls)
print_report(results)
И тест test_checker.py:
import pytest
from checker import check_urls
def test_check_urls():
urls = ["https://google.com"]
results = check_urls(urls)
assert len(results) == 1
assert isinstance(results[0][1], int)
assert results[0][1] == 200
Что по ходу писала модель и что пришлось поправить:
- автодополнение (1.5B) само написало проверку одного адреса, сразу с таймаутом и временем ответа;
- чат (14B) собрал проверку списка, добавил таймаут и обработку ошибок;
- один раз модель оставила неопределённое имя
Timeout— редактор подсветил, модель исправила по нашей просьбе; - в тесте модель не угадала имя файла (
mainвместоchecker) — это подставили сами, потому что имя файла знаем только мы; - гладкой правки «на месте» у локальной связки нет, поэтому код вставляли заменой всего файла.
Ничего из этого не требовало знания Python наизусть — только умения заметить проблему и вернуть её модели. Это и есть работа с локальным ассистентом.
Доводим до ума: настоящий инструмент
Базовая версия работает, но адреса в ней зашиты в код. Сделаем из неё настоящий инструмент: чтобы адреса задавались при запуске, а тест проверял несколько из них.
Шаг 6. Адреса из аргументов командной строки
Перепиши блок if name == «main» в этом файле так, чтобы адреса для проверки брались из аргументов командной строки (sys.argv). Если аргументов нет — выведи подсказку, как пользоваться. Верни весь файл целиком, только код.
Выделяем всё в файле (Cmd+A), вставляем ответ поверх.
Получаем (вверху добавился import sys, остальные функции без изменений, а блок запуска стал таким):
if __name__ == "__main__":
if len(sys.argv) < 2:
print("Использование: python checker.py URL1 [URL2 ... URLN]")
else:
urls = sys.argv[1:]
results = check_urls(urls)
print_report(results)
Проверяем с адресами:
python checker.py https://google.com https://nosuchsite.invalid
Адрес Статус Время ответа (с)
https://google.com 200 2.13
https://nosuchsite.invalid недоступен 0.01
И без аргументов — выводится подсказка:
python checker.py
Использование: python checker.py URL1 [URL2 ... URLN]
Список адресов больше не нужно править в коде — инструмент берёт их при запуске.
Шаг 7. Тест на несколько адресов
Базовый тест проверяет один адрес. Расширим его на несколько — так надёжнее: если будущая правка сломает обработку какого-то случая, это будет видно. В pytest для этого есть параметризация (@pytest.mark.parametrize): одна и та же проверка прогоняется на каждом входе и считается отдельным тестом. Имя файла снова даём прямо в промпте, чтобы модель не угадывала:
Перепиши тест в test_checker.py так, чтобы он через @pytest.mark.parametrize проверял несколько адресов: https://google.com и https://example.com. Для каждого адреса проверь, что функция check_urls возвращает список из одного элемента и что статус равен 200. Файл с функцией называется checker.py. Только код.
Получаем:
import pytest
from checker import check_urls
@pytest.mark.parametrize("url", ["https://google.com", "https://example.com"])
def test_check_urls(url):
results = check_urls([url])
assert len(results) == 1
assert isinstance(results[0][1], int)
assert results[0][1] == 200
Запускаем:
python -m pytest
collected 2 items
test_checker.py .. [100%]
===================================== 2 passed in 2.70s ======================================
Теперь 2 passed — два адреса дали два отдельных прогона.
Здесь легко запутаться, поэтому поясню. Грубо: программа спрашивает «какие сайты проверить?» у пользователя — поэтому в Шаге 6 она берёт адреса из командной строки. Тест говорит «я проверю вот эти известные случаи и заранее знаю, что должно получиться» — поэтому адреса в нём заданы прямо в коде. Тест обязан заранее знать и вход, и ожидаемый результат, иначе ему нечего сверять. Поэтому фиксированные адреса в тесте — это правильно, выносить их в командную строку не нужно: это выбранные разработчиком случаи для проверки.
Готовый инструмент целиком
Файл checker.py:
import requests
import time
import sys
def check_urls(urls):
results = []
for url in urls:
start_time = time.time()
try:
response = requests.get(url, timeout=5)
status_code = response.status_code
except (requests.RequestException, requests.Timeout):
status_code = "недоступен"
end_time = time.time()
response_time = end_time - start_time
results.append((url, status_code, response_time))
return results
def print_report(results):
print(f"{'Адрес':<50} {'Статус':<10} {'Время ответа (с)':<15}")
for url, status, response_time in results:
print(f"{url:<50} {status:<10} {response_time:.2f}")
if __name__ == "__main__":
if len(sys.argv) < 2:
print("Использование: python checker.py URL1 [URL2 ... URLN]")
else:
urls = sys.argv[1:]
results = check_urls(urls)
print_report(results)
Файл test_checker.py:
import pytest
from checker import check_urls
@pytest.mark.parametrize("url", ["https://google.com", "https://example.com"])
def test_check_urls(url):
results = check_urls([url])
assert len(results) == 1
assert isinstance(results[0][1], int)
assert results[0][1] == 200
Запуск инструмента: python checker.py https://google.com https://example.com. Проверка исправности: python -m pytest. Всё локально, код никуда не уходит.
Границы метода
Локальная модель на 14B — хороший помощник на каждый день: автодополнение, бойлерплейт, рефакторинг, объяснение чужого кода, небольшие функции. Но в сложных многофайловых задачах и тонкой логике облачные Claude или GPT пока заметно сильнее.
Как убрать всё с компьютера
Если хочется откатить эксперимент и освободить место, всё убирается без следов. Фоновую службу останавливаем командой brew services stop ollama (а если запускали вручную через ollama serve — просто закрываем то окно терминала).
Посмотреть скачанные модели и их размер можно командой ollama list, удалить конкретную — ollama rm qwen2.5-coder:14b и ollama rm qwen2.5-coder:1.5b; места они занимают ощутимо (14B это около 9 ГБ), так что после удаления диск заметно освобождается. Е
сли решено убрать Ollama целиком — сносим программу через brew uninstall ollama и чистим остатки, удалив папку ~/.ollama.
Виртуальное окружение проекта удаляется как обычная папка вместе с самим проектом, ничего отдельного для него делать не нужно.
Расширение Continue убирается из VS Code на вкладке Extensions, его настройки лежат в папке ~/.continue.
LM Studio, если ставили, удаляется как обычное приложение macOS — перетащить из «Программ» в корзину, а скачанные в нём модели лежат в его папке внутри домашнего каталога и уходят вместе с ним.
Итог
За вечер на обычном Маке поднимается полностью локальный кодинг-ассистент: Ollama или LM Studio как движок, Continue в VS Code как интерфейс, модель Qwen Coder как мозг. И главное — код никуда не уходит. Именно поэтому для закрытых проектов и работы с чувствительными данными ассистента стоит держать локально, у себя.
Продолжать подобную тематику?
1 голос