01
Що це
Ідея проста: людина стежить за десятком блогерів, щоб не пропустити важливе. Forpost робить це замість неї. Система бачить нове відео, качає звук, розшифровує його моделлю Whisper large-v3 на GPU, скорочує в новину локальною LLM, підбирає ключові кадри — і кладе готовий текст туди, де його прочитають: у Telegram-канал або на сайт.
З одного бота для власних потреб це виросло в мультитенантний SaaS: у кожного клієнта свої канали, свої налаштування тону й цензури, своя ізоляція даних на рівні бази.
GPU для розшифровки система орендує сама — на Clore.ai, з RunPod як резервом, — бо тримати відеокарту цілодобово дорожче, ніж брати її на годину під навантаження.
02
можливості
Що воно вміє
01
Моніторинг каналів
YouTube через RSS, TikTok через yt-dlp з обходом бот-стіни. Перевірка кожні N секунд, черга завдань, чекпоінти в S3 — перерваний прогін не починається спочатку.
02
Розшифровка на GPU
faster-whisper large-v3, CUDA float16. Довгі ролики ріжуться, є ліміт у чотири години на прогін, щоб один стрім не заблокував чергу.
03
Тематичний гейт за транскриптом
Ролик потрапляє в потрібну рубрику не за назвою каналу, а за реальним змістом розмови. Це прибрало більшість помилкових публікацій.
04
Персоналізація під кожен чат
Переклад, тон, довжина, цензура — окремо для кожного отримувача. Одна новина виходить різною для трейдерів і для загальної аудиторії.
05
Публікація у WordPress
Окремий модуль публікації з мультимовністю та обкладинками. Крипто-новини українською й англійською щодня йдуть у блог клієнта.
06
Оренда GPU на льоту
Свій оркестратор поверх Clore.ai: підняти ноду, прогріти модель, віддати роботу, погасити. Резервний контур — RunPod Serverless.
03
архітектура
Як влаштовано
01
Моніторинг YouTube / TikTok
02
Завантаження й розшифровка на GPU
03
Суммаризація в новину
04
Персоналізація під чат
05
Публікація в Telegram / WP
Під капотом
- Оркестратор на FastAPI + SQLAlchemy async, черга Procrastinate прямо в PostgreSQL — без окремого брокера.
- PostgreSQL 16 з TimescaleDB і pgvector; ізоляція клієнтів через RLS і PgBouncer у transaction-режимі.
- Воркер у власному Docker-образі з CUDA й запеченими моделями — нода готова до роботи одразу після старту.
- MinIO для чекпоінтів і медіа, Caddy як edge з автоматичним TLS.
- Повний стек спостережуваності: OpenTelemetry → Tempo, Prometheus, Loki, Grafana.
- Whisper і LLM локальні — транскрипти клієнтів не їдуть у сторонні API.
04
масштаб
Цифри
large-v3
модель розшифровки
4 год
ліміт на один прогін
2
провайдери GPU
17
контейнерів у проді