Один коміт, а не десяток тематичних, свідомо: теми переплетені в
спільних файлах (store.go, docker-compose.yml, deploy/README.md), і
розділити їх можна було б лише індексуванням шматків. Коміти, які не
збираються, гірші за один великий — тим паче що це рівно той стан, який
перевірявся разом.
ЩО ПРАЦЮЄ НА СТЕНДІ Й ПЕРЕВІРЕНО ТАМ
0058 подієві алерти: syslog, ncm, compliance спрацьовують у мить
події; правило з нереалізованим джерелом більше не зберігається
мовчки
0059 snmp.walk і прототипи шаблонів — таблиці з динамічним індексом
описуються шаблоном, а не Go
0060 відкат конфігу: план як різниця, маскування паролів із підписом
плану, обов'язковий контрольний збір, verifying при обриві
0061 кнопки Telegram: довге опитування, авторизація не з callback_data
0062 аудит і архів хостів; тест на AST, що падає на ключі без назви
0063 RLS: три ролі, окремий пул для фонових тактів
0064 строки зберігання даних і сторінка сховища
0065 приймач SNMP-трапів; перевірено справжніми пакетами по дроту,
переклад v1→v2 за RFC 3584 дає правильний OID
0066 ескалації сповіщень
0067 алерт про вичерпання диска
0068 поля заливки конфігу переїхали в каталог профілів
Плюс: 137 тестів вебу з нуля (їх не було взагалі), одинадцять справжніх
вад, знайдених ними й виправлених, і виправлення двох інтеграційних
тестів grpcapi, які мовчки пропускались півтора року.
ЩО ЩЕ НЕ ЗАПУСКАЛОСЬ
netpulse установник: одна команда замість 18 змінних і
593 рядків інструкції
RLS з першого запуску нова інсталяція під політиками одразу;
RLS-EXISTING-INSTALL.md лишається тільки для
старих інсталяцій
.forgejo + CI раннер не зареєстрований
Ці три перевірені компіляцією й міркуванням, але не виконанням.
ГОЛОВНИЙ ВИСНОВОК ДВОХ СЕСІЙ
Зелена перевірка доводить рівно те, що вона перевіряє. Тест ізоляції RLS
був правильний і зелений — і пропустив зламаний вхід, бо перевіряв «чи
не видно чужого», коли зламалось «чи видно своє». Інтеграційні тести
grpcapi були зелені, бо не виконувались. Схема, довідник і протокол
описували те, чого в коді не існувало, і виглядало це як готове.
Тому в кожному завданні цих сесій стояла вимога назвати НЕПОКРИТЕ, а
чотири задачі закінчились не можливістю, а відмовою: правило з
нереалізованим джерелом не зберігається, профіль без команд заливки
каже про це замість мовчазної кнопки, міграція RLS валить сама себе на
таблиці без політики, тест словника аудиту падає на ключі без назви.
Подробиці — HISTORY.md, розділи за 26 і 27 серпня.
152 lines
5.9 KiB
Go
152 lines
5.9 KiB
Go
// Команда netpulse-gitsync — переливання історії конфігів у Git.
|
||
//
|
||
// Потрібна двічі за життя інсталяції.
|
||
//
|
||
// Коли версіювання вмикають на системі, яка вже місяцями збирає конфіги:
|
||
// без переливання репозиторій починається з наступної зміни, і вся
|
||
// накопичена історія лишається невидимою саме тоді, коли її вперше
|
||
// захотіли подивитись.
|
||
//
|
||
// І коли диск із репозиторієм втрачено. Тіла конфігів лежать
|
||
// зашифрованими в базі, тож Git повністю відтворюваний з неї —
|
||
// зворотне невірно, і саме тому база лишається джерелом істини.
|
||
//
|
||
// netpulse-gitsync -dsn ... -dek np1=<hex> -git-root /var/lib/netpulse/git
|
||
//
|
||
// Повторний запуск безпечний: незмінений вміст нового коміту не створює.
|
||
//
|
||
// Про дзеркало на зовнішньому Git. Переливання складає коміти заново, і
|
||
// їхні ідентифікатори залежать від того, що зараз є в базі: якщо
|
||
// ретеншен уже прибрав частину версій, відновлена гілка НЕ збігається з
|
||
// тією, що колись поїхала на дзеркало. Такий push буде відхилено як
|
||
// non-fast-forward — і це правильно: дзеркало не переписує чужу історію
|
||
// само. Після відновлення з бази копію на тому кінці або створюють
|
||
// заново порожньою, або перезаписують свідомо з інтерфейсу.
|
||
package main
|
||
|
||
import (
|
||
"context"
|
||
"flag"
|
||
"fmt"
|
||
"os"
|
||
"os/signal"
|
||
"syscall"
|
||
"time"
|
||
|
||
"github.com/netpulse/netpulse/server/internal/crypto"
|
||
"github.com/netpulse/netpulse/server/internal/gitstore"
|
||
"github.com/netpulse/netpulse/server/internal/store"
|
||
)
|
||
|
||
func main() {
|
||
if err := run(); err != nil {
|
||
fmt.Fprintln(os.Stderr, "netpulse-gitsync:", err)
|
||
os.Exit(1)
|
||
}
|
||
}
|
||
|
||
func run() error {
|
||
var (
|
||
dsn = flag.String("dsn", os.Getenv("NETPULSE_DSN"), "DSN PostgreSQL")
|
||
dsnWorker = flag.String("dsn-worker", os.Getenv("NETPULSE_DSN_WORKER"),
|
||
"DSN для фонових тактів поверх усіх кабінетів (порожньо — тим самим з'єднанням)")
|
||
keys = flag.String("dek", os.Getenv("NETPULSE_DEK"), "ключі шифрування: key_id=<hex|base64>[,...]")
|
||
gitRoot = flag.String("git-root", envOr("NETPULSE_GIT_ROOT", "/var/lib/netpulse/git"), "корінь сховища версій")
|
||
tenant = flag.String("tenant", "", "uuid тенанта; порожньо — усі")
|
||
dryRun = flag.Bool("dry-run", false, "лише показати, що буде записано")
|
||
quiet = flag.Bool("quiet", false, "без переліку версій")
|
||
)
|
||
flag.Parse()
|
||
|
||
if *dsn == "" {
|
||
return fmt.Errorf("не вказано -dsn")
|
||
}
|
||
if *gitRoot == "" {
|
||
return fmt.Errorf("не вказано -git-root")
|
||
}
|
||
|
||
ring, err := crypto.ParseKeyring(*keys)
|
||
if err != nil {
|
||
return fmt.Errorf("-dek: %w", err)
|
||
}
|
||
if ring == nil {
|
||
return fmt.Errorf("не вказано -dek: тіла конфігів зашифровані, без ключа їх не прочитати")
|
||
}
|
||
|
||
ctx, stop := signal.NotifyContext(context.Background(), os.Interrupt, syscall.SIGTERM)
|
||
defer stop()
|
||
|
||
st, err := store.New(ctx, *dsn)
|
||
if err != nil {
|
||
return fmt.Errorf("підключення до БД: %w", err)
|
||
}
|
||
defer st.Close()
|
||
// Друге з'єднання — роллю netpulse_worker, для запитів, які за
|
||
// побудовою ходять поверх усіх кабінетів (див. коментар до Store.bg
|
||
// і міграцію 0063). Порожня змінна лишає все як було: фонові запити
|
||
// підуть основним пулом. Саме тому цю зміну можна викотити наперед,
|
||
// а роль перемкнути окремим кроком.
|
||
if err := st.UseWorkerDSN(ctx, *dsnWorker); err != nil {
|
||
return fmt.Errorf("підключення воркера: %w", err)
|
||
}
|
||
|
||
st.UseGit(gitstore.New(*gitRoot))
|
||
|
||
tenants := []string{*tenant}
|
||
if *tenant == "" {
|
||
tenants, err = st.TenantIDs(ctx)
|
||
if err != nil {
|
||
return err
|
||
}
|
||
}
|
||
|
||
var total store.GitSyncStat
|
||
for _, id := range tenants {
|
||
var onProgress func(string, string, time.Time, gitstore.Result)
|
||
if !*quiet {
|
||
onProgress = func(device, kind string, at time.Time, res gitstore.Result) {
|
||
mark := "+"
|
||
if res.Unchanged {
|
||
mark = "="
|
||
}
|
||
fmt.Printf(" %s %s %s %s %s\n",
|
||
mark, at.Format("2006-01-02 15:04"), device, kind, short(res.CommitSHA))
|
||
}
|
||
}
|
||
|
||
fmt.Printf("тенант %s\n", id)
|
||
stat, err := st.SyncGit(ctx, id, ring, *dryRun, onProgress)
|
||
if err != nil {
|
||
return fmt.Errorf("тенант %s: %w", id, err)
|
||
}
|
||
total.Total += stat.Total
|
||
total.Written += stat.Written
|
||
total.Unchanged += stat.Unchanged
|
||
total.Skipped += stat.Skipped
|
||
}
|
||
|
||
verb := "записано"
|
||
if *dryRun {
|
||
verb = "буде записано"
|
||
}
|
||
fmt.Printf("\nверсій %d, %s %d, без змін %d, пропущено %d\n",
|
||
total.Total, verb, total.Written, total.Unchanged, total.Skipped)
|
||
if total.Skipped > 0 {
|
||
fmt.Println("пропущені версії — це записи без збереженого тіла або з чужим ключем шифрування")
|
||
}
|
||
return nil
|
||
}
|
||
|
||
func envOr(key, def string) string {
|
||
if v := os.Getenv(key); v != "" {
|
||
return v
|
||
}
|
||
return def
|
||
}
|
||
|
||
func short(sha string) string {
|
||
if len(sha) > 12 {
|
||
return sha[:12]
|
||
}
|
||
return sha
|
||
}
|