Compare commits

..

26 Commits

Author SHA1 Message Date
Дмитрий 726c682d2e docs(tours): этап 3 построен — протокол и спека синхронизированы 2026-07-03 03:35:09 +03:00
Дмитрий 7ea084d01f test(tours): frontmatter tour статей сверяется с каталогом экскурсий 2026-07-03 03:31:08 +03:00
Дмитрий 85c7c9b53c feat(tours): data-tour якоря — кнопки создания проекта и пополнения 2026-07-03 03:29:34 +03:00
Дмитрий 4ad2c065fc feat(tours): запуск экскурсии по ?tour= из ссылки бота 2026-07-03 03:26:28 +03:00
Дмитрий 4afa228f15 feat(tours): GuidedTour — обобщённый раннер с ожиданием цели 2026-07-03 03:23:59 +03:00
Дмитрий 2f9d7743ec feat(tours): каталог экскурсий — 5 стартовых сценариев 2026-07-03 03:22:38 +03:00
Дмитрий 94e5828fbc docs(tours): план этапа 3 — экскурсии «Показать на портале» (6 задач TDD)
Co-Authored-By: Claude Fable 5 <noreply@anthropic.com>
2026-07-03 03:19:57 +03:00
Дмитрий 6841492226 docs(bot): спека/протокол — FTS вместо pgvector, статьи в resources/help
Co-Authored-By: Claude Fable 5 <noreply@anthropic.com>
2026-07-02 21:17:05 +03:00
Дмитрий edf98d9ace style(bot): pint — неиспользуемые импорты в трёх bot-тестах
Co-Authored-By: Claude Fable 5 <noreply@anthropic.com>
2026-07-02 21:15:14 +03:00
Дмитрий c90f721978 test(bot): бюджет скорости — p95 нашей части тракта < 500мс 2026-07-02 21:11:52 +03:00
Дмитрий 726aeb716a feat(bot): JivoBotController — webhook /api/webhook/jivo/{secret}, мгновенный ack 2026-07-02 21:09:28 +03:00
Дмитрий 7a18dae0ca feat(bot): ProcessJivoMessageJob — оркестратор, очередь bot, журнал+latency 2026-07-02 21:07:41 +03:00
Дмитрий 335bf4c3a8 feat(bot): BotAnswerService — стоп-темы, строгий промпт, tour-ссылка под флагом 2026-07-02 21:00:40 +03:00
Дмитрий e2dfd22471 feat(bot): JivoBotClient — BOT_MESSAGE/INVITE_AGENT, dev-режим без URL 2026-07-02 20:58:24 +03:00
Дмитрий edbfd3e993 feat(bot): YandexGptClient — completion Lite, таймаут 8с, null при беде 2026-07-02 20:57:03 +03:00
Дмитрий 4cab703b82 feat(bot): KnowledgeSearch — FTS russian top-N с ранжированием 2026-07-02 20:55:27 +03:00
Дмитрий 3a724fb8ef feat(bot): schedule help:rebuild-knowledge — heartbeat + Europe/Moscow (стиль соседей)
Co-Authored-By: Claude Fable 5 <noreply@anthropic.com>
2026-07-02 20:51:04 +03:00
Дмитрий 508d8cc1d5 feat(bot): help:rebuild-knowledge — индексация статей в knowledge_chunks + schedule 04:30 2026-07-02 20:49:11 +03:00
Дмитрий b04bb4ecf3 feat(bot): HelpArticleParser — frontmatter + чанки статей инструкции 2026-07-02 20:45:41 +03:00
Дмитрий e8e7332101 docs(help): три стартовые статьи клиентской инструкции (база знаний бота) 2026-07-02 20:43:13 +03:00
Дмитрий 9f8ded5b77 test(bot): SchemaDelta ожидания v8.58 — 76 таблиц / 130 индексов (+knowledge_chunks, +bot_dialogs)
Co-Authored-By: Claude Fable 5 <noreply@anthropic.com>
2026-07-02 20:40:52 +03:00
Дмитрий e01bcca751 feat(bot): таблица bot_dialogs — журнал диалогов бота 2026-07-02 20:37:47 +03:00
Дмитрий aa3bf3cbed feat(bot): таблица knowledge_chunks — база знаний бота (FTS russian + GIN) 2026-07-02 20:30:44 +03:00
Дмитрий e3b58f2c2c feat(bot): конфиг jivo_bot + yandexgpt (спека 2026-07-02) 2026-07-02 20:27:09 +03:00
Дмитрий f606a06155 docs(bot): план реализации ядра ИИ-бота Jivo (14 задач TDD)
По спеке 2026-07-02-jivo-ai-support-bot-design: webhook + FTS-поиск
по инструкции + YandexGPT Lite + эскалация + журнал + тест скорости.

Co-Authored-By: Claude Fable 5 <noreply@anthropic.com>
2026-07-02 19:27:56 +03:00
Дмитрий b4ef5830e3 docs(support-bot): спека своего ИИ-бота в чате Jivo + протокол обсуждения
Дизайн согласован владельцем 02.07.2026: свой бот через Jivo Bot API,
YandexGPT Lite, база знаний = docs/help/ в репо, кнопка «Показать»
(экскурсии), скорость 2-5 сек, v1 только общие вопросы.
Словарь: +jivo/дживо/gigachat.

Co-Authored-By: Claude Fable 5 <noreply@anthropic.com>
2026-07-02 19:27:56 +03:00
668 changed files with 5245 additions and 67575 deletions
-5
View File
@@ -87,11 +87,6 @@ paths = [
'''app/composer\.lock''',
# Pest-тесты с фиктивными data-фикстурами (не реальные ПДн)
'''app/tests/.*\.php''',
# Тест-фикстуры (HTML/JSON/CSV) — снятые публичные страницы справочников и
# синтетика для парсеров. Напр. карточка 2ГИС с ПУБЛИЧНЫМ бизнес-телефоном
# конкурента (опубликован в открытом справочнике), не клиентские ПДн.
# Та же категория, что app/tests/*.php выше.
'''app/tests/fixtures/.*''',
# Database seeders с демо-данными (admin@demo.local + +7916123XXXX демо-телефоны)
'''app/database/seeders/.*\.php''',
# Database factories — генераторы тестовых фикстур (фейковые телефоны/ИНН,
+6 -9
View File
@@ -84,6 +84,12 @@ MAIL_FROM_ADDRESS="hello@example.com"
MAIL_FROM_NAME="${APP_NAME}"
SUPPORT_EMAIL=support@liderra.ru
JIVO_WIDGET_ID=
JIVO_BOT_WEBHOOK_SECRET=
JIVO_BOT_OUTBOUND_URL=
JIVO_BOT_TOKEN=
JIVO_BOT_TOURS_ENABLED=false
YANDEX_GPT_API_KEY=
YANDEX_GPT_FOLDER_ID=
AWS_ACCESS_KEY_ID=
AWS_SECRET_ACCESS_KEY=
@@ -96,12 +102,3 @@ VITE_APP_NAME="${APP_NAME}"
# Клиентский ключ Yandex SmartCaptcha (M-2). Пусто → fallback-чекбокс (dev).
# На проде — клиентский ключ ysc1_… (для виджета на странице регистрации).
VITE_YANDEX_SMARTCAPTCHA_SITEKEY=
# Автоподбор шаг2: обход антибота справочников (2ГИС/Яндекс). Ключ — в .env, не в гите.
XFETCH_API_KEY=
# Автоподбор шаг1: модель ИИ-фильтра «поставщик или площадка-агрегатор».
# ОБЯЗАТЕЛЬНО gpt-4o (сильная): слабая gpt-4o-mini наугад штампует живые
# федеральные МФО (Екапуста/Webbankir/СрочноДеньги…) как «агрегаторы» и режет
# их из подбора. Пусто → фолбэк на gpt-4o-mini (баг «режет федералов», 07.07.2026).
AITUNNEL_AGGREGATOR_MODEL=gpt-4o
@@ -1,28 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Console\Commands;
use App\Models\SaasInvoice;
use Illuminate\Console\Command;
/**
* Помечает просроченные неоплаченные счета статусом overdue (Этап 1 «оплата по счёту»).
* Только issued overdue по expires_at; оплаченные/отменённые не трогаются.
*/
class ExpireInvoicesCommand extends Command
{
protected $signature = 'invoices:expire';
protected $description = 'Помечает просроченные неоплаченные счета статусом overdue';
public function handle(): int
{
SaasInvoice::where('status', SaasInvoice::STATUS_ISSUED)
->where('expires_at', '<', now())
->update(['status' => SaasInvoice::STATUS_OVERDUE]);
return self::SUCCESS;
}
}
@@ -0,0 +1,58 @@
<?php
declare(strict_types=1);
namespace App\Console\Commands;
use App\Models\KnowledgeChunk;
use App\Support\Help\HelpArticleParser;
use Illuminate\Console\Command;
use Illuminate\Support\Facades\DB;
/**
* Переиндексация базы знаний бота из resources/help/*.md (спека §3).
* Полная перезаливка в транзакции: удалённые статьи исчезают, новые появляются.
* Ночной schedule 04:30 + ручной запуск при срочном обновлении инструкции.
*/
class HelpRebuildKnowledgeCommand extends Command
{
protected $signature = 'help:rebuild-knowledge';
protected $description = 'Перечитать статьи resources/help и обновить knowledge_chunks';
public function handle(HelpArticleParser $parser): int
{
$dir = resource_path('help');
$files = glob($dir.'/*.md') ?: [];
if ($files === []) {
$this->error("В {$dir} нет статей *.md — база знаний осталась прежней.");
return self::FAILURE;
}
$articles = [];
foreach ($files as $file) {
$articles[] = $parser->parse('help/'.basename($file), (string) file_get_contents($file));
}
DB::transaction(function () use ($articles): void {
KnowledgeChunk::query()->delete();
foreach ($articles as $article) {
foreach ($article->chunks as $i => $chunk) {
KnowledgeChunk::create([
'source_path' => $article->sourcePath,
'title' => $article->title,
'tour' => $article->tour,
'topics' => $article->topics,
'chunk_index' => $i,
'content' => $chunk,
]);
}
}
});
$this->info(sprintf('Проиндексировано статей: %d.', count($articles)));
return self::SUCCESS;
}
}
@@ -1,7 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Exceptions\Autopodbor;
class RunInFlightException extends \RuntimeException {}
@@ -6,7 +6,6 @@ namespace App\Http\Controllers\Api;
use App\Http\Controllers\Controller;
use App\Services\Dashboard\SupplyReconciliation;
use Illuminate\Database\Query\Builder;
use Illuminate\Http\JsonResponse;
use Illuminate\Http\Request;
use Illuminate\Support\Carbon;
@@ -19,63 +18,41 @@ use Illuminate\Support\Facades\DB;
*/
class AdminDashboardController extends Controller
{
/**
* Диапазон периода из query: либо date_from/date_to (свой период, приоритет),
* либо preset period=today|7d|30d|60d|90d (дефолт 7d). Возвращает [from, to]:
* to верхняя граница (конец дня date_to при своём периоде, иначе now).
*
* @return array{0:Carbon,1:Carbon}
*/
private function periodRange(Request $request): array
/** Период из query: today | 7d | 30d | 60d | 90d (дефолт 7d). */
private function periodStart(Request $request): Carbon
{
$df = (string) $request->query('date_from', '');
$dt = (string) $request->query('date_to', '');
if ($df !== '' && $dt !== '') {
try {
return [Carbon::parse($df)->startOfDay(), Carbon::parse($dt)->endOfDay()];
} catch (\Throwable) {
// невалидные даты → падаем на preset ниже
}
}
$from = match ((string) $request->query('period', '7d')) {
return match ((string) $request->query('period', '7d')) {
'today' => now()->startOfDay(),
'30d' => now()->subDays(30),
'60d' => now()->subDays(60),
'90d' => now()->subDays(90),
default => now()->subDays(7),
};
return [$from, now()];
}
/** GET /api/admin/dashboard — сводка L1 (все плитки). */
/** GET /api/admin/dashboard — сводка L1 (плитки Финансы + Здоровье). */
public function summary(Request $request): JsonResponse
{
[$from, $to] = $this->periodRange($request);
$from = $this->periodStart($request);
return response()->json([
'period' => (string) $request->query('period', '7d'),
'date_from' => $request->query('date_from'),
'date_to' => $request->query('date_to'),
'finance' => $this->financeTile($from, $to),
'finance' => $this->financeTile($from),
'health' => $this->healthTile(),
'leads' => $this->leadsTile(),
'supply' => $this->supplyTile(),
'balances' => $this->balancesTile(),
'clients' => $this->clientsTile($from, $to),
]);
}
/** @return array<string,mixed> */
private function financeTile(Carbon $from, Carbon $to): array
private function financeTile(Carbon $from): array
{
$topups = (float) DB::table('balance_transactions')
->where('type', 'topup')->whereBetween('created_at', [$from, $to])->sum('amount_rub');
->where('type', 'topup')->where('created_at', '>=', $from)->sum('amount_rub');
$charges = (float) DB::table('balance_transactions')
->where('type', 'lead_charge')->whereBetween('created_at', [$from, $to])->sum('amount_rub');
->where('type', 'lead_charge')->where('created_at', '>=', $from)->sum('amount_rub');
$active = DB::table('tenants')->where('status', 'active')->whereNull('deleted_at')->count();
$newClients = DB::table('tenants')->whereBetween('created_at', [$from, $to])->whereNull('deleted_at')->count();
$newClients = DB::table('tenants')->where('created_at', '>=', $from)->whereNull('deleted_at')->count();
$negative = DB::table('tenants')->whereNull('deleted_at')->where('balance_rub', '<', 0)->count();
return [
@@ -91,12 +68,12 @@ class AdminDashboardController extends Controller
/** GET /api/admin/dashboard/finance — детали Финансов (L2). */
public function finance(Request $request): JsonResponse
{
[$from, $to] = $this->periodRange($request);
$from = $this->periodStart($request);
$topups = (float) DB::table('balance_transactions')
->where('type', 'topup')->whereBetween('created_at', [$from, $to])->sum('amount_rub');
->where('type', 'topup')->where('created_at', '>=', $from)->sum('amount_rub');
$charges = abs((float) DB::table('balance_transactions')
->where('type', 'lead_charge')->whereBetween('created_at', [$from, $to])->sum('amount_rub'));
->where('type', 'lead_charge')->where('created_at', '>=', $from)->sum('amount_rub'));
// «Требуют внимания»: баланс < 0 (по возрастанию — самые глубокие минусы сверху).
$attention = DB::table('tenants')->whereNull('deleted_at')
@@ -116,7 +93,7 @@ class AdminDashboardController extends Controller
$top = DB::table('balance_transactions')
->join('tenants', 'tenants.id', '=', 'balance_transactions.tenant_id')
->where('balance_transactions.type', 'topup')
->whereBetween('balance_transactions.created_at', [$from, $to])
->where('balance_transactions.created_at', '>=', $from)
->whereNull('tenants.deleted_at')
->groupBy('tenants.id', 'tenants.organization_name')
->orderByRaw('SUM(balance_transactions.amount_rub) DESC')
@@ -279,29 +256,11 @@ class AdminDashboardController extends Controller
];
}
/** GET /api/admin/dashboard/leads — KPI распределения лидов + топ-10 последних (L2). */
/** GET /api/admin/dashboard/leads — KPI распределения лидов (L2). */
public function leads(): JsonResponse
{
$m = $this->leadsMetrics();
// Топ-10 последних лидов для drill (полный список — на экране /admin/leads).
$recent = DB::table('supplier_leads as sl')
->leftJoin('supplier_projects as sp', 'sp.id', '=', 'sl.supplier_project_id')
->orderByDesc('sl.received_at')
->limit(10)
->get(['sl.id', 'sl.received_at', 'sl.platform', 'sl.phone', 'sl.processed_at',
'sl.deals_created_count', 'sp.signal_type as channel', 'sp.unique_key'])
->map(fn ($r) => [
'id' => (int) $r->id,
'received_at' => $r->received_at,
'platform' => $r->platform,
'channel' => $r->channel,
'source' => $r->unique_key,
'phone_masked' => $this->maskPhoneShort($r->phone),
'delivered' => ((int) ($r->deals_created_count ?? 0)) > 0,
'processed' => $r->processed_at !== null,
]);
return response()->json([
'light' => $m['light'],
'kpi' => [
@@ -310,21 +269,9 @@ class AdminDashboardController extends Controller
'stuck' => $m['stuck'],
'unrouted' => $m['unrouted'],
],
'recent' => $recent,
]);
}
/** Короткая маска телефона для drill (152-ФЗ). */
private function maskPhoneShort(?string $phone): string
{
if (! $phone) {
return '—';
}
$d = preg_replace('/\D/', '', $phone);
return strlen((string) $d) >= 4 ? substr((string) $d, 0, 2).'***'.substr((string) $d, -2) : '***';
}
// === Этап 2: Заказ у поставщика ===
/**
@@ -396,173 +343,6 @@ class AdminDashboardController extends Controller
];
}
// === Балансы внешних сервисов (28.06) ===
/** Порядок «опасности» светофора: больше = хуже. */
private const LIGHT_ORDER = ['green' => 0, 'grey' => 1, 'amber' => 2, 'red' => 3];
/**
* Прямая ссылка «Пополнить» для сервиса (статика из конфига; в БД не хранится).
* Владелец с планшета: увидел минус ткнул попал на страницу оплаты.
*/
private function topupUrl(string $key): ?string
{
return match ($key) {
'dadata' => (string) config('services.dadata.topup_url') ?: null,
'supplier' => (string) config('services.supplier.topup_url') ?: null,
'yandex_cloud' => $this->ycTopupUrl(),
'email' => (string) config('services.yandex360.topup_url') ?: null,
default => null,
};
}
private function ycTopupUrl(): ?string
{
$base = (string) config('services.yandex_cloud.console_billing_url');
$acc = (string) config('services.yandex_cloud.billing_account_id');
if ($base === '' || $acc === '') {
return null;
}
return rtrim($base, '/').'/'.$acc.'/payments';
}
/** @return array<string,mixed> */
private function balancesTile(): array
{
$rows = DB::table('external_service_balances')->get();
$light = $rows->isEmpty() ? 'grey'
: $rows->map(fn ($r) => $r->ok ? $r->light : 'grey')
->sortByDesc(fn ($l) => self::LIGHT_ORDER[$l] ?? 0)->first();
return [
'light' => $light,
'count' => $rows->count(),
'red' => $rows->where('ok', true)->where('light', 'red')->count(),
];
}
/** GET /api/admin/dashboard/balances — балансы внешних сервисов (L2). */
public function balances(): JsonResponse
{
$rows = DB::table('external_service_balances')->get()->map(fn ($r) => [
'service_key' => $r->service_key,
'balance_amount' => $r->balance_amount,
'currency' => $r->currency,
'daily_spend_estimate' => $r->daily_spend_estimate,
'days_left' => $r->days_left,
'light' => $r->ok ? $r->light : 'grey',
'ok' => (bool) $r->ok,
'error' => $r->error,
'checked_at' => $r->checked_at,
'topup_url' => $this->topupUrl($r->service_key),
])->values();
$light = $rows->isEmpty() ? 'grey'
: $rows->sortByDesc(fn ($s) => self::LIGHT_ORDER[$s['light']] ?? 0)->first()['light'];
return response()->json(['light' => $light, 'services' => $rows]);
}
// === Клиенты (активность) ===
/** Клиент «спит», если его тенант не заходил дольше этого срока (или ни разу). */
private const DORMANT_DAYS = 14;
/** @return array{total_active:int,new_count:int,logged_in:int,got_leads:int,paid:int} */
private function clientActivityKpi(Carbon $from, Carbon $to): array
{
return [
'total_active' => DB::table('tenants')->whereNull('deleted_at')->where('status', 'active')->count(),
'new_count' => DB::table('tenants')->whereNull('deleted_at')->whereBetween('created_at', [$from, $to])->count(),
'logged_in' => DB::table('users')->whereBetween('last_login_at', [$from, $to])->distinct()->count('tenant_id'),
'got_leads' => DB::table('deals')->whereBetween('received_at', [$from, $to])->where('is_test', false)
->whereNull('deleted_at')->distinct()->count('tenant_id'),
'paid' => DB::table('balance_transactions')->where('type', 'topup')->whereBetween('created_at', [$from, $to])
->distinct()->count('tenant_id'),
];
}
/** Активные тенанты без входа дольше DORMANT_DAYS (или ни разу) — «спящие». */
private function dormantQuery(): Builder
{
$lastLogin = DB::table('users')->select('tenant_id', DB::raw('MAX(last_login_at) as last_login_at'))
->groupBy('tenant_id');
return DB::table('tenants')
->leftJoinSub($lastLogin, 'll', 'll.tenant_id', '=', 'tenants.id')
->whereNull('tenants.deleted_at')
->where('tenants.status', 'active')
->where(function ($q) {
$q->whereNull('ll.last_login_at')
->orWhere('ll.last_login_at', '<', now()->subDays(self::DORMANT_DAYS));
});
}
/** @return array<string,mixed> */
private function clientsTile(Carbon $from, Carbon $to): array
{
$kpi = $this->clientActivityKpi($from, $to);
$dormant = (clone $this->dormantQuery())->count();
return [
'light' => $dormant > 0 ? 'amber' : 'green',
'total_active' => $kpi['total_active'],
'new_count' => $kpi['new_count'],
'logged_in' => $kpi['logged_in'],
'dormant' => $dormant,
];
}
/** GET /api/admin/dashboard/clients — активность клиентов + новые + спящие (L2). */
public function clients(Request $request): JsonResponse
{
[$from, $to] = $this->periodRange($request);
$kpi = $this->clientActivityKpi($from, $to);
$lastLogin = DB::table('users')->select('tenant_id', DB::raw('MAX(last_login_at) as last_login_at'))
->groupBy('tenant_id');
$newClients = DB::table('tenants')
->leftJoinSub($lastLogin, 'll', 'll.tenant_id', '=', 'tenants.id')
->whereNull('tenants.deleted_at')
->whereBetween('tenants.created_at', [$from, $to])
->orderByDesc('tenants.created_at')
->limit(50)
->get([
'tenants.id', 'tenants.organization_name', 'tenants.subdomain', 'tenants.status',
'tenants.created_at', 'tenants.balance_rub', 'tenants.delivered_in_month', 'll.last_login_at',
])
->map(fn ($t) => [
'id' => (int) $t->id,
'organization_name' => $t->organization_name ?: $t->subdomain,
'subdomain' => $t->subdomain,
'status' => $t->status,
'created_at' => $t->created_at,
'last_login_at' => $t->last_login_at,
'delivered_in_month' => (int) $t->delivered_in_month,
'balance_rub' => (string) $t->balance_rub,
]);
$dormant = (clone $this->dormantQuery())
->orderByRaw('ll.last_login_at ASC NULLS FIRST')
->limit(50)
->get(['tenants.id', 'tenants.organization_name', 'tenants.subdomain', 'tenants.balance_rub', 'll.last_login_at'])
->map(fn ($t) => [
'id' => (int) $t->id,
'organization_name' => $t->organization_name ?: $t->subdomain,
'subdomain' => $t->subdomain,
'last_login_at' => $t->last_login_at,
'balance_rub' => (string) $t->balance_rub,
]);
return response()->json([
'kpi' => $kpi,
'new_clients' => $newClients,
'dormant' => $dormant,
]);
}
/** GET /api/admin/dashboard/supply — заказ у поставщика по группам (L2). */
public function supply(): JsonResponse
{
@@ -1,66 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Http\Controllers\Api;
use App\Http\Controllers\Controller;
use App\Services\Billing\Invoice\InvoicePaymentService;
use Illuminate\Http\JsonResponse;
use Illuminate\Http\Request;
use Illuminate\Support\Facades\DB;
/**
* SaaS-admin: список счетов + ручная отметка оплаты (Этап 1 «оплата по счёту»).
* Зона saas-admin/admin-db. Зачисление делегируется InvoicePaymentService
* (идемпотентно, под tenant RLS-контекстом).
*/
class AdminInvoiceController extends Controller
{
public function __construct(private readonly InvoicePaymentService $payments) {}
public function index(Request $request): JsonResponse
{
$perPage = min(100, max(10, (int) $request->query('per_page', 25)));
$query = DB::table('saas_invoices as i')
->leftJoin('tenants as t', 't.id', '=', 'i.tenant_id')
->select(
'i.id', 'i.invoice_number', 'i.amount_total', 'i.status',
'i.issued_at', 'i.expires_at', 'i.tenant_id', 't.organization_name as tenant_name', 'i.payer_name'
);
$status = $request->query('status');
if (is_string($status) && in_array($status, ['issued', 'paid', 'overdue', 'cancelled'], true)) {
$query->where('i.status', $status);
}
$search = trim((string) $request->query('search', ''));
if ($search !== '') {
$query->where(function ($q) use ($search) {
$q->where('i.invoice_number', 'ilike', "%{$search}%")
->orWhere('i.payer_name', 'ilike', "%{$search}%")
->orWhere('t.organization_name', 'ilike', "%{$search}%");
});
}
$page = $query->orderByDesc('i.issued_at')->paginate($perPage);
return response()->json([
'data' => array_map(static fn ($r) => (array) $r, $page->items()),
'meta' => [
'current_page' => $page->currentPage(),
'last_page' => $page->lastPage(),
'total' => $page->total(),
'per_page' => $page->perPage(),
],
]);
}
public function markPaid(Request $request, int $id): JsonResponse
{
$this->payments->markPaid($id);
return response()->json(['status' => 'ok']);
}
}
@@ -1,210 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Http\Controllers\Api;
use App\Http\Controllers\Controller;
use Illuminate\Database\Query\Builder;
use Illuminate\Http\JsonResponse;
use Illuminate\Http\Request;
use Illuminate\Support\Facades\DB;
/**
* SaaS-admin «Лиды» (L3) сквозная вложенность дашборда до конечного источника.
* Серверная пагинация/фильтры (масштаб: десятки тысяч лидов).
* Цепочка: supplier_leads.supplier_project_id источник (канал+identifier),
* platform = поставщик (B1/B2/B3), resolved_subject_code = регион,
* deals.source_crm_id = supplier_leads.vid сделки клиентов.
* Группа ['saas-admin','admin-db'] cross-tenant через pgsql_admin.
* Spec: docs/superpowers/specs/2026-06-28-dashboard-drilldown-scale-design.md
*/
class AdminLeadsController extends Controller
{
private const PER_PAGE_DEFAULT = 25;
private const PER_PAGE_MAX = 100;
private const STUCK_HOURS = 4;
/** Маска телефона по 152-ФЗ: «+7 9** *** ** 07» (видны код страны и 2 последние). */
private function maskPhone(?string $phone): string
{
if (! $phone) {
return '—';
}
$digits = preg_replace('/\D/', '', $phone);
if (strlen((string) $digits) < 4) {
return '***';
}
$last2 = substr((string) $digits, -2);
$first = substr((string) $digits, 0, 2);
return $first.'** *** ** '.$last2;
}
/** Производный статус лида для UI. */
private function statusOf(object $r): string
{
if ($r->error !== null && $r->error !== '') {
return 'error';
}
if ($r->processed_at !== null) {
return ((int) ($r->deals_created_count ?? 0)) > 0 ? 'delivered' : 'no_match';
}
return 'pending'; // визуально «завис» определяет фронт по времени, но базово pending
}
/** Базовый запрос лидов с присоединённым источником (supplier_projects). */
private function baseQuery(Request $request): Builder
{
$q = DB::table('supplier_leads as sl')
->leftJoin('supplier_projects as sp', 'sp.id', '=', 'sl.supplier_project_id');
if (($df = (string) $request->query('date_from', '')) !== '' && ($dt = (string) $request->query('date_to', '')) !== '') {
$q->whereBetween('sl.received_at', [$df.' 00:00:00', $dt.' 23:59:59']);
}
if (($channel = (string) $request->query('channel', '')) !== '') {
$q->where('sp.signal_type', $channel);
}
if (($platform = (string) $request->query('platform', '')) !== '') {
$q->where('sl.platform', $platform);
}
if (($search = trim((string) $request->query('search', ''))) !== '') {
$q->where(function ($w) use ($search) {
$w->where('sl.phone', 'like', '%'.$search.'%')
->orWhere('sp.unique_key', 'like', '%'.$search.'%')
->orWhere('sl.vid', '=', ctype_digit($search) ? (int) $search : 0);
});
}
if (($status = (string) $request->query('status', '')) !== '') {
$this->applyStatusFilter($q, $status);
}
if (($tenantId = (int) $request->query('tenant_id', 0)) > 0) {
$q->whereExists(function ($e) use ($tenantId) {
$e->select(DB::raw(1))->from('deals')
->whereColumn('deals.source_crm_id', 'sl.vid')
->where('deals.tenant_id', $tenantId);
});
}
return $q;
}
private function applyStatusFilter(Builder $q, string $status): void
{
match ($status) {
'error' => $q->whereNotNull('sl.error')->where('sl.error', '<>', ''),
'delivered' => $q->whereNotNull('sl.processed_at')->where('sl.deals_created_count', '>', 0),
'no_match' => $q->whereNotNull('sl.processed_at')
->where(fn ($w) => $w->whereNull('sl.deals_created_count')->orWhere('sl.deals_created_count', '=', 0)),
'stuck' => $q->whereNull('sl.processed_at')->where('sl.received_at', '<', now()->subHours(self::STUCK_HOURS)),
'pending' => $q->whereNull('sl.processed_at'),
default => null,
};
}
/** @return array<string,mixed> */
private function rowToArray(object $r): array
{
return [
'id' => (int) $r->id,
'received_at' => $r->received_at,
'platform' => $r->platform,
'channel' => $r->channel,
'source' => $r->unique_key,
'region_code' => $r->resolved_subject_code !== null ? (int) $r->resolved_subject_code : null,
'phone_masked' => $this->maskPhone($r->phone),
'deals_created_count' => (int) ($r->deals_created_count ?? 0),
'status' => $this->statusOf($r),
];
}
/** GET /api/admin/leads — серверный список с фильтрами/пагинацией. */
public function index(Request $request): JsonResponse
{
$perPage = min(self::PER_PAGE_MAX, max(1, (int) $request->query('per_page', self::PER_PAGE_DEFAULT)));
$page = max(1, (int) $request->query('page', 1));
$base = $this->baseQuery($request);
$total = (clone $base)->count();
$rows = $base
->orderByDesc('sl.received_at')
->offset(($page - 1) * $perPage)
->limit($perPage)
->get([
'sl.id', 'sl.received_at', 'sl.platform', 'sl.phone', 'sl.deals_created_count',
'sl.processed_at', 'sl.error', 'sl.resolved_subject_code',
'sp.signal_type as channel', 'sp.unique_key',
])
->map(fn ($r) => $this->rowToArray($r));
return response()->json([
'data' => $rows,
'total' => $total,
'page' => $page,
'per_page' => $perPage,
]);
}
/** GET /api/admin/leads/{id} — карточка лида: источник + сделки клиентов (цепочка). */
public function show(int $id): JsonResponse
{
$lead = DB::table('supplier_leads as sl')
->leftJoin('supplier_projects as sp', 'sp.id', '=', 'sl.supplier_project_id')
->where('sl.id', $id)
->first([
'sl.id', 'sl.received_at', 'sl.processed_at', 'sl.error', 'sl.platform', 'sl.phone',
'sl.vid', 'sl.deals_created_count', 'sl.resolved_subject_code', 'sl.region_source',
'sl.phone_operator', 'sp.signal_type as channel', 'sp.unique_key', 'sp.id as supplier_project_id',
]);
if ($lead === null) {
return response()->json(['message' => 'Лид не найден'], 404);
}
$deals = DB::table('deals')
->join('tenants', 'tenants.id', '=', 'deals.tenant_id')
->where('deals.source_crm_id', $lead->vid)
->orderByDesc('deals.received_at')
->limit(50)
->get([
'deals.id', 'deals.tenant_id', 'tenants.organization_name', 'tenants.subdomain',
'deals.status', 'deals.project_id', 'deals.received_at',
])
->map(fn ($d) => [
'id' => (int) $d->id,
'tenant_id' => (int) $d->tenant_id,
'tenant_name' => $d->organization_name ?: $d->subdomain,
'subdomain' => $d->subdomain,
'status' => $d->status,
'project_id' => $d->project_id !== null ? (int) $d->project_id : null,
'received_at' => $d->received_at,
]);
return response()->json([
'lead' => [
'id' => (int) $lead->id,
'platform' => $lead->platform,
'phone_masked' => $this->maskPhone($lead->phone),
'received_at' => $lead->received_at,
'processed_at' => $lead->processed_at,
'error' => $lead->error,
'region_code' => $lead->resolved_subject_code !== null ? (int) $lead->resolved_subject_code : null,
'region_source' => $lead->region_source,
'phone_operator' => $lead->phone_operator,
'deals_created_count' => (int) ($lead->deals_created_count ?? 0),
'status' => $this->statusOf($lead),
],
'source' => [
'platform' => $lead->platform,
'channel' => $lead->channel,
'identifier' => $lead->unique_key,
'supplier_project_id' => $lead->supplier_project_id !== null ? (int) $lead->supplier_project_id : null,
],
'deals' => $deals,
]);
}
}
@@ -31,21 +31,12 @@ use Illuminate\Support\Facades\DB;
*/
class AdminSystemSettingsController extends Controller
{
/** Ключи-секреты: значение не отдаём в общий список (хранится зашифрованно). */
private const SENSITIVE_KEYS = ['supplier_webhook_secret'];
/** GET /api/admin/system-settings */
public function index(): JsonResponse
{
$settings = SystemSetting::orderBy('key')->get()->map(function (SystemSetting $s) {
if (in_array($s->key, self::SENSITIVE_KEYS, true)) {
$s->value = $s->value === '' ? '' : '••• (скрыто)';
}
return $s;
});
return response()->json(['settings' => $settings]);
return response()->json([
'settings' => SystemSetting::orderBy('key')->get(),
]);
}
/** PUT /api/admin/system-settings/{key} */
@@ -30,14 +30,10 @@ class AdminTenantsController extends Controller
{
use ResolvesAdminUserId;
/** GET /api/admin/tenants?status=&statuses=&tariffs=&search=&limit=&offset= */
/** GET /api/admin/tenants?status=&search=&limit=&offset= */
public function index(Request $request): JsonResponse
{
$status = (string) $request->query('status', '');
// statuses — производные статусы UI (trial/overdue/active/suspended), csv, multi.
// tariffs — имена тарифов (tariff_plans.name), csv, multi.
$statuses = $this->csvParam($request, 'statuses');
$tariffs = $this->csvParam($request, 'tariffs');
$search = trim((string) $request->query('search', ''));
$limit = max(1, min(500, (int) $request->query('limit', '100')));
$offset = max(0, (int) $request->query('offset', '0'));
@@ -63,22 +59,8 @@ class AdminTenantsController extends Controller
])
->whereNull('tenants.deleted_at');
// Производный статус — зеркалит adminTenantsMapper.deriveStatus (фронт):
// trial > suspended > overdue > active. Серверная фильтрация нужна для масштаба
// (1000 клиентов): без неё чипы фильтровали бы только загруженную страницу.
if ($statuses !== []) {
$query->whereIn(DB::raw("(CASE
WHEN tenants.is_trial THEN 'trial'
WHEN tenants.status = 'suspended' THEN 'suspended'
WHEN tenants.chargeback_unrecovered_rub > 0 OR tenants.balance_rub < 0 THEN 'overdue'
WHEN tenants.status = 'active' THEN 'active'
ELSE 'suspended'
END)"), $statuses);
} elseif ($status !== '') {
$query->where('tenants.status', $status); // back-compat: фильтр по сырой колонке
}
if ($tariffs !== []) {
$query->whereIn('tariff_plans.name', $tariffs);
if ($status !== '') {
$query->where('tenants.status', $status);
}
if ($search !== '') {
$like = '%'.$search.'%';
@@ -469,19 +451,6 @@ class AdminTenantsController extends Controller
];
}
/**
* Разбирает csv-параметр запроса в список непустых trimmed-строк.
*
* @return list<string>
*/
private function csvParam(Request $request, string $key): array
{
return array_values(array_filter(array_map(
'trim',
explode(',', (string) $request->query($key, '')),
)));
}
/**
* Aggregate-stats для page-head: total / active / trial / overdue / revenue.
* Считается отдельным запросом без фильтров (показывает глобальную картину
@@ -1,42 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Http\Controllers\Api;
use App\Http\Controllers\Controller;
use App\Services\External\Yandex360BalanceStore;
use Illuminate\Http\JsonResponse;
use Illuminate\Http\Request;
/**
* SaaS-admin Система: ручной ввод баланса Яндекс 360 (почта).
* Владелец периодически вписывает сумму из кабинета (у Яндекса нет API баланса).
*/
class AdminYandex360BalanceController extends Controller
{
public function __construct(private readonly Yandex360BalanceStore $store) {}
/** GET /api/admin/settings/yandex360-balance */
public function show(): JsonResponse
{
return response()->json($this->store->status());
}
/** PUT /api/admin/settings/yandex360-balance — {balance:number|null} */
public function update(Request $request): JsonResponse
{
$raw = $request->input('balance');
$balance = ($raw === null || $raw === '') ? null : (float) $raw;
if ($balance !== null && $balance < 0) {
return response()->json([
'message' => 'Баланс не может быть отрицательным.',
'errors' => ['balance' => ['Введите сумму ≥ 0 или очистите поле.']],
], 422);
}
$this->store->set($balance);
return response()->json($this->store->status());
}
}
File diff suppressed because it is too large Load Diff
@@ -307,14 +307,7 @@ class BillingController extends Controller
$rows = DB::table('saas_invoices')
->where('tenant_id', $tenantId)
->orderBy('issued_at', 'desc')
->get(['id', 'invoice_number', 'amount_total', 'status', 'issued_at', 'expires_at', 'pdf_path']);
// Какие счета уже имеют закрывающий документ (акт) — для кнопки «Скачать акт».
$actInvoiceIds = DB::table('saas_upd_documents')
->where('tenant_id', $tenantId)
->whereNotNull('invoice_id')
->pluck('invoice_id')
->flip();
->get(['id', 'invoice_number', 'amount_total', 'status', 'issued_at', 'pdf_path']);
return response()->json([
'data' => $rows->map(static fn (\stdClass $r): array => [
@@ -323,11 +316,7 @@ class BillingController extends Controller
'amount_total' => $r->amount_total,
'status' => $r->status,
'issued_at' => $r->issued_at,
'expires_at' => $r->expires_at,
'has_pdf' => $r->pdf_path !== null,
'has_act' => isset($actInvoiceIds[$r->id]),
'pdf_url' => $r->pdf_path !== null ? "/api/billing/invoices/{$r->id}/pdf" : null,
'act_url' => isset($actInvoiceIds[$r->id]) ? "/api/billing/invoices/{$r->id}/act" : null,
])->all(),
]);
}
@@ -6,7 +6,6 @@ namespace App\Http\Controllers\Api;
use App\Http\Controllers\Controller;
use App\Models\ActivityLog;
use App\Models\AutopodborSource;
use App\Models\Deal;
use App\Models\LeadCharge;
use App\Models\Project;
@@ -105,7 +104,7 @@ class DealController extends Controller
$query = Deal::query()
->select('deals.*')
->where('tenant_id', $tenantId)
->with(['project:id,name,signal_type,signal_identifier,sms_keyword,sms_senders,is_active', 'manager:id,email,first_name,last_name']);
->with(['project:id,name,signal_type,signal_identifier,sms_keyword,sms_senders', 'manager:id,email,first_name,last_name']);
if ($onlyDeleted) {
$query->withTrashed()->whereNotNull('deleted_at');
@@ -207,25 +206,6 @@ class DealController extends Controller
});
}
// Автоподбор: по каждой сделке — конкурент + источник (связь
// deal.project_id → autopodbor_sources.created_project_id → competitor).
// Батч-запрос по project_id всей страницы (без N+1). Своя транзакция с
// app.current_tenant_id — иначе RLS на autopodbor_* вернёт 0 строк.
$sourcesByProject = collect();
$projectIds = $deals->pluck('project_id')->filter()->unique()->values()->all();
if ($projectIds !== []) {
$sourcesByProject = DB::transaction(function () use ($tenantId, $projectIds) {
DB::statement('SET LOCAL app.current_tenant_id = '.$tenantId);
return AutopodborSource::query()
->where('tenant_id', $tenantId)
->whereIn('created_project_id', $projectIds)
->with('competitor:id,name')
->get()
->groupBy('created_project_id');
});
}
$payload = [
'deals' => $deals->map(fn (Deal $d) => [
'id' => $d->id,
@@ -250,21 +230,6 @@ class DealController extends Controller
'project_sms_keyword' => $d->project?->sms_keyword,
'project_sms_senders' => $d->project?->sms_senders,
'cost_kopecks' => $costByDeal[$d->id] ?? null,
// Автоподбор (2026-07-08): конкурент + источник для колонок «Сделок».
...(function () use ($d, $sourcesByProject) {
$group = $sourcesByProject[$d->project_id] ?? collect();
$repr = $group->firstWhere('box', 'field') ?? $group->first();
return [
'competitor_id' => $repr?->competitor_id,
'competitor_name' => $repr?->competitor?->name,
'source_identifier' => $repr?->identifier,
'source_signal_type' => $repr?->signal_type,
'source_project_id' => $repr ? $d->project_id : null,
'source_is_active' => $repr ? (bool) $d->project?->is_active : null,
'source_extra_count' => max(0, $group->count() - 1),
];
})(),
]),
'limit' => $limit,
'next_cursor' => $nextCursor,
@@ -1,85 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Http\Controllers\Api;
use App\Http\Controllers\Controller;
use App\Models\SaasInvoice;
use App\Models\SaasUpdDocument;
use App\Models\User;
use App\Services\Billing\Invoice\InvoiceService;
use App\Services\Billing\Invoice\RequisitesIncompleteException;
use Illuminate\Http\JsonResponse;
use Illuminate\Http\Request;
use Illuminate\Http\Response;
use Illuminate\Support\Facades\Storage;
use Illuminate\Support\Str;
/**
* Клиентские эндпоинты «оплата по счёту» (под middleware auth:sanctum + tenant).
* Создание счёта (самообслуживание), скачивание PDF счёта и акта (tenant-scoped).
*/
class InvoiceController extends Controller
{
public function __construct(private readonly InvoiceService $invoices) {}
public function store(Request $request): JsonResponse
{
$validated = $request->validate([
'amount_rub' => ['required', 'numeric', 'min:100', 'max:1000000', 'decimal:0,2'],
]);
/** @var User $user */
$user = $request->user();
$amountRub = bcadd((string) $validated['amount_rub'], '0', 2);
try {
$invoice = $this->invoices->create((int) $user->tenant_id, $amountRub, (int) $user->id);
} catch (RequisitesIncompleteException $e) {
return response()->json(['message' => $e->getMessage()], 422);
}
return response()->json(['invoice' => [
'id' => $invoice->id,
'invoice_number' => $invoice->invoice_number,
'amount_total' => $invoice->amount_total,
'pdf_url' => "/api/billing/invoices/{$invoice->id}/pdf",
]], 201);
}
public function pdf(Request $request, int $id): Response
{
/** @var User $user */
$user = $request->user();
$invoice = SaasInvoice::where('id', $id)->where('tenant_id', $user->tenant_id)->firstOrFail();
abort_if($invoice->pdf_path === null || ! Storage::disk('local')->exists($invoice->pdf_path), 404);
return $this->inlinePdf($invoice->pdf_path, 'Schet-'.$invoice->invoice_number);
}
public function act(Request $request, int $id): Response
{
/** @var User $user */
$user = $request->user();
$invoice = SaasInvoice::where('id', $id)->where('tenant_id', $user->tenant_id)->firstOrFail();
$act = SaasUpdDocument::where('invoice_id', $invoice->id)->firstOrFail();
abort_if($act->pdf_path === null || ! Storage::disk('local')->exists($act->pdf_path), 404);
return $this->inlinePdf($act->pdf_path, 'Akt-'.$act->upd_number);
}
/**
* Отдать PDF для просмотра в браузере (inline) с ASCII-безопасным именем
* кириллица в Content-Disposition ломала имя файла в браузере (random GUID).
*/
private function inlinePdf(string $path, string $baseName): Response
{
$content = Storage::disk('local')->get($path);
$filename = Str::ascii($baseName).'.pdf'; // напр. Schet-SCh-2026-00001.pdf
return response($content, 200, [
'Content-Type' => 'application/pdf',
'Content-Disposition' => 'inline; filename="'.$filename.'"',
]);
}
}
@@ -0,0 +1,38 @@
<?php
declare(strict_types=1);
namespace App\Http\Controllers\Api;
use App\Http\Controllers\Controller;
use App\Jobs\Bot\ProcessJivoMessageJob;
use Illuminate\Http\JsonResponse;
use Illuminate\Http\Request;
/**
* Приём событий Jivo Bot API (спека §§2,5). Образец защиты SupplierWebhookController:
* секрет в URL (≥32 симв., config services.jivo_bot.webhook_secret), hash_equals,
* несовпадение 404 (не палим endpoint). Ack мгновенный (лимит Jivo 3 сек):
* вся работа в ProcessJivoMessageJob. Обрабатываем только CLIENT_MESSAGE
* с непустым текстом; служебные события подтверждаем и игнорируем.
*/
class JivoBotController extends Controller
{
public function receive(Request $request, string $secret = ''): JsonResponse
{
$expected = (string) config('services.jivo_bot.webhook_secret');
if ($expected === '' || strlen($expected) < 32 || ! hash_equals($expected, $secret)) {
return response()->json(['message' => 'Not found.'], 404);
}
$event = (string) $request->input('event', '');
$text = trim((string) $request->input('message.text', ''));
$chatId = (string) $request->input('chat_id', '');
if ($event === 'CLIENT_MESSAGE' && $text !== '' && $chatId !== '') {
ProcessJivoMessageJob::dispatch($chatId, (string) $request->input('client_id', ''), $text);
}
return response()->json(['ok' => true]);
}
}
@@ -9,14 +9,15 @@ use App\Http\Requests\BulkProjectActionRequest;
use App\Http\Requests\StoreProjectRequest;
use App\Http\Requests\UpdateProjectRequest;
use App\Http\Resources\ProjectResource;
use App\Jobs\SyncSupplierProjectJob;
use App\Models\Project;
use App\Models\Tenant;
use App\Services\Billing\LaunchBalanceGate;
use App\Repositories\PricingTierRepository;
use App\Services\Billing\BalancePreflightService;
use App\Services\Project\ProjectService;
use App\Services\Requisites\RequisitesService;
use Illuminate\Http\JsonResponse;
use Illuminate\Http\Request;
use Illuminate\Support\Facades\DB;
/**
* Проекты tenant'а расширенный API для ProjectsView + NewDealDialog.
@@ -133,18 +134,35 @@ class ProjectController extends Controller
return response()->json(['error' => 'requisites_required'], 422);
}
unset($validated['force_save_blocked']); // больше не блокируем создание
$forceSaveBlocked = (bool) ($validated['force_save_blocked'] ?? false);
unset($validated['force_save_blocked']);
$project = $this->projects->create($tenant, $validated, launch: true);
// Spec C §3.4: преfflight баланса при создании. existingLimit учитывает только активные.
$existingLimit = (int) Project::where('tenant_id', $tenant->id)
->where('is_active', true)
->whereNull('preflight_blocked_at')
->sum('daily_limit_target');
$wouldBeRequired = $existingLimit + (int) $validated['daily_limit_target'];
return response()->json([
'data' => new ProjectResource($project->loadCount('supplierProjects')),
'launch' => [
'launched' => $project->launch_deferred ? 0 : 1,
'deferred' => $project->launch_deferred ? 1 : 0,
'balance' => $project->gate_payload,
],
], 201);
$preflight = $this->runPreflight($tenant, $wouldBeRequired);
if (! $preflight['passes'] && ! $forceSaveBlocked) {
return response()->json([
'error' => 'balance_insufficient',
'current_balance_rub' => (string) $tenant->balance_rub,
'current_capacity_leads' => $preflight['capacity_leads'],
'would_be_required_leads' => $wouldBeRequired,
'deficit_leads' => $preflight['deficit_leads'],
], 409);
}
if (! $preflight['passes'] && $forceSaveBlocked) {
$validated['preflight_blocked_at'] = now();
}
$project = $this->projects->create($tenant, $validated);
return response()->json(['data' => new ProjectResource($project->loadCount('supplierProjects'))], 201);
}
/** PATCH /api/projects/{id} */
@@ -153,28 +171,34 @@ class ProjectController extends Controller
$project = Project::where('tenant_id', $request->user()->tenant_id)->findOrFail($id);
$validated = $request->validated();
$tenant = $request->user()->tenant;
$forceSaveBlocked = (bool) ($validated['force_save_blocked'] ?? false);
unset($validated['force_save_blocked']);
$isLimitRaise = array_key_exists('daily_limit_target', $validated)
&& (int) $validated['daily_limit_target'] > (int) $project->daily_limit_target
&& $project->is_active && $project->preflight_blocked_at === null;
// Spec C §3.4: преfflight при изменении лимита — учитываем новое значение для ЭТОГО
// проекта + лимиты остальных активных не-blocked.
if (array_key_exists('daily_limit_target', $validated)) {
$existingLimit = (int) Project::where('tenant_id', $tenant->id)
->where('id', '!=', $project->id)
->where('is_active', true)
->whereNull('preflight_blocked_at')
->sum('daily_limit_target');
$wouldBeRequired = $existingLimit + (int) $validated['daily_limit_target'];
if ($isLimitRaise) {
$newLimit = (int) $validated['daily_limit_target'];
$tenantId = $tenant->id;
$preflight = $this->runPreflight($tenant, $wouldBeRequired);
return DB::transaction(function () use ($project, $validated, $tenant, $tenantId, $newLimit): JsonResponse {
Tenant::whereKey($tenantId)->lockForUpdate()->firstOrFail();
if (! $preflight['passes'] && ! $forceSaveBlocked) {
return response()->json([
'error' => 'balance_insufficient',
'current_balance_rub' => (string) $tenant->balance_rub,
'current_capacity_leads' => $preflight['capacity_leads'],
'would_be_required_leads' => $wouldBeRequired,
'deficit_leads' => $preflight['deficit_leads'],
], 409);
}
$gate = app(LaunchBalanceGate::class)->evaluate($tenant, $newLimit, [$project->id]);
if (! $gate->passes) {
return response()->json(['error' => 'balance_insufficient', 'balance' => $gate->toBalancePayload()], 409);
}
$updated = $this->projects->update($project, $validated);
return response()->json(['data' => new ProjectResource($updated->loadCount('supplierProjects'))]);
});
if (! $preflight['passes'] && $forceSaveBlocked) {
$validated['preflight_blocked_at'] = now();
}
}
$updated = $this->projects->update($project, $validated);
@@ -182,6 +206,34 @@ class ProjectController extends Controller
return response()->json(['data' => new ProjectResource($updated->loadCount('supplierProjects'))]);
}
/**
* @return array{passes: bool, capacity_leads: int, deficit_leads: int}
*/
private function runPreflight(Tenant $tenant, int $requiredLeads): array
{
// Косяк 01: действующая версия тарифа по дате (как списание/витрина), а не «по-простому».
$tiers = app(PricingTierRepository::class)->activeAt(now('Europe/Moscow'));
// Safe fallback: без активных pricing_tiers биллинг не настроен —
// преfflight не имеет смысла, пропускаем (legacy-окружения / тесты).
if ($tiers->isEmpty()) {
return ['passes' => true, 'capacity_leads' => PHP_INT_MAX, 'deficit_leads' => 0];
}
$result = (new BalancePreflightService)->evaluate(
balanceRub: (string) $tenant->balance_rub,
deliveredInMonth: (int) $tenant->delivered_in_month,
requiredLeads: $requiredLeads,
tiers: $tiers,
);
return [
'passes' => $result->passes,
'capacity_leads' => $result->capacityLeads,
'deficit_leads' => $result->deficitLeads,
];
}
/** GET /api/projects/{id} */
public function show(Request $request, int $id): JsonResponse
{
@@ -217,13 +269,23 @@ class ProjectController extends Controller
$request->validate(['is_active' => ['required', 'boolean']]);
$project = Project::where('tenant_id', $request->user()->tenant_id)->findOrFail($id);
$result = $this->projects->setActive($project, $request->boolean('is_active'));
// Spec: docs/superpowers/plans/2026-05-26-supplier-snapshot-guard.md (Task 11).
// paused_at — anchor для SupplierSnapshotGuard grace-расчёта.
$newActive = $request->boolean('is_active');
$project->update([
'is_active' => $newActive,
'paused_at' => $newActive ? null : now(),
]);
if ($result->activate_deferred ?? false) {
return response()->json(['error' => 'balance_insufficient', 'balance' => $result->gate_payload], 409);
// #10: pause/resume must reach the supplier. The job's group recompute pushes
// status=paused when no active project of the group remains (resume → active).
// G (балансовый блок): заблокированный за нехваткой баланса проект не
// возобновляется/синхронизируется у поставщика (зеркалит create-гард).
if ($project->preflight_blocked_at === null) {
SyncSupplierProjectJob::dispatch($project->id);
}
return response()->json(['data' => new ProjectResource($result->loadCount('supplierProjects'))]);
return response()->json(['data' => new ProjectResource($project->fresh()->loadCount('supplierProjects'))]);
}
/** POST /api/projects/bulk — batch pause/resume/delete/update_regions/update_days/update_limit */
@@ -18,7 +18,7 @@ use Illuminate\Support\Facades\Auth;
/**
* Самозапись клиента (G1/SP1): register confirm-email (вход).
* Подтверждение почты 6-значным кодом; новый тенант создаётся в статусе
* pending_email_confirm, активируется и получает 1000 при подтверждении.
* pending_email_confirm, активируется и получает 300 при подтверждении.
*/
class RegistrationController extends Controller
{
@@ -7,7 +7,8 @@ namespace App\Http\Controllers\Api;
use App\Http\Controllers\Controller;
use App\Models\BalanceTransaction;
use App\Models\Deal;
use Illuminate\Database\Query\Builder;
use App\Models\LeadCharge;
use Illuminate\Database\Eloquent\Builder;
use Illuminate\Http\JsonResponse;
use Illuminate\Http\Request;
use Illuminate\Support\Carbon;
@@ -37,37 +38,16 @@ class TenantChargesController extends Controller
{
$tenantId = (int) $request->user()->tenant_id;
$period = $request->query('period');
$source = $request->query('charge_source');
// Explicit tenant_id фильтр — defense-in-depth поверх RLS (в тестах PG superuser BYPASSRLS).
// Лид-списания.
$lead = DB::table('lead_charges')
// Explicit tenant_id фильтр — defense-in-depth поверх RLS. В тестах PG
// superuser BYPASSRLS, и без явного where() запрос вернул бы строки
// других тенантов (см. InAppNotificationController паттерн).
$query = LeadCharge::query()
->where('tenant_id', $tenantId)
->selectRaw("id, charged_at, 'lead' as kind, deal_id, tier_no, charge_source, price_per_lead_kopecks, cast(null as text) as label");
$this->applyPeriodTo($lead, 'charged_at', $period);
if (is_string($source) && $source !== '') {
$lead->where('charge_source', $source);
}
->orderBy('charged_at', 'desc');
// Списания автоподбора (balance_transactions) — тоже показываем в «Списаниях», иначе клиент
// видит их только в «Истории транзакций». Фильтр charge_source (prepaid/rub) к автоподбору
// неприменим → при выбранном источнике автоподбор не подмешиваем.
if (! is_string($source) || $source === '') {
$auto = DB::table('balance_transactions')
->where('tenant_id', $tenantId)
->where('type', 'autopodbor_charge')
->selectRaw("id, created_at as charged_at, 'autopodbor' as kind, cast(null as bigint) as deal_id, cast(null as integer) as tier_no, cast(null as varchar) as charge_source, cast(round(abs(amount_rub) * 100) as bigint) as price_per_lead_kopecks, cast('Автоподбор конкурентов' as text) as label");
$this->applyPeriodTo($auto, 'created_at', $period);
$rows = $lead->unionAll($auto);
} else {
$rows = $lead;
}
$this->applyFilters($query, $request);
$page = DB::query()->fromSub($rows, 'c')
->orderByDesc('charged_at')
->orderByDesc('id')
->paginate(20);
$page = $query->paginate(20);
return response()->json([
'data' => $page->items(),
@@ -161,29 +141,6 @@ class TenantChargesController extends Controller
}
});
// Списания автоподбора — тоже в CSV (после лид-строк). charge_source к ним неприменим,
// поэтому при выбранном источнике их не выгружаем (как и в списке).
if ($source === null || $source === '') {
$autoq = DB::table('balance_transactions')
->where('tenant_id', $tenantId)
->where('type', 'autopodbor_charge')
->orderByDesc('created_at')
->orderByDesc('id');
$this->applyPeriodTo($autoq, 'created_at', $period);
$autoq->chunk(500, function ($rows) use ($out) {
foreach ($rows as $r) {
fputcsv($out, [
Carbon::parse($r->created_at)->toIso8601String(),
'Автоподбор конкурентов',
'',
'',
number_format(abs((float) $r->amount_rub), 2, '.', ''),
$r->balance_rub_after ?? '',
]);
}
});
}
fclose($out);
});
}, 200, [
@@ -193,12 +150,22 @@ class TenantChargesController extends Controller
}
/**
* Фильтр периода на произвольную колонку/билдер (lead_charges.charged_at либо
* balance_transactions.created_at) единый для лид- и автоподбор-веток union.
*
* @param Builder $query
* @param Builder<LeadCharge> $query
*/
private function applyPeriodTo($query, string $column, mixed $period): void
private function applyFilters($query, Request $request): void
{
$this->applyPeriodFilter($query, $request->query('period'));
$source = $request->query('charge_source');
if (is_string($source) && $source !== '') {
$query->where('charge_source', $source);
}
}
/**
* @param Builder<LeadCharge> $query
*/
private function applyPeriodFilter($query, mixed $period): void
{
if (! is_string($period) || $period === '') {
return;
@@ -207,14 +174,14 @@ class TenantChargesController extends Controller
$now = Carbon::now('Europe/Moscow');
if ($period === 'current_month') {
$query->where($column, '>=', $now->copy()->startOfMonth());
$query->where('charged_at', '>=', $now->copy()->startOfMonth());
} elseif ($period === 'last_month') {
$query->whereBetween($column, [
$query->whereBetween('charged_at', [
$now->copy()->subMonth()->startOfMonth(),
$now->copy()->subMonth()->endOfMonth(),
]);
} elseif ($period === '90d') {
$query->where($column, '>=', $now->copy()->subDays(90));
$query->where('charged_at', '>=', $now->copy()->subDays(90));
}
}
}
@@ -1,30 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Http\Resources\Autopodbor;
use Illuminate\Http\Request;
use Illuminate\Http\Resources\Json\JsonResource;
class CompetitorResource extends JsonResource
{
public function toArray(Request $request): array
{
return [
'id' => $this->id,
'name' => $this->name,
'description' => $this->description,
'is_federal' => $this->is_federal,
'relevance_pct' => $this->relevance_pct,
'origin' => $this->origin,
'box' => $this->box,
'site_url' => $this->site_url,
'directory_urls' => $this->directory_urls,
'elements' => $this->elements ?? [],
'studied_at' => $this->studied_at?->toIso8601String(),
'study_run_id' => $this->study_run_id,
'search_run_id' => $this->search_run_id,
];
}
}
@@ -1,37 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Http\Resources\Autopodbor;
use App\Models\AutopodborCompetitor;
use App\Models\AutopodborSource;
use App\Services\Autopodbor\AutopodborQueue;
use Illuminate\Http\Request;
use Illuminate\Http\Resources\Json\JsonResource;
class RunResource extends JsonResource
{
public function toArray(Request $request): array
{
return [
'id' => $this->id,
'kind' => $this->kind,
'competitor_id' => $this->competitor_id,
'status' => $this->status,
'region_code' => $this->region_code,
'params' => $this->params,
'price_rub_charged' => $this->price_rub_charged,
'error_code' => $this->error_code,
// Клиенту показать, что идёт работа: место в общей очереди (пока queued) и текущий этап (пока running).
'queue_position' => $this->status === 'queued' ? app(AutopodborQueue::class)->pending() : null,
'progress' => $this->progress,
'result' => $this->result,
'competitors_count' => AutopodborCompetitor::where('search_run_id', $this->id)->count(),
'sources_count' => AutopodborSource::where('study_run_id', $this->id)->count(),
'started_at' => $this->started_at?->toIso8601String(),
'finished_at' => $this->finished_at?->toIso8601String(),
'created_at' => $this->created_at?->toIso8601String(),
];
}
}
@@ -1,30 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Http\Resources\Autopodbor;
use Illuminate\Http\Request;
use Illuminate\Http\Resources\Json\JsonResource;
class SourceResource extends JsonResource
{
public function toArray(Request $request): array
{
return [
'id' => $this->id,
'competitor_id' => $this->competitor_id,
'signal_type' => $this->signal_type,
'identifier' => $this->identifier,
'phone_kind' => $this->phone_kind,
'phone_type' => $this->phone_type,
'box' => $this->box,
'provenance_url' => $this->provenance_url,
'provenance_label' => $this->provenance_label,
'created_project_id' => $this->created_project_id,
'where_found' => $this->where_found ?? [],
'office' => $this->office,
'confirmations' => $this->confirmations,
];
}
}
@@ -52,8 +52,6 @@ class ProjectResource extends JsonResource
'last_synced_at' => $this->aggregateLastSyncedAt(),
// H (балансовый блок): проект приостановлен из-за нехватки баланса (read-only для UI).
'balance_blocked' => $this->preflight_blocked_at !== null,
// Task 15: сырое поле — UI отличает «заблокирован при попытке запуска» vs «закончился баланс».
'preflight_blocked_at' => $this->preflight_blocked_at?->toIso8601String(),
'supplier_links' => $this->when(
$request->routeIs('projects.show'),
fn () => $this->getSupplierLinks(),
@@ -1,113 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Jobs\Autopodbor;
use App\Models\AutopodborCompetitor;
use App\Models\AutopodborRun;
use App\Services\Autopodbor\Agent\CompetitorAgent;
use App\Services\Autopodbor\Agent\Dto\ResolveByNameRequest;
use App\Services\Autopodbor\AutopodborDedup;
use Illuminate\Bus\Queueable;
use Illuminate\Contracts\Queue\ShouldQueue;
use Illuminate\Foundation\Bus\Dispatchable;
use Illuminate\Queue\InteractsWithQueue;
use Illuminate\Queue\Middleware\WithoutOverlapping;
use Illuminate\Queue\SerializesModels;
use Illuminate\Support\Facades\DB;
class RunAutopodborResolveJob implements ShouldQueue
{
use Dispatchable, InteractsWithQueue, Queueable, SerializesModels;
public int $tries = 3;
public array $backoff = [15, 60, 300];
public function __construct(public int $runId, public ?int $tenantId = null)
{
// Резолв по имени — тоже шаг 1 (ИИ-поиск кандидатов), поэтому на одной очереди с поиском.
$this->onQueue('autopodbor-find');
}
/**
* Защита от нахлёста: один прогон резолва не обрабатывается двумя воркерами разом (ретрай).
*
* @return array<int, object>
*/
public function middleware(): array
{
return [new WithoutOverlapping((string) $this->runId)];
}
public function handle(CompetitorAgent $agent, AutopodborDedup $dedup): void
{
// Сначала представляемся базе, ПОТОМ читаем прогон: на боевом роль crm_app_user под FORCE RLS
// не видит строку без tenant-контекста (на dev маскировалось суперюзером postgres → ModelNotFound
// всплыл только на проде 07.07.2026). tenantId приходит из dispatch. Старый путь без tenantId
// (только тесты, где ambient-контекст уже задан) — безопасный откат ниже.
if ($this->tenantId !== null) {
DB::statement("SELECT set_config('app.current_tenant_id', ?, false)", [(string) $this->tenantId]);
}
$run = AutopodborRun::findOrFail($this->runId);
if ($this->tenantId === null) {
DB::statement("SELECT set_config('app.current_tenant_id', ?, false)", [(string) $run->tenant_id]);
}
// Идемпотентность: завершённый прогон повторно не обрабатываем (защита от лишнего ретрая/повторного dispatch).
if (in_array($run->status, ['done', 'empty', 'failed'], true)) {
return;
}
$run->update(['status' => 'running', 'started_at' => now()]);
try {
$p = $run->params;
$res = $agent->resolveByName(new ResolveByNameRequest(
name: $p['name'],
regionCode: (int) $run->region_code,
));
$unique = $dedup->dedupCompetitors($res->candidates);
if ($unique === []) {
$run->update(['status' => 'empty', 'finished_at' => now()]);
return;
}
foreach ($unique as $c) {
AutopodborCompetitor::updateOrCreate(
[
'tenant_id' => $run->tenant_id,
'search_run_id' => $run->id,
'dedup_key' => $c['dedup_key'],
],
[
'name' => $c['name'],
'description' => $c['description'] ?? null,
'is_federal' => (bool) ($c['is_federal'] ?? false),
'relevance_pct' => null,
'origin' => 'resolve',
'site_url' => $c['site_url'] ?? null,
'directory_urls' => $c['directory_urls'] ?? [],
'provenance' => $c['provenance'] ?? [],
]
);
}
$run->update(['status' => 'done', 'finished_at' => now()]);
} catch (\Throwable $e) {
$run->update([
'status' => 'failed',
'error_code' => substr($e->getMessage(), 0, 64),
'finished_at' => now(),
]);
throw $e;
}
}
}
@@ -1,216 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Jobs\Autopodbor;
use App\Mail\AutopodborReadyMail;
use App\Models\AutopodborCompetitor;
use App\Models\AutopodborRun;
use App\Models\Tenant;
use App\Services\Autopodbor\Agent\CompetitorAgent;
use App\Services\Autopodbor\Agent\Dto\FindCompetitorsRequest;
use App\Services\Autopodbor\AutopodborChargeService;
use App\Services\Autopodbor\AutopodborDedup;
use App\Services\Autopodbor\AutopodborNormalizer;
use App\Services\Autopodbor\CompetitorIdentity;
use App\Services\Autopodbor\RunProgressChannel;
use App\Support\SystemSettings;
use Illuminate\Bus\Queueable;
use Illuminate\Contracts\Queue\ShouldQueue;
use Illuminate\Foundation\Bus\Dispatchable;
use Illuminate\Queue\InteractsWithQueue;
use Illuminate\Queue\Middleware\WithoutOverlapping;
use Illuminate\Queue\SerializesModels;
use Illuminate\Support\Facades\DB;
use Illuminate\Support\Facades\Mail;
class RunAutopodborSearchJob implements ShouldQueue
{
use Dispatchable, InteractsWithQueue, Queueable, SerializesModels;
// ОДИН прогон без авто-ретраев: движок платный (xfetch+ИИ+EXA), и повтор всего прогона при
// таймауте = тройная цена и время. Медленный-но-настоящий ответ теперь ждём большими таймаутами
// стадий (config services.aitunnel/exa), а не гоняем движок трижды.
public int $tries = 1;
// Живой поиск (2ГИС+Яндекс через антибот + канал В sonar ×2 + EXA + «вскрыть всё»: параллельное
// открытие карточек без лимита) идёт минутами — большой запас, чтобы не убить прогон на середине.
public int $timeout = 3600;
public function __construct(public int $runId, public ?int $tenantId = null)
{
// Шаг 1 «собрать поле» (ИИ + внешние сервисы) — своя очередь, отдельный воркер-процесс,
// чтобы тяжёлый поиск не стоял в одной линии с быстрым шагом 2 (изучением) другого клиента.
$this->onQueue('autopodbor-find');
}
/**
* Защита от нахлёста: один и тот же прогон не обрабатывается двумя воркерами разом
* (ретрай/повторный dispatch). Ключ runId.
*
* @return array<int, object>
*/
public function middleware(): array
{
return [new WithoutOverlapping((string) $this->runId)];
}
public function handle(CompetitorAgent $agent, AutopodborDedup $dedup, AutopodborChargeService $charge, CompetitorIdentity $identity, AutopodborNormalizer $normalizer, RunProgressChannel $progress): void
{
// Сначала представляемся базе, ПОТОМ читаем прогон: на боевом роль crm_app_user под FORCE RLS
// не видит строку без tenant-контекста (на dev маскировалось суперюзером postgres → ModelNotFound
// всплыл только на проде 07.07.2026). tenantId приходит из dispatch. Старый путь без tenantId
// (только тесты, где ambient-контекст уже задан) — безопасный откат ниже. Контекст сессионный —
// все дальнейшие запросы (включая вложенные транзакции charge) видят GUC.
if ($this->tenantId !== null) {
DB::statement("SELECT set_config('app.current_tenant_id', ?, false)", [(string) $this->tenantId]);
}
$run = AutopodborRun::findOrFail($this->runId);
if ($this->tenantId === null) {
DB::statement("SELECT set_config('app.current_tenant_id', ?, false)", [(string) $run->tenant_id]);
}
// Идемпотентность: завершённый прогон повторно не обрабатываем (защита от лишнего ретрая/повторного dispatch).
if (in_array($run->status, ['done', 'empty', 'failed'], true)) {
return;
}
$run->update(['status' => 'running', 'started_at' => now()]);
// Привязываем канал прогресса к этому прогону — движок будет отмечать этапы именно сюда.
$progress->bind($run->id);
try {
$p = $run->params;
$max = (int) (SystemSettings::get('autopodbor_max_competitors') ?? 15);
$request = new FindCompetitorsRequest(
regionCode: (int) $run->region_code,
examples: $p['examples'] ?? [],
aboutSelf: $p['about_self'] ?? [],
includeFederal: (bool) ($p['include_federal'] ?? false),
maxCompetitors: $max,
);
// Авто-повтор при ПУСТОМ сборе: внешние источники (2ГИС/Яндекс/EXA) иногда моргают и
// отдают пусто — вместо «ничего не нашлось» пробуем ещё раз (по умолчанию до 2 доп. попыток).
// Реально пустая ниша (все попытки пусты) идёт дальше штатным путём «empty» — без списания.
$retries = max(0, (int) config('autopodbor.search_retry_on_empty', 2));
$attempt = 0;
do {
$attempt++;
$res = $agent->findCompetitors($request);
} while ($res->competitors === [] && $attempt <= $retries);
$unique = $dedup->dedupCompetitors($res->competitors);
// На записи выкидываем ТОЛЬКО полный дубль АКТИВНОЙ фирмы (поле/предложения) — та же
// опознавалка и ни одной новой (это «скрытая» группа, спека §8). Находку, совпавшую с
// АРХИВОМ удалённых, сохраняем — её покажем как «ранее удалён». Деление на группы —
// при показе /proposals. Исключаем свой же прогон (ретрай не должен схлопнуть свои
// результаты). Конкурентов без опознавалок (нет сайта/карточек) не с чем сверять — оставляем.
$activeKeySets = AutopodborCompetitor::where('tenant_id', $run->tenant_id)
->where('box', '!=', 'archived')
->where(function ($q) use ($run) {
$q->where('search_run_id', '!=', $run->id)->orWhereNull('search_run_id');
})
->get(['site_url', 'directory_urls'])
->map(fn ($c) => array_flip($identity->keys([
'site_url' => $c->site_url,
'directory_urls' => $c->directory_urls ?? [],
])))
->all();
$unique = array_values(array_filter($unique, function (array $c) use ($identity, $activeKeySets): bool {
$keys = $identity->keys(['site_url' => $c['site_url'] ?? null, 'directory_urls' => $c['directory_urls'] ?? []]);
if ($keys === []) {
return true;
}
foreach ($activeKeySets as $have) {
$shares = false;
$hasNew = false;
foreach ($keys as $k) {
if (isset($have[$k])) {
$shares = true;
} else {
$hasNew = true;
}
}
if ($shares && ! $hasNew) {
return false; // полный дубль активной фирмы → скрыть
}
}
return true;
}));
if ($unique === []) {
$run->update(['status' => 'empty', 'finished_at' => now()]);
$this->notifyReady($run, 0);
return;
}
// $max === 0 → «не режем»: сохраняем ВСЕХ найденных. Иначе array_slice(…, 0, 0) обнулил бы
// непустой результат (баг: прогон сохранял 0 конкурентов, но всё равно списывал).
$saved = $max > 0 ? array_slice($unique, 0, $max) : $unique;
foreach ($saved as $c) {
AutopodborCompetitor::updateOrCreate(
[
'tenant_id' => $run->tenant_id,
'search_run_id' => $run->id,
'dedup_key' => $c['dedup_key'],
],
[
'name' => $c['name'],
'description' => $c['description'] ?? null,
'is_federal' => (bool) ($c['is_federal'] ?? false),
'relevance_pct' => $c['relevance_pct'] ?? null,
'origin' => 'auto',
'site_url' => $c['site_url'] ?? null,
'directory_urls' => $c['directory_urls'] ?? [],
// Телефоны (нормализованные) — для показа совпадений клиенту на «Предложениях».
// В тихую склейку НЕ идут (решение 03.07) — только клиентская «Найти дубли».
'phones' => array_values(array_unique(array_filter(array_map(
static fn ($p): string => $normalizer->phone((string) $p),
$c['phones'] ?? [],
)))),
'provenance' => $c['provenance'] ?? [],
]
);
}
$price = (string) (SystemSettings::get('autopodbor_price_search_rub') ?? '0');
$charge->chargeForRun($run, $price);
$run->update(['status' => 'done', 'finished_at' => now()]);
$this->notifyReady($run, count($saved));
} catch (\Throwable $e) {
$run->update([
'status' => 'failed',
'error_code' => substr($e->getMessage(), 0, 64),
'finished_at' => now(),
]);
throw $e;
}
}
/**
* Письмо клиенту «подбор готов» чтобы он не ждал у экрана. Не роняет успешный подбор,
* если почта недоступна (try/catch + report).
*/
private function notifyReady(AutopodborRun $run, int $found): void
{
try {
$email = Tenant::query()->whereKey($run->tenant_id)->value('contact_email');
if (is_string($email) && $email !== '') {
Mail::to($email)->send(new AutopodborReadyMail($run, $found));
}
} catch (\Throwable $e) {
report($e);
}
}
}
@@ -1,168 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Jobs\Autopodbor;
use App\Models\AutopodborCompetitor;
use App\Models\AutopodborRun;
use App\Models\AutopodborSource;
use App\Services\Autopodbor\Agent\CompetitorAgent;
use App\Services\Autopodbor\Agent\Dto\StudyCompetitorRequest;
use App\Services\Autopodbor\AutopodborChargeService;
use App\Services\Autopodbor\AutopodborDedup;
use App\Services\Autopodbor\AutopodborNormalizer;
use App\Services\Autopodbor\RunProgressChannel;
use App\Support\SystemSettings;
use Illuminate\Bus\Queueable;
use Illuminate\Contracts\Queue\ShouldQueue;
use Illuminate\Foundation\Bus\Dispatchable;
use Illuminate\Queue\InteractsWithQueue;
use Illuminate\Queue\Middleware\WithoutOverlapping;
use Illuminate\Queue\SerializesModels;
use Illuminate\Support\Facades\DB;
class RunAutopodborStudyJob implements ShouldQueue
{
use Dispatchable, InteractsWithQueue, Queueable, SerializesModels;
public int $tries = 3;
public array $backoff = [15, 60, 300];
public function __construct(public int $runId, public ?int $tenantId = null)
{
// Шаг 2 «изучение / дайте источники» — тупой слой (без ИИ). ОТДЕЛЬНАЯ очередь + свой воркер,
// чтобы изучение шло параллельно поиску, а не ждало его в общей линии.
$this->onQueue('autopodbor-study');
}
/**
* Защита от нахлёста: один прогон изучения не обрабатывается двумя воркерами разом (ретрай).
*
* @return array<int, object>
*/
public function middleware(): array
{
return [new WithoutOverlapping((string) $this->runId)];
}
public function handle(
CompetitorAgent $agent,
AutopodborDedup $dedup,
AutopodborChargeService $charge,
AutopodborNormalizer $norm,
RunProgressChannel $progress,
): void {
// Сначала представляемся базе, ПОТОМ читаем прогон: на боевом роль crm_app_user под FORCE RLS
// не видит строку без tenant-контекста (на dev маскировалось суперюзером postgres → ModelNotFound
// всплыл только на проде 07.07.2026). tenantId приходит из dispatch. Старый путь без tenantId
// (только тесты, где ambient-контекст уже задан) — безопасный откат ниже. Контекст сессионный —
// все дальнейшие запросы (включая вложенные транзакции charge) видят GUC.
if ($this->tenantId !== null) {
DB::statement("SELECT set_config('app.current_tenant_id', ?, false)", [(string) $this->tenantId]);
}
$run = AutopodborRun::findOrFail($this->runId);
if ($this->tenantId === null) {
DB::statement("SELECT set_config('app.current_tenant_id', ?, false)", [(string) $run->tenant_id]);
}
// Идемпотентность: завершённый прогон повторно не обрабатываем (защита от лишнего ретрая/повторного dispatch).
if (in_array($run->status, ['done', 'empty', 'failed'], true)) {
return;
}
$run->update(['status' => 'running', 'started_at' => now()]);
// Привязываем канал прогресса к этому прогону — движок отметит этапы изучения именно сюда.
$progress->bind($run->id);
try {
$comp = AutopodborCompetitor::findOrFail($run->competitor_id);
$res = $agent->studyCompetitor(new StudyCompetitorRequest(
competitor: [
'name' => $comp->name,
'site_url' => $comp->site_url,
'directory_urls' => $comp->directory_urls ?? [],
'elements' => $comp->elements ?? [],
'is_federal' => (bool) $comp->is_federal,
],
regionCode: (int) $run->region_code,
));
$unique = $dedup->dedupSources($res->sources);
if ($unique === []) {
$run->update(['status' => 'empty', 'finished_at' => now()]);
return;
}
// Классификация для итога (важно при ПОВТОРНОМ сборе): сколько источников совсем новых,
// а какие — ранее удалённые (box=archived), которые движок нашёл снова. Известные (в работе/
// предложениях) не трогаем — updateOrCreate не меняет им box (его нет в массиве значений).
$newCount = 0;
$refoundDeletedIds = [];
foreach ($unique as $s) {
$identifier = $s['signal_type'] === 'call'
? $norm->phone($s['identifier'])
: $norm->domainHead($s['identifier']);
$existing = AutopodborSource::where('competitor_id', $comp->id)
->where('dedup_key', $s['dedup_key'])
->first();
AutopodborSource::updateOrCreate(
[
'competitor_id' => $comp->id,
'dedup_key' => $s['dedup_key'],
],
[
'tenant_id' => $run->tenant_id,
'study_run_id' => $run->id,
'signal_type' => $s['signal_type'],
'identifier' => $identifier,
'phone_kind' => $s['phone_kind'] ?? null,
'phone_type' => $s['phone_type'] ?? null,
'provenance_url' => $s['provenance_url'] ?? null,
'provenance_label' => $s['provenance_label'] ?? null,
'where_found' => $s['where_found'] ?? null,
'office' => $s['office'] ?? null,
'confirmations' => $s['confirmations'] ?? 1,
]
);
if ($existing === null) {
$newCount++; // совсем новый → в предложения
} elseif ($existing->box === 'archived') {
$refoundDeletedIds[] = $existing->id; // ранее удалённый, найден снова → «вернуть?»
}
}
$price = (string) (SystemSettings::get('autopodbor_price_study_rub') ?? '0');
$charge->chargeForRun($run, $price);
$comp->update(['studied_at' => now(), 'study_run_id' => $run->id]);
$run->update([
'status' => 'done',
'finished_at' => now(),
'result' => [
'new_sources' => $newCount,
'refound_deleted' => count($refoundDeletedIds),
'refound_deleted_ids' => array_values($refoundDeletedIds),
],
]);
} catch (\Throwable $e) {
$run->update([
'status' => 'failed',
'error_code' => substr($e->getMessage(), 0, 64),
'finished_at' => now(),
]);
throw $e;
}
}
}
@@ -51,65 +51,49 @@ final class BalanceFrozenReminderJob implements ShouldQueue
// Косяк 01: действующая версия тарифа по дате (как списание/витрина), а не «по-простому».
$tiers = app(PricingTierRepository::class)->activeAt(now('Europe/Moscow'));
// Переезд на Managed PG (26.06.2026): очередь под ролью crm_app_user (RLS).
// Список замороженных тенантов брать через дефолтное соединение нельзя — без
// app.current_tenant_id policy tenants_self_isolation отдаёт 0 строк (тот же
// баг, что у BalancePreflightSweepJob). Берём id через pgsql_supplier (BYPASSRLS).
$tenantIds = DB::connection('pgsql_supplier')->table('tenants')
Tenant::query()
->whereNotNull('frozen_by_balance_at')
->whereNull('deleted_at')
->orderBy('id')
->pluck('id');
foreach ($tenantIds as $tenantId) {
$this->processTenant((int) $tenantId, $service, $tiers);
}
->chunkById(200, function (Collection $tenants) use ($service, $tiers): void {
foreach ($tenants as $tenant) {
/** @var Tenant $tenant */
$this->processTenant($tenant, $service, $tiers);
}
});
}
/**
* @param Collection<int, PricingTier> $tiers
*/
private function processTenant(int $tenantId, BalancePreflightService $service, Collection $tiers): void
private function processTenant(Tenant $tenant, BalancePreflightService $service, Collection $tiers): void
{
// SET LOCAL внутри транзакции восстанавливает tenant-контекст: и Tenant::find,
// и requiredLeadsForTomorrow() (читает projects) RLS-зависимы. mark()/alreadySent()
// идут через pgsql_supplier (BYPASSRLS) — им контекст не нужен.
DB::transaction(function () use ($tenantId, $service, $tiers): void {
DB::statement('SET LOCAL app.current_tenant_id = '.$tenantId);
// diffInHours округляет — у заморозки на 25h это 25, на 73h это 73 (OK).
$hours = (int) abs(now()->diffInHours($tenant->frozen_by_balance_at, false));
$tenant = Tenant::find($tenantId);
if ($tenant === null || $tenant->frozen_by_balance_at === null) {
return; // разморожен/удалён между pluck и обработкой.
}
$window = $this->matchWindow($hours);
if ($window === null) {
return; // вне окон reminder/final
}
// diffInHours округляет — у заморозки на 25h это 25, на 73h это 73 (OK).
$hours = (int) abs(now()->diffInHours($tenant->frozen_by_balance_at, false));
$marker = $window === 'reminder' ? 'reminder_sent' : 'final_sent';
if ($this->alreadySent($tenant->id, $marker)) {
return;
}
$window = $this->matchWindow($hours);
if ($window === null) {
return; // вне окон reminder/final
}
// Re-evaluate для актуального дефицита в тексте письма.
$result = $service->evaluate(
balanceRub: (string) $tenant->balance_rub,
deliveredInMonth: (int) $tenant->delivered_in_month,
requiredLeads: $tenant->requiredLeadsForTomorrow(),
tiers: $tiers,
);
$marker = $window === 'reminder' ? 'reminder_sent' : 'final_sent';
if ($this->alreadySent($tenant->id, $marker)) {
return;
}
$mail = $window === 'reminder'
? new BalanceFrozenReminderMail($tenant, $result)
: new BalanceFrozenFinalMail($tenant, $result);
// Re-evaluate для актуального дефицита в тексте письма.
$result = $service->evaluate(
balanceRub: (string) $tenant->balance_rub,
deliveredInMonth: (int) $tenant->delivered_in_month,
requiredLeads: $tenant->requiredLeadsForTomorrow(),
tiers: $tiers,
);
$mail = $window === 'reminder'
? new BalanceFrozenReminderMail($tenant, $result)
: new BalanceFrozenFinalMail($tenant, $result);
Mail::queue($mail);
$this->mark($tenant, $marker, $result);
});
Mail::queue($mail);
$this->mark($tenant, $marker, $result);
}
private function matchWindow(int $hours): ?string
@@ -41,40 +41,25 @@ final class BalancePreflightSweepJob implements ShouldQueue
// Косяк 01: действующая версия тарифа по дате (как списание/витрина), а не «по-простому».
$tiers = app(PricingTierRepository::class)->activeAt(now('Europe/Moscow'));
// Переезд на Managed PG (26.06.2026): очередь ходит в БД под ролью crm_app_user
// (RLS). Перечень тенантов брать через ДЕФОЛТНОЕ соединение нельзя — без
// app.current_tenant_id RLS-policy tenants_self_isolation отдаёт 0 строк, и
// sweep молча превращался в no-op (ни заморозок, ни снятия блоков). Берём id
// через pgsql_supplier (BYPASSRLS — системный контекст), как джоба уже делает
// для balance_freeze_log. Дальше per-tenant SET LOCAL восстанавливает контекст.
$tenantIds = DB::connection('pgsql_supplier')->table('tenants')
->whereNull('deleted_at')
->orderBy('id')
->pluck('id');
foreach ($tenantIds as $tenantId) {
$this->evaluateTenant((int) $tenantId, $service, $tiers);
}
Tenant::query()->whereNull('deleted_at')->chunkById(200, function (Collection $tenants) use ($service, $tiers): void {
foreach ($tenants as $tenant) {
/** @var Tenant $tenant */
$this->evaluateTenant($tenant, $service, $tiers);
}
});
}
/**
* @param Collection<int, PricingTier> $tiers
*/
private function evaluateTenant(int $tenantId, BalancePreflightService $service, Collection $tiers): void
private function evaluateTenant(Tenant $tenant, BalancePreflightService $service, Collection $tiers): void
{
// Spec C deploy hotfix (25.05.2026): CLI-команды и фоновые джобы не проходят
// через SetTenantContext middleware → app.current_tenant_id не выставлен →
// RLS-policy на projects падает с "unrecognized configuration parameter".
// Зеркалим mechanic SetTenantContext: SET LOCAL внутри транзакции (PgBouncer-safe).
DB::transaction(function () use ($tenantId, $service, $tiers): void {
DB::statement('SET LOCAL app.current_tenant_id = '.$tenantId);
// Модель грузим ВНУТРИ контекста — под RLS-ролью без SET LOCAL Tenant::find
// вернёт null (id-isolation policy). После SET LOCAL запись своей компании видна.
$tenant = Tenant::find($tenantId);
if ($tenant === null) {
return; // удалён между pluck и обработкой — пропускаем.
}
DB::transaction(function () use ($tenant, $service, $tiers): void {
DB::statement('SET LOCAL app.current_tenant_id = '.(int) $tenant->id);
$required = $tenant->requiredLeadsForTomorrow();
$result = $service->evaluate(
@@ -0,0 +1,64 @@
<?php
declare(strict_types=1);
namespace App\Jobs\Bot;
use App\Models\BotDialog;
use App\Services\Bot\BotAnswerService;
use App\Services\Bot\JivoBotClient;
use Illuminate\Contracts\Queue\ShouldQueue;
use Illuminate\Foundation\Queue\Queueable;
/**
* Оркестратор ответа бота (спека §2). Очередь `bot` отдельный worker на проде,
* чтобы поток лидов не задерживал ответы чата (скорость требование №1).
* timeout 12с < 15с Jivo-страховки: не успели Jivo сам позовёт оператора.
* $tries=1: ретраить разговор бессмысленно, клиент уже у живого оператора.
*/
class ProcessJivoMessageJob implements ShouldQueue
{
use Queueable;
public int $timeout = 12;
public int $tries = 1;
public function __construct(
public readonly string $chatId,
public readonly string $clientId,
public readonly string $text,
) {
$this->onQueue('bot');
}
public function handle(): void
{
$startedAt = hrtime(true);
BotDialog::create([
'jivo_chat_id' => $this->chatId,
'direction' => 'in',
'message' => $this->text,
'created_at' => now(),
]);
$answer = app(BotAnswerService::class)->answer($this->text);
$jivo = app(JivoBotClient::class);
$jivo->sendMessage($this->chatId, $this->clientId, $answer->text);
if ($answer->escalate) {
$jivo->inviteAgent($this->chatId, $this->clientId);
}
BotDialog::create([
'jivo_chat_id' => $this->chatId,
'direction' => 'out',
'message' => $answer->text,
'matched_chunks' => $answer->matchedChunkIds,
'latency_ms' => (int) ((hrtime(true) - $startedAt) / 1_000_000),
'escalated' => $answer->escalate,
'created_at' => now(),
]);
}
}
-199
View File
@@ -1,199 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Jobs\External;
use App\Mail\ExternalServiceDownMail;
use App\Services\Dashboard\BalanceHealth;
use App\Services\External\BalanceProvider;
use App\Services\External\CaptchaLivenessProbe;
use App\Services\External\DadataBalanceProvider;
use App\Services\External\JivoLivenessProbe;
use App\Services\External\LivenessProbe;
use App\Services\External\SupplierBalanceProvider;
use App\Services\External\Yandex360BalanceProvider;
use App\Services\External\YandexCloudBalanceProvider;
use App\Services\External\YooKassaLivenessProbe;
use Illuminate\Bus\Queueable;
use Illuminate\Contracts\Queue\ShouldQueue;
use Illuminate\Foundation\Bus\Dispatchable;
use Illuminate\Queue\InteractsWithQueue;
use Illuminate\Queue\SerializesModels;
use Illuminate\Support\Facades\DB;
use Illuminate\Support\Facades\Mail;
/**
* Ежедневно собирает баланс внешних сервисов и пишет в external_service_balances.
* Каждый провайдер изолирован: fetch() не бросает; ok=false оставляет ПРОШЛЫЙ баланс
* + метку ошибки (плитка не падает, показывает «данные от ДАТА»). Пишет под
* crm_supplier_worker (BYPASSRLS) таблица системная, как supplier_sync_runs.
*
* Spec: docs/superpowers/specs/2026-06-28-external-service-balances-design.md
*/
class RefreshExternalBalancesJob implements ShouldQueue
{
use Dispatchable, InteractsWithQueue, Queueable, SerializesModels;
public const DB_CONNECTION = 'pgsql_supplier'; // BYPASSRLS для записи системной таблицы
/** @return array<int,class-string<BalanceProvider>> */
private function providers(): array
{
return [
DadataBalanceProvider::class,
SupplierBalanceProvider::class,
YandexCloudBalanceProvider::class,
Yandex360BalanceProvider::class,
];
}
/** @var array<int,LivenessProbe>|null Подмена списка проб в тестах; null → дефолт. */
private static ?array $livenessOverride = null;
/** @param array<int,LivenessProbe> $probes */
public static function useLivenessProbes(array $probes): void
{
self::$livenessOverride = $probes;
}
public static function resetLivenessProbes(): void
{
self::$livenessOverride = null;
}
/** @return array<int,LivenessProbe> */
private function livenessProbes(): array
{
if (self::$livenessOverride !== null) {
return self::$livenessOverride;
}
return [
app(YooKassaLivenessProbe::class),
app(JivoLivenessProbe::class),
app(CaptchaLivenessProbe::class),
];
}
public function handle(): void
{
// Прежние цвета (для edge-trigger алерта): service_key => light.
$priorLights = DB::connection(self::DB_CONNECTION)
->table('external_service_balances')
->pluck('light', 'service_key')
->all();
/** @var array<int,array{key:string,detail:string}> $newlyRed */
$newlyRed = [];
foreach ($this->providers() as $cls) {
/** @var BalanceProvider $p */
$p = app($cls);
$key = $p->serviceKey();
$reading = $p->fetch(); // не бросает
// Свежий query-builder на КАЖДУЮ итерацию: переиспользование одного билдера
// накапливает where-клаузы (service_key=A AND service_key=B…) → updateOrInsert
// ошибочно идёт в INSERT существующей строки → нарушение PK.
$table = DB::connection(self::DB_CONNECTION)->table('external_service_balances');
if (! $reading->ok) {
// Оставляем прошлый баланс, помечаем ok=false + ошибку.
$table->updateOrInsert(
['service_key' => $key],
[
'ok' => false,
'error' => $reading->error,
'checked_at' => $reading->checkedAt,
'updated_at' => now(),
],
);
continue;
}
[$red, $amber] = $this->floors($key);
$h = BalanceHealth::evaluate((float) $reading->balance, $reading->dailySpend, $red, $amber);
$table->updateOrInsert(
['service_key' => $key],
[
'balance_amount' => $reading->balance,
'currency' => $reading->currency,
'daily_spend_estimate' => $reading->dailySpend,
'days_left' => $h['days_left'],
'light' => $h['light'],
'ok' => true,
'error' => null,
'checked_at' => $reading->checkedAt,
'updated_at' => now(),
],
);
if ($h['light'] === 'red' && ($priorLights[$key] ?? null) !== 'red') {
$newlyRed[] = ['key' => $key, 'detail' => 'баланс на исходе'];
}
}
// Пробы живости (сервисы без денежного баланса): пишем в ту же таблицу.
foreach ($this->livenessProbes() as $probe) {
$reading = $probe->check(); // не бросает
$key = $probe->serviceKey();
// Свежий builder на каждую итерацию (как в балансовом цикле).
$table = DB::connection(self::DB_CONNECTION)->table('external_service_balances');
$table->updateOrInsert(
['service_key' => $key],
[
'balance_amount' => null,
'currency' => 'RUB',
'daily_spend_estimate' => null,
'days_left' => null,
'light' => $reading->light,
// ok=true у green/red (статус определённый), false у grey (не смогли/не применимо).
'ok' => $reading->light !== 'grey',
// error несёт человеческую подпись для red/grey (для плитки); у green — null.
'error' => $reading->light === 'green' ? null : $reading->detail,
'checked_at' => $reading->checkedAt,
'updated_at' => now(),
],
);
if ($reading->light === 'red' && ($priorLights[$key] ?? null) !== 'red') {
$newlyRed[] = ['key' => $key, 'detail' => $reading->detail];
}
}
// Edge-trigger: одно письмо, если появились новые красные сервисы.
if ($newlyRed !== []) {
$to = (string) config('services.monitoring.alert_email', 'ops@liderra.ru');
Mail::to($to)->send(new ExternalServiceDownMail($newlyRed, now()));
}
}
/** @return array{0:float,1:float} [red_floor, amber_floor] */
private function floors(string $key): array
{
return match ($key) {
'dadata' => [
(float) config('services.dadata.red_floor_rub', 500),
(float) config('services.dadata.amber_floor_rub', 2000),
],
'yandex_cloud' => [
(float) config('services.yandex_cloud.red_floor_rub', 1000),
(float) config('services.yandex_cloud.amber_floor_rub', 5000),
],
'supplier' => [
(float) config('services.supplier.red_floor_rub', 5000),
(float) config('services.supplier.amber_floor_rub', 15000),
],
'email' => [
(float) config('services.yandex360.red_floor_rub', 500),
(float) config('services.yandex360.amber_floor_rub', 2000),
],
default => [0.0, 0.0],
};
}
}
-47
View File
@@ -1,47 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Mail;
use App\Models\AutopodborRun;
use Illuminate\Bus\Queueable;
use Illuminate\Mail\Mailable;
use Illuminate\Mail\Mailables\Content;
use Illuminate\Mail\Mailables\Envelope;
use Illuminate\Queue\SerializesModels;
/**
* Уведомление клиенту, что фоновый подбор конкурентов завершён (клиент не ждёт у экрана
* поставил задачу, работает дальше, получает письмо «готово»).
*/
class AutopodborReadyMail extends Mailable
{
use Queueable;
use SerializesModels;
public function __construct(
public AutopodborRun $run,
public int $found,
) {}
public function envelope(): Envelope
{
$subject = $this->found > 0
? "Подбор конкурентов готов: {$this->found} — Лидерра"
: 'Подбор конкурентов готов — Лидерра';
return new Envelope(subject: $subject);
}
public function content(): Content
{
return new Content(
markdown: 'mail.autopodbor-ready',
with: [
'found' => $this->found,
'url' => rtrim((string) config('app.url'), '/').'/autopodbor',
],
);
}
}
-40
View File
@@ -1,40 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Mail;
use Carbon\CarbonInterface;
use Illuminate\Bus\Queueable;
use Illuminate\Mail\Mailable;
use Illuminate\Mail\Mailables\Content;
use Illuminate\Mail\Mailables\Envelope;
use Illuminate\Queue\SerializesModels;
/**
* Email-алерт: один или несколько внешних сервисов впервые перешли в «красный»
* (упали или деньги на исходе). Шлётся из RefreshExternalBalancesJob по edge-trigger.
*/
final class ExternalServiceDownMail extends Mailable
{
use Queueable;
use SerializesModels;
/** @param array<int,array{key:string,detail:string}> $services */
public function __construct(
public readonly array $services,
public readonly CarbonInterface $checkedAt,
) {}
public function envelope(): Envelope
{
$names = implode(', ', array_map(fn ($s) => $s['key'], $this->services));
return new Envelope(subject: 'Лидерра: внешний сервис недоступен / баланс на исходе — '.$names);
}
public function content(): Content
{
return new Content(view: 'emails.external_service_down');
}
}
-26
View File
@@ -8,11 +8,9 @@ use App\Models\Tenant;
use App\Models\User;
use Illuminate\Bus\Queueable;
use Illuminate\Mail\Mailable;
use Illuminate\Mail\Mailables\Attachment;
use Illuminate\Mail\Mailables\Content;
use Illuminate\Mail\Mailables\Envelope;
use Illuminate\Queue\SerializesModels;
use Illuminate\Support\Str;
/**
* Email-уведомление об оплате тарифного счёта (ТЗ §18.5, событие
@@ -33,10 +31,6 @@ class InvoicePaidNotification extends Mailable
public string $amountRub,
public ?string $invoiceNumber,
public ?string $tariffName,
/** Относительный путь PDF-акта на диске 'local' (для вложения). */
public ?string $actPdfPath = null,
/** Номер акта — для имени файла вложения. */
public ?string $actNumber = null,
) {}
public function envelope(): Envelope
@@ -59,24 +53,4 @@ class InvoicePaidNotification extends Mailable
],
);
}
/**
* Вложение: PDF закрывающего документа (Акт), если он сформирован.
*
* @return array<int, Attachment>
*/
public function attachments(): array
{
if ($this->actPdfPath === null) {
return [];
}
$name = 'Akt-'.Str::ascii((string) $this->actNumber).'.pdf';
return [
Attachment::fromStorageDisk('local', $this->actPdfPath)
->as($name)
->withMime('application/pdf'),
];
}
}
-60
View File
@@ -1,60 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Models;
use Illuminate\Database\Eloquent\Model;
use Illuminate\Database\Eloquent\Relations\BelongsTo;
use Illuminate\Database\Eloquent\Relations\HasMany;
class AutopodborCompetitor extends Model
{
public $timestamps = false;
protected $fillable = [
'tenant_id',
'search_run_id',
'name',
'description',
'is_federal',
'relevance_pct',
'origin',
'site_url',
'directory_urls',
'phones',
'provenance',
'dedup_key',
'study_run_id',
'studied_at',
'box',
'elements',
'dismissed_actualize_keys',
];
protected $casts = [
'is_federal' => 'bool',
'directory_urls' => 'array',
'elements' => 'array',
'phones' => 'array',
'provenance' => 'array',
'dismissed_actualize_keys' => 'array',
'studied_at' => 'datetime',
'created_at' => 'datetime',
];
public function sources(): HasMany
{
return $this->hasMany(AutopodborSource::class, 'competitor_id');
}
public function searchRun(): BelongsTo
{
return $this->belongsTo(AutopodborRun::class, 'search_run_id');
}
public function studyRun(): BelongsTo
{
return $this->belongsTo(AutopodborRun::class, 'study_run_id');
}
}
-38
View File
@@ -1,38 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Models;
use Illuminate\Database\Eloquent\Model;
use Illuminate\Database\Eloquent\Relations\BelongsTo;
/**
* Событие слияния конкурентов: что во что слили + снимок поглощённых карточек.
* Журнал делает склейку прозрачной и обратимой (вернуть поглощённую карточку из снимка).
*/
class AutopodborMergeEvent extends Model
{
public $timestamps = false;
protected $fillable = [
'tenant_id',
'user_id',
'survivor_id',
'survivor_name',
'reason',
'absorbed',
'restored',
];
protected $casts = [
'absorbed' => 'array',
'restored' => 'bool',
'created_at' => 'datetime',
];
public function survivor(): BelongsTo
{
return $this->belongsTo(AutopodborCompetitor::class, 'survivor_id');
}
}
-44
View File
@@ -1,44 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Models;
use Illuminate\Database\Eloquent\Model;
use Illuminate\Database\Eloquent\Relations\HasMany;
class AutopodborRun extends Model
{
public $timestamps = false;
protected $fillable = [
'tenant_id',
'kind',
'status',
'region_code',
'params',
'competitor_id',
'price_rub_charged',
'balance_transaction_id',
'error_code',
'started_at',
'finished_at',
'progress',
'result',
];
protected $casts = [
'params' => 'array',
'progress' => 'array',
'result' => 'array',
'price_rub_charged' => 'decimal:2',
'started_at' => 'datetime',
'finished_at' => 'datetime',
'created_at' => 'datetime',
];
public function competitors(): HasMany
{
return $this->hasMany(AutopodborCompetitor::class, 'search_run_id');
}
}
-47
View File
@@ -1,47 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Models;
use Illuminate\Database\Eloquent\Model;
use Illuminate\Database\Eloquent\Relations\BelongsTo;
class AutopodborSource extends Model
{
public $timestamps = false;
protected $fillable = [
'tenant_id',
'competitor_id',
'study_run_id',
'signal_type',
'identifier',
'phone_kind',
'phone_type',
'provenance_url',
'provenance_label',
'dedup_key',
'created_project_id',
'box',
'where_found',
'office',
'confirmations',
];
protected $casts = [
'created_at' => 'datetime',
'where_found' => 'array',
'confirmations' => 'integer',
];
public function competitor(): BelongsTo
{
return $this->belongsTo(AutopodborCompetitor::class, 'competitor_id');
}
public function project(): BelongsTo
{
return $this->belongsTo(Project::class, 'created_project_id');
}
}
-2
View File
@@ -42,8 +42,6 @@ class BalanceTransaction extends Model
public const TYPE_MIGRATION = 'migration';
public const TYPE_AUTOPODBOR_CHARGE = 'autopodbor_charge';
public $timestamps = false;
protected $fillable = [
+17
View File
@@ -0,0 +1,17 @@
<?php
declare(strict_types=1);
namespace App\Models;
use Illuminate\Database\Eloquent\Model;
/** Строка журнала диалога бота (direction: in/out). created_at only — updated_at нет. */
class BotDialog extends Model
{
public $timestamps = false;
protected $guarded = [];
protected $casts = ['matched_chunks' => 'array', 'escalated' => 'bool', 'created_at' => 'datetime'];
}
+13
View File
@@ -0,0 +1,13 @@
<?php
declare(strict_types=1);
namespace App\Models;
use Illuminate\Database\Eloquent\Model;
/** Чанк базы знаний бота. search_tsv — generated column, в PHP не трогаем. */
class KnowledgeChunk extends Model
{
protected $guarded = [];
}
+1 -1
View File
@@ -19,6 +19,6 @@ class LegalEntity extends Model
'code', 'name', 'short_name', 'legal_form', 'inn', 'kpp', 'ogrn',
'okpo', 'legal_address', 'actual_address', 'bank_name', 'bank_account',
'bank_bik', 'bank_corr', 'director_name', 'director_post',
'director_basis', 'vat_mode', 'is_default',
'director_basis', 'vat_mode',
];
}
-79
View File
@@ -1,79 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Models;
use Illuminate\Database\Eloquent\Model;
use Illuminate\Database\Eloquent\Relations\HasMany;
use Illuminate\Support\Carbon;
/**
* Счёт на оплату (schema.sql table saas_invoices). RLS по tenant_id.
* Этап 1 «оплата по счёту»: выставляется клиентом, оплачивается банковским
* переводом, отмечается администратором (InvoicePaymentService).
*
* @property int $id
* @property int $tenant_id
* @property int $legal_entity_id
* @property string $invoice_number
* @property string $payer_type
* @property string|null $payer_name
* @property string|null $payer_inn
* @property string|null $payer_kpp
* @property string|null $payer_address
* @property string|null $payer_email
* @property string $amount_net
* @property string|null $vat_rate
* @property string|null $vat_amount
* @property string $amount_total
* @property string|null $payment_purpose
* @property int|null $transaction_id
* @property string|null $pdf_path
* @property string $status
* @property Carbon|null $issued_at
* @property Carbon|null $expires_at
* @property Carbon|null $paid_at
* @property Carbon|null $cancelled_at
*/
class SaasInvoice extends Model
{
public $timestamps = false;
public const STATUS_DRAFT = 'draft';
public const STATUS_ISSUED = 'issued';
public const STATUS_PAID = 'paid';
public const STATUS_OVERDUE = 'overdue';
public const STATUS_CANCELLED = 'cancelled';
protected $fillable = [
'tenant_id', 'legal_entity_id', 'invoice_number',
'payer_type', 'payer_name', 'payer_inn', 'payer_kpp', 'payer_address', 'payer_email',
'amount_net', 'vat_rate', 'vat_amount', 'amount_total', 'payment_purpose',
'transaction_id', 'pdf_path', 'status',
'issued_at', 'expires_at', 'paid_at', 'cancelled_at',
];
protected function casts(): array
{
return [
'amount_net' => 'decimal:2',
'vat_amount' => 'decimal:2',
'amount_total' => 'decimal:2',
'issued_at' => 'datetime',
'expires_at' => 'datetime',
'paid_at' => 'datetime',
'cancelled_at' => 'datetime',
];
}
/** @return HasMany<SaasInvoiceItem, $this> */
public function items(): HasMany
{
return $this->hasMany(SaasInvoiceItem::class, 'invoice_id');
}
}
-42
View File
@@ -1,42 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Models;
use Illuminate\Database\Eloquent\Model;
/**
* Позиция счёта (schema.sql table saas_invoice_items). RLS косвенно через invoice_id.
*
* @property int $id
* @property int $invoice_id
* @property string $name
* @property string|null $okpd2
* @property string $quantity
* @property string $unit
* @property string $price
* @property string $amount_net
* @property string|null $vat_rate
* @property string|null $vat_amount
* @property string $amount_total
*/
class SaasInvoiceItem extends Model
{
public $timestamps = false;
protected $fillable = [
'invoice_id', 'name', 'okpd2', 'quantity', 'unit',
'price', 'amount_net', 'vat_rate', 'vat_amount', 'amount_total',
];
protected function casts(): array
{
return [
'quantity' => 'decimal:3',
'price' => 'decimal:2',
'amount_net' => 'decimal:2',
'amount_total' => 'decimal:2',
];
}
}
-60
View File
@@ -1,60 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Models;
use Illuminate\Database\Eloquent\Model;
use Illuminate\Support\Carbon;
/**
* Закрывающий документ (schema.sql table saas_upd_documents). RLS по tenant_id.
* Для УСН без НДС используем upd_function='ДОП' (передаточный документ без
* счёта-фактуры) формируется как Акт об оказании услуг (ActService).
*
* @property int $id
* @property int $tenant_id
* @property int $legal_entity_id
* @property string $upd_number
* @property string $upd_function
* @property int|null $correction_for
* @property string $buyer_type
* @property string|null $buyer_name
* @property string|null $buyer_inn
* @property string|null $buyer_kpp
* @property string|null $buyer_address
* @property string $amount_net
* @property string|null $vat_rate
* @property string|null $vat_amount
* @property string $amount_total
* @property int|null $invoice_id
* @property int|null $transaction_id
* @property string|null $pdf_path
* @property string $status
* @property Carbon|null $issued_at
*/
class SaasUpdDocument extends Model
{
public $timestamps = false;
protected $table = 'saas_upd_documents';
public const FUNCTION_DOP = 'ДОП';
protected $fillable = [
'tenant_id', 'legal_entity_id', 'upd_number', 'upd_function', 'correction_for',
'buyer_type', 'buyer_name', 'buyer_inn', 'buyer_kpp', 'buyer_address',
'amount_net', 'vat_rate', 'vat_amount', 'amount_total',
'invoice_id', 'transaction_id', 'pdf_path', 'status', 'issued_at',
];
protected function casts(): array
{
return [
'amount_net' => 'decimal:2',
'vat_amount' => 'decimal:2',
'amount_total' => 'decimal:2',
'issued_at' => 'datetime',
];
}
}
@@ -1,226 +0,0 @@
<?php
namespace App\Providers;
use App\Services\Autopodbor\Agent\Aggregator\AggregatorFilter;
use App\Services\Autopodbor\Agent\Aggregator\AitunnelAggregatorClassifier;
use App\Services\Autopodbor\Agent\ChannelA\AitunnelQueryAnalyzer;
use App\Services\Autopodbor\Agent\ChannelA\CategoryScraper;
use App\Services\Autopodbor\Agent\ChannelA\PlaywrightYandexDirectory;
use App\Services\Autopodbor\Agent\ChannelB\AitunnelResearcher;
use App\Services\Autopodbor\Agent\ChannelB\ChannelBSearch;
use App\Services\Autopodbor\Agent\ChannelB\ExaSiteFinder;
use App\Services\Autopodbor\Agent\ChannelB\ResearcherParser;
use App\Services\Autopodbor\Agent\CompetitorAgent;
use App\Services\Autopodbor\Agent\CompetitorCardEnricher;
use App\Services\Autopodbor\Agent\Extract\DirectoryParser;
use App\Services\Autopodbor\Agent\Extract\HtmlTwoGisReader;
use App\Services\Autopodbor\Agent\Extract\TwoGisJsonReader;
use App\Services\Autopodbor\Agent\Extract\TwoGisReader;
use App\Services\Autopodbor\Agent\FakeCompetitorAgent;
use App\Services\Autopodbor\Agent\Fetch\BatchPageFetcher;
use App\Services\Autopodbor\Agent\Fetch\CachingPageFetcher;
use App\Services\Autopodbor\Agent\Fetch\CompositeFetcher;
use App\Services\Autopodbor\Agent\Fetch\CurlPlaywrightFetcher;
use App\Services\Autopodbor\Agent\Fetch\LivePageFetcher;
use App\Services\Autopodbor\Agent\Fetch\LocalYandexListSource;
use App\Services\Autopodbor\Agent\Fetch\PlaywrightPageFetcher;
use App\Services\Autopodbor\Agent\Fetch\RenderServiceYandexListSource;
use App\Services\Autopodbor\Agent\Fetch\RoutingBatchFetcher;
use App\Services\Autopodbor\Agent\Fetch\SelfRenderClient;
use App\Services\Autopodbor\Agent\Fetch\XfetchClient;
use App\Services\Autopodbor\Agent\Fetch\XfetchDirectoryFetcher;
use App\Services\Autopodbor\Agent\Fetch\YandexListSource;
use App\Services\Autopodbor\Agent\FindCompetitorsAssembler;
use App\Services\Autopodbor\Agent\LiveFindCompetitors;
use App\Services\Autopodbor\Agent\RealCompetitorAgent;
use App\Services\Autopodbor\Agent\Similarity\AitunnelEmbedder;
use App\Services\Autopodbor\Agent\Similarity\EmbeddingRelevance;
use App\Services\Autopodbor\Agent\Study\CompositePhoneReverse;
use App\Services\Autopodbor\Agent\Study\DeepStudyCollector;
use App\Services\Autopodbor\Agent\Study\ParallelPhoneReverse;
use App\Services\Autopodbor\Agent\Study\PhoneReverse;
use App\Services\Autopodbor\Agent\Study\PhoneReverseExpander;
use App\Services\Autopodbor\Agent\Study\SiteOpener;
use App\Services\Autopodbor\Agent\Study\Yandex\PlaywrightYandexCardReader;
use App\Services\Autopodbor\Agent\Study\Yandex\PlaywrightYandexPhoneSearch;
use App\Services\Autopodbor\Agent\Study\YandexPhoneReverseExpander;
use App\Services\Autopodbor\AutopodborDedup;
use App\Services\Autopodbor\AutopodborNormalizer;
use App\Services\Autopodbor\RunProgressChannel;
use Illuminate\Http\Client\Factory as HttpFactory;
use Illuminate\Support\ServiceProvider;
class AutopodborServiceProvider extends ServiceProvider
{
public function register(): void
{
// Один канал прогресса на процесс: джоба привязывает его к своему прогону, движок пишет этапы.
$this->app->singleton(RunProgressChannel::class);
// Шаг 2 (изучение конкурента) — настоящий движок: сайт конкурента берём обычным curl +
// локальный Playwright, справочники 2ГИС/Яндекс — через антибот xfetch.ru ИЛИ свой рендер-сервис.
//
// Слой добычи 2ГИС/Яндекс переключается флагом autopodbor.self_render (§4, §12):
// ВКЛ → SelfRenderClient (виртуалка+прокси; 2ГИС отдаёт initialState) + TwoGisJsonReader.
// ВЫКЛ → XfetchClient (xf4) + HtmlTwoGisReader — как сейчас.
// Фетчер и 2ГИС-ридер меняются ПАРОЙ (иначе JSON уйдёт в HTML-парсер и вернёт пусто).
//
// Шаг 1 (поиск): при autopodbor.real_find — ЖИВОЙ движок; без ИИ-ключа отсев/похожесть отключены
// (деградация). Флаг ВЫКЛ → findCompetitors отдаёт демо-заглушку.
$this->app->bind(CompetitorAgent::class, function ($app): CompetitorAgent {
$selfRender = (bool) config('autopodbor.self_render');
$sr = $selfRender ? $this->selfRenderClient() : null;
// Загрузчик xf4 (нужен всегда для xf4-пути и как база RoutingBatchFetcher под Яндекс).
$xfetch = new XfetchClient(
apiKey: config('services.xfetch.key'),
endpoint: config('services.xfetch.endpoint', 'https://xf4.ru/fetch'),
concurrency: (int) config('services.xfetch.concurrency', 4),
);
// Основной загрузчик КАРТОЧЕК: self-render ИЛИ xf4 — обёрнут кэшем (§render_cache).
// Ключ по URL в Redis → шаг 1 и шаг 2 делят ОДИН кэш; кэшируются только карточки
// (/firm/, /maps/org/), поиск/ленты (/search/) идут мимо (passthrough). Флаг ВЫКЛ → как есть.
$pages = $this->wrapCache($sr ?? $xfetch);
// В self-render режиме обёрнутый загрузчик = обёрнутый self-render (тот же экземпляр $pages).
$srCards = $sr !== null ? $pages : null;
$reader = $this->twoGisReader();
// Таймаут 15с (было 45): сайт конкурента отвечает за 1-3с; режем только висяки, не теряя живых.
$siteFetcher = new CurlPlaywrightFetcher(timeout: 15);
$fetcher = new CompositeFetcher(
siteFetcher: $siteFetcher,
directoryFetcher: new XfetchDirectoryFetcher($pages),
);
$deep = config('autopodbor.deep_study')
? new DeepStudyCollector(
xfetch: $pages,
opener: new SiteOpener($siteFetcher),
reverse: config('autopodbor.phone_reverse')
? $this->buildPhoneReverse($pages, $reader)
: null,
reader: $reader,
// self-render: Яндекс-справочник шага 2 — через виртуалку+прокси; иначе (null) движок
// строит дефолт (локальный Playwright). §5.3/§5.7. Загрузчик карточек — обёрнутый кэшем.
yandexDir: $srCards !== null ? new XfetchDirectoryFetcher($srCards, new DirectoryParser) : null,
)
: null;
$liveFind = config('autopodbor.real_find')
? $this->buildLiveFind($xfetch, $srCards, $reader)
: null;
return new RealCompetitorAgent(
$fetcher,
new FakeCompetitorAgent,
liveFind: $liveFind,
deep: $deep,
progress: $app->make(RunProgressChannel::class),
);
});
}
/**
* Обернуть загрузчик КАРТОЧЕК общим кэшем (§render_cache). ВКЛ {@see CachingPageFetcher}
* (карточки /firm/, /maps/org/ в Redis на N дней; поиск/ленты мимо). ВЫКЛ фетчер как есть.
* Ключ по URL любые обёрнутые экземпляры делят один кэш (шаг 1 шаг 2 повторный прогон).
*/
public function wrapCache(BatchPageFetcher $inner): BatchPageFetcher
{
return config('autopodbor.render_cache')
? new CachingPageFetcher($inner, (int) config('autopodbor.render_cache_ttl_days', 5))
: $inner;
}
/** Клиент своего рендер-сервиса (виртуалка). Без endpoint/key деградирует в пусто (§5.6). */
private function selfRenderClient(): SelfRenderClient
{
return new SelfRenderClient(
endpoint: (string) config('services.self_render.endpoint', ''),
key: (string) config('services.self_render.key', ''),
concurrency: (int) config('services.self_render.concurrency', 8),
);
}
/** 2ГИС-ридер под текущий флаг: initialState-JSON (self-render) ИЛИ HTML (xf4). Пара к фетчеру. */
public function twoGisReader(): TwoGisReader
{
return config('autopodbor.self_render') ? new TwoGisJsonReader : new HtmlTwoGisReader;
}
/** Источник ленты Яндекс.Карт: виртуалка+прокси (self-render) ИЛИ локальный Playwright (xf4). */
public function yandexListSource(): YandexListSource
{
if (config('autopodbor.self_render')) {
return new RenderServiceYandexListSource(
(string) config('services.self_render.endpoint', ''),
(string) config('services.self_render.key', ''),
);
}
return new LocalYandexListSource((string) config('autopodbor.node_bin', 'node'));
}
private function buildPhoneReverse(BatchPageFetcher $pages, TwoGisReader $reader): PhoneReverse
{
$gis = new PhoneReverseExpander($pages, $reader);
if (! config('autopodbor.phone_reverse_yandex')) {
return $gis;
}
$node = (string) config('autopodbor.node_bin', 'node');
// Яндекс-разворот: под self_render — виртуалка+прокси (лента + чтение карточки), иначе локальный Playwright.
// Чтение карточек (/maps/org/) под self_render оборачиваем общим кэшем; Playwright (xf4) — нет.
$cardFetcher = config('autopodbor.self_render')
? $this->wrapCache($this->selfRenderClient())
: new PlaywrightPageFetcher($node);
$yandex = new YandexPhoneReverseExpander(
new PlaywrightYandexPhoneSearch($this->yandexListSource()),
new PlaywrightYandexCardReader($cardFetcher),
);
// phone_reverse_parallel: 2ГИС и Яндекс крутятся ОДНОВРЕМЕННО (итог = max, оба источника целы).
// Иначе — последовательный композит (как раньше). По умолчанию ВЫКЛ, откат — флаг в false.
return config('autopodbor.phone_reverse_parallel')
? new ParallelPhoneReverse($gis, $yandex)
: new CompositePhoneReverse([$gis, $yandex]);
}
/**
* Живой движок поиска шага 1 ФИНАЛ v4: АНАЛИЗ (мелкая модель запросы-рубрики) КАНАЛ А (скрейп
* категории 2ГИС с пагинацией карточки) КАНАЛ В (модель ИМЕНА федералов; их САЙТ через EXA)
* сборка (отсев агрегаторов + дедуп + похожесть + DTO). Все ИИ/exa/фетч-клиенты деградируют при пустом
* ключе. Слой 2ГИС/Яндекс self-render ($sr) ИЛИ xf4 ($xfetch), пара с $reader.
*/
private function buildLiveFind(XfetchClient $xfetch, ?BatchPageFetcher $srCards, TwoGisReader $reader): LiveFindCompetitors
{
$http = $this->app->make(HttpFactory::class);
$node = (string) config('autopodbor.node_bin', 'node');
// Скрейп листинга 2ГИС (страницы /search/ — не кэшируются): self-render ИЛИ LivePageFetcher(xfetch).
$catPages = $srCards ?? new LivePageFetcher($xfetch);
// Обогатитель КАРТОЧЕК: self-render (обёрнут кэшем) ИЛИ RoutingBatchFetcher, где 2ГИС-база
// обёрнута кэшем (/firm/ из кэша), а карточки Яндекса — локальный Playwright (кэш не трогаем).
$enrichPages = $srCards ?? new RoutingBatchFetcher($this->wrapCache($xfetch), ['yandex' => new PlaywrightPageFetcher($node)]);
$assembler = new FindCompetitorsAssembler(
new AggregatorFilter($this->app->make(AitunnelAggregatorClassifier::class)),
new AutopodborDedup(new AutopodborNormalizer),
new EmbeddingRelevance($this->app->make(AitunnelEmbedder::class)),
);
return new LiveFindCompetitors(
new AitunnelQueryAnalyzer($http),
// 2ГИС: 4 страницы на рубрику (5-я — «хвост» низкоранговых, шум). Кол-во режем на старте.
new CategoryScraper($catPages, $reader, maxPages: 4),
new PlaywrightYandexDirectory($this->yandexListSource()),
new ChannelBSearch(new AitunnelResearcher($http), new ResearcherParser),
new ExaSiteFinder($http),
$assembler,
enricher: new CompetitorCardEnricher($enrichPages, new DirectoryParser, $reader),
// Канал прогресса (синглтон): джоба привяжет его к прогону, движок отметит этапы.
progress: $this->app->make(RunProgressChannel::class),
);
}
}
@@ -35,7 +35,7 @@ class RegistrationService
private const MAX_FAILED_ATTEMPTS = 5;
private const START_BALANCE_RUB = '1000.00';
private const START_BALANCE_RUB = '300.00';
public function __construct(private readonly CaptchaVerifier $captcha) {}
@@ -1,19 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Services\Autopodbor\Agent\Aggregator;
/**
* Граница «это поставщик услуги или площадка-агрегатор?» (§12.6 движка v4). За ней LLM-рассуждение
* (sonar-reasoning-pro и т.п.), а НЕ статический список площадок (он мёртв: все агрегаторы не знаем,
* плодятся). Позволяет фильтровать агрегаторов офлайн на фейке.
*/
interface AggregatorClassifier
{
/**
* true площадка-агрегатор (Авито/Юла/Zoon/Банки.ру…); false поставщик услуги;
* null модель не смогла решить (тогда конкурента НЕ выкидываем, см. {@see AggregatorFilter}).
*/
public function isAggregator(string $name, ?string $siteUrl, ?string $description): ?bool;
}
@@ -1,50 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Services\Autopodbor\Agent\Aggregator;
/**
* Отсев площадок-агрегаторов из кандидатов (§12.6): спрашивает {@see AggregatorClassifier} по каждому.
* Консервативно: выкидываем ТОЛЬКО когда классификатор уверенно сказал «агрегатор» (true). При
* неуверенности (null) или «поставщик» (false) конкурента оставляем, чтобы не потерять настоящего.
*/
final class AggregatorFilter
{
public function __construct(private readonly AggregatorClassifier $classifier) {}
/**
* @param array<int, array{name?:string,site_url?:?string,description?:?string}> $candidates
* @return array<int, array>
*/
public function filter(array $candidates): array
{
$candidates = array_values($candidates);
// Классификатор умеет батч → один запрос на весь список (иначе ~90 запросов по одному, «умирает»).
$verdicts = $this->classifier instanceof BatchAggregatorClassifier && $candidates !== []
? $this->classifier->classifyManyAggregators(array_map(fn (array $c): array => [
'name' => (string) ($c['name'] ?? ''),
'site_url' => $c['site_url'] ?? null,
'description' => $c['description'] ?? null,
], $candidates))
: null;
$out = [];
foreach ($candidates as $i => $c) {
$verdict = $verdicts !== null
? ($verdicts[$i] ?? null)
: $this->classifier->isAggregator(
(string) ($c['name'] ?? ''),
$c['site_url'] ?? null,
$c['description'] ?? null,
);
if ($verdict === true) {
continue; // площадка — не конкурент
}
$out[] = $c;
}
return array_values($out);
}
}
@@ -1,189 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Services\Autopodbor\Agent\Aggregator;
use Illuminate\Http\Client\Factory as HttpFactory;
/**
* Живой {@see AggregatorClassifier} через AITUNNEL (OpenAI-совместимый chat, §12.6): спрашивает
* у модели, поставщик ли это услуги или площадка-агрегатор. POST {base}/chat/completions
* {choices:[{message:{content}}]}. Ответ AGGREGATOR true, SUPPLIER false, иначе/без ключа/
* при ошибке null (тогда конкурента НЕ выкидываем консервативно).
*/
final class AitunnelAggregatorClassifier implements AggregatorClassifier, BatchAggregatorClassifier
{
public function __construct(private readonly HttpFactory $http) {}
/**
* Батч отсева агрегаторов: список режем на ПОРЦИИ по aggregator_batch_size (иначе один запрос
* на ~100 фирм долгий и рискует не успеть в таймаут). Каждая порция один запрос с длинным
* таймаутом aggregator_timeout_sec. Пропущенные/непонятные/сбой порции null (консервативно).
*
* @param list<array{name:string,site_url:?string,description:?string}> $companies
* @return list<?bool>
*/
public function classifyManyAggregators(array $companies): array
{
$companies = array_values($companies);
$n = count($companies);
$none = array_fill(0, $n, null);
if ($n === 0) {
return [];
}
$cfg = (array) config('services.aitunnel');
$key = (string) ($cfg['key'] ?? '');
if ($key === '') {
return $none;
}
$batchSize = max(1, (int) ($cfg['aggregator_batch_size'] ?? 40));
$out = $none;
$offset = 0;
foreach (array_chunk($companies, $batchSize) as $chunk) {
foreach ($this->classifyChunk($chunk, $key, $cfg) as $i => $verdict) {
$out[$offset + $i] = $verdict;
}
$offset += count($chunk);
}
return $out;
}
/**
* Одна порция: нумеруем 1..m, один запрос к модели с длинным таймаутом. Ответ вердикты порции.
*
* @param list<array{name:string,site_url:?string,description:?string}> $chunk
* @return list<?bool>
*/
private function classifyChunk(array $chunk, string $key, array $cfg): array
{
$none = array_fill(0, count($chunk), null);
$lines = [];
foreach ($chunk as $i => $c) {
$lines[] = ($i + 1).'. «'.($c['name'] ?? '').'» сайт: '.($c['site_url'] ?: '—').
' описание: '.($c['description'] ?: '—');
}
$prompt = "Список компаний:\n".implode("\n", $lines)."\n\n".
'Для КАЖДОЙ определи: это сам поставщик услуги/товара (SUPPLIER) или площадка-агрегатор/'
.'каталог/маркетплейс/сравнение/справочник, который сводит клиентов с разными компаниями '
.'(AGGREGATOR)? Ответ — СТРОГО JSON-массив по номерам, без текста вне него: '
.'[{"n":1,"v":"SUPPLIER"},{"n":2,"v":"AGGREGATOR"}]';
try {
$resp = $this->http
->withToken($key)
->timeout((int) ($cfg['aggregator_timeout_sec'] ?? 90))
->post(rtrim((string) ($cfg['base_url'] ?? ''), '/').'/chat/completions', [
'model' => $this->model($cfg),
'messages' => [['role' => 'user', 'content' => $prompt]],
'temperature' => 0,
]);
if (! $resp->successful()) {
return $none;
}
return $this->parseVerdicts((string) $resp->json('choices.0.message.content'), $none);
} catch (\Throwable) {
return $none;
}
}
/**
* JSON-массив [{n,v}] из ответа вердикты по индексам (n 1). Пропущенные остаются null.
*
* @param list<?bool> $none болванка нужной длины
* @return list<?bool>
*/
private function parseVerdicts(string $content, array $none): array
{
$start = strpos($content, '[');
$end = strrpos($content, ']');
if ($start === false || $end === false || $end < $start) {
return $none;
}
$arr = json_decode(substr($content, $start, $end - $start + 1), true);
if (! is_array($arr)) {
return $none;
}
$out = $none;
$count = count($none);
foreach ($arr as $row) {
if (! is_array($row) || ! isset($row['n'])) {
continue;
}
$idx = ((int) $row['n']) - 1;
if ($idx < 0 || $idx >= $count) {
continue;
}
$v = mb_strtolower((string) ($row['v'] ?? ''));
if (str_contains($v, 'aggregator')) {
$out[$idx] = true;
} elseif (str_contains($v, 'supplier')) {
$out[$idx] = false;
}
}
return $out;
}
/**
* Модель для отсева агрегаторов: aggregator_model (посильнее, вариант А) фолбэк на общий
* chat_model gpt-4o-mini. Отдельный ключ, чтобы усилить точность классификации, не трогая
* остальные ИИ-вызовы.
*
* @param array<string,mixed> $cfg
*/
private function model(array $cfg): string
{
$m = (string) ($cfg['aggregator_model'] ?? '');
return $m !== '' ? $m : (string) ($cfg['chat_model'] ?? 'gpt-4o-mini');
}
public function isAggregator(string $name, ?string $siteUrl, ?string $description): ?bool
{
$cfg = (array) config('services.aitunnel');
$key = (string) ($cfg['key'] ?? '');
if ($key === '') {
return null;
}
$prompt = "Компания: «{$name}». Сайт: ".($siteUrl ?: '—').'. Описание: '.($description ?: '—').'. '
.'Это сам поставщик услуги/товара (ответь SUPPLIER) или площадка-агрегатор/каталог/'
.'маркетплейс/сравнение/справочник, который сводит клиентов с разными компаниями '
.'(ответь AGGREGATOR)? Ответь РОВНО одним словом: SUPPLIER или AGGREGATOR.';
try {
$resp = $this->http
->withToken($key)
->timeout((int) ($cfg['timeout_sec'] ?? 30))
->post(rtrim((string) ($cfg['base_url'] ?? ''), '/').'/chat/completions', [
'model' => $this->model($cfg),
'messages' => [['role' => 'user', 'content' => $prompt]],
'temperature' => 0,
]);
if (! $resp->successful()) {
return null;
}
$content = mb_strtolower((string) $resp->json('choices.0.message.content'));
if (str_contains($content, 'aggregator')) {
return true;
}
if (str_contains($content, 'supplier')) {
return false;
}
return null;
} catch (\Throwable) {
return null;
}
}
}
@@ -1,19 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Services\Autopodbor\Agent\Aggregator;
/**
* Батч-версия {@see AggregatorClassifier}: классифицирует ВЕСЬ список за один запрос к модели,
* а не по одному (иначе на ~90 фирм 90 последовательных запросов, «умирает»). Классификаторы,
* умеющие батч, реализуют этот интерфейс; {@see AggregatorFilter} использует его, если он есть.
*/
interface BatchAggregatorClassifier
{
/**
* @param list<array{name:string,site_url:?string,description:?string}> $companies
* @return list<?bool> вердикты по индексам входа: true агрегатор, false поставщик, null не решил
*/
public function classifyManyAggregators(array $companies): array;
}
@@ -1,135 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Services\Autopodbor\Agent\ChannelA;
use Illuminate\Http\Client\Factory as HttpFactory;
/**
* Живой {@see QueryAnalyzer} через AITUNNEL: мелкая chat-модель разбивает описание клиента на короткие
* запросы-рубрики для скрейпа категории справочников (шаг АНАЛИЗ канала А).
*
* ⚠️ Промт ВОССТАНОВЛЕН (оригинал жил в самоочистившемся collectA.js) на живом прогоне точим.
* Нет ключа / ошибка / пустой разбор fallback: один запрос = само описание (канал А не мёртв).
*/
final class AitunnelQueryAnalyzer implements QueryAnalyzer
{
private const MAX_QUERIES = 8;
public function __construct(private readonly HttpFactory $http) {}
public function analyze(string $description, string $region, string $selfSite = '', array $competitorExamples = []): array
{
$description = trim($description);
$fallback = $description !== '' ? [$description] : [];
$cfg = (array) config('services.aitunnel');
$key = (string) ($cfg['key'] ?? '');
if ($key === '' || $description === '') {
return $fallback;
}
// Контекст для модели: наш сайт + сайты/карточки конкурентов из запроса (условно — если переданы).
$context = $this->contextClause($selfSite, $competitorExamples);
// Примеры НАМЕРЕННО из РАЗНЫХ отраслей — движок универсален (клиент Лидерры может быть любой
// сферы и региона). Рубрики ИИ подбирает ПОД ОПИСАНИЕ клиента. Требуем УЗКИЕ категории и
// запрещаем зонтичные слова («финансовые услуги» и т.п.) — иначе канал А тащит не тех (юрфирмы, банки).
$prompt = "Описание деятельности клиента: «{$description}». {$context}Регион: {$region}.\n".
'Дай от 3 до 6 КОРОТКИХ запросов-рубрик, по которым в справочниках 2ГИС и Яндекс.Карты '.
"ищут именно ПРЯМЫХ конкурентов клиента — как называется его УЗКАЯ категория.\n".
'Правило: рубрики только КОНКРЕТНЫЕ и узкие. ЗАПРЕЩЕНЫ общие «зонтичные» слова, которые '.
'тащат кого попало: «услуги», «финансовые услуги», «финансы», «медицина», «товары», «магазин», '.
"«сервис», «компания». Каждая рубрика — точная специализация, а не сфера целиком.\n".
'Примеры (узкое, НЕ зонтичное): стоматология → «стоматология», «имплантация зубов» (НЕ «медицина»); '.
'автосервис → «шиномонтаж», «автосервис» (НЕ «услуги»); займы под залог авто → «автоломбард», '.
'«займ под ПТС» (НЕ «финансовые услуги»). Подбери рубрики строго ПОД ОПИСАНИЕ клиента выше. '.
'Только сами запросы, без пояснений, без названий фирм и без города. '.
'Ответ — строго JSON-массив строк: ["...","..."]';
try {
$resp = $this->http
->withToken($key)
->timeout((int) ($cfg['timeout_sec'] ?? 30))
->post(rtrim((string) ($cfg['base_url'] ?? ''), '/').'/chat/completions', [
'model' => $cfg['chat_model'] ?? 'gpt-4o-mini',
'messages' => [['role' => 'user', 'content' => $prompt]],
'temperature' => 0,
]);
if (! $resp->successful()) {
return $fallback;
}
$queries = $this->parseQueries((string) $resp->json('choices.0.message.content'));
return $queries !== [] ? $queries : $fallback;
} catch (\Throwable) {
return $fallback;
}
}
/**
* Контекстная фраза «посмотри наш сайт X, а также наших главных конкурентов условно:
* каждая часть добавляется, только если данные есть. Пусто ''.
*
* @param list<string> $competitorExamples
*/
private function contextClause(string $selfSite, array $competitorExamples): string
{
$selfSite = trim($selfSite);
$examples = array_values(array_filter(array_map(
static fn ($v): string => trim((string) $v),
$competitorExamples,
), static fn (string $v): bool => $v !== ''));
$parts = [];
if ($selfSite !== '') {
$parts[] = "посмотри наш сайт {$selfSite}";
}
if ($examples !== []) {
$parts[] = 'а также наших главных конкурентов '.implode(', ', $examples);
}
return $parts !== [] ? implode(', ', $parts).' ' : '';
}
/**
* JSON-массив строк из сырого ответа: фрагмент `[``]`, дедуп (без регистра), отсев пустых, лимит.
*
* @return list<string>
*/
private function parseQueries(string $raw): array
{
$start = strpos($raw, '[');
$end = strrpos($raw, ']');
if ($start === false || $end === false || $end < $start) {
return [];
}
$decoded = json_decode(substr($raw, $start, $end - $start + 1), true);
if (! is_array($decoded)) {
return [];
}
$out = [];
$seen = [];
foreach ($decoded as $q) {
if (! is_string($q)) {
continue;
}
$q = trim($q);
$k = mb_strtolower($q, 'UTF-8');
if ($q === '' || isset($seen[$k])) {
continue;
}
$seen[$k] = true;
$out[] = $q;
if (count($out) >= self::MAX_QUERIES) {
break;
}
}
return $out;
}
}
@@ -1,107 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Services\Autopodbor\Agent\ChannelA;
/**
* Лёгкий разбор страницы категории 2ГИС (ZAFIKSIROVANO: шаг 1 = имя+сайт+карточка, БЕЗ захода в карточку).
* Из списка по каждой фирме берём: ИМЯ + ссылку на карточку (firm/<id>) + САЙТ.
*
* Сайт лежит в редиректе «Перейти на сайт»: `…/<firmId>/null/<hash>?http://site.ru…` id в пути = id
* фирмы, настоящий адрес после `?`. Мусор (агрегаторы/мессенджеры/трекеры/иностранные TLD) отсеиваем
* это не сайт фирмы. Телефоны/описание тут НЕ трогаем (это шаг 2). Чистый: на вход HTML, наружу не ходит.
*/
final class CategoryListingParser
{
/** Не сайт фирмы: агрегаторы/каталоги/соцсети/мессенджеры/трекеры. */
private const BLACKLIST = [
'avito.ru', 'youla.ru', 'zoon.ru', 'banki.ru', 'sravni.ru', 'flamp.ru', 'orgpage.ru',
'max.ru', 'vk.com', 'ok.ru', 't.me', 'telegram.me', 'wa.me', 'facebook.com', 'instagram.com',
'youtube.com', 'dzen.ru', 'rambler.ru', 'mail.ru', 'tns-counter.ru', 'top100.ru',
'serving-sys.ru', 'otello.ru', 'russpass.ru', 'gosuslugi.ru',
];
private const FOREIGN_TLD = ['.kg', '.kz', '.by', '.ua', '.ge', '.am', '.uz', '.md', '.com.tr'];
/**
* @return list<array{name:string,card_url:string,site:?string}>
*/
public function parse(string $html): array
{
$sites = $this->siteMap($html);
$out = [];
$seen = [];
$re = '#<a href="(/[a-z0-9_-]+/firm/(\d+))[^"]*"\s+class="_1rehek"><span class="_lvwrwt"><span>([^<]+)</span>#u';
if (preg_match_all($re, $html, $m, PREG_SET_ORDER)) {
foreach ($m as $hit) {
$id = $hit[2];
if (isset($seen[$id])) {
continue;
}
$seen[$id] = true;
$name = trim(html_entity_decode($hit[3], ENT_QUOTES | ENT_HTML5, 'UTF-8'));
if ($name === '') {
continue;
}
$out[] = [
'name' => $name,
'card_url' => 'https://2gis.ru'.$hit[1],
'site' => $sites[$id] ?? null,
];
}
}
return $out;
}
/**
* firmId домен сайта из редиректов «Перейти на сайт». Первый «настоящий» на фирму.
*
* @return array<string,string>
*/
private function siteMap(string $html): array
{
$sites = [];
if (preg_match_all('#/(\d{10,})/null/[^"?]*\?(https?://[^"\\\\?]+)#', $html, $m, PREG_SET_ORDER)) {
foreach ($m as $hit) {
$id = $hit[1];
if (isset($sites[$id])) {
continue;
}
$domain = $this->domain($hit[2]);
if ($domain !== null && $this->isRealSite($domain)) {
$sites[$id] = $domain;
}
}
}
return $sites;
}
private function domain(string $url): ?string
{
$url = mb_strtolower(trim($url), 'UTF-8');
$url = preg_replace('#^https?://#', '', $url);
$url = preg_replace('#^www\.#', '', $url);
$url = explode('/', $url)[0];
$url = explode('?', $url)[0];
return $url !== '' ? $url : null;
}
private function isRealSite(string $domain): bool
{
if (in_array($domain, self::BLACKLIST, true)) {
return false;
}
foreach (self::FOREIGN_TLD as $tld) {
if (str_ends_with($domain, $tld)) {
return false;
}
}
return true;
}
}
@@ -1,134 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Services\Autopodbor\Agent\ChannelA;
use App\Services\Autopodbor\Agent\Extract\TwoGisReader;
use App\Services\Autopodbor\Agent\Fetch\BatchPageFetcher;
use App\Services\Autopodbor\Agent\Fetch\PageFetcher;
/**
* Канал А (ZAFIKSIROVANO: шаг 1 = имя+сайт+карточка БЕЗ захода в карточку): по каждому запросу-рубрике
* из шага АНАЛИЗ скрейпим категорию 2ГИС со СКВОЗНОЙ ПАГИНАЦИЕЙ всех страниц и берём из СПИСКА по
* фирме имя + ссылку на карточку + сайт (через {@see CategoryListingParser}). Карточки не открываем
* это резко быстрее. Дедуп между страницами и запросами по ссылке карточки. Остановка: пустая
* страница / страница без новых фирм / лимит maxPages.
*
* Загрузка страниц ПАРАЛЛЕЛЬНАЯ ПОПЕРЁК РУБРИК (страница P всех активных рубрик за один
* {@see BatchPageFetcher::htmlBatch()} вызов). Параллельность живёт внутри htmlBatch (режет на
* порции по services.xfetch.concurrency). Если передан простой PageFetcher (тестовый стаб без
* batch) деградирует на одиночные html() вызовы, не ломая существующие тесты.
*/
final class CategoryScraper
{
public function __construct(
private readonly PageFetcher $pages,
// Разбор списка 2ГИС: HtmlTwoGisReader (xf4) ИЛИ TwoGisJsonReader (self-render) — пара к фетчеру.
private readonly TwoGisReader $reader,
private readonly int $maxPages = 5,
) {}
/**
* @param list<string> $queries запросы-рубрики из шага АНАЛИЗ
* @return list<array{name:string,card_url:string,site:?string}>
*/
public function collectTwoGis(string $slug, array $queries): array
{
$seen = [];
$out = [];
// Нормализуем и фильтруем пустые рубрики
$activeQueries = [];
foreach ($queries as $query) {
$query = trim((string) $query);
if ($query !== '') {
$activeQueries[] = $query;
}
}
if ($activeQueries === []) {
return [];
}
// Базовые URL для каждой рубрики (страница 1)
$baseUrls = [];
foreach ($activeQueries as $query) {
$baseUrls[$query] = "https://2gis.ru/{$slug}/search/".rawurlencode($query);
}
// active — список рубрик, которые ещё «живы» (дали новые фирмы на предыдущей странице)
$active = $activeQueries;
for ($page = 1; $page <= max(1, $this->maxPages); $page++) {
if ($active === []) {
break;
}
// Строим URL текущей страницы для каждой активной рубрики
$urlByQuery = [];
foreach ($active as $query) {
$base = $baseUrls[$query];
$urlByQuery[$query] = $page === 1 ? $base : $base."/page/{$page}";
}
// Загружаем пачку: BatchPageFetcher — параллельно; простой PageFetcher — по одному
$htmlByUrl = $this->fetchBatch(array_values($urlByQuery));
// Разбираем каждую рубрику; те, что дали 0 новых — выбывают
$stillActive = [];
foreach ($active as $query) {
$url = $urlByQuery[$query];
$html = $htmlByUrl[$url] ?? '';
$rows = $this->reader->listing($html);
if ($rows === []) {
// Пустая страница — рубрика выбывает
continue;
}
$added = 0;
foreach ($rows as $row) {
$key = $row['card_url'];
if (isset($seen[$key])) {
continue;
}
$seen[$key] = true;
$out[] = $row;
$added++;
}
if ($added > 0) {
$stillActive[] = $query; // есть новые — рубрика живёт
}
// $added === 0: страница без новых фирм → рубрика тоже выбывает
}
$active = $stillActive;
}
return $out;
}
/**
* Загружает HTML нескольких URL. Если fetcher реализует BatchPageFetcher делегирует
* в htmlBatch() (параллельно, порциями по лимиту сервиса). Иначе цикл html() по одному
* (сохраняет совместимость с простыми PageFetcher-стабами в тестах).
*
* @param list<string> $urls
* @return array<string, string> url => html
*/
private function fetchBatch(array $urls): array
{
if ($this->pages instanceof BatchPageFetcher) {
return $this->pages->htmlBatch($urls);
}
$result = [];
foreach ($urls as $url) {
$result[$url] = $this->pages->html($url);
}
return $result;
}
}
@@ -1,45 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Services\Autopodbor\Agent\ChannelA;
use App\Services\Autopodbor\Agent\Fetch\LocalYandexListSource;
use App\Services\Autopodbor\Agent\Fetch\YandexListSource;
/**
* Живой {@see YandexDirectory}: по каждой рубрике рендерит ленту `yandex.ru/maps/?text=<запрос> <город>`,
* скроллит и берёт организации (имя + карточка). Сам рендер за {@see YandexListSource}: локальный
* Playwright (xf4-путь) ИЛИ виртуалка+прокси (self-render). Дедуп по SLUG в {@see YandexListParser}.
*
* Источник за интерфейсом оркестрация (URL по рубрике, потолок, слияние) тестируется офлайн фейком.
*/
final class PlaywrightYandexDirectory implements YandexDirectory
{
public function __construct(
private readonly YandexListSource $source = new LocalYandexListSource,
// Берём ВСЕ рубрики (аналитик отдаёт до 8): каждая рубрика первой даёт самые релевантные фирмы.
private readonly int $maxQueries = 8,
// Сколько раз прокрутить ленту в каждой рубрике. Мало = быстро (верх выдачи = самые релевантные).
private readonly int $scrolls = 6,
private readonly YandexListParser $parser = new YandexListParser,
) {}
public function collect(string $city, array $queries): array
{
// Сырьё по всем рубрикам; дедуп/опознание фирмы по SLUG — в парсере («Корунд ×15 → один»).
$orgs = [];
foreach (array_slice($queries, 0, max(0, $this->maxQueries)) as $query) {
$query = trim((string) $query);
if ($query === '') {
continue;
}
$url = 'https://yandex.ru/maps/?text='.rawurlencode(trim($query.' '.$city));
foreach ($this->source->fetch($url, $this->scrolls) as $org) {
$orgs[] = $org;
}
}
return $this->parser->parse($orgs);
}
}
@@ -1,20 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Services\Autopodbor\Agent\ChannelA;
/**
* Шаг АНАЛИЗ канала А: из описания деятельности клиента НЕСКОЛЬКО коротких запросов-рубрик для
* скрейпа категории 2ГИС/Яндекса (ZAFIKSIROVANO §0-БИС / §12.7 в тесте Омеги было ~6 запросов).
* Реализация решает, какой моделью (по умолчанию мелкая chat-модель). За границей для офлайн-теста.
*/
interface QueryAnalyzer
{
/**
* @param string $selfSite сайт клиента из запроса на поиск (пусто не добавляем в промт)
* @param list<string> $competitorExamples сайты/карточки конкурентов из запроса (пусто не добавляем)
* @return list<string> короткие запросы-рубрики (напр. «автоломбард», «займ под залог авто»).
*/
public function analyze(string $description, string $region, string $selfSite = '', array $competitorExamples = []): array;
}
@@ -1,19 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Services\Autopodbor\Agent\ChannelA;
/**
* Второй справочник канала А Яндекс.Карты (ZAFIKSIROVANO: Яндекс = имя + карточка, БЕЗ сайта;
* сайт в списке Яндекса не отдаётся, только на карточке не открываем). Собирает по запросам-рубрикам
* организации: имя + ссылка на карточку. За границей для офлайн-теста оркестратора через фейк.
*/
interface YandexDirectory
{
/**
* @param list<string> $queries запросы-рубрики из шага АНАЛИЗ
* @return list<array{name:string,card_url:string}>
*/
public function collect(string $city, array $queries): array;
}
@@ -1,51 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Services\Autopodbor\Agent\ChannelA;
/**
* Разбор списка организаций Яндекс.Карт (канал А). Дедуп по SLUG коду фирмы от самого Яндекса
* из адреса страницы `/maps/org/<slug>/<id>`, а НЕ по id филиала и НЕ по тексту имени.
*
* Почему slug: у всех точек одной сети slug общий (напр. `korund`), а id у каждой точки свой
* поэтому дедуп по slug честно схлопывает филиалы «Корунд ×15 один» и склеивает разные написания
* одной фирмы («КрасЛомбард»/«Красломбард» slug `kraslombard`). При этом две РАЗНЫЕ фирмы с похожим
* именем, которым Яндекс дал разные slug, остаются раздельными. Это опознавательный признак источника,
* а не догадка по строке. Чистый разбор: на вход сырой массив организаций из render, наружу не ходит.
*/
final class YandexListParser
{
/**
* @param list<array<string,mixed>> $orgs сырые организации из render-скрипта (name, href, category, ...)
* @return list<array{name:string,card_url:string,slug:string,description:?string}>
*/
public function parse(array $orgs): array
{
$seen = [];
$out = [];
foreach ($orgs as $org) {
$href = trim((string) ($org['href'] ?? ''));
$name = trim((string) ($org['name'] ?? ''));
if ($name === '' || ! preg_match('#^/maps/org/([a-z0-9_-]+)/(\d+)#i', $href, $m)) {
continue;
}
$slug = mb_strtolower($m[1], 'UTF-8');
if (isset($seen[$slug])) {
continue; // одна фирма (slug) = одна строка; филиалы схлопнуты
}
$seen[$slug] = true;
// Рубрика из списка Яндекса («Ломбард, автоломбард», «Микрофинансовая организация») = описание.
$category = trim((string) ($org['category'] ?? ''));
$out[] = [
'name' => $name,
'card_url' => 'https://yandex.ru'.$href,
'slug' => $slug,
'description' => $category !== '' ? $category : null,
];
}
return $out;
}
}
@@ -1,51 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Services\Autopodbor\Agent\ChannelB;
use Illuminate\Http\Client\Factory as HttpFactory;
/**
* Живой {@see ResearcherClient} через AITUNNEL (OpenAI-совместимый chat). ФИНАЛ (ZAFIKSIROVANO §0-БИС):
* ОДНА рассуждающая модель (`research_model`, по умолчанию sonar-reasoning-pro) с веб-поиском, temperature:0.
* POST {base}/chat/completions [system, user] {choices:[{message:{content}}]}.
* Нет ключа / ошибка сети возвращаем '[]' (движок деградирует, не падает; канал В даст 0 имён).
*/
final class AitunnelResearcher implements ResearcherClient
{
public function __construct(private readonly HttpFactory $http) {}
public function research(string $system, string $user): string
{
$cfg = (array) config('services.aitunnel');
$key = (string) ($cfg['key'] ?? '');
if ($key === '') {
return '[]';
}
try {
$resp = $this->http
->withToken($key)
->timeout((int) ($cfg['research_timeout_sec'] ?? 120))
->post(rtrim((string) ($cfg['base_url'] ?? ''), '/').'/chat/completions', [
'model' => $cfg['research_model'] ?? 'sonar-reasoning-pro',
'messages' => [
['role' => 'system', 'content' => $system],
['role' => 'user', 'content' => $user],
],
'temperature' => 0,
]);
if (! $resp->successful()) {
return '[]';
}
$content = (string) $resp->json('choices.0.message.content');
return $content !== '' ? $content : '[]';
} catch (\Throwable) {
return '[]';
}
}
}
@@ -1,93 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Services\Autopodbor\Agent\ChannelB;
/**
* Канал В (федералы/онлайн) генератор ИМЁН моделью, ФИНАЛ владельца (ZAFIKSIROVANO §0-БИС + §11.3):
* На вход ИИ даём СПИСОК ИЗ КАНАЛА А (фирмы, уже найденные в справочниках) + примеры клиента
* как «уже известных, не повторять».
* ИИ выдаёт ТОЛЬКО НАЗВАНИЯ новых конкурентов (+ тип), которых в списке нет. Без сайтов/карточек.
* ОДНА модель × 2 прохода: проход 2 получает стоп-лист = известные + найденное в проходе 1.
* Сайт каждого имени добывает ПОТОМ EXA (нет сайта нет якоря имя выкидывается).
*
* Дедуп по имени (ё→е, без не-букв/цифр). Модель за границей {@see ResearcherClient} (офлайн-тест).
*/
final class ChannelBSearch
{
/** Промт канала В: ТОЛЬКО НАЗВАНИЯ+тип федералов, ведущих деятельность в регионе. Сайт находит EXA. */
public const SYSTEM_PROMPT = <<<'TXT'
Ты поисковик конкурентов для нашей компании. Используй интернет и справочники. Дай список НАЗВАНИЙ реальных компаний-конкурентов ведущих свою деятельность в указанном регионе федеральных игроков в этой сфере чем больше реальных, тем лучше.
Дай ТОЛЬКО НАЗВАНИЕ и ТИП каждой фирмы. Сайты и ссылки НЕ нужны их мы найдём сами. Не выдумывай фирмы ради объёма; лучше меньше, но реальные.
В запросе дан список уже известных НЕ повторяй их.
ФОРМА строго JSON-массив, без текста вне него: [{"name":"Название","type":"федеральная"}]
TXT;
public function __construct(
private readonly ResearcherClient $client,
private readonly ResearcherParser $parser,
) {}
/**
* @param list<string> $known имена, уже известные (список из канала А + примеры клиента)
* @return list<array{name:string,type:?string}> только НОВЫЕ фирмы (имя + тип; сайт найдёт EXA)
*/
public function harvest(string $profile, string $region, string $clientSite, array $known, int $passes = 2): array
{
$accumulated = [];
$seen = [];
$stop = [];
foreach ($known as $name) {
$name = trim((string) $name);
if ($name === '') {
continue;
}
$k = $this->key($name);
if (isset($seen[$k])) {
continue; // чистим стоп-лист от дублей-филиалов: «Корунд» ×27 → один
}
$seen[$k] = true;
$stop[] = $name;
}
for ($pass = 1; $pass <= max(1, $passes); $pass++) {
$user = $this->userPrompt($profile, $region, $clientSite, $stop);
$raw = $this->client->research(self::SYSTEM_PROMPT, $user);
foreach ($this->parser->parse($raw) as $cand) {
$k = $this->key($cand['name']);
if (isset($seen[$k])) {
continue; // уже известен (канал А, пример или прошлый проход)
}
$seen[$k] = true;
$accumulated[] = $cand;
$stop[] = $cand['name']; // стоп-лист растёт к следующему проходу
}
}
return $accumulated;
}
/** Пользовательский промт §11.3: профиль/регион/сайт клиента + список известных имён. */
private function userPrompt(string $profile, string $region, string $clientSite, array $stop): string
{
$list = $stop === []
? '(пока пусто)'
: implode("\n", array_map(static fn (string $n): string => '- '.$n, $stop));
return "Наша компания: {$profile} в {$region}. Наш сайт: {$clientSite}.\n".
"Уже известные конкуренты — НЕ выводить их повторно:\n".
"{$list}\n".
"Дай ТОЛЬКО НОВЫЕ фирмы-конкуренты в {$region}, которых нет в списке — только название и тип. Ответ — строго в формате из системного промта.";
}
/** Ключ дедупа по имени: ё→е, нижний регистр, только буквы/цифры. */
private function key(string $name): string
{
$name = str_replace('ё', 'е', mb_strtolower($name, 'UTF-8'));
return (string) preg_replace('/[^\p{L}\p{N}]+/u', '', $name);
}
}
@@ -1,176 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Services\Autopodbor\Agent\ChannelB;
use Illuminate\Http\Client\Factory as HttpFactory;
use Illuminate\Http\Client\Response;
/**
* Нормализация канала В (ZAFIKSIROVANO / §11.411.5): у федерала НЕТ карточки в 2ГИС/Яндексе на регион,
* поэтому его САЙТ ищем по имени через EXA. Берём домен первого «настоящего» результата, отсеивая
* каталоги/агрегаторы/реестры/отзовики и иностранные TLD (это НЕ сайт самой фирмы).
*
* POST {base}/search {query, numResults} (header x-api-key) {results:[{url}]}. Нет ключа/ошибка/
* нет подходящих null (тогда у имени из В сайта не будет; резолвер решит «нет филиала»).
*/
final class ExaSiteFinder
{
/** Домены-каталоги/агрегаторы/реестры/карты/отзовики — НЕ сайт фирмы (§11.4). */
private const BLACKLIST = [
'avito.ru', 'youla.ru', 'zoon.ru', 'banki.ru', 'sravni.ru', '1000bankov.ru',
'yandex.ru', 'ya.ru', '2gis.ru', 'flamp.ru', 'orgpage.ru', 'rusprofile.ru',
'list-org.com', 'sbis.ru', 'spark-interfax.ru', 'otzovik.com', 'irecommend.ru',
'vk.com', 'ok.ru', 'instagram.com', 'facebook.com', 't.me', 'telegram.me',
'wikipedia.org', 'youtube.com', 'dzen.ru', 'zen.yandex.ru',
];
/** Иностранные TLD — не сайт российской фирмы (§11.4). */
private const FOREIGN_TLD = ['.kg', '.kz', '.by', '.ua', '.ge', '.am', '.uz', '.md'];
public function __construct(private readonly HttpFactory $http) {}
public function findSite(string $name, string $region): ?string
{
$cfg = (array) config('services.exa');
$key = (string) ($cfg['key'] ?? '');
if ($key === '' || trim($name) === '') {
return null;
}
try {
$resp = $this->http
->withHeaders(['x-api-key' => $key])
->withOptions($this->proxyOptions())
->timeout((int) ($cfg['timeout_sec'] ?? 30))
->post(rtrim((string) ($cfg['base_url'] ?? 'https://api.exa.ai'), '/').'/search', $this->body($name));
return $this->pickDomain($resp);
} catch (\Throwable) {
return null;
}
}
/**
* Пакетный поиск сайтов ПАРАЛЛЕЛЬНО пулом Laravel Http, порциями по services.exa.concurrency
* (внутри порции одновременно, порции по очереди). Лимит EXA на КЛЮЧ (один на всех клиентов),
* поэтому не «все разом», а бережно; глобальный потолок между клиентами держит очередь.
* Сбой/429 по имени его сайт null (не роняет пул и не теряет остальных).
*
* @param list<string> $names
* @return array<string, ?string> имя домен (или null)
*/
public function findSites(array $names, string $region): array
{
$names = array_values(array_unique(array_filter(
array_map(static fn ($n): string => trim((string) $n), $names),
static fn (string $n): bool => $n !== '',
)));
$out = [];
foreach ($names as $n) {
$out[$n] = null;
}
if ($names === []) {
return $out;
}
$cfg = (array) config('services.exa');
$key = (string) ($cfg['key'] ?? '');
if ($key === '') {
return $out;
}
$url = rtrim((string) ($cfg['base_url'] ?? 'https://api.exa.ai'), '/').'/search';
$timeout = (int) ($cfg['timeout_sec'] ?? 30);
$concurrency = max(1, (int) ($cfg['concurrency'] ?? 5));
foreach (array_chunk($names, $concurrency) as $chunk) {
try {
$responses = $this->http->pool(fn ($pool) => array_map(
fn (string $n) => $pool->as($n)
->withHeaders(['x-api-key' => $key])
->withOptions($this->proxyOptions())
->timeout($timeout)
->post($url, $this->body($n)),
$chunk,
));
} catch (\Throwable) {
continue; // весь чанк не удался — имена остаются null, идём к следующему
}
foreach ($chunk as $n) {
$out[$n] = $this->pickDomain($responses[$n] ?? null);
}
}
return $out;
}
/** Тело запроса EXA по имени. */
private function body(string $name): array
{
return ['query' => $name.' официальный сайт', 'numResults' => 10, 'type' => 'auto'];
}
/**
* Опции Guzzle для запроса EXA: прокси (services.exa.proxy), если задан. EXA за Cloudflare
* режет российские IP, поэтому на боевом канал В ходит через зарубежный выход. Пусто напрямую.
*
* @return array<string, mixed>
*/
private function proxyOptions(): array
{
$proxy = trim((string) (config('services.exa.proxy') ?? ''));
return $proxy !== '' ? ['proxy' => $proxy] : [];
}
/** Первый «настоящий» домен из ответа EXA (не каталог/агрегатор/иностранный TLD), иначе null. */
private function pickDomain(mixed $resp): ?string
{
if (! $resp instanceof Response || ! $resp->successful()) {
return null;
}
foreach ((array) $resp->json('results') as $r) {
$url = is_array($r) ? (string) ($r['url'] ?? '') : '';
$domain = $this->domain($url);
if ($domain !== null && $this->isRealSite($domain)) {
return $domain;
}
}
return null;
}
/** Голый домен из URL: без схемы/www/пути, нижний регистр. */
private function domain(string $url): ?string
{
$url = mb_strtolower(trim($url), 'UTF-8');
if ($url === '') {
return null;
}
$url = preg_replace('#^https?://#', '', $url);
$url = preg_replace('#^www\.#', '', $url);
$url = explode('/', $url)[0];
$url = explode('?', $url)[0];
return $url !== '' ? $url : null;
}
/** Настоящий сайт фирмы — не из чёрного списка и не иностранный TLD. */
private function isRealSite(string $domain): bool
{
if (in_array($domain, self::BLACKLIST, true)) {
return false;
}
foreach (self::FOREIGN_TLD as $tld) {
if (str_ends_with($domain, $tld)) {
return false;
}
}
return true;
}
}
@@ -1,16 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Services\Autopodbor\Agent\ChannelB;
/**
* Граница живого канала В: один вызов модели-исследователя (system+user промт сырой текст ответа).
* Финал движка (см. ZAFIKSIROVANO §0-БИС) ОДНА модель, гоняется 2 прохода; реализация решает,
* какую модель шлёт (по умолчанию sonar-reasoning-pro). Логика проходов/стоп-листа за границей,
* в {@see ChannelBSearch}, чтобы тестироваться офлайн через фейк-клиент.
*/
interface ResearcherClient
{
public function research(string $system, string $user): string;
}
@@ -1,65 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Services\Autopodbor\Agent\ChannelB;
/**
* Канал В (§11.3 + ZAFIKSIROVANO §0-БИС): модель-исследователь даёт ТОЛЬКО НАЗВАНИЯ конкурентов
* (+ тип регион/федерал), без сайтов/карточек/телефонов их добывает ПОТОМ Firecrawl/резолвер.
* Парсер вытаскивает JSON-массив имён из сырого ответа (часто в markdown-обёртке или с текстом вокруг).
* Чистый: на вход строка, наружу не ходит.
*/
final class ResearcherParser
{
/**
* @return list<array{name:string,type:?string}>
*/
public function parse(string $raw): array
{
$out = [];
foreach ($this->decodeArray($raw) as $row) {
if (! is_array($row)) {
continue;
}
$name = trim((string) ($row['name'] ?? ''));
if ($name === '') {
continue; // без имени — мусор
}
// ТОЛЬКО имя+тип. Если модель по инерции положит site/card — игнорируем: сайт ищет EXA.
$out[] = [
'name' => $name,
'type' => $this->str($row['type'] ?? null),
];
}
return $out;
}
/**
* Достаёт JSON-массив: фрагмент от первой `[` до последней `]`. Не распарсилось пустой массив.
*
* @return array<int, mixed>
*/
private function decodeArray(string $raw): array
{
$start = strpos($raw, '[');
$end = strrpos($raw, ']');
if ($start === false || $end === false || $end < $start) {
return [];
}
$decoded = json_decode(substr($raw, $start, $end - $start + 1), true);
return is_array($decoded) ? $decoded : [];
}
private function str(mixed $v): ?string
{
if (! is_string($v)) {
return null;
}
$v = trim($v);
return $v !== '' ? $v : null;
}
}
@@ -1,19 +0,0 @@
<?php
namespace App\Services\Autopodbor\Agent;
use App\Services\Autopodbor\Agent\Dto\FindCompetitorsRequest;
use App\Services\Autopodbor\Agent\Dto\FindCompetitorsResult;
use App\Services\Autopodbor\Agent\Dto\ResolveByNameRequest;
use App\Services\Autopodbor\Agent\Dto\ResolveByNameResult;
use App\Services\Autopodbor\Agent\Dto\StudyCompetitorRequest;
use App\Services\Autopodbor\Agent\Dto\StudyCompetitorResult;
interface CompetitorAgent
{
public function findCompetitors(FindCompetitorsRequest $r): FindCompetitorsResult;
public function studyCompetitor(StudyCompetitorRequest $r): StudyCompetitorResult;
public function resolveByName(ResolveByNameRequest $r): ResolveByNameResult;
}
@@ -1,119 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Services\Autopodbor\Agent;
use App\Services\Autopodbor\Agent\Extract\DirectoryParser;
use App\Services\Autopodbor\Agent\Extract\HtmlTwoGisReader;
use App\Services\Autopodbor\Agent\Extract\TwoGisReader;
use App\Services\Autopodbor\Agent\Fetch\BatchPageFetcher;
use App\Services\Autopodbor\Agent\Fetch\DirectoryCard;
use App\Services\Autopodbor\Agent\Fetch\PageFetcher;
/**
* «Вскрыть всё» на этапе сбора: открываем карточку справочника у КАЖДОГО кандидата с карточкой и без
* сайта, и с сайтом (максимум качества). Из вскрытой карточки берём телефоны + описание всегда, а сайт
* только если его ещё нет (свой сайт из листинга надёжнее, его не затираем). Это нужно для чистой склейки
* дублей (Автодом24 без сайта AutoMoney) и богатого описания. БЕЗ лимита на число карточек открываем
* ВСЕ ПАЧКОЙ (параллельно), если фетчер умеет ({@see BatchPageFetcher}); каждый запрос с таймаутом, поэтому
* зависнуть не может. Кол-во режем на старте (страницы/рубрики), а не гейтом на вскрытии. Единственное
* реальное ограничение частотный лимит самого 2ГИС (карточка вернёт пусто тогда просто пропускаем).
*
* Остальные дубли (по вскрывшемуся при ИЗУЧЕНИИ телефону/адресу) добирает кнопка «Найти дубли».
* Фетчер за границей {@see PageFetcher} тестируется офлайн.
*/
final class CompetitorCardEnricher
{
public function __construct(
private readonly PageFetcher $pages,
private readonly DirectoryParser $parser,
// Разбор карточек 2ГИС: HtmlTwoGisReader (xf4) ИЛИ TwoGisJsonReader (self-render) — пара к
// фетчеру. Яндекс-карточки остаются на $parser->parseYandexCard (свой формат, не 2ГИС).
private readonly TwoGisReader $twoGis = new HtmlTwoGisReader,
) {}
/**
* @param array<int, array> $candidates
* @return array<int, array>
*/
public function enrich(array $candidates): array
{
// Цели = ВСЕ кандидаты, у которых есть карточка справочника (гейта «сайт есть → пропустить»
// больше нет — максимум качества: вскрываем всё, кол-во режем на старте страницами/рубриками).
// idx => первая карточка. Без лимита.
$targets = [];
foreach ($candidates as $idx => $c) {
foreach ($c['directory_urls'] ?? [] as $u) {
$u = trim((string) $u);
if ($u !== '') {
$targets[$idx] = $u;
break;
}
}
}
if ($targets === []) {
return $candidates;
}
// Пачкой (параллельно) если умеет, иначе по одной.
$urls = array_values(array_unique(array_values($targets)));
$htmls = $this->pages instanceof BatchPageFetcher
? $this->pages->htmlBatch($urls)
: $this->fetchSequential($urls);
foreach ($targets as $idx => $url) {
$html = $htmls[$url] ?? '';
if ($html === '') {
continue;
}
$c = $candidates[$idx];
foreach ($this->parseCards($html, $url) as $card) {
if (empty($c['site_url']) && $card->siteUrl !== null && $card->siteUrl !== '') {
$c['site_url'] = $card->siteUrl;
}
if (empty($c['description']) && $card->description !== null && $card->description !== '') {
$c['description'] = $card->description;
}
if ($card->number !== '') {
$c['phones'][] = $card->number;
}
}
$c['phones'] = array_values(array_unique($c['phones'] ?? []));
$candidates[$idx] = $c;
}
return $candidates;
}
/**
* @param list<string> $urls
* @return array<string, string>
*/
private function fetchSequential(array $urls): array
{
$out = [];
foreach ($urls as $u) {
$out[$u] = $this->pages->html($u);
}
return $out;
}
/**
* Разбор карточки по типу справочника: Яндекс parseYandexCard, 2ГИС parse2gisCard.
*
* @return list<DirectoryCard>
*/
private function parseCards(string $html, string $url): array
{
if (str_contains($url, 'yandex')) {
return $this->parser->parseYandexCard($html, $url);
}
if (str_contains($url, '2gis')) {
return $this->twoGis->card($html, $url);
}
return [];
}
}
@@ -1,23 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Services\Autopodbor\Agent\Dto;
final class CollectedSource
{
/** @param array<int,array{label:string,url:?string}> $sources */
public function __construct(
public readonly string $signalType, // call | site
public readonly string $identifier, // 7XXXXXXXXXX | домен
public readonly ?string $phoneKind, // real | substitute | null
public readonly ?string $phoneType, // city | mobile | tollfree | null
public readonly ?string $office, // подпись филиала | null
public readonly array $sources, // «где нашли»
) {}
public function confirmations(): int
{
return count($this->sources);
}
}
@@ -1,14 +0,0 @@
<?php
namespace App\Services\Autopodbor\Agent\Dto;
final class FindCompetitorsRequest
{
public function __construct(
public readonly int $regionCode,
public readonly array $examples,
public readonly array $aboutSelf,
public readonly bool $includeFederal,
public readonly int $maxCompetitors,
) {}
}
@@ -1,11 +0,0 @@
<?php
namespace App\Services\Autopodbor\Agent\Dto;
final class FindCompetitorsResult
{
/**
* @param array<int,array{name:string,description?:?string,is_federal?:bool,relevance_pct?:?int,site_url?:?string,directory_urls?:array,provenance?:array}> $competitors
*/
public function __construct(public readonly array $competitors) {}
}
@@ -1,11 +0,0 @@
<?php
namespace App\Services\Autopodbor\Agent\Dto;
final class ResolveByNameRequest
{
public function __construct(
public readonly string $name,
public readonly int $regionCode,
) {}
}
@@ -1,11 +0,0 @@
<?php
namespace App\Services\Autopodbor\Agent\Dto;
final class ResolveByNameResult
{
/**
* @param array<int,array{name:string,description?:?string,site_url?:?string,directory_urls?:array,provenance?:array}> $candidates
*/
public function __construct(public readonly array $candidates) {}
}
@@ -1,14 +0,0 @@
<?php
namespace App\Services\Autopodbor\Agent\Dto;
final class StudyCompetitorRequest
{
/**
* @param array{name:string,site_url?:?string,directory_urls?:array} $competitor
*/
public function __construct(
public readonly array $competitor,
public readonly int $regionCode,
) {}
}
@@ -1,11 +0,0 @@
<?php
namespace App\Services\Autopodbor\Agent\Dto;
final class StudyCompetitorResult
{
/**
* @param array<int,array{signal_type:string,identifier:string,phone_kind?:?string,phone_type?:?string,provenance_url?:?string,provenance_label?:?string,where_found?:array<int,array{label:string,url:?string}>,office?:?string,confirmations?:int}> $sources
*/
public function __construct(public readonly array $sources) {}
}
@@ -1,23 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Services\Autopodbor\Agent\Extract;
final class CalltrackingDetector
{
private const PROVIDERS = ['roistat', 'calltouch', 'comagic', 'uiscom', 'mango-office', 'callibri', 'ringostat', 'phonet'];
/** @return list<string> */
public function detect(string $html): array
{
$found = [];
foreach (self::PROVIDERS as $p) {
if (stripos($html, $p) !== false) {
$found[] = $p;
}
}
return array_values(array_unique($found));
}
}
@@ -1,136 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Services\Autopodbor\Agent\Extract;
use App\Services\Autopodbor\Agent\Fetch\DirectoryCard;
use App\Services\Autopodbor\Agent\Fetch\FetchedSite;
use App\Services\Autopodbor\AutopodborNormalizer;
final class CandidateBuilder
{
public function __construct(
private HtmlPhoneScanner $scanner = new HtmlPhoneScanner,
private CalltrackingDetector $detector = new CalltrackingDetector,
private AutopodborNormalizer $norm = new AutopodborNormalizer,
) {}
/**
* @param list<FetchedSite> $sites
* @param list<DirectoryCard> $cards
* @param ?string $defaultAreaCode запасной код города (по региону конкурента)
* для достройки коротких номеров, если на странице нет полных
* @return list<array{number:string,kind:string,label:string,url:?string,office:?string,tracker:bool}>
*/
public function build(array $sites, array $cards, ?string $defaultAreaCode = null): array
{
$out = [];
foreach ($sites as $site) {
$scan = $this->scanner->scan($site->rawHtml, $defaultAreaCode);
$hasTracker = $this->detector->detect($site->rawHtml) !== [];
foreach (array_keys($scan['code']) as $number) {
$out[] = [
'number' => (string) $number,
'kind' => 'code',
'label' => 'в коде сайта',
'url' => $site->url,
'office' => null,
'tracker' => $hasTracker,
];
}
// короткие локальные номера, код города которых не удалось определить —
// НЕ теряем, отдаём клиенту с пометкой «требует проверки»
foreach ($scan['uncertain'] ?? [] as $short) {
$out[] = [
'number' => (string) $short,
'kind' => 'uncertain',
'label' => 'локальный номер на сайте — код города не определён, требует проверки',
'url' => $site->url,
'office' => null,
'tracker' => $hasTracker,
];
}
$codeNumbers = array_map('strval', array_keys($scan['code']));
// видимые отрендеренные номера → displayed (подменный), если их нет в коде
$visible = [];
foreach ($site->visiblePhones as $raw) {
$n = $this->normalize($raw);
if ($n === null) {
continue;
}
$visible[] = $n;
if (! in_array($n, $codeNumbers, true)) {
$out[] = [
'number' => $n, 'kind' => 'displayed', 'label' => 'показан на сайте (коллтрекинг)',
'url' => $site->url, 'office' => null, 'tracker' => $hasTracker,
];
}
}
// пул ротации: номер в теле ≥2 раз, не в коде и не видимый, при активном трекере
if ($hasTracker) {
foreach ($scan['body'] as $number => $count) {
$number = (string) $number;
if ($count >= 2 && ! in_array($number, $codeNumbers, true) && ! in_array($number, $visible, true)) {
$out[] = [
'number' => $number, 'kind' => 'pool', 'label' => 'пул подмены',
'url' => $site->url, 'office' => null, 'tracker' => true,
];
}
}
} else {
// без коллтрекинга: номера, написанные на сайте ПРОСТЫМ ТЕКСТОМ (не tel:/schema,
// не отрендеренные) — не теряем, а отдаём клиенту с пометкой «проверьте». На
// верифицированном сайте фирмы это чаще её линии, но без tel:-ссылки за 100%
// настоящие не выдаём. (Число вхождений не важно — номер уже в видимом тексте.)
foreach ($scan['body'] as $number => $count) {
$number = (string) $number;
if (in_array($number, $codeNumbers, true) || in_array($number, $visible, true)) {
continue;
}
$out[] = [
'number' => $number, 'kind' => 'text', 'label' => 'в тексте сайта — проверьте',
'url' => $site->url, 'office' => null, 'tracker' => false,
];
}
}
// номера филиалов со страницы «Контакты» (рендер)
foreach ($site->contactsNumbers as $row) {
$n = $this->normalize($row['number']);
if ($n === null) {
continue;
}
$out[] = [
'number' => $n, 'kind' => 'contacts', 'label' => 'страница «Контакты»',
'url' => $site->url, 'office' => $row['office'] ?? null, 'tracker' => $hasTracker,
];
}
}
foreach ($cards as $card) {
$n = $this->normalize($card->number);
if ($n === null) {
continue;
}
$out[] = [
'number' => $n, 'kind' => 'directory', 'label' => $card->source,
'url' => $card->url, 'office' => $card->office, 'tracker' => false,
];
}
return $out;
}
private function normalize(string $raw): ?string
{
$n = $this->norm->phone($raw);
return (strlen($n) === 11 && $n[0] === '7') ? $n : null;
}
}
@@ -1,352 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Services\Autopodbor\Agent\Extract;
use App\Services\Autopodbor\Agent\Fetch\DirectoryCard;
/**
* Разбор страниц справочников (2ГИС/Яндекс): список филиалов и карточка филиала.
* Чистый: на вход уже отрендеренный HTML, на выход ссылки/карточки.
*/
final class DirectoryParser
{
/**
* Ссылки на карточки филиалов со страницы списка (2ГИС: /city/firm/<id>).
*
* @return list<string>
*/
public function parseBranchList(string $html): array
{
// Путь карточки филиала /<город>/firm/<id> — 2ГИС отдаёт его то как href,
// то внутри JSON-состояния страницы. Берём отовсюду (с дедупом) — иначе на части
// прорисовок филиалы теряются (поймано на живом 2ГИС).
$out = [];
if (preg_match_all('#/[a-z0-9_-]+/firm/\d+#i', $html, $m)) {
foreach ($m[0] as $href) {
if (! in_array($href, $out, true)) {
$out[] = $href;
}
}
}
return $out;
}
/**
* Карточка филиала: телефоны из tel:-ссылок + адрес из заголовка страницы.
*
* @return list<DirectoryCard>
*/
public function parseFirmCard(string $html, string $url, string $source): array
{
$office = $this->officeFromTitle($html);
$out = [];
if (preg_match_all('/tel:([+0-9()\s-]{7,})/i', $html, $m)) {
$seen = [];
foreach ($m[1] as $raw) {
$num = trim($raw);
if (isset($seen[$num])) {
continue;
}
$seen[$num] = true;
$out[] = new DirectoryCard(number: $num, office: $office, url: $url, source: $source);
}
}
return $out;
}
/**
* Карточка организации Яндекс.Карт: телефоны + сайт + адрес из заголовка.
*
* Приоритеты парсинга:
* 1. Телефоны из <div class="orgpage-phones-view__phone-number">
* 2. Резервные номера из wa.me-ссылок (если не совпадают по цифрам с уже найденными)
* 3. Сайт из <a class="business-urls-view__link" href="">
* 4. Адрес офиса через officeFromTitle()
*
* Если телефонов нет, но сайт есть одна карточка с number=''.
* Если нет ни телефона, ни сайта [].
*
* @return list<DirectoryCard>
*/
public function parseYandexCard(string $html, string $url): array
{
$office = $this->officeFromTitle($html);
// «Чем занимается» — рубрика из заголовка карточки Яндекса («Имя, РУБРИКА, адрес…, Город»).
$description = $this->categoryFromTitle($html);
// Телефоны из <div class="orgpage-phones-view__phone-number"…>ТЕЛЕФОН</div>
$phones = [];
if (preg_match_all(
'/class="orgpage-phones-view__phone-number"[^>]*>\s*([^<]+?)\s*</',
$html,
$m,
)) {
foreach ($m[1] as $raw) {
$raw = trim($raw);
if ($raw !== '') {
$phones[] = $raw;
}
}
}
// Телефоны из скрытого JSON (Яндекс прячет 2-й и последующие за раскрывашкой,
// но все объекты {"number":"...","type":"phone","value":"..."} лежат в HTML).
// Берём поле value — это чистый номер в международном формате.
if (preg_match_all(
'/"number":"[^"]+","type":"phone","value":"(\+?\d{10,15})"/u',
$html,
$jm,
)) {
foreach ($jm[1] as $jsonNum) {
$jsonDigits = preg_replace('/\D/', '', $jsonNum);
$alreadyHave = false;
foreach ($phones as $existing) {
if (preg_replace('/\D/', '', $existing) === $jsonDigits) {
$alreadyHave = true;
break;
}
}
if (! $alreadyHave) {
$phones[] = $jsonNum;
}
}
}
// Резервные: wa.me/7XXXXXXXXXX — добавляем только если цифры нового
if (preg_match_all('/wa\.me\/(\d{10,15})/i', $html, $wm)) {
foreach ($wm[1] as $digits) {
$alreadyHave = false;
foreach ($phones as $existing) {
if (preg_replace('/\D/', '', $existing) === $digits) {
$alreadyHave = true;
break;
}
}
if (! $alreadyHave) {
$phones[] = '+'.$digits;
}
}
}
// Сайт
$siteUrl = null;
if (preg_match('/class="business-urls-view__link"\s+href="([^"]+)"/i', $html, $sm)) {
$siteUrl = $sm[1];
}
if ($phones === [] && $siteUrl === null) {
return [];
}
if ($phones === []) {
return [new DirectoryCard(
number: '',
office: $office,
url: $url,
source: 'Яндекс.Карты',
siteUrl: $siteUrl,
description: $description,
)];
}
$out = [];
$seenDigits = [];
foreach ($phones as $raw) {
$digits = preg_replace('/\D/', '', $raw);
if (isset($seenDigits[$digits])) {
continue;
}
$seenDigits[$digits] = true;
$out[] = new DirectoryCard(
number: $raw,
office: $office,
url: $url,
source: 'Яндекс.Карты',
siteUrl: $siteUrl,
description: $description,
);
}
return $out;
}
/**
* Карточка фирмы 2ГИС «вскрыть всё»: сайт + ВСЕ телефоны + описание из карточки.
*
* 2ГИС хранит контакты JSON-массивом объектов:
* - сайт объект {"url":"","type":"website",} берём поле `url` (НЕ `value`:
* там редирект link.2gis.ru, а не настоящий сайт);
* - телефоны объекты {"type":"phone","value":"+7…"} берём `value`;
* - описание «чем занимается» best-effort из og:description (стабильнее хэш-классов 2ГИС).
*
* Мусор-домены (счётчики/трекеры в <script src>) сюда не попадают: сайт берём ТОЛЬКО из
* объекта-контакта website, а не «первый домен на странице».
*
* Если телефонов нет, но сайт есть одна карточка с number=''. Нет ни того, ни другого [].
*
* @return list<DirectoryCard>
*/
public function parse2gisCard(string $html, string $url): array
{
$office = $this->officeFromTitle($html);
// «Чем занимается»: сначала своё описание (og), если оно не заглушка; иначе — рубрика из
// заголовка карточки («Имя, РУБРИКА, адрес…, Город»). Рекламный текст 2ГИС грузится отдельно
// (не в HTML) — его тут нет, рубрика — надёжный минимум.
$description = $this->descriptionFromMeta($html) ?? $this->categoryFromTitle($html);
// Сайт: в объекте-контакте url идёт ДО "type":"website" (порядок ключей url,text,code,type).
// Берём первый такой объект; [^}]*? не даёт «перепрыгнуть» в соседний объект.
$siteUrl = null;
if (preg_match('/"url":"([^"]+)"[^}]*?"type":"website"/u', $html, $sm)) {
$siteUrl = $sm[1];
}
// Телефоны: value у объектов {"type":"phone","value":"+7…"}; дедуп по цифрам.
// ВАЖНО: разбираем ПООБЪЕКТНО (не сквозной регуляркой по всей странице), чтобы отсеять
// РЕКЛАМНЫЕ кнопки-действия. 2ГИС вшивает в карточку рекламу чужих фирм («Связаться с
// менеджером») — это объект с caption/platforms и БЕЗ code/print_text; его value — телефон
// другой компании. Если его взять, чужой номер попадает в контакты фирмы и даёт ложную
// склейку/«объединить?» (живой случай: телефон Айклауда прилетал в Ломбард Бодрый).
$phones = [];
$seenDigits = [];
if (preg_match_all('/\{[^{}]*?"type":"phone"[^{}]*?\}/u', $html, $om)) {
foreach ($om[0] as $obj) {
// Рекламная кнопка-действие, а не контакт фирмы → пропускаем.
if (str_contains($obj, '"platforms"') || str_contains($obj, '"caption"')) {
continue;
}
if (! preg_match('/"value":"(\+?\d{10,15})"/u', $obj, $vm)) {
continue;
}
$digits = preg_replace('/\D/', '', $vm[1]);
if ($digits === '' || isset($seenDigits[$digits])) {
continue;
}
$seenDigits[$digits] = true;
$phones[] = $vm[1];
}
}
if ($phones === [] && $siteUrl === null) {
return [];
}
if ($phones === []) {
return [new DirectoryCard(
number: '',
office: $office,
url: $url,
source: '2ГИС',
siteUrl: $siteUrl,
description: $description,
)];
}
$out = [];
foreach ($phones as $raw) {
$out[] = new DirectoryCard(
number: $raw,
office: $office,
url: $url,
source: '2ГИС',
siteUrl: $siteUrl,
description: $description,
);
}
return $out;
}
/**
* Описание «чем занимается» из og:description / meta description (best-effort, может быть null).
*/
private function descriptionFromMeta(string $html): ?string
{
if (preg_match('/<meta[^>]+property="og:description"[^>]+content="([^"]+)"/i', $html, $m)
|| preg_match('/<meta[^>]+name="description"[^>]+content="([^"]+)"/i', $html, $m)) {
$d = trim(html_entity_decode($m[1], ENT_QUOTES | ENT_HTML5, 'UTF-8'));
return ($d !== '' && ! $this->isJunkDescription($d)) ? $d : null;
}
return null;
}
/**
* Служебная заглушка справочника (не «чем занимается»): «Оценка N, N фото, N отзывов. Вся
* информация об этом месте есть в 2ГИС» и т.п. Такое в описание не пишем это мусор для
* релевантности и отсева агрегаторов.
*/
private function isJunkDescription(string $d): bool
{
$low = mb_strtolower($d, 'UTF-8');
// Упоминает сам справочник (2ГИС/Яндекс) или это блок «оценка … фото … отзыв».
return str_contains($low, '2гис')
|| str_contains($low, '2gis')
|| (str_contains($low, 'фото') && str_contains($low, 'отзыв'))
|| (bool) preg_match('/^оценка\s+\d/u', $low);
}
/**
* Рубрика «чем занимается» из <title> вида «Имя, РУБРИКА, адрес…, Город 2ГИС/Яндекс».
* Рубрика 2-й кусок, НО только если он не похож на адрес (иначе это «Имя, адрес…, Город» без рубрики).
*/
private function categoryFromTitle(string $html): ?string
{
if (! preg_match('#<title>(.*?)</title>#is', $html, $m)) {
return null;
}
$title = html_entity_decode(trim($m[1]), ENT_QUOTES | ENT_HTML5, 'UTF-8');
$title = preg_replace('/[\s\x{00A0}]+/u', ' ', $title) ?? $title;
$title = trim($title);
$title = preg_replace('/\s*[—-]\s*(2ГИС|Яндекс[^,]*)\s*$/u', '', $title) ?? $title;
$parts = array_map('trim', explode(',', $title));
if (count($parts) < 3) {
return null; // «Имя, Город» — отдельной рубрики нет
}
$cand = $parts[1] ?? '';
return ($cand !== '' && ! $this->looksLikeAddress($cand)) ? $cand : null;
}
/** Кусок заголовка похож на адрес (улица/проспект/дом), а не на рубрику. */
private function looksLikeAddress(string $s): bool
{
$low = mb_strtolower($s, 'UTF-8');
return (bool) preg_match('/улиц|ул\.|проспект|пр-т|пр\.|переул|пер\.|бульвар|шоссе|набереж|площад|проезд|тракт|\d/u', $low);
}
/**
* Адрес офиса из <title> вида «Имя, адрес…, Город 2ГИС».
* Берём всё между первой и последней запятой (имя фирмы и город/суффикс отбрасываем).
*/
private function officeFromTitle(string $html): ?string
{
if (! preg_match('#<title>(.*?)</title>#is', $html, $m)) {
return null;
}
$title = html_entity_decode(trim($m[1]), ENT_QUOTES | ENT_HTML5, 'UTF-8');
// нормализуем пробелы (в т.ч. неразрывные U+00A0) → одиночные
$title = preg_replace('/[\s\x{00A0}]+/u', ' ', $title) ?? $title;
$title = trim($title);
// отрезаем хвост « — 2ГИС» / « — Яндекс Карты»
$title = preg_replace('/\s*[—-]\s*(2ГИС|Яндекс[^,]*)\s*$/u', '', $title) ?? $title;
$parts = array_map('trim', explode(',', $title));
if (count($parts) < 3) {
return null; // нет адреса между именем и городом
}
// имя фирмы — первый кусок, город — последний; адрес — середина
$address = array_slice($parts, 1, count($parts) - 2);
return implode(', ', $address) ?: null;
}
}
@@ -1,171 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Services\Autopodbor\Agent\Extract;
final class HtmlPhoneScanner
{
/**
* @param ?string $defaultAreaCode код города из запроса (напр. «391») запасной для
* достройки коротких локальных номеров, если на странице нет полных
* @return array{code: array<string,list<string>>, body: array<string,int>, emails: list<string>, uncertain: list<string>}
*/
public function scan(string $html, ?string $defaultAreaCode = null): array
{
$code = [];
$uncertain = [];
// 1. Собираем сырые значения из ЯВНЫХ телефонных контекстов (tel/schema/microdata).
// Короткие локальные формы (без кода города) здесь безопасны — это точно телефоны.
$rawCandidates = [];
$patterns = [
['/tel:([+0-9()\s-]{6,})/i', 'tel'],
['/"telephone"\s*:\s*"([^"]+)"/i', 'schema'],
['/itemprop=["\']telephone["\'][^>]*content=["\']([^"\']+)/i', 'microdata'],
];
foreach ($patterns as [$re, $slot]) {
if (preg_match_all($re, $html, $m)) {
foreach ($m[1] as $x) {
$rawCandidates[] = ['raw' => $x, 'slot' => $slot];
}
}
}
// 2. Из полных номеров берём национальные части (10 цифр) — по ним определяем код города.
$national = [];
foreach ($rawCandidates as $c) {
$n = $this->normalizeMaybe($c['raw']);
if ($n !== null) {
$national[] = substr($n, 1);
}
}
$add = function (string $n, string $slot) use (&$code): void {
$code[$n] ??= [];
if (! in_array($slot, $code[$n], true)) {
$code[$n][] = $slot;
}
};
// 3. Разносим: полные — как есть; короткие локальные — достраиваем кодом города.
foreach ($rawCandidates as $c) {
$n = $this->normalizeMaybe($c['raw']);
if ($n !== null) {
$add($n, $c['slot']);
continue;
}
[$status, $value] = $this->classifyShort($c['raw'], $national, $defaultAreaCode);
if ($status === 'built') {
$add((string) $value, $c['slot']);
} elseif ($status === 'uncertain' && ! in_array($value, $uncertain, true)) {
$uncertain[] = (string) $value; // код города не определить — не теряем, к проверке
}
// 'fragment' (обрезок полного номера) и 'skip' (не телефон) — игнорируем
}
// Номера в теле берём из ВИДИМОГО текста: вырезаем <script>/<style>, чтобы не тянуть
// технический мусор из конфигов/аналитики. Реальные номера из JSON-LD уже пойманы выше (schema).
$bodyHtml = preg_replace('#<(script|style)\b[^>]*>.*?</\1>#is', ' ', $html) ?? $html;
$body = [];
if (preg_match_all('/(?:\+7|8)[\s(\-]*\d{3}[\s)\-]*\d{3}[\s\-]*\d{2}[\s\-]*\d{2}/', $bodyHtml, $m)) {
foreach ($m[0] as $x) {
$n = $this->normalizeMaybe($x);
if ($n !== null) {
$body[$n] = ($body[$n] ?? 0) + 1;
}
}
}
$emails = [];
if (preg_match_all('/([a-z0-9._%+-]+)@[a-z0-9.-]+\.[a-z]{2,}/i', $html, $m)) {
foreach ($m[1] as $local) {
$d = preg_replace('/\D+/', '', $local) ?? '';
if (strlen($d) >= 7) {
$emails[] = $d;
}
}
}
return ['code' => $code, 'body' => $body, 'emails' => $emails, 'uncertain' => $uncertain];
}
private function normalizeMaybe(string $raw): ?string
{
$digits = preg_replace('/\D+/', '', $raw) ?? '';
if (strlen($digits) === 11 && ($digits[0] === '8' || $digits[0] === '7')) {
return '7'.substr($digits, 1);
}
if (strlen($digits) === 10) {
return '7'.$digits;
}
return null;
}
/**
* Классифицирует короткую (67 цифр) форму номера из явного телефонного контекста.
* Возвращает [статус, значение]:
* - 'built' + 7XXXXXXXXXX локальный номер достроен кодом города;
* - 'fragment' + null обрезок полного номера (страна+код), выкидываем;
* - 'uncertain' + цифры код города не определить, не теряем, помечаем к проверке;
* - 'skip' + null не 67-значная форма, не наше.
* Пример: «271-33-33» при «+7 (391) …» ['built','73912713333'];
* обрезок «+7 (391) 271» (7391271) ['fragment', null].
*
* @param list<string> $national 10-значные национальные части полных номеров страницы
* @param ?string $defaultAreaCode запасной код города из запроса (если полных нет)
* @return array{0:string,1:?string}
*/
private function classifyShort(string $raw, array $national, ?string $defaultAreaCode): array
{
$digits = preg_replace('/\D+/', '', $raw) ?? '';
$len = strlen($digits);
if ($len < 6 || $len > 7) {
return ['skip', null];
}
$area = $this->areaCode($national, 10 - $len, $defaultAreaCode);
if ($area === null) {
return ['uncertain', $digits]; // код города не определить
}
// Обрезок полного номера: уже содержит код страны 7/8 + код города (напр. 7391271 = 7·391·271).
// Настоящий локальный (2713333, или московский 7712233 при коде 495) этим не задевается.
if (str_starts_with($digits, '7'.$area) || str_starts_with($digits, '8'.$area)) {
return ['fragment', null];
}
return ['built', '7'.$area.$digits];
}
/**
* Код города нужной длины: самый частый префикс среди полных номеров страницы,
* иначе запасной из запроса. null если не определить.
*
* @param list<string> $national
*/
private function areaCode(array $national, int $prefixLen, ?string $defaultAreaCode): ?string
{
if ($national !== []) {
$counts = [];
foreach ($national as $nat) {
$p = substr($nat, 0, $prefixLen);
$counts[$p] = ($counts[$p] ?? 0) + 1;
}
arsort($counts);
$prefix = (string) array_key_first($counts);
if (strlen($prefix) === $prefixLen) {
return $prefix;
}
}
if ($defaultAreaCode !== null && strlen($defaultAreaCode) === $prefixLen) {
return $defaultAreaCode;
}
return null;
}
}
@@ -1,38 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Services\Autopodbor\Agent\Extract;
use App\Services\Autopodbor\Agent\ChannelA\CategoryListingParser;
use App\Services\Autopodbor\Agent\Fetch\DirectoryCard;
/**
* xf4-путь шва {@see TwoGisReader}: тонкий делегат к нынешним HTML-парсерам. Поведение 1:1 с прямым
* вызовом {@see CategoryListingParser}/{@see DirectoryParser} старые парсеры не трогаются, xf4-путь
* остаётся целым. Развилка HTML↔JSON на уровне провайдера (какой ридер инжектится), не внутри парсеров.
*/
final class HtmlTwoGisReader implements TwoGisReader
{
public function __construct(
private readonly CategoryListingParser $listing = new CategoryListingParser,
private readonly DirectoryParser $directory = new DirectoryParser,
) {}
public function listing(string $payload): array
{
return $this->listing->parse($payload);
}
/** @return list<DirectoryCard> */
public function card(string $payload, string $url): array
{
return $this->directory->parse2gisCard($payload, $url);
}
/** @return list<string> */
public function branchList(string $payload): array
{
return $this->directory->parseBranchList($payload);
}
}
@@ -1,22 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Services\Autopodbor\Agent\Extract;
final class PhoneType
{
/** @param string $p номер в виде 7XXXXXXXXXX */
public static function of(string $p): string
{
$code = substr($p, 1, 3);
if ($code === '800') {
return 'tollfree';
}
if (isset($code[0]) && $code[0] === '9') {
return 'mobile';
}
return 'city';
}
}
@@ -1,85 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Services\Autopodbor\Agent\Extract;
use App\Services\Autopodbor\Agent\Dto\CollectedSource;
final class SourceAggregator
{
private const TRUSTED = ['code', 'contacts', 'directory', 'email'];
/**
* @param array<int,array{number:string,kind:string,label:string,url:?string,office:?string,tracker:bool}> $candidates
* @return list<CollectedSource>
*/
public function aggregate(array $candidates): array
{
/** @var array<string,array{sources:array<string,array{label:string,url:?string}>,kinds:list<string>,office:?string,tracker:bool}> $by */
$by = [];
foreach ($candidates as $c) {
$n = $c['number'];
$by[$n] ??= ['sources' => [], 'kinds' => [], 'office' => null, 'tracker' => false];
$by[$n]['kinds'][] = $c['kind'];
$by[$n]['tracker'] = $by[$n]['tracker'] || $c['tracker'];
$by[$n]['office'] ??= $c['office'];
if ($c['kind'] !== 'pool') {
$key = $c['label'];
if (! isset($by[$n]['sources'][$key])) {
$by[$n]['sources'][$key] = ['label' => $c['label'], 'url' => $c['url']];
}
}
}
$out = [];
foreach ($by as $n => $info) {
$n = (string) $n; // PHP приводит числовые ключи массива к int — возвращаем строку
$kinds = $info['kinds'];
$hasTrusted = (bool) array_intersect(self::TRUSTED, $kinds);
$hasDisplayed = in_array('displayed', $kinds, true);
$hasText = in_array('text', $kinds, true);
// короткий локальный номер без определимого кода города — «требует проверки»
$isUncertain = ! $hasTrusted && ! $hasDisplayed && ! $hasText && in_array('uncertain', $kinds, true);
// номер только из текста сайта (не подтверждён tel:/справочником) — показываем «проверьте»
$isTextOnly = ! $hasTrusted && ! $hasDisplayed && ! $isUncertain && $hasText;
$onlyHidden = ! $hasTrusted && ! $hasDisplayed && ! $isUncertain && ! $isTextOnly; // только pool-свалка
if ($onlyHidden) {
continue; // пул-свалка — не выводим
}
if ($isUncertain) {
$phoneKind = 'uncertain';
$phoneType = null; // тип не выдумываем — номер ещё не достроен
} elseif ($isTextOnly) {
$phoneKind = 'unverified'; // «на сайте — проверьте»
$phoneType = PhoneType::of($n); // номер полный — тип знаем
} else {
$phoneKind = $hasTrusted ? 'real' : 'substitute';
$phoneType = PhoneType::of($n);
}
$out[] = new CollectedSource(
signalType: 'call',
identifier: $n,
phoneKind: $phoneKind,
phoneType: $phoneType,
office: $info['office'],
sources: array_values($info['sources']),
);
}
usort($out, function (CollectedSource $a, CollectedSource $b): int {
$sa = $a->phoneKind === 'substitute' ? 1 : 0;
$sb = $b->phoneKind === 'substitute' ? 1 : 0;
if ($sa !== $sb) {
return $sa <=> $sb; // подменные — вниз
}
if ($a->confirmations() !== $b->confirmations()) {
return $b->confirmations() <=> $a->confirmations(); // больше подтверждений — выше
}
return strcmp($a->identifier, $b->identifier);
});
return $out;
}
}
@@ -1,269 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Services\Autopodbor\Agent\Extract;
use App\Services\Autopodbor\Agent\Fetch\DirectoryCard;
/**
* self-render путь шва {@see TwoGisReader}: разбирает встроенное состояние 2ГИС (`window.initialState`,
* приходит строкой-JSON от рендер-сервиса) в ТОТ ЖЕ контракт, что HTML-парсеры. Карта JSON-путей и
* рецепт рендера docs/superpowers/findings/2026-07-05-2gis-initialstate-spike.md.
*
* Структура: упорядоченный список результатов `data.search.pagination.{searchId}.{page}.data`
* (id фирм по рангу) профили `data.entity.profile.{id}.data` (имя/город/рубрика/сайт/телефоны).
* 🔴 Ходим ТОЛЬКО по pagination-списку, НЕ по ключам profile (там бывают посторонние сущности).
*/
final class TwoGisJsonReader implements TwoGisReader
{
/** Тип «фирма» в 2ГИС — branch (филиал организации). Здания/улицы/маршруты = не фирма, отсекаем. */
private const FIRM_TYPE = 'branch';
/**
* @return list<array{name:string,card_url:string,site:?string}>
*/
public function listing(string $payload): array
{
$state = $this->decode($payload);
if ($state === null) {
return [];
}
$out = [];
foreach ($this->resultIds($state) as $id) {
$d = $this->profileData($state, $id);
if ($d === null || ($d['type'] ?? null) !== self::FIRM_TYPE) {
continue; // не фирма (здание/улица/маршрут) или нет профиля — пропускаем
}
$name = trim((string) ($d['name'] ?? ''));
if ($name === '') {
continue;
}
$out[] = [
'name' => $name,
'card_url' => $this->cardUrl($d, $id),
'site' => $this->siteOf($d),
];
}
return $out;
}
/**
* @return list<DirectoryCard>
*/
public function card(string $payload, string $url): array
{
$state = $this->decode($payload);
if ($state === null) {
return [];
}
// Целевая фирма — по id из URL /firm/{id}; если не нашли — единственный профиль страницы.
$id = null;
if (preg_match('#/firm/(\d+)#', $url, $m)) {
$id = $m[1];
}
$d = $id !== null ? $this->profileData($state, $id) : null;
if ($d === null) {
$profiles = $this->arr($state, ['data', 'entity', 'profile']);
$first = $profiles !== [] ? array_key_first($profiles) : null;
$d = $first !== null ? ($profiles[$first]['data'] ?? null) : null;
}
if (! is_array($d)) {
return [];
}
$site = $this->siteOf($d);
$office = isset($d['address_name']) ? (string) $d['address_name'] : null;
$description = $this->firstRubric($d);
// Телефоны из contact_groups → contacts type=phone → поле value (чистый +7…). Дедуп по цифрам.
$phones = [];
$seen = [];
foreach ($this->contacts($d) as $c) {
if (($c['type'] ?? null) !== 'phone') {
continue;
}
$value = (string) ($c['value'] ?? $c['text'] ?? '');
$digits = preg_replace('/\D/', '', $value) ?? '';
if ($digits === '' || isset($seen[$digits])) {
continue;
}
$seen[$digits] = true;
$phones[] = $value;
}
// Семантика 1:1 с parse2gisCard: нет ни телефона, ни сайта → []; нет телефонов, есть сайт →
// одна карточка с number=''; иначе карточка на каждый телефон (общий сайт/описание/офис).
if ($phones === [] && $site === null) {
return [];
}
if ($phones === []) {
return [new DirectoryCard(number: '', office: $office, url: $url, source: '2ГИС', siteUrl: $site, description: $description)];
}
$out = [];
foreach ($phones as $raw) {
$out[] = new DirectoryCard(number: $raw, office: $office, url: $url, source: '2ГИС', siteUrl: $site, description: $description);
}
return $out;
}
/**
* @return list<string>
*/
public function branchList(string $payload): array
{
$state = $this->decode($payload);
if ($state === null) {
return [];
}
$out = [];
foreach ($this->resultIds($state) as $id) {
$d = $this->profileData($state, $id);
if ($d === null || ($d['type'] ?? null) !== self::FIRM_TYPE) {
continue;
}
$path = '/'.($d['city_alias'] ?? '').'/firm/'.$id;
if (! in_array($path, $out, true)) {
$out[] = $path;
}
}
return $out;
}
// --- helpers ---
/** @return array<mixed>|null */
private function decode(string $payload): ?array
{
$payload = trim($payload);
if ($payload === '' || $payload[0] !== '{') {
return null;
}
$state = json_decode($payload, true);
return is_array($state) ? $state : null;
}
/**
* Упорядоченный список id результатов: первый searchId все страницы по числовому ключу data.
*
* @param array<mixed> $state
* @return list<string>
*/
private function resultIds(array $state): array
{
$pagination = $this->arr($state, ['data', 'search', 'pagination']);
if ($pagination === []) {
return [];
}
$searchId = array_key_first($pagination);
$pages = is_array($pagination[$searchId] ?? null) ? $pagination[$searchId] : [];
// Страницы по возрастанию номера (payload обычно = одна страница, но подстрахуемся).
$keys = array_keys($pages);
sort($keys, SORT_NATURAL);
$ids = [];
$seen = [];
foreach ($keys as $k) {
foreach (($pages[$k]['data'] ?? []) as $id) {
$id = (string) $id;
if ($id !== '' && ! isset($seen[$id])) {
$seen[$id] = true;
$ids[] = $id;
}
}
}
return $ids;
}
/**
* @param array<mixed> $state
* @return array<mixed>|null
*/
private function profileData(array $state, string $id): ?array
{
$profiles = $this->arr($state, ['data', 'entity', 'profile']);
$d = $profiles[$id]['data'] ?? null;
return is_array($d) ? $d : null;
}
/** @param array<mixed> $d */
private function cardUrl(array $d, string $id): string
{
return 'https://2gis.ru/'.($d['city_alias'] ?? '').'/firm/'.$id;
}
/**
* Сайт из contact_groups contact type=website поле url (НЕ value: там редирект link.2gis.ru).
*
* @param array<mixed> $d
*/
private function siteOf(array $d): ?string
{
foreach ($this->contacts($d) as $c) {
if (($c['type'] ?? null) === 'website') {
$url = (string) ($c['url'] ?? '');
if ($url !== '') {
return $url;
}
}
}
return null;
}
/** @param array<mixed> $d @return list<array<mixed>> */
private function contacts(array $d): array
{
$out = [];
foreach (($d['contact_groups'] ?? []) as $group) {
foreach (($group['contacts'] ?? []) as $c) {
if (is_array($c)) {
$out[] = $c;
}
}
}
return $out;
}
/** @param array<mixed> $d */
private function firstRubric(array $d): ?string
{
foreach (($d['rubrics'] ?? []) as $r) {
$name = trim((string) ($r['name'] ?? ''));
if ($name !== '') {
return $name;
}
}
return null;
}
/**
* @param array<mixed> $state
* @param list<string> $path
* @return array<mixed>
*/
private function arr(array $state, array $path): array
{
$node = $state;
foreach ($path as $key) {
if (! is_array($node) || ! array_key_exists($key, $node)) {
return [];
}
$node = $node[$key];
}
return is_array($node) ? $node : [];
}
}
@@ -1,37 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Services\Autopodbor\Agent\Extract;
use App\Services\Autopodbor\Agent\Fetch\DirectoryCard;
/**
* Шов разбора 2ГИС: единый контракт поверх «сырья» страницы (HTML от xf4 ИЛИ initialState-JSON
* от своего рендера). Реализации: {@see HtmlTwoGisReader} (xf4-путь, делегирует старым парсерам) и
* {@see TwoGisJsonReader} (self-render, разбирает initialState). Выход по форме идентичен нынешним
* парсерам, поэтому потребители (шаг 1/2, разворот) не замечают разницы источника.
*/
interface TwoGisReader
{
/**
* Список фирм со страницы поиска-рубрики (как {@see CategoryListingParser::parse}).
*
* @return list<array{name:string,card_url:string,site:?string}>
*/
public function listing(string $payload): array;
/**
* Карточка фирмы: телефоны+сайт+описание (как {@see DirectoryParser::parse2gisCard}).
*
* @return list<DirectoryCard>
*/
public function card(string $payload, string $url): array;
/**
* Пути карточек филиалов со страницы списка/поиска (как {@see DirectoryParser::parseBranchList}).
*
* @return list<string>
*/
public function branchList(string $payload): array;
}
@@ -1,42 +0,0 @@
<?php
namespace App\Services\Autopodbor\Agent;
use App\Services\Autopodbor\Agent\Dto\FindCompetitorsRequest;
use App\Services\Autopodbor\Agent\Dto\FindCompetitorsResult;
use App\Services\Autopodbor\Agent\Dto\ResolveByNameRequest;
use App\Services\Autopodbor\Agent\Dto\ResolveByNameResult;
use App\Services\Autopodbor\Agent\Dto\StudyCompetitorRequest;
use App\Services\Autopodbor\Agent\Dto\StudyCompetitorResult;
final class FakeCompetitorAgent implements CompetitorAgent
{
public function findCompetitors(FindCompetitorsRequest $r): FindCompetitorsResult
{
return new FindCompetitorsResult([
['name' => 'Окна Комфорт', 'description' => 'Пластиковые окна и остекление балконов под ключ.', 'is_federal' => false, 'relevance_pct' => 100, 'site_url' => 'okna-komfort-kzn.ru', 'directory_urls' => ['https://2gis.ru/firm/1'], 'provenance' => ['via' => 'similar-pages']],
['name' => 'Пластика Окон', 'description' => 'Окна ПВХ, лоджии, входные группы.', 'is_federal' => false, 'relevance_pct' => 96, 'site_url' => 'plastika-okon-kzn.ru', 'directory_urls' => ['https://2gis.ru/firm/2'], 'provenance' => ['via' => 'similar-pages']],
['name' => 'Фабрика Окон', 'description' => 'Федеральная сеть окон ПВХ, филиал в регионе.', 'is_federal' => true, 'relevance_pct' => 84, 'site_url' => 'fabrika-okon.ru', 'directory_urls' => ['https://2gis.ru/firm/3'], 'provenance' => ['via' => 'similar-pages']],
['name' => 'Балкон-Сервис 16', 'description' => 'Остекление балконов; окна частично.', 'is_federal' => false, 'relevance_pct' => 61, 'site_url' => null, 'directory_urls' => ['https://yandex.ru/maps/4', 'https://2gis.ru/firm/4'], 'provenance' => ['via' => 'similar-pages']],
]);
}
public function studyCompetitor(StudyCompetitorRequest $r): StudyCompetitorResult
{
return new StudyCompetitorResult([
['signal_type' => 'site', 'identifier' => 'okna-komfort-kzn.ru', 'phone_kind' => null, 'phone_type' => null, 'provenance_url' => 'https://2gis.ru/firm/1', 'provenance_label' => '2ГИС — карточка компании'],
['signal_type' => 'site', 'identifier' => 'okna-komfort.pro', 'phone_kind' => null, 'phone_type' => null, 'provenance_url' => 'https://yandex.ru/maps/1', 'provenance_label' => 'Яндекс.Карты — сайт в контактах'],
['signal_type' => 'call', 'identifier' => '78432001122', 'phone_kind' => 'real', 'phone_type' => 'city', 'provenance_url' => 'https://2gis.ru/firm/1', 'provenance_label' => '2ГИС — карточка компании'],
['signal_type' => 'call', 'identifier' => '78432009988', 'phone_kind' => 'substitute', 'phone_type' => 'city', 'provenance_url' => 'https://okna-komfort-kzn.ru', 'provenance_label' => 'номер в шапке (коллтрекинг)'],
['signal_type' => 'call', 'identifier' => '79172001122', 'phone_kind' => 'real', 'phone_type' => 'mobile', 'provenance_url' => 'https://yandex.ru/maps/1', 'provenance_label' => 'Яндекс.Карты — карточка компании'],
['signal_type' => 'call', 'identifier' => '88002001122', 'phone_kind' => 'real', 'phone_type' => 'tollfree', 'provenance_url' => 'https://okna-komfort-kzn.ru/contacts', 'provenance_label' => 'бесплатная линия 8-800 на сайте'],
]);
}
public function resolveByName(ResolveByNameRequest $r): ResolveByNameResult
{
return new ResolveByNameResult([
['name' => $r->name, 'description' => 'Найдено по названию (заглушка).', 'site_url' => 'okna-komfort-kzn.ru', 'directory_urls' => ['https://2gis.ru/firm/1'], 'provenance' => ['via' => 'name-search']],
]);
}
}
@@ -1,23 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Services\Autopodbor\Agent\Fetch;
/**
* Загрузчик, умеющий тянуть НЕСКОЛЬКО страниц пачкой (параллельно, порциями по лимиту сервиса).
* Отдельный интерфейс поверх {@see PageFetcher}, чтобы обходчик справочников мог опционально
* ускорять сбор карточек (до 25 филиалов) а простые/тестовые загрузчики его не реализуют
* и продолжают работать по одному через {@see PageFetcher::html()}.
*/
interface BatchPageFetcher extends PageFetcher
{
/**
* Достать HTML нескольких страниц. Реализация сама режет на порции по лимиту конкурентности
* и параллелит внутри порции. Порядок не важен возвращается карта url => html.
*
* @param list<string> $urls
* @return array<string, string> url => html (пустая строка при неудаче исключений не кидаем)
*/
public function htmlBatch(array $urls): array;
}
@@ -1,93 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Services\Autopodbor\Agent\Fetch;
use Illuminate\Support\Facades\Cache;
/**
* Декоратор над реальным загрузчиком карточек ({@see SelfRenderClient} / {@see XfetchClient}).
* Кэширует ОТРИСОВАННЫЕ карточки в общем хранилище (Redis) по ключу URL на N дней чтобы не
* дёргать 2ГИС/Яндекс/прокси повторно за одним и тем же. Кэш общий для шага 1 (поиск) и шага 2
* (изучение) и для повторных прогонов: ключ по URL в Redis любые экземпляры делят один кэш.
*
* 🔴 Кэшируем ТОЛЬКО карточки (2ГИС `…/firm/…`, Яндекс `…/maps/org/…`). Поиск (`…/search/…`) и
* ленты всегда мимо кэша (passthrough): добывание новых фирм должно оставаться свежим, иначе
* повторный сбор не найдёт новые фирмы. Свежесть ограничивается ТОЛЬКО у уже найденного контента.
*
* 🔴 Пустой ответ НЕ кэшируем разовый сбой (прокси/антибот) не должен отравить кэш на N дней.
*/
final class CachingPageFetcher implements BatchPageFetcher
{
public function __construct(
private BatchPageFetcher $inner,
private int $ttlDays = 5,
) {}
public function html(string $url): string
{
if (! $this->cacheable($url)) {
return $this->inner->html($url);
}
$hit = Cache::get($this->key($url));
if (is_string($hit) && $hit !== '') {
return $hit;
}
$value = $this->inner->html($url);
$this->remember($url, $value);
return $value;
}
/**
* @param list<string> $urls
* @return array<string, string>
*/
public function htmlBatch(array $urls): array
{
$result = [];
$misses = [];
foreach (array_values(array_unique($urls)) as $url) {
if ($this->cacheable($url)) {
$hit = Cache::get($this->key($url));
if (is_string($hit) && $hit !== '') {
$result[$url] = $hit;
continue;
}
}
$misses[] = $url;
}
if ($misses !== []) {
foreach ($this->inner->htmlBatch($misses) as $url => $value) {
$result[$url] = $value;
$this->remember($url, $value);
}
}
return $result;
}
/** Класть в кэш только карточку с НЕПУСТЫМ содержимым. */
private function remember(string $url, string $value): void
{
if ($value !== '' && $this->cacheable($url)) {
Cache::put($this->key($url), $value, now()->addDays($this->ttlDays));
}
}
/** Кэшируем только карточки: 2ГИС `/firm/`, Яндекс `/maps/org/`. Поиск и ленты — нет. */
private function cacheable(string $url): bool
{
return str_contains($url, '/firm/') || str_contains($url, '/maps/org/');
}
private function key(string $url): string
{
return 'autopodbor:render:'.sha1($url);
}
}
@@ -1,28 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Services\Autopodbor\Agent\Fetch;
/**
* Разводит добычу по двум путям: сайт конкурента через богатый загрузчик
* (curl + локальный Playwright, бесплатно, с видимыми/пул/контактами), справочники
* (2ГИС/Яндекс) через антибот-загрузчик (xfetch). Для движка один {@see Fetcher}.
*/
final class CompositeFetcher implements Fetcher
{
public function __construct(
private Fetcher $siteFetcher,
private Fetcher $directoryFetcher,
) {}
public function site(string $url): FetchedSite
{
return $this->siteFetcher->site($url);
}
public function directory(string $url): array
{
return $this->directoryFetcher->directory($url);
}
}
@@ -1,209 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Services\Autopodbor\Agent\Fetch;
use App\Services\Autopodbor\Agent\Extract\DirectoryParser;
use Symfony\Component\Process\Process;
final class CurlPlaywrightFetcher implements Fetcher
{
public function __construct(
private string $nodeBin = 'node',
private string $renderScript = '', // путь к render-page.cjs; по умолчанию — base_path
private int $timeout = 45,
private string $firmScript = '', // путь к render-firm.cjs (карточка справочника с кликом)
private int $maxBranches = 25, // предел обхода филиалов за один сбор
private DirectoryParser $dirParser = new DirectoryParser,
// Сиды (seams) для тестов: подмена curl и запуска node-рендера, без реальной сети/подпроцесса.
// null → боевое поведение. fn(string $url): string и fn(string $script, string $url): ?array.
private ?\Closure $curlRunner = null,
private ?\Closure $nodeRunner = null,
) {
if ($this->renderScript === '') {
$this->renderScript = base_path('scripts/render-page.cjs');
}
if ($this->firmScript === '') {
$this->firmScript = base_path('scripts/render-firm.cjs');
}
}
public function site(string $url): FetchedSite
{
if (! $this->isSafeUrl($url)) {
return new FetchedSite(url: $url, rawHtml: '');
}
$raw = $this->curl($url);
$visible = [];
$contacts = [];
$rendered = $this->render($url);
if ($rendered !== null) {
$visible = $rendered['visiblePhones'] ?? [];
// номера со страницы /contacts добираем отдельным рендером, если есть такая ссылка
$contactsUrl = $this->guessContactsUrl($url, $raw);
if ($contactsUrl !== null && $this->isSafeUrl($contactsUrl)) {
$rc = $this->render($contactsUrl);
if ($rc !== null) {
foreach (($rc['visiblePhones'] ?? []) as $p) {
$contacts[] = ['number' => $p, 'office' => null];
}
}
}
}
return new FetchedSite(url: $url, rawHtml: $raw, visiblePhones: $visible, contactsNumbers: $contacts);
}
public function directory(string $url): array
{
if (! $this->isSafeUrl($url)) {
return [];
}
// 1. Рендерим страницу списка филиалов → ссылки на карточки.
$list = $this->render($url);
if ($list === null) {
return [];
}
$links = $this->dirParser->parseBranchList($list['html'] ?? '');
if ($links === []) {
return [];
}
$origin = parse_url($url);
$base = ($origin['scheme'] ?? 'https').'://'.($origin['host'] ?? '');
$source = stripos((string) ($origin['host'] ?? ''), 'yandex') !== false ? 'Яндекс.Карты' : '2ГИС';
// 2. Обходим карточки филиалов (с пределом), на каждой жмём «показать телефон».
$cards = [];
foreach (array_slice($links, 0, $this->maxBranches) as $href) {
$firmUrl = str_starts_with($href, 'http') ? $href : $base.$href;
if (! $this->isSafeUrl($firmUrl)) {
continue;
}
$firm = $this->renderFirm($firmUrl);
if ($firm === null) {
continue;
}
foreach ($this->dirParser->parseFirmCard($firm['html'] ?? '', $firmUrl, $source) as $card) {
$cards[] = $card;
}
}
return $cards;
}
private function curl(string $url): string
{
if ($this->curlRunner !== null) {
return (string) ($this->curlRunner)($url);
}
$ch = curl_init($url);
curl_setopt_array($ch, [
CURLOPT_RETURNTRANSFER => true,
CURLOPT_FOLLOWLOCATION => false, // защита от SSRF через редирект на внутренний адрес
CURLOPT_PROTOCOLS => CURLPROTO_HTTP | CURLPROTO_HTTPS,
CURLOPT_TIMEOUT => $this->timeout,
CURLOPT_USERAGENT => 'Mozilla/5.0 (compatible; LiderraBot/1.0)',
CURLOPT_SSL_VERIFYPEER => true,
CURLOPT_SSL_VERIFYHOST => 2,
]);
$body = curl_exec($ch);
curl_close($ch);
return is_string($body) ? $body : '';
}
/**
* Пускаем только публичные http/https адреса; блокируем loopback, приватные
* и служебные диапазоны (защита от SSRF заход на внутренние сервисы).
*/
private function isSafeUrl(string $url): bool
{
$parts = parse_url($url);
if ($parts === false || ! isset($parts['scheme'], $parts['host'])) {
return false;
}
if (! in_array(strtolower($parts['scheme']), ['http', 'https'], true)) {
return false;
}
$host = $parts['host'];
$ips = filter_var($host, FILTER_VALIDATE_IP) ? [$host] : (gethostbynamel($host) ?: []);
if ($ips === []) {
return false;
}
foreach ($ips as $ip) {
if (filter_var($ip, FILTER_VALIDATE_IP, FILTER_FLAG_NO_PRIV_RANGE | FILTER_FLAG_NO_RES_RANGE) === false) {
return false; // приватный/служебный/loopback — не ходим
}
}
return true;
}
/** @return array{html:string,visiblePhones:list<string>}|null */
private function render(string $url): ?array
{
// Рендер — НЕ фатальный: если node висит/падает по таймауту (Playwright ждёт networkidle
// на «шумном» сайте), Symfony Process бросает ProcessTimedOutException. Гасим его здесь,
// чтобы уже добытый curl-HTML (с номерами «в коде сайта») не потерялся. Возврат null =
// «видимых/рендер-номеров нет», обычные номера из curl остаются.
try {
return $this->runNode($this->renderScript, $url);
} catch (\Throwable) {
return null;
}
}
/** @return array{html:string}|null */
private function renderFirm(string $url): ?array
{
try {
return $this->runNode($this->firmScript, $url);
} catch (\Throwable) {
return null;
}
}
/**
* Запуск node-скрипта рендера. Реальный Process при висе (Playwright ждёт networkidle на
* «шумном» сайте) бросает ProcessTimedOutException.
*
* @return array<string,mixed>|null
*/
private function runNode(string $script, string $url): ?array
{
if ($this->nodeRunner !== null) {
return ($this->nodeRunner)($script, $url);
}
$p = new Process([$this->nodeBin, $script, $url]);
$p->setTimeout($this->timeout);
$p->run();
if (! $p->isSuccessful()) {
return null;
}
$json = json_decode($p->getOutput(), true);
return is_array($json) ? $json : null;
}
private function guessContactsUrl(string $base, string $raw): ?string
{
if (preg_match('#href=["\']([^"\']*(?:contacts?|kontakty)[^"\']*)["\']#i', $raw, $m)) {
$href = $m[1];
if (preg_match('#^https?://#i', $href)) {
return $href;
}
return rtrim($base, '/').'/'.ltrim($href, '/');
}
return null;
}
}
@@ -1,17 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Services\Autopodbor\Agent\Fetch;
final class DirectoryCard
{
public function __construct(
public readonly string $number, // сырой номер
public readonly ?string $office, // подпись филиала
public readonly string $url, // ссылка на карточку
public readonly string $source, // '2ГИС' | 'Яндекс.Карты'
public readonly ?string $siteUrl = null, // сайт, указанный в карточке
public readonly ?string $description = null, // «чем занимается» (из карточки справочника)
) {}
}
@@ -1,19 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Services\Autopodbor\Agent\Fetch;
final class FetchedSite
{
/**
* @param list<string> $visiblePhones видимые посетителю (отрендеренные) номера, сырые строки
* @param list<array{number:string,office:?string}> $contactsNumbers номера со страницы «Контакты» с привязкой к офису
*/
public function __construct(
public readonly string $url,
public readonly string $rawHtml,
public readonly array $visiblePhones = [],
public readonly array $contactsNumbers = [],
) {}
}
@@ -1,13 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Services\Autopodbor\Agent\Fetch;
interface Fetcher
{
public function site(string $url): FetchedSite;
/** @return list<DirectoryCard> */
public function directory(string $url): array;
}
@@ -1,59 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Services\Autopodbor\Agent\Fetch;
use Symfony\Component\Process\Exception\ProcessTimedOutException;
use Symfony\Component\Process\Process;
/**
* Живая добыча страниц для поиска конкурентов (§12.2 движка v4): 2ГИС через xfetch (обход
* антибота); Яндекс тоже через xfetch, а при пустом ответе fallback на ЛОКАЛЬНЫЙ Playwright
* (бесплатный, проверенный рендер) через scripts/render-page.cjs. Прочие домены не грузим
* (поиск конкурентов ходит только в справочники). Любая ошибка '' (как контракт PageFetcher).
*/
final class LivePageFetcher implements PageFetcher
{
public function __construct(
private readonly XfetchClient $xfetch,
private readonly string $nodeBin = 'node',
private readonly string $renderScript = 'scripts/render-page.cjs',
private readonly int $renderTimeoutSec = 90,
) {}
public function html(string $url): string
{
if (str_contains($url, '2gis.ru')) {
return $this->xfetch->html($url);
}
if (str_contains($url, 'yandex.')) {
$html = $this->xfetch->html($url);
return $html !== '' ? $html : $this->renderLocally($url);
}
return '';
}
/** Локальный Playwright-рендер (бесплатный запас для Яндекса). */
private function renderLocally(string $url): string
{
try {
$process = new Process([$this->nodeBin, base_path($this->renderScript), $url]);
$process->setTimeout($this->renderTimeoutSec);
$process->run();
if (! $process->isSuccessful()) {
return '';
}
$decoded = json_decode($process->getOutput(), true);
return is_array($decoded) && isset($decoded['html']) ? (string) $decoded['html'] : '';
} catch (ProcessTimedOutException|\Throwable) {
return '';
}
}
}
@@ -1,42 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Services\Autopodbor\Agent\Fetch;
use Symfony\Component\Process\Process;
/**
* xf4-путь {@see YandexListSource}: локальный Playwright через `scripts/render-yandex-list.cjs`
* (Firecrawl Яндекс.Карты не рендерит). Печатает JSON `{orgs:[...]}`. Сеть/браузер за Process
* офлайн не юнит-тестим (как раньше PlaywrightYandexDirectory).
*/
final class LocalYandexListSource implements YandexListSource
{
private string $script;
public function __construct(
private readonly string $nodeBin = 'node',
string $script = '',
private readonly int $timeout = 120,
) {
$this->script = $script !== '' ? $script : base_path('scripts/render-yandex-list.cjs');
}
public function fetch(string $url, int $scrolls): array
{
try {
$p = new Process([$this->nodeBin, $this->script, $url, (string) $scrolls]);
$p->setTimeout($this->timeout);
$p->run();
if (! $p->isSuccessful()) {
return [];
}
$json = json_decode($p->getOutput(), true);
return is_array($json['orgs'] ?? null) ? $json['orgs'] : [];
} catch (\Throwable) {
return [];
}
}
}
@@ -1,15 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Services\Autopodbor\Agent\Fetch;
/**
* Тонкая граница «достать HTML страницы» за ней может стоять xfetch, локальный
* Playwright и т.п. Позволяет тестировать обход справочников без сети.
*/
interface PageFetcher
{
/** Вернуть HTML страницы (пустую строку при неудаче — не кидаем исключений). */
public function html(string $url): string;
}
@@ -1,79 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Services\Autopodbor\Agent\Fetch;
use App\Services\Autopodbor\Agent\ChannelA\PlaywrightYandexDirectory;
use Symfony\Component\Process\Process;
/**
* Загрузка страниц ЛОКАЛЬНЫМ Playwright (scripts/render-page.cjs JSON {html}). Для карточек Яндекса:
* xfetch под нагрузкой их режет (пустой ответ терялся сайт), а Playwright рендерит надёжно и бесплатно.
*
* ПАРАЛЛЕЛЬНО: порциями по $concurrency стартуем несколько node-процессов разом (Process::start),
* затем ждём каждый (wait) так пачка карточек грузится параллельно, а не по одной. Каждый рендер
* с таймаутом, ошибка/таймаут пустая строка (контракт PageFetcher, исключений не кидаем).
*
* Сеть/браузер за Process офлайн не юнит-тестим (как {@see PlaywrightYandexDirectory}).
*/
final class PlaywrightPageFetcher implements BatchPageFetcher
{
public function __construct(
private readonly string $nodeBin = 'node',
// render-card.cjs: domcontentloaded + пауза (Яндекс.Карты не доходят до networkidle).
private readonly string $script = 'scripts/render-card.cjs',
private readonly int $timeoutSec = 90,
// Сколько браузеров держать одновременно (каждый рендер — headless Chromium, тяжёлый по RAM).
private readonly int $concurrency = 4,
) {}
public function html(string $url): string
{
return $this->htmlBatch([$url])[$url] ?? '';
}
/**
* @param list<string> $urls
* @return array<string, string>
*/
public function htmlBatch(array $urls): array
{
$urls = array_values(array_unique($urls));
$out = array_fill_keys($urls, '');
foreach (array_chunk($urls, max(1, $this->concurrency)) as $chunk) {
/** @var array<string, Process> $procs */
$procs = [];
foreach ($chunk as $u) {
try {
$p = new Process([$this->nodeBin, base_path($this->script), $u]);
$p->setTimeout($this->timeoutSec);
$p->start();
$procs[$u] = $p;
} catch (\Throwable) {
// не стартовал — оставляем пустым
}
}
foreach ($procs as $u => $p) {
try {
$p->wait();
if ($p->isSuccessful()) {
$out[$u] = $this->decode($p->getOutput());
}
} catch (\Throwable) {
// таймаут/ошибка — оставляем пустым
}
}
}
return $out;
}
private function decode(string $json): string
{
$d = json_decode($json, true);
return is_array($d) && isset($d['html']) ? (string) $d['html'] : '';
}
}
@@ -1,44 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Services\Autopodbor\Agent\Fetch;
use Illuminate\Support\Facades\Http;
/**
* self-render путь {@see YandexListSource}: просит виртуалку отрисовать ленту Яндекс.Карт (со скроллом)
* через прокси и вернуть организации. Контракт: `POST {endpoint} {url,type:'yandex-list',scrolls}` с
* заголовком `X-Render-Key` `{ "data": "<JSON {orgs:[...]}>" }`. Без endpoint/key пусто (деградация).
*/
final class RenderServiceYandexListSource implements YandexListSource
{
public function __construct(
private readonly string $endpoint,
private readonly string $key,
private readonly int $httpTimeout = 120,
) {}
public function fetch(string $url, int $scrolls): array
{
if ($this->endpoint === '' || $this->key === '') {
return [];
}
$resp = Http::timeout($this->httpTimeout)
->withHeaders(['X-Render-Key' => $this->key])
->asJson()
->post($this->endpoint, ['url' => $url, 'type' => 'yandex-list', 'scrolls' => $scrolls]);
if (! $resp->successful()) {
return [];
}
$data = $resp->json('data');
if (! is_string($data) || $data === '') {
return [];
}
$json = json_decode($data, true);
return is_array($json['orgs'] ?? null) ? $json['orgs'] : [];
}
}
@@ -1,63 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Services\Autopodbor\Agent\Fetch;
/**
* Маршрутизатор загрузки страниц по подстроке URL. Нужен, чтобы карточки Яндекса вскрывать
* ЛОКАЛЬНЫМ Playwright (он надёжно достаёт сайт/контакты и не режется антиботом под нагрузкой),
* а 2ГИС и прочее через xfetch. Первое совпадение подстроки-иглы выигрывает; нет совпадений
* дефолтный фетчер. Каждая ветка сама решает про параллельность внутри своего htmlBatch().
*/
final class RoutingBatchFetcher implements BatchPageFetcher
{
/**
* @param array<string, BatchPageFetcher> $routes игла-подстрока => фетчер (по порядку)
*/
public function __construct(
private readonly BatchPageFetcher $default,
private readonly array $routes = [],
) {}
public function html(string $url): string
{
return $this->pick($url)->html($url);
}
/**
* @param list<string> $urls
* @return array<string, string>
*/
public function htmlBatch(array $urls): array
{
// Группируем URL по фетчеру, чтобы каждый обработал свою пачку одним вызовом (параллельно внутри).
$byFetcher = [];
foreach (array_values(array_unique($urls)) as $u) {
$f = $this->pick($u);
$id = spl_object_id($f);
$byFetcher[$id]['f'] = $f;
$byFetcher[$id]['urls'][] = $u;
}
$out = [];
foreach ($byFetcher as $bucket) {
foreach ($bucket['f']->htmlBatch($bucket['urls']) as $url => $html) {
$out[$url] = $html;
}
}
return $out;
}
private function pick(string $url): BatchPageFetcher
{
foreach ($this->routes as $needle => $fetcher) {
if ($needle !== '' && str_contains($url, (string) $needle)) {
return $fetcher;
}
}
return $this->default;
}
}
@@ -1,123 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Services\Autopodbor\Agent\Fetch;
use Illuminate\Http\Client\Pool;
use Illuminate\Http\Client\Response;
use Illuminate\Support\Facades\Http;
/**
* HTTP-клиент к своему рендер-сервису на виртуалке (замена xf4). По форме как {@see XfetchClient}:
* реализует {@see BatchPageFetcher} (значит и {@see PageFetcher}). Просит виртуалку отрисовать страницу
* с маскировкой+прокси и вернуть данные: для 2ГИС `initialState` (разбирает {@see TwoGisJsonReader}),
* для Яндекса/сайтов HTML. Секрет портал↔виртуалка в заголовке `X-Render-Key` (только из .env).
* Без ключа/адреса молча пусто (деградация, как xfetch без ключа), поток не падает.
*
* Контракт ответа виртуалки: `{ "data": "<initialState|html>" }`; не-2xx/нет data пустая строка.
*/
final class SelfRenderClient implements BatchPageFetcher
{
public function __construct(
private string $endpoint,
private string $key,
private int $concurrency = 8,
private int $httpTimeout = 120,
private int $retries = 2,
) {}
public function html(string $url): string
{
if (! $this->ready()) {
return '';
}
for ($attempt = 1; $attempt <= max(1, $this->retries); $attempt++) {
$data = $this->decode($this->request($url));
if ($data !== '') {
return $data;
}
}
return '';
}
/**
* @param list<string> $urls
* @return array<string, string>
*/
public function htmlBatch(array $urls): array
{
$urls = array_values(array_unique($urls));
if (! $this->ready() || $urls === []) {
return array_fill_keys($urls, '');
}
$result = array_fill_keys($urls, '');
foreach (array_chunk($urls, max(1, $this->concurrency)) as $chunk) {
$this->fetchChunkInto($chunk, $result);
}
return $result;
}
/**
* Догружает порцию параллельно, ретраит оставшиеся пустыми (флак) до $retries раз.
*
* @param list<string> $chunk
* @param array<string, string> $result
*/
private function fetchChunkInto(array $chunk, array &$result): void
{
for ($attempt = 1; $attempt <= max(1, $this->retries); $attempt++) {
$pending = array_values(array_filter($chunk, fn (string $u): bool => $result[$u] === ''));
if ($pending === []) {
return;
}
$responses = Http::pool(fn (Pool $pool) => array_map(
fn (string $u) => $pool->as($u)
->timeout($this->httpTimeout)
->withHeaders(['X-Render-Key' => $this->key])
->asJson()
->post($this->endpoint, ['url' => $u, 'type' => $this->typeFor($u)]),
$pending,
));
foreach ($pending as $u) {
$result[$u] = $this->decode($responses[$u] ?? null);
}
}
}
private function request(string $url): Response|\Throwable|null
{
return Http::timeout($this->httpTimeout)
->withHeaders(['X-Render-Key' => $this->key])
->asJson()
->post($this->endpoint, ['url' => $url, 'type' => $this->typeFor($url)]);
}
/** 2ГИС отдаёт встроенный initialState (JSON), Яндекс/сайты — HTML. */
private function typeFor(string $url): string
{
return str_contains($url, '2gis') ? 'initialState' : 'html';
}
private function decode(Response|\Throwable|null $resp): string
{
if (! $resp instanceof Response || ! $resp->successful()) {
return '';
}
$data = $resp->json('data');
return is_string($data) ? $data : '';
}
private function ready(): bool
{
return $this->endpoint !== '' && $this->key !== '';
}
}
@@ -1,125 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Services\Autopodbor\Agent\Fetch;
use Illuminate\Http\Client\Pool;
use Illuminate\Http\Client\Response;
use Illuminate\Support\Facades\Http;
/**
* Загрузка страниц через сервис xfetch.ru (обход антибота 2ГИС/Яндекс/Cloudflare).
* POST {url, api_key, render, timeout} {response_body_base64}. Ключ из конфига,
* НИКОГДА не в коде/гите. Без ключа клиент молча возвращает пусто (не падает).
*
* Пакетная загрузка {@see htmlBatch()} режет список на порции по $concurrency и параллелит
* внутри порции (эмпирический предел xf4.ru ~4 одновременных; выше идут 429 Too Many Requests).
*/
final class XfetchClient implements BatchPageFetcher
{
public function __construct(
private ?string $apiKey,
private string $endpoint = 'https://xf4.ru/fetch',
private bool $render = true,
private int $renderTimeout = 20,
private int $httpTimeout = 120,
private int $retries = 3,
private int $concurrency = 4,
) {}
public function html(string $url): string
{
if ($this->apiKey === null || $this->apiKey === '') {
return '';
}
// Рендер 2ГИС/Яндекс флакует: иногда возвращается пустой/ошибочный ответ.
// Повторяем до $retries раз — берём первый непустой результат.
for ($attempt = 1; $attempt <= max(1, $this->retries); $attempt++) {
$html = $this->decode($this->request($url));
if ($html !== '') {
return $html;
}
}
return '';
}
/**
* Пачкой (параллельно, порциями по $concurrency). Карта url => html; пустая строка при неудаче.
*
* @param list<string> $urls
* @return array<string, string>
*/
public function htmlBatch(array $urls): array
{
$urls = array_values(array_unique($urls));
if ($this->apiKey === null || $this->apiKey === '' || $urls === []) {
return array_fill_keys($urls, '');
}
$result = array_fill_keys($urls, '');
foreach (array_chunk($urls, max(1, $this->concurrency)) as $chunk) {
$this->fetchChunkInto($chunk, $result);
}
return $result;
}
/**
* Догружает порцию параллельно, ретраит только оставшиеся пустыми (флак/429) до $retries раз.
*
* @param list<string> $chunk
* @param array<string, string> $result
*/
private function fetchChunkInto(array $chunk, array &$result): void
{
for ($attempt = 1; $attempt <= max(1, $this->retries); $attempt++) {
$pending = array_values(array_filter($chunk, fn (string $u): bool => $result[$u] === ''));
if ($pending === []) {
return;
}
$responses = Http::pool(fn (Pool $pool) => array_map(
fn (string $u) => $pool->as($u)->timeout($this->httpTimeout)->asJson()->post($this->endpoint, [
'url' => $u,
'api_key' => $this->apiKey,
'render' => $this->render,
'timeout' => $this->renderTimeout,
]),
$pending,
));
foreach ($pending as $u) {
$result[$u] = $this->decode($responses[$u] ?? null);
}
}
}
private function request(string $url): Response|\Throwable|null
{
return Http::timeout($this->httpTimeout)->asJson()->post($this->endpoint, [
'url' => $url,
'api_key' => $this->apiKey,
'render' => $this->render,
'timeout' => $this->renderTimeout,
]);
}
private function decode(Response|\Throwable|null $resp): string
{
if (! $resp instanceof Response || ! $resp->successful()) {
return '';
}
$b64 = $resp->json('response_body_base64');
if (! is_string($b64) || $b64 === '') {
return '';
}
$html = base64_decode($b64, true);
return is_string($html) ? $html : '';
}
}
@@ -1,87 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Services\Autopodbor\Agent\Fetch;
use App\Services\Autopodbor\Agent\Extract\DirectoryParser;
/**
* Загрузчик справочников (2ГИС/Яндекс.Карты) через {@see PageFetcher} (обычно xfetch).
* Список филиалов ссылки на карточки телефон+адрес каждой карточки.
* Парсинг в {@see DirectoryParser}; добыча HTML за антибот-границей PageFetcher.
*/
final class XfetchDirectoryFetcher implements Fetcher
{
public function __construct(
private PageFetcher $pages,
private DirectoryParser $parser = new DirectoryParser,
private int $maxBranches = 25,
private int $listRetries = 3,
) {}
public function site(string $url): FetchedSite
{
return new FetchedSite(url: $url, rawHtml: $this->pages->html($url));
}
public function directory(string $url): array
{
// Яндекс.Карты: одиночная карточка организации (нет списка филиалов).
// Загружаем HTML один раз и отдаём в parseYandexCard.
$host = (string) (parse_url($url, PHP_URL_HOST) ?? '');
if (stripos($host, 'yandex') !== false) {
$html = $this->pages->html($url);
return $this->parser->parseYandexCard($html, $url);
}
// Рендер списка филиалов 2ГИС флакует: иногда отдаётся «оболочка» БЕЗ ссылок на
// карточки. Повторяем загрузку списка, пока ссылки не появятся (до $listRetries раз).
$links = [];
for ($attempt = 1; $attempt <= max(1, $this->listRetries); $attempt++) {
$listHtml = $this->pages->html($url);
$links = $this->parser->parseBranchList($listHtml);
if ($links !== []) {
break;
}
}
if ($links === []) {
return [];
}
$origin = parse_url($url);
$base = ($origin['scheme'] ?? 'https').'://'.($origin['host'] ?? '');
$source = stripos((string) ($origin['host'] ?? ''), 'yandex') !== false ? 'Яндекс.Карты' : '2ГИС';
// Абсолютные ссылки на карточки филиалов (до лимита).
$firmUrls = array_map(
fn (string $href): string => str_starts_with($href, 'http') ? $href : $base.$href,
array_slice($links, 0, $this->maxBranches),
);
// Пакетно (параллельно) — если загрузчик умеет; иначе по одной. Карточек до 25, каждый
// рендер — секунды, поэтому последовательный обход был узким местом (спека §12.2).
if ($this->pages instanceof BatchPageFetcher) {
$htmls = $this->pages->htmlBatch($firmUrls);
} else {
$htmls = [];
foreach ($firmUrls as $firmUrl) {
$htmls[$firmUrl] = $this->pages->html($firmUrl);
}
}
$cards = [];
foreach ($firmUrls as $firmUrl) {
$firmHtml = $htmls[$firmUrl] ?? '';
if ($firmHtml === '') {
continue;
}
foreach ($this->parser->parseFirmCard($firmHtml, $firmUrl, $source) as $card) {
$cards[] = $card;
}
}
return $cards;
}
}
@@ -1,19 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Services\Autopodbor\Agent\Fetch;
/**
* Источник «ленты организаций» Яндекс.Карт: рендерит страницу-список (скролл ленивой ленты) и отдаёт
* сырые организации `{name,id,href,category}`. Реализации: {@see LocalYandexListSource} (локальный
* Playwright, xf4-путь) и {@see RenderServiceYandexListSource} (виртуалка+прокси, self-render). Так и
* листинг шага 1, и поиск-по-телефону разворота получают прокси-покрытие, не таща браузер на портал.
*/
interface YandexListSource
{
/**
* @return list<array<string,mixed>> сырые организации ленты (пустой массив при неудаче)
*/
public function fetch(string $url, int $scrolls): array;
}
@@ -1,78 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Services\Autopodbor\Agent;
use App\Services\Autopodbor\Agent\Aggregator\AggregatorFilter;
use App\Services\Autopodbor\Agent\Dto\FindCompetitorsResult;
use App\Services\Autopodbor\Agent\Similarity\EmbeddingRelevance;
use App\Services\Autopodbor\AutopodborDedup;
/**
* Сборка ядра шага 1 (§12.1, хвост движка v4): резолвленные кандидаты каналов (A/B/0)
* слияние+дедуп+вычет клиента (E, §12) отсев агрегаторов (§12.6, ПОСЛЕ дедупа по уникальным
* фирмам) отсев федералов (если не нужны) похожесть-эмбеддинги (F, §12.5) срез top-N
* DTO {@see FindCompetitorsResult} (§7.2).
*
* Это ЧИСТАЯ сборка: добыча страниц/имён (каналы) и резолв выше по течению, за своими границами.
* Поэтому всё ядро тестируется офлайн. Провайдер на боевой движок флипается отдельно (за флагом).
*/
final class FindCompetitorsAssembler
{
public function __construct(
private readonly AggregatorFilter $aggregatorFilter,
private readonly AutopodborDedup $dedup,
private readonly EmbeddingRelevance $relevance,
) {}
/**
* @param array<int, array> $candidates резолвленные кандидаты (имя/сайт/описание/телефоны/ссылки/is_federal)
* @param list<string> $clientExamples тексты-примеры клиента (для похожести)
* @param list<string> $clientKeys НЕ используется (вычет себя убран, спека §7) параметр оставлен для совместимости вызова
*/
public function assemble(
array $candidates,
array $clientExamples,
array $clientKeys,
bool $includeFederal,
int $maxCompetitors,
): FindCompetitorsResult {
// Склейка/дедуп ПЕРВОЙ — иначе отсев агрегаторов классифицирует дубли-филиалы по многу раз
// (реальный случай: gpt-4o-mini залетело 227 позиций с повторами вместо ~90 уникальных).
// «Вычет себя» УБРАН (спека §7): свой сайт/пример-конкурент клиент вправе вернуть и поставить
// на прослушку — поэтому clientKeys в склейку НЕ передаём (параметр оставлен для совместимости).
$merged = $this->dedup->mergeCompetitors($candidates);
$filtered = $this->aggregatorFilter->filter($merged);
if (! $includeFederal) {
$filtered = array_values(array_filter($filtered, fn (array $c): bool => empty($c['is_federal'])));
}
$ranked = $this->relevance->rank($clientExamples, $filtered);
if ($maxCompetitors > 0) {
$ranked = array_slice($ranked, 0, $maxCompetitors);
}
return new FindCompetitorsResult(array_map(fn (array $c): array => $this->toCompetitor($c), $ranked));
}
/**
* Карточка ядра конкурент §7.2 {name, description, is_federal, relevance_pct, site_url, directory_urls, phones, provenance}.
* phones вскрытые при сборе телефоны; в тихую склейку НЕ идут, нужны для клиентской «Найти дубли».
*/
private function toCompetitor(array $c): array
{
return [
'name' => (string) ($c['name'] ?? ''),
'description' => $c['description'] ?? null,
'is_federal' => (bool) ($c['is_federal'] ?? false),
'relevance_pct' => $c['relevance_pct'] ?? null,
'site_url' => $c['site_url'] ?? null,
'directory_urls' => $c['directory_urls'] ?? [],
'phones' => array_values($c['phones'] ?? []),
'provenance' => $c['provenance'] ?? ['via' => 'engine'],
];
}
}
@@ -1,219 +0,0 @@
<?php
declare(strict_types=1);
namespace App\Services\Autopodbor\Agent;
use App\Services\Autopodbor\Agent\ChannelA\CategoryScraper;
use App\Services\Autopodbor\Agent\ChannelA\QueryAnalyzer;
use App\Services\Autopodbor\Agent\ChannelA\YandexDirectory;
use App\Services\Autopodbor\Agent\ChannelB\ChannelBSearch;
use App\Services\Autopodbor\Agent\ChannelB\ExaSiteFinder;
use App\Services\Autopodbor\Agent\Dto\FindCompetitorsRequest;
use App\Services\Autopodbor\Agent\Dto\FindCompetitorsResult;
use App\Services\Autopodbor\RunProgressChannel;
use App\Support\RegionCity;
/**
* Живой findCompetitors ФИНАЛ v4, ЛЁГКАЯ версия шага 1 (ZAFIKSIROVANO: нужны ТОЛЬКО имя+сайт+карточка;
* телефоны/описание/глубокий сбор = шаг 2). БЕЗ захода в карточки и без per-name резолва резко быстрее.
* 1. Шаг АНАЛИЗ ({@see QueryAnalyzer}): описание запросы-рубрики.
* 2. КАНАЛ А ({@see CategoryScraper}): скрейп категории 2ГИС с пагинацией из СПИСКА имя+карточка+сайт
* (местные фирмы, is_federal=false).
* 3. КАНАЛ В ({@see ChannelBSearch}): одна модель × 2 прохода ИМЕНА федералов (стоп-лист = имена из А +
* примеры); сайт каждого через EXA ({@see ExaSiteFinder}). Без сайта (нет якоря) выкидываем.
* 4. Слияние А+В {@see FindCompetitorsAssembler}: отсев агрегаторов дедуп+вычет клиента
* федерал-фильтр похожесть-эмбеддинги (математически) DTO §7.2.
*/
final class LiveFindCompetitors
{
public function __construct(
private readonly QueryAnalyzer $analyzer,
private readonly CategoryScraper $scraper,
private readonly YandexDirectory $yandex,
private readonly ChannelBSearch $channelB,
private readonly ExaSiteFinder $exa,
private readonly FindCompetitorsAssembler $assembler,
// Потолок имён канала В на проверку сайта EXA (ограничивает живые exa-вызовы за подбор).
private readonly int $channelBCap = 40,
private readonly int $passes = 2,
// «Вскрыть всё»: открывает карточки справочника и дописывает сайт/телефоны/описание.
// null → лёгкий режим (карточки не открываем).
private readonly ?CompetitorCardEnricher $enricher = null,
// Канал прогресса: движок отмечает текущий этап для показа клиенту. null → без отметок.
private readonly ?RunProgressChannel $progress = null,
) {}
public function find(FindCompetitorsRequest $r): FindCompetitorsResult
{
// Понятные клиенту этапы в том же порядке, что и работа ниже. Отмечаем ПЕРЕД каждым этапом,
// чтобы клиент видел, что сейчас делает движок (не точные %, а «этап N из M»).
$stages = SearchStages::plan($r->includeFederal, $this->enricher !== null);
$total = count($stages);
$step = 0;
$mark = function () use (&$step, $stages, $total): void {
$this->progress?->stage($step + 1, $total, $stages[$step]);
$step++;
};
$profile = $this->profile($r->aboutSelf);
$clientSite = $this->clientSite($r->aboutSelf);
$city = RegionCity::name($r->regionCode) ?? '';
$slug = RegionCity::slug($r->regionCode);
// 1+2. АНАЛИЗ → канал А, ДВА справочника: 2ГИС (xfetch, имя+карточка+сайт из списка) +
// Яндекс (локальный Playwright, имя+карточка, без сайта). Слияние ниже объединит дубли по имени.
$mark(); // этап 1: разбираем запрос
$queries = $this->analyzer->analyze($profile, $city, $clientSite, $this->stringList($r->examples));
$mark(); // этап 2: ищем фирмы в справочниках
$twoGisRows = ($slug !== null && $queries !== [])
? $this->scraper->collectTwoGis($slug, $queries)
: [];
$yandexRows = ($queries !== [])
? $this->yandex->collect($city, $queries)
: [];
$aCards = array_merge(
array_map(fn (array $row): array => $this->localCard($row['name'], $row['card_url'], $row['site'] ?? null), $twoGisRows),
array_map(fn (array $row): array => $this->localCard(
$row['name'],
$row['card_url'],
null,
isset($row['slug']) && $row['slug'] !== '' ? 'ya:'.$row['slug'] : null,
$row['description'] ?? null,
), $yandexRows),
);
// 3. Канал В: модель даёт ТОЛЬКО ИМЕНА федералов → САЙТ каждого ищем через EXA.
// Нет сайта = нет якоря → выкидываем.
$bCards = [];
if ($r->includeFederal) {
$mark(); // этап: ищем федеральные сети
$known = array_merge(
array_map(static fn (array $c): string => $c['name'], $aCards),
$this->stringList($r->examples),
);
$cands = $this->channelB->harvest($profile, $city, $clientSite, $known, $this->passes);
$capped = array_slice($cands, 0, max(0, $this->channelBCap));
// Сайт для КАЖДОГО имени — через EXA (единственный источник; модель сайтов не даёт).
$names = array_map(static fn (array $c): string => (string) $c['name'], $capped);
$exaSites = $names !== [] ? $this->exa->findSites($names, $city) : [];
foreach ($capped as $cand) {
$name = trim((string) $cand['name']);
$site = $exaSites[$name] ?? null;
// Нет сайта от EXA — нет якоря → выкидываем.
if ($site !== null && $site !== '') {
$bCards[] = $this->federalCard($cand['name'], $site);
}
}
}
$candidates = array_merge($aCards, $bCards);
// «Вскрыть всё»: открываем карточки справочника → дописываем сайт/телефоны/описание, чтобы
// дубли склеились уже здесь (Автодом24 получит сайт из своей яндекс-карточки → сольётся с AutoMoney).
if ($this->enricher !== null) {
$mark(); // этап: собираем сайты и телефоны
$candidates = $this->enricher->enrich($candidates);
}
$clientKeys = $this->stringList($r->aboutSelf);
$profileTexts = $this->clientProfileTexts($r);
$mark(); // финальный этап: отбираем самых похожих
return $this->assembler->assemble($candidates, $profileTexts, $clientKeys, $r->includeFederal, $r->maxCompetitors);
}
/**
* Местная карточка из списка справочника (канал А): 2ГИС (с сайтом) или Яндекс (site=null).
* $dirKey опознавательный код фирмы от справочника (напр. «ya:korund») для склейки по источнику.
* $description рубрика из списка («Ломбард, автоломбард») для похожести-эмбеддингов.
*/
private function localCard(string $name, string $cardUrl, ?string $site, ?string $dirKey = null, ?string $description = null): array
{
$source = str_contains($cardUrl, 'yandex.ru') ? 'yandex-list' : '2gis-list';
return [
'name' => $name,
'site_url' => $site,
'description' => $description,
'is_federal' => false,
'directory_urls' => [$cardUrl],
'directory_keys' => $dirKey !== null ? [$dirKey] : [],
'phones' => [],
'provenance' => ['via' => 'engine', 'source' => $source],
];
}
/** Федеральная карточка (канал В): имя + якорь = сайт от EXA. Карточки справочника у федерала нет. */
private function federalCard(string $name, ?string $site): array
{
return [
'name' => $name,
'site_url' => $site,
'description' => null,
'is_federal' => true,
'directory_urls' => [],
'phones' => [],
'provenance' => ['via' => 'engine', 'source' => 'channelB'],
];
}
/** Профиль (ниша) = первая непустая строка «о себе». */
private function profile(array $aboutSelf): string
{
foreach ($aboutSelf as $v) {
$v = trim((string) $v);
if ($v !== '') {
return $v;
}
}
return '';
}
/** Сайт клиента = первая «о себе»-строка, похожая на домен (есть точка, нет пробела). */
private function clientSite(array $aboutSelf): string
{
foreach ($aboutSelf as $v) {
$v = trim((string) $v);
if ($v !== '' && $this->looksLikeDomain($v)) {
return $v;
}
}
return '';
}
/**
* Тексты клиента для ЦЕНТРА похожести (§12.5): описание ниши из «о себе» + примеры-конкуренты.
* Собственный домен клиента (напр. lkomega.ru) в центр НЕ тащим он строку-имя, а не смысл ниши,
* и смещал бы центр (рычаг чистоты №1: раньше центр строился ТОЛЬКО из доменов-примеров и был «сбит»).
*
* @return list<string>
*/
private function clientProfileTexts(FindCompetitorsRequest $r): array
{
$niche = array_values(array_filter(
$this->stringList($r->aboutSelf),
fn (string $v): bool => ! $this->looksLikeDomain($v),
));
return array_values(array_unique(array_merge($niche, $this->stringList($r->examples))));
}
/** Похоже на домен: есть точка, нет пробела (например «lkomega.ru», но не «займы под залог»). */
private function looksLikeDomain(string $v): bool
{
return ! str_contains($v, ' ') && str_contains($v, '.');
}
/** @return list<string> */
private function stringList(array $items): array
{
return array_values(array_filter(
array_map(static fn ($v): string => trim((string) $v), $items),
static fn (string $v): bool => $v !== '',
));
}
}

Some files were not shown because too many files have changed in this diff Show More