Compare commits
26 Commits
| Author | SHA1 | Date | |
|---|---|---|---|
| 726c682d2e | |||
| 7ea084d01f | |||
| 85c7c9b53c | |||
| 4ad2c065fc | |||
| 4afa228f15 | |||
| 2f9d7743ec | |||
| 94e5828fbc | |||
| 6841492226 | |||
| edf98d9ace | |||
| c90f721978 | |||
| 726aeb716a | |||
| 7a18dae0ca | |||
| 335bf4c3a8 | |||
| e2dfd22471 | |||
| edbfd3e993 | |||
| 4cab703b82 | |||
| 3a724fb8ef | |||
| 508d8cc1d5 | |||
| b04bb4ecf3 | |||
| e8e7332101 | |||
| 9f8ded5b77 | |||
| e01bcca751 | |||
| aa3bf3cbed | |||
| e3b58f2c2c | |||
| f606a06155 | |||
| b4ef5830e3 |
@@ -87,11 +87,6 @@ paths = [
|
||||
'''app/composer\.lock''',
|
||||
# Pest-тесты с фиктивными data-фикстурами (не реальные ПДн)
|
||||
'''app/tests/.*\.php''',
|
||||
# Тест-фикстуры (HTML/JSON/CSV) — снятые публичные страницы справочников и
|
||||
# синтетика для парсеров. Напр. карточка 2ГИС с ПУБЛИЧНЫМ бизнес-телефоном
|
||||
# конкурента (опубликован в открытом справочнике), не клиентские ПДн.
|
||||
# Та же категория, что app/tests/*.php выше.
|
||||
'''app/tests/fixtures/.*''',
|
||||
# Database seeders с демо-данными (admin@demo.local + +7916123XXXX демо-телефоны)
|
||||
'''app/database/seeders/.*\.php''',
|
||||
# Database factories — генераторы тестовых фикстур (фейковые телефоны/ИНН,
|
||||
|
||||
+6
-9
@@ -84,6 +84,12 @@ MAIL_FROM_ADDRESS="hello@example.com"
|
||||
MAIL_FROM_NAME="${APP_NAME}"
|
||||
SUPPORT_EMAIL=support@liderra.ru
|
||||
JIVO_WIDGET_ID=
|
||||
JIVO_BOT_WEBHOOK_SECRET=
|
||||
JIVO_BOT_OUTBOUND_URL=
|
||||
JIVO_BOT_TOKEN=
|
||||
JIVO_BOT_TOURS_ENABLED=false
|
||||
YANDEX_GPT_API_KEY=
|
||||
YANDEX_GPT_FOLDER_ID=
|
||||
|
||||
AWS_ACCESS_KEY_ID=
|
||||
AWS_SECRET_ACCESS_KEY=
|
||||
@@ -96,12 +102,3 @@ VITE_APP_NAME="${APP_NAME}"
|
||||
# Клиентский ключ Yandex SmartCaptcha (M-2). Пусто → fallback-чекбокс (dev).
|
||||
# На проде — клиентский ключ ysc1_… (для виджета на странице регистрации).
|
||||
VITE_YANDEX_SMARTCAPTCHA_SITEKEY=
|
||||
|
||||
# Автоподбор шаг2: обход антибота справочников (2ГИС/Яндекс). Ключ — в .env, не в гите.
|
||||
XFETCH_API_KEY=
|
||||
|
||||
# Автоподбор шаг1: модель ИИ-фильтра «поставщик или площадка-агрегатор».
|
||||
# ОБЯЗАТЕЛЬНО gpt-4o (сильная): слабая gpt-4o-mini наугад штампует живые
|
||||
# федеральные МФО (Екапуста/Webbankir/СрочноДеньги…) как «агрегаторы» и режет
|
||||
# их из подбора. Пусто → фолбэк на gpt-4o-mini (баг «режет федералов», 07.07.2026).
|
||||
AITUNNEL_AGGREGATOR_MODEL=gpt-4o
|
||||
|
||||
@@ -1,28 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Console\Commands;
|
||||
|
||||
use App\Models\SaasInvoice;
|
||||
use Illuminate\Console\Command;
|
||||
|
||||
/**
|
||||
* Помечает просроченные неоплаченные счета статусом overdue (Этап 1 «оплата по счёту»).
|
||||
* Только issued → overdue по expires_at; оплаченные/отменённые не трогаются.
|
||||
*/
|
||||
class ExpireInvoicesCommand extends Command
|
||||
{
|
||||
protected $signature = 'invoices:expire';
|
||||
|
||||
protected $description = 'Помечает просроченные неоплаченные счета статусом overdue';
|
||||
|
||||
public function handle(): int
|
||||
{
|
||||
SaasInvoice::where('status', SaasInvoice::STATUS_ISSUED)
|
||||
->where('expires_at', '<', now())
|
||||
->update(['status' => SaasInvoice::STATUS_OVERDUE]);
|
||||
|
||||
return self::SUCCESS;
|
||||
}
|
||||
}
|
||||
@@ -0,0 +1,58 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Console\Commands;
|
||||
|
||||
use App\Models\KnowledgeChunk;
|
||||
use App\Support\Help\HelpArticleParser;
|
||||
use Illuminate\Console\Command;
|
||||
use Illuminate\Support\Facades\DB;
|
||||
|
||||
/**
|
||||
* Переиндексация базы знаний бота из resources/help/*.md (спека §3).
|
||||
* Полная перезаливка в транзакции: удалённые статьи исчезают, новые появляются.
|
||||
* Ночной schedule 04:30 + ручной запуск при срочном обновлении инструкции.
|
||||
*/
|
||||
class HelpRebuildKnowledgeCommand extends Command
|
||||
{
|
||||
protected $signature = 'help:rebuild-knowledge';
|
||||
|
||||
protected $description = 'Перечитать статьи resources/help и обновить knowledge_chunks';
|
||||
|
||||
public function handle(HelpArticleParser $parser): int
|
||||
{
|
||||
$dir = resource_path('help');
|
||||
$files = glob($dir.'/*.md') ?: [];
|
||||
if ($files === []) {
|
||||
$this->error("В {$dir} нет статей *.md — база знаний осталась прежней.");
|
||||
|
||||
return self::FAILURE;
|
||||
}
|
||||
|
||||
$articles = [];
|
||||
foreach ($files as $file) {
|
||||
$articles[] = $parser->parse('help/'.basename($file), (string) file_get_contents($file));
|
||||
}
|
||||
|
||||
DB::transaction(function () use ($articles): void {
|
||||
KnowledgeChunk::query()->delete();
|
||||
foreach ($articles as $article) {
|
||||
foreach ($article->chunks as $i => $chunk) {
|
||||
KnowledgeChunk::create([
|
||||
'source_path' => $article->sourcePath,
|
||||
'title' => $article->title,
|
||||
'tour' => $article->tour,
|
||||
'topics' => $article->topics,
|
||||
'chunk_index' => $i,
|
||||
'content' => $chunk,
|
||||
]);
|
||||
}
|
||||
}
|
||||
});
|
||||
|
||||
$this->info(sprintf('Проиндексировано статей: %d.', count($articles)));
|
||||
|
||||
return self::SUCCESS;
|
||||
}
|
||||
}
|
||||
@@ -1,7 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Exceptions\Autopodbor;
|
||||
|
||||
class RunInFlightException extends \RuntimeException {}
|
||||
@@ -6,7 +6,6 @@ namespace App\Http\Controllers\Api;
|
||||
|
||||
use App\Http\Controllers\Controller;
|
||||
use App\Services\Dashboard\SupplyReconciliation;
|
||||
use Illuminate\Database\Query\Builder;
|
||||
use Illuminate\Http\JsonResponse;
|
||||
use Illuminate\Http\Request;
|
||||
use Illuminate\Support\Carbon;
|
||||
@@ -19,63 +18,41 @@ use Illuminate\Support\Facades\DB;
|
||||
*/
|
||||
class AdminDashboardController extends Controller
|
||||
{
|
||||
/**
|
||||
* Диапазон периода из query: либо date_from/date_to (свой период, приоритет),
|
||||
* либо preset period=today|7d|30d|60d|90d (дефолт 7d). Возвращает [from, to]:
|
||||
* to — верхняя граница (конец дня date_to при своём периоде, иначе now).
|
||||
*
|
||||
* @return array{0:Carbon,1:Carbon}
|
||||
*/
|
||||
private function periodRange(Request $request): array
|
||||
/** Период из query: today | 7d | 30d | 60d | 90d (дефолт 7d). */
|
||||
private function periodStart(Request $request): Carbon
|
||||
{
|
||||
$df = (string) $request->query('date_from', '');
|
||||
$dt = (string) $request->query('date_to', '');
|
||||
if ($df !== '' && $dt !== '') {
|
||||
try {
|
||||
return [Carbon::parse($df)->startOfDay(), Carbon::parse($dt)->endOfDay()];
|
||||
} catch (\Throwable) {
|
||||
// невалидные даты → падаем на preset ниже
|
||||
}
|
||||
}
|
||||
|
||||
$from = match ((string) $request->query('period', '7d')) {
|
||||
return match ((string) $request->query('period', '7d')) {
|
||||
'today' => now()->startOfDay(),
|
||||
'30d' => now()->subDays(30),
|
||||
'60d' => now()->subDays(60),
|
||||
'90d' => now()->subDays(90),
|
||||
default => now()->subDays(7),
|
||||
};
|
||||
|
||||
return [$from, now()];
|
||||
}
|
||||
|
||||
/** GET /api/admin/dashboard — сводка L1 (все плитки). */
|
||||
/** GET /api/admin/dashboard — сводка L1 (плитки Финансы + Здоровье). */
|
||||
public function summary(Request $request): JsonResponse
|
||||
{
|
||||
[$from, $to] = $this->periodRange($request);
|
||||
$from = $this->periodStart($request);
|
||||
|
||||
return response()->json([
|
||||
'period' => (string) $request->query('period', '7d'),
|
||||
'date_from' => $request->query('date_from'),
|
||||
'date_to' => $request->query('date_to'),
|
||||
'finance' => $this->financeTile($from, $to),
|
||||
'finance' => $this->financeTile($from),
|
||||
'health' => $this->healthTile(),
|
||||
'leads' => $this->leadsTile(),
|
||||
'supply' => $this->supplyTile(),
|
||||
'balances' => $this->balancesTile(),
|
||||
'clients' => $this->clientsTile($from, $to),
|
||||
]);
|
||||
}
|
||||
|
||||
/** @return array<string,mixed> */
|
||||
private function financeTile(Carbon $from, Carbon $to): array
|
||||
private function financeTile(Carbon $from): array
|
||||
{
|
||||
$topups = (float) DB::table('balance_transactions')
|
||||
->where('type', 'topup')->whereBetween('created_at', [$from, $to])->sum('amount_rub');
|
||||
->where('type', 'topup')->where('created_at', '>=', $from)->sum('amount_rub');
|
||||
$charges = (float) DB::table('balance_transactions')
|
||||
->where('type', 'lead_charge')->whereBetween('created_at', [$from, $to])->sum('amount_rub');
|
||||
->where('type', 'lead_charge')->where('created_at', '>=', $from)->sum('amount_rub');
|
||||
$active = DB::table('tenants')->where('status', 'active')->whereNull('deleted_at')->count();
|
||||
$newClients = DB::table('tenants')->whereBetween('created_at', [$from, $to])->whereNull('deleted_at')->count();
|
||||
$newClients = DB::table('tenants')->where('created_at', '>=', $from)->whereNull('deleted_at')->count();
|
||||
$negative = DB::table('tenants')->whereNull('deleted_at')->where('balance_rub', '<', 0)->count();
|
||||
|
||||
return [
|
||||
@@ -91,12 +68,12 @@ class AdminDashboardController extends Controller
|
||||
/** GET /api/admin/dashboard/finance — детали Финансов (L2). */
|
||||
public function finance(Request $request): JsonResponse
|
||||
{
|
||||
[$from, $to] = $this->periodRange($request);
|
||||
$from = $this->periodStart($request);
|
||||
|
||||
$topups = (float) DB::table('balance_transactions')
|
||||
->where('type', 'topup')->whereBetween('created_at', [$from, $to])->sum('amount_rub');
|
||||
->where('type', 'topup')->where('created_at', '>=', $from)->sum('amount_rub');
|
||||
$charges = abs((float) DB::table('balance_transactions')
|
||||
->where('type', 'lead_charge')->whereBetween('created_at', [$from, $to])->sum('amount_rub'));
|
||||
->where('type', 'lead_charge')->where('created_at', '>=', $from)->sum('amount_rub'));
|
||||
|
||||
// «Требуют внимания»: баланс < 0 (по возрастанию — самые глубокие минусы сверху).
|
||||
$attention = DB::table('tenants')->whereNull('deleted_at')
|
||||
@@ -116,7 +93,7 @@ class AdminDashboardController extends Controller
|
||||
$top = DB::table('balance_transactions')
|
||||
->join('tenants', 'tenants.id', '=', 'balance_transactions.tenant_id')
|
||||
->where('balance_transactions.type', 'topup')
|
||||
->whereBetween('balance_transactions.created_at', [$from, $to])
|
||||
->where('balance_transactions.created_at', '>=', $from)
|
||||
->whereNull('tenants.deleted_at')
|
||||
->groupBy('tenants.id', 'tenants.organization_name')
|
||||
->orderByRaw('SUM(balance_transactions.amount_rub) DESC')
|
||||
@@ -279,29 +256,11 @@ class AdminDashboardController extends Controller
|
||||
];
|
||||
}
|
||||
|
||||
/** GET /api/admin/dashboard/leads — KPI распределения лидов + топ-10 последних (L2). */
|
||||
/** GET /api/admin/dashboard/leads — KPI распределения лидов (L2). */
|
||||
public function leads(): JsonResponse
|
||||
{
|
||||
$m = $this->leadsMetrics();
|
||||
|
||||
// Топ-10 последних лидов для drill (полный список — на экране /admin/leads).
|
||||
$recent = DB::table('supplier_leads as sl')
|
||||
->leftJoin('supplier_projects as sp', 'sp.id', '=', 'sl.supplier_project_id')
|
||||
->orderByDesc('sl.received_at')
|
||||
->limit(10)
|
||||
->get(['sl.id', 'sl.received_at', 'sl.platform', 'sl.phone', 'sl.processed_at',
|
||||
'sl.deals_created_count', 'sp.signal_type as channel', 'sp.unique_key'])
|
||||
->map(fn ($r) => [
|
||||
'id' => (int) $r->id,
|
||||
'received_at' => $r->received_at,
|
||||
'platform' => $r->platform,
|
||||
'channel' => $r->channel,
|
||||
'source' => $r->unique_key,
|
||||
'phone_masked' => $this->maskPhoneShort($r->phone),
|
||||
'delivered' => ((int) ($r->deals_created_count ?? 0)) > 0,
|
||||
'processed' => $r->processed_at !== null,
|
||||
]);
|
||||
|
||||
return response()->json([
|
||||
'light' => $m['light'],
|
||||
'kpi' => [
|
||||
@@ -310,21 +269,9 @@ class AdminDashboardController extends Controller
|
||||
'stuck' => $m['stuck'],
|
||||
'unrouted' => $m['unrouted'],
|
||||
],
|
||||
'recent' => $recent,
|
||||
]);
|
||||
}
|
||||
|
||||
/** Короткая маска телефона для drill (152-ФЗ). */
|
||||
private function maskPhoneShort(?string $phone): string
|
||||
{
|
||||
if (! $phone) {
|
||||
return '—';
|
||||
}
|
||||
$d = preg_replace('/\D/', '', $phone);
|
||||
|
||||
return strlen((string) $d) >= 4 ? substr((string) $d, 0, 2).'***'.substr((string) $d, -2) : '***';
|
||||
}
|
||||
|
||||
// === Этап 2: Заказ у поставщика ===
|
||||
|
||||
/**
|
||||
@@ -396,173 +343,6 @@ class AdminDashboardController extends Controller
|
||||
];
|
||||
}
|
||||
|
||||
// === Балансы внешних сервисов (28.06) ===
|
||||
|
||||
/** Порядок «опасности» светофора: больше = хуже. */
|
||||
private const LIGHT_ORDER = ['green' => 0, 'grey' => 1, 'amber' => 2, 'red' => 3];
|
||||
|
||||
/**
|
||||
* Прямая ссылка «Пополнить» для сервиса (статика из конфига; в БД не хранится).
|
||||
* Владелец с планшета: увидел минус → ткнул → попал на страницу оплаты.
|
||||
*/
|
||||
private function topupUrl(string $key): ?string
|
||||
{
|
||||
return match ($key) {
|
||||
'dadata' => (string) config('services.dadata.topup_url') ?: null,
|
||||
'supplier' => (string) config('services.supplier.topup_url') ?: null,
|
||||
'yandex_cloud' => $this->ycTopupUrl(),
|
||||
'email' => (string) config('services.yandex360.topup_url') ?: null,
|
||||
default => null,
|
||||
};
|
||||
}
|
||||
|
||||
private function ycTopupUrl(): ?string
|
||||
{
|
||||
$base = (string) config('services.yandex_cloud.console_billing_url');
|
||||
$acc = (string) config('services.yandex_cloud.billing_account_id');
|
||||
if ($base === '' || $acc === '') {
|
||||
return null;
|
||||
}
|
||||
|
||||
return rtrim($base, '/').'/'.$acc.'/payments';
|
||||
}
|
||||
|
||||
/** @return array<string,mixed> */
|
||||
private function balancesTile(): array
|
||||
{
|
||||
$rows = DB::table('external_service_balances')->get();
|
||||
$light = $rows->isEmpty() ? 'grey'
|
||||
: $rows->map(fn ($r) => $r->ok ? $r->light : 'grey')
|
||||
->sortByDesc(fn ($l) => self::LIGHT_ORDER[$l] ?? 0)->first();
|
||||
|
||||
return [
|
||||
'light' => $light,
|
||||
'count' => $rows->count(),
|
||||
'red' => $rows->where('ok', true)->where('light', 'red')->count(),
|
||||
];
|
||||
}
|
||||
|
||||
/** GET /api/admin/dashboard/balances — балансы внешних сервисов (L2). */
|
||||
public function balances(): JsonResponse
|
||||
{
|
||||
$rows = DB::table('external_service_balances')->get()->map(fn ($r) => [
|
||||
'service_key' => $r->service_key,
|
||||
'balance_amount' => $r->balance_amount,
|
||||
'currency' => $r->currency,
|
||||
'daily_spend_estimate' => $r->daily_spend_estimate,
|
||||
'days_left' => $r->days_left,
|
||||
'light' => $r->ok ? $r->light : 'grey',
|
||||
'ok' => (bool) $r->ok,
|
||||
'error' => $r->error,
|
||||
'checked_at' => $r->checked_at,
|
||||
'topup_url' => $this->topupUrl($r->service_key),
|
||||
])->values();
|
||||
|
||||
$light = $rows->isEmpty() ? 'grey'
|
||||
: $rows->sortByDesc(fn ($s) => self::LIGHT_ORDER[$s['light']] ?? 0)->first()['light'];
|
||||
|
||||
return response()->json(['light' => $light, 'services' => $rows]);
|
||||
}
|
||||
|
||||
// === Клиенты (активность) ===
|
||||
|
||||
/** Клиент «спит», если его тенант не заходил дольше этого срока (или ни разу). */
|
||||
private const DORMANT_DAYS = 14;
|
||||
|
||||
/** @return array{total_active:int,new_count:int,logged_in:int,got_leads:int,paid:int} */
|
||||
private function clientActivityKpi(Carbon $from, Carbon $to): array
|
||||
{
|
||||
return [
|
||||
'total_active' => DB::table('tenants')->whereNull('deleted_at')->where('status', 'active')->count(),
|
||||
'new_count' => DB::table('tenants')->whereNull('deleted_at')->whereBetween('created_at', [$from, $to])->count(),
|
||||
'logged_in' => DB::table('users')->whereBetween('last_login_at', [$from, $to])->distinct()->count('tenant_id'),
|
||||
'got_leads' => DB::table('deals')->whereBetween('received_at', [$from, $to])->where('is_test', false)
|
||||
->whereNull('deleted_at')->distinct()->count('tenant_id'),
|
||||
'paid' => DB::table('balance_transactions')->where('type', 'topup')->whereBetween('created_at', [$from, $to])
|
||||
->distinct()->count('tenant_id'),
|
||||
];
|
||||
}
|
||||
|
||||
/** Активные тенанты без входа дольше DORMANT_DAYS (или ни разу) — «спящие». */
|
||||
private function dormantQuery(): Builder
|
||||
{
|
||||
$lastLogin = DB::table('users')->select('tenant_id', DB::raw('MAX(last_login_at) as last_login_at'))
|
||||
->groupBy('tenant_id');
|
||||
|
||||
return DB::table('tenants')
|
||||
->leftJoinSub($lastLogin, 'll', 'll.tenant_id', '=', 'tenants.id')
|
||||
->whereNull('tenants.deleted_at')
|
||||
->where('tenants.status', 'active')
|
||||
->where(function ($q) {
|
||||
$q->whereNull('ll.last_login_at')
|
||||
->orWhere('ll.last_login_at', '<', now()->subDays(self::DORMANT_DAYS));
|
||||
});
|
||||
}
|
||||
|
||||
/** @return array<string,mixed> */
|
||||
private function clientsTile(Carbon $from, Carbon $to): array
|
||||
{
|
||||
$kpi = $this->clientActivityKpi($from, $to);
|
||||
$dormant = (clone $this->dormantQuery())->count();
|
||||
|
||||
return [
|
||||
'light' => $dormant > 0 ? 'amber' : 'green',
|
||||
'total_active' => $kpi['total_active'],
|
||||
'new_count' => $kpi['new_count'],
|
||||
'logged_in' => $kpi['logged_in'],
|
||||
'dormant' => $dormant,
|
||||
];
|
||||
}
|
||||
|
||||
/** GET /api/admin/dashboard/clients — активность клиентов + новые + спящие (L2). */
|
||||
public function clients(Request $request): JsonResponse
|
||||
{
|
||||
[$from, $to] = $this->periodRange($request);
|
||||
$kpi = $this->clientActivityKpi($from, $to);
|
||||
|
||||
$lastLogin = DB::table('users')->select('tenant_id', DB::raw('MAX(last_login_at) as last_login_at'))
|
||||
->groupBy('tenant_id');
|
||||
|
||||
$newClients = DB::table('tenants')
|
||||
->leftJoinSub($lastLogin, 'll', 'll.tenant_id', '=', 'tenants.id')
|
||||
->whereNull('tenants.deleted_at')
|
||||
->whereBetween('tenants.created_at', [$from, $to])
|
||||
->orderByDesc('tenants.created_at')
|
||||
->limit(50)
|
||||
->get([
|
||||
'tenants.id', 'tenants.organization_name', 'tenants.subdomain', 'tenants.status',
|
||||
'tenants.created_at', 'tenants.balance_rub', 'tenants.delivered_in_month', 'll.last_login_at',
|
||||
])
|
||||
->map(fn ($t) => [
|
||||
'id' => (int) $t->id,
|
||||
'organization_name' => $t->organization_name ?: $t->subdomain,
|
||||
'subdomain' => $t->subdomain,
|
||||
'status' => $t->status,
|
||||
'created_at' => $t->created_at,
|
||||
'last_login_at' => $t->last_login_at,
|
||||
'delivered_in_month' => (int) $t->delivered_in_month,
|
||||
'balance_rub' => (string) $t->balance_rub,
|
||||
]);
|
||||
|
||||
$dormant = (clone $this->dormantQuery())
|
||||
->orderByRaw('ll.last_login_at ASC NULLS FIRST')
|
||||
->limit(50)
|
||||
->get(['tenants.id', 'tenants.organization_name', 'tenants.subdomain', 'tenants.balance_rub', 'll.last_login_at'])
|
||||
->map(fn ($t) => [
|
||||
'id' => (int) $t->id,
|
||||
'organization_name' => $t->organization_name ?: $t->subdomain,
|
||||
'subdomain' => $t->subdomain,
|
||||
'last_login_at' => $t->last_login_at,
|
||||
'balance_rub' => (string) $t->balance_rub,
|
||||
]);
|
||||
|
||||
return response()->json([
|
||||
'kpi' => $kpi,
|
||||
'new_clients' => $newClients,
|
||||
'dormant' => $dormant,
|
||||
]);
|
||||
}
|
||||
|
||||
/** GET /api/admin/dashboard/supply — заказ у поставщика по группам (L2). */
|
||||
public function supply(): JsonResponse
|
||||
{
|
||||
|
||||
@@ -1,66 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Http\Controllers\Api;
|
||||
|
||||
use App\Http\Controllers\Controller;
|
||||
use App\Services\Billing\Invoice\InvoicePaymentService;
|
||||
use Illuminate\Http\JsonResponse;
|
||||
use Illuminate\Http\Request;
|
||||
use Illuminate\Support\Facades\DB;
|
||||
|
||||
/**
|
||||
* SaaS-admin: список счетов + ручная отметка оплаты (Этап 1 «оплата по счёту»).
|
||||
* Зона saas-admin/admin-db. Зачисление делегируется InvoicePaymentService
|
||||
* (идемпотентно, под tenant RLS-контекстом).
|
||||
*/
|
||||
class AdminInvoiceController extends Controller
|
||||
{
|
||||
public function __construct(private readonly InvoicePaymentService $payments) {}
|
||||
|
||||
public function index(Request $request): JsonResponse
|
||||
{
|
||||
$perPage = min(100, max(10, (int) $request->query('per_page', 25)));
|
||||
|
||||
$query = DB::table('saas_invoices as i')
|
||||
->leftJoin('tenants as t', 't.id', '=', 'i.tenant_id')
|
||||
->select(
|
||||
'i.id', 'i.invoice_number', 'i.amount_total', 'i.status',
|
||||
'i.issued_at', 'i.expires_at', 'i.tenant_id', 't.organization_name as tenant_name', 'i.payer_name'
|
||||
);
|
||||
|
||||
$status = $request->query('status');
|
||||
if (is_string($status) && in_array($status, ['issued', 'paid', 'overdue', 'cancelled'], true)) {
|
||||
$query->where('i.status', $status);
|
||||
}
|
||||
|
||||
$search = trim((string) $request->query('search', ''));
|
||||
if ($search !== '') {
|
||||
$query->where(function ($q) use ($search) {
|
||||
$q->where('i.invoice_number', 'ilike', "%{$search}%")
|
||||
->orWhere('i.payer_name', 'ilike', "%{$search}%")
|
||||
->orWhere('t.organization_name', 'ilike', "%{$search}%");
|
||||
});
|
||||
}
|
||||
|
||||
$page = $query->orderByDesc('i.issued_at')->paginate($perPage);
|
||||
|
||||
return response()->json([
|
||||
'data' => array_map(static fn ($r) => (array) $r, $page->items()),
|
||||
'meta' => [
|
||||
'current_page' => $page->currentPage(),
|
||||
'last_page' => $page->lastPage(),
|
||||
'total' => $page->total(),
|
||||
'per_page' => $page->perPage(),
|
||||
],
|
||||
]);
|
||||
}
|
||||
|
||||
public function markPaid(Request $request, int $id): JsonResponse
|
||||
{
|
||||
$this->payments->markPaid($id);
|
||||
|
||||
return response()->json(['status' => 'ok']);
|
||||
}
|
||||
}
|
||||
@@ -1,210 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Http\Controllers\Api;
|
||||
|
||||
use App\Http\Controllers\Controller;
|
||||
use Illuminate\Database\Query\Builder;
|
||||
use Illuminate\Http\JsonResponse;
|
||||
use Illuminate\Http\Request;
|
||||
use Illuminate\Support\Facades\DB;
|
||||
|
||||
/**
|
||||
* SaaS-admin «Лиды» (L3) — сквозная вложенность дашборда до конечного источника.
|
||||
* Серверная пагинация/фильтры (масштаб: десятки тысяч лидов).
|
||||
* Цепочка: supplier_leads.supplier_project_id → источник (канал+identifier),
|
||||
* platform = поставщик (B1/B2/B3), resolved_subject_code = регион,
|
||||
* deals.source_crm_id = supplier_leads.vid → сделки клиентов.
|
||||
* Группа ['saas-admin','admin-db'] → cross-tenant через pgsql_admin.
|
||||
* Spec: docs/superpowers/specs/2026-06-28-dashboard-drilldown-scale-design.md
|
||||
*/
|
||||
class AdminLeadsController extends Controller
|
||||
{
|
||||
private const PER_PAGE_DEFAULT = 25;
|
||||
|
||||
private const PER_PAGE_MAX = 100;
|
||||
|
||||
private const STUCK_HOURS = 4;
|
||||
|
||||
/** Маска телефона по 152-ФЗ: «+7 9** *** ** 07» (видны код страны и 2 последние). */
|
||||
private function maskPhone(?string $phone): string
|
||||
{
|
||||
if (! $phone) {
|
||||
return '—';
|
||||
}
|
||||
$digits = preg_replace('/\D/', '', $phone);
|
||||
if (strlen((string) $digits) < 4) {
|
||||
return '***';
|
||||
}
|
||||
$last2 = substr((string) $digits, -2);
|
||||
$first = substr((string) $digits, 0, 2);
|
||||
|
||||
return $first.'** *** ** '.$last2;
|
||||
}
|
||||
|
||||
/** Производный статус лида для UI. */
|
||||
private function statusOf(object $r): string
|
||||
{
|
||||
if ($r->error !== null && $r->error !== '') {
|
||||
return 'error';
|
||||
}
|
||||
if ($r->processed_at !== null) {
|
||||
return ((int) ($r->deals_created_count ?? 0)) > 0 ? 'delivered' : 'no_match';
|
||||
}
|
||||
|
||||
return 'pending'; // визуально «завис» определяет фронт по времени, но базово pending
|
||||
}
|
||||
|
||||
/** Базовый запрос лидов с присоединённым источником (supplier_projects). */
|
||||
private function baseQuery(Request $request): Builder
|
||||
{
|
||||
$q = DB::table('supplier_leads as sl')
|
||||
->leftJoin('supplier_projects as sp', 'sp.id', '=', 'sl.supplier_project_id');
|
||||
|
||||
if (($df = (string) $request->query('date_from', '')) !== '' && ($dt = (string) $request->query('date_to', '')) !== '') {
|
||||
$q->whereBetween('sl.received_at', [$df.' 00:00:00', $dt.' 23:59:59']);
|
||||
}
|
||||
if (($channel = (string) $request->query('channel', '')) !== '') {
|
||||
$q->where('sp.signal_type', $channel);
|
||||
}
|
||||
if (($platform = (string) $request->query('platform', '')) !== '') {
|
||||
$q->where('sl.platform', $platform);
|
||||
}
|
||||
if (($search = trim((string) $request->query('search', ''))) !== '') {
|
||||
$q->where(function ($w) use ($search) {
|
||||
$w->where('sl.phone', 'like', '%'.$search.'%')
|
||||
->orWhere('sp.unique_key', 'like', '%'.$search.'%')
|
||||
->orWhere('sl.vid', '=', ctype_digit($search) ? (int) $search : 0);
|
||||
});
|
||||
}
|
||||
if (($status = (string) $request->query('status', '')) !== '') {
|
||||
$this->applyStatusFilter($q, $status);
|
||||
}
|
||||
if (($tenantId = (int) $request->query('tenant_id', 0)) > 0) {
|
||||
$q->whereExists(function ($e) use ($tenantId) {
|
||||
$e->select(DB::raw(1))->from('deals')
|
||||
->whereColumn('deals.source_crm_id', 'sl.vid')
|
||||
->where('deals.tenant_id', $tenantId);
|
||||
});
|
||||
}
|
||||
|
||||
return $q;
|
||||
}
|
||||
|
||||
private function applyStatusFilter(Builder $q, string $status): void
|
||||
{
|
||||
match ($status) {
|
||||
'error' => $q->whereNotNull('sl.error')->where('sl.error', '<>', ''),
|
||||
'delivered' => $q->whereNotNull('sl.processed_at')->where('sl.deals_created_count', '>', 0),
|
||||
'no_match' => $q->whereNotNull('sl.processed_at')
|
||||
->where(fn ($w) => $w->whereNull('sl.deals_created_count')->orWhere('sl.deals_created_count', '=', 0)),
|
||||
'stuck' => $q->whereNull('sl.processed_at')->where('sl.received_at', '<', now()->subHours(self::STUCK_HOURS)),
|
||||
'pending' => $q->whereNull('sl.processed_at'),
|
||||
default => null,
|
||||
};
|
||||
}
|
||||
|
||||
/** @return array<string,mixed> */
|
||||
private function rowToArray(object $r): array
|
||||
{
|
||||
return [
|
||||
'id' => (int) $r->id,
|
||||
'received_at' => $r->received_at,
|
||||
'platform' => $r->platform,
|
||||
'channel' => $r->channel,
|
||||
'source' => $r->unique_key,
|
||||
'region_code' => $r->resolved_subject_code !== null ? (int) $r->resolved_subject_code : null,
|
||||
'phone_masked' => $this->maskPhone($r->phone),
|
||||
'deals_created_count' => (int) ($r->deals_created_count ?? 0),
|
||||
'status' => $this->statusOf($r),
|
||||
];
|
||||
}
|
||||
|
||||
/** GET /api/admin/leads — серверный список с фильтрами/пагинацией. */
|
||||
public function index(Request $request): JsonResponse
|
||||
{
|
||||
$perPage = min(self::PER_PAGE_MAX, max(1, (int) $request->query('per_page', self::PER_PAGE_DEFAULT)));
|
||||
$page = max(1, (int) $request->query('page', 1));
|
||||
|
||||
$base = $this->baseQuery($request);
|
||||
$total = (clone $base)->count();
|
||||
|
||||
$rows = $base
|
||||
->orderByDesc('sl.received_at')
|
||||
->offset(($page - 1) * $perPage)
|
||||
->limit($perPage)
|
||||
->get([
|
||||
'sl.id', 'sl.received_at', 'sl.platform', 'sl.phone', 'sl.deals_created_count',
|
||||
'sl.processed_at', 'sl.error', 'sl.resolved_subject_code',
|
||||
'sp.signal_type as channel', 'sp.unique_key',
|
||||
])
|
||||
->map(fn ($r) => $this->rowToArray($r));
|
||||
|
||||
return response()->json([
|
||||
'data' => $rows,
|
||||
'total' => $total,
|
||||
'page' => $page,
|
||||
'per_page' => $perPage,
|
||||
]);
|
||||
}
|
||||
|
||||
/** GET /api/admin/leads/{id} — карточка лида: источник + сделки клиентов (цепочка). */
|
||||
public function show(int $id): JsonResponse
|
||||
{
|
||||
$lead = DB::table('supplier_leads as sl')
|
||||
->leftJoin('supplier_projects as sp', 'sp.id', '=', 'sl.supplier_project_id')
|
||||
->where('sl.id', $id)
|
||||
->first([
|
||||
'sl.id', 'sl.received_at', 'sl.processed_at', 'sl.error', 'sl.platform', 'sl.phone',
|
||||
'sl.vid', 'sl.deals_created_count', 'sl.resolved_subject_code', 'sl.region_source',
|
||||
'sl.phone_operator', 'sp.signal_type as channel', 'sp.unique_key', 'sp.id as supplier_project_id',
|
||||
]);
|
||||
|
||||
if ($lead === null) {
|
||||
return response()->json(['message' => 'Лид не найден'], 404);
|
||||
}
|
||||
|
||||
$deals = DB::table('deals')
|
||||
->join('tenants', 'tenants.id', '=', 'deals.tenant_id')
|
||||
->where('deals.source_crm_id', $lead->vid)
|
||||
->orderByDesc('deals.received_at')
|
||||
->limit(50)
|
||||
->get([
|
||||
'deals.id', 'deals.tenant_id', 'tenants.organization_name', 'tenants.subdomain',
|
||||
'deals.status', 'deals.project_id', 'deals.received_at',
|
||||
])
|
||||
->map(fn ($d) => [
|
||||
'id' => (int) $d->id,
|
||||
'tenant_id' => (int) $d->tenant_id,
|
||||
'tenant_name' => $d->organization_name ?: $d->subdomain,
|
||||
'subdomain' => $d->subdomain,
|
||||
'status' => $d->status,
|
||||
'project_id' => $d->project_id !== null ? (int) $d->project_id : null,
|
||||
'received_at' => $d->received_at,
|
||||
]);
|
||||
|
||||
return response()->json([
|
||||
'lead' => [
|
||||
'id' => (int) $lead->id,
|
||||
'platform' => $lead->platform,
|
||||
'phone_masked' => $this->maskPhone($lead->phone),
|
||||
'received_at' => $lead->received_at,
|
||||
'processed_at' => $lead->processed_at,
|
||||
'error' => $lead->error,
|
||||
'region_code' => $lead->resolved_subject_code !== null ? (int) $lead->resolved_subject_code : null,
|
||||
'region_source' => $lead->region_source,
|
||||
'phone_operator' => $lead->phone_operator,
|
||||
'deals_created_count' => (int) ($lead->deals_created_count ?? 0),
|
||||
'status' => $this->statusOf($lead),
|
||||
],
|
||||
'source' => [
|
||||
'platform' => $lead->platform,
|
||||
'channel' => $lead->channel,
|
||||
'identifier' => $lead->unique_key,
|
||||
'supplier_project_id' => $lead->supplier_project_id !== null ? (int) $lead->supplier_project_id : null,
|
||||
],
|
||||
'deals' => $deals,
|
||||
]);
|
||||
}
|
||||
}
|
||||
@@ -31,21 +31,12 @@ use Illuminate\Support\Facades\DB;
|
||||
*/
|
||||
class AdminSystemSettingsController extends Controller
|
||||
{
|
||||
/** Ключи-секреты: значение не отдаём в общий список (хранится зашифрованно). */
|
||||
private const SENSITIVE_KEYS = ['supplier_webhook_secret'];
|
||||
|
||||
/** GET /api/admin/system-settings */
|
||||
public function index(): JsonResponse
|
||||
{
|
||||
$settings = SystemSetting::orderBy('key')->get()->map(function (SystemSetting $s) {
|
||||
if (in_array($s->key, self::SENSITIVE_KEYS, true)) {
|
||||
$s->value = $s->value === '' ? '' : '••• (скрыто)';
|
||||
}
|
||||
|
||||
return $s;
|
||||
});
|
||||
|
||||
return response()->json(['settings' => $settings]);
|
||||
return response()->json([
|
||||
'settings' => SystemSetting::orderBy('key')->get(),
|
||||
]);
|
||||
}
|
||||
|
||||
/** PUT /api/admin/system-settings/{key} */
|
||||
|
||||
@@ -30,14 +30,10 @@ class AdminTenantsController extends Controller
|
||||
{
|
||||
use ResolvesAdminUserId;
|
||||
|
||||
/** GET /api/admin/tenants?status=&statuses=&tariffs=&search=&limit=&offset= */
|
||||
/** GET /api/admin/tenants?status=&search=&limit=&offset= */
|
||||
public function index(Request $request): JsonResponse
|
||||
{
|
||||
$status = (string) $request->query('status', '');
|
||||
// statuses — производные статусы UI (trial/overdue/active/suspended), csv, multi.
|
||||
// tariffs — имена тарифов (tariff_plans.name), csv, multi.
|
||||
$statuses = $this->csvParam($request, 'statuses');
|
||||
$tariffs = $this->csvParam($request, 'tariffs');
|
||||
$search = trim((string) $request->query('search', ''));
|
||||
$limit = max(1, min(500, (int) $request->query('limit', '100')));
|
||||
$offset = max(0, (int) $request->query('offset', '0'));
|
||||
@@ -63,22 +59,8 @@ class AdminTenantsController extends Controller
|
||||
])
|
||||
->whereNull('tenants.deleted_at');
|
||||
|
||||
// Производный статус — зеркалит adminTenantsMapper.deriveStatus (фронт):
|
||||
// trial > suspended > overdue > active. Серверная фильтрация нужна для масштаба
|
||||
// (1000 клиентов): без неё чипы фильтровали бы только загруженную страницу.
|
||||
if ($statuses !== []) {
|
||||
$query->whereIn(DB::raw("(CASE
|
||||
WHEN tenants.is_trial THEN 'trial'
|
||||
WHEN tenants.status = 'suspended' THEN 'suspended'
|
||||
WHEN tenants.chargeback_unrecovered_rub > 0 OR tenants.balance_rub < 0 THEN 'overdue'
|
||||
WHEN tenants.status = 'active' THEN 'active'
|
||||
ELSE 'suspended'
|
||||
END)"), $statuses);
|
||||
} elseif ($status !== '') {
|
||||
$query->where('tenants.status', $status); // back-compat: фильтр по сырой колонке
|
||||
}
|
||||
if ($tariffs !== []) {
|
||||
$query->whereIn('tariff_plans.name', $tariffs);
|
||||
if ($status !== '') {
|
||||
$query->where('tenants.status', $status);
|
||||
}
|
||||
if ($search !== '') {
|
||||
$like = '%'.$search.'%';
|
||||
@@ -469,19 +451,6 @@ class AdminTenantsController extends Controller
|
||||
];
|
||||
}
|
||||
|
||||
/**
|
||||
* Разбирает csv-параметр запроса в список непустых trimmed-строк.
|
||||
*
|
||||
* @return list<string>
|
||||
*/
|
||||
private function csvParam(Request $request, string $key): array
|
||||
{
|
||||
return array_values(array_filter(array_map(
|
||||
'trim',
|
||||
explode(',', (string) $request->query($key, '')),
|
||||
)));
|
||||
}
|
||||
|
||||
/**
|
||||
* Aggregate-stats для page-head: total / active / trial / overdue / revenue.
|
||||
* Считается отдельным запросом без фильтров (показывает глобальную картину
|
||||
|
||||
@@ -1,42 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Http\Controllers\Api;
|
||||
|
||||
use App\Http\Controllers\Controller;
|
||||
use App\Services\External\Yandex360BalanceStore;
|
||||
use Illuminate\Http\JsonResponse;
|
||||
use Illuminate\Http\Request;
|
||||
|
||||
/**
|
||||
* SaaS-admin → Система: ручной ввод баланса Яндекс 360 (почта).
|
||||
* Владелец периодически вписывает сумму из кабинета (у Яндекса нет API баланса).
|
||||
*/
|
||||
class AdminYandex360BalanceController extends Controller
|
||||
{
|
||||
public function __construct(private readonly Yandex360BalanceStore $store) {}
|
||||
|
||||
/** GET /api/admin/settings/yandex360-balance */
|
||||
public function show(): JsonResponse
|
||||
{
|
||||
return response()->json($this->store->status());
|
||||
}
|
||||
|
||||
/** PUT /api/admin/settings/yandex360-balance — {balance:number|null} */
|
||||
public function update(Request $request): JsonResponse
|
||||
{
|
||||
$raw = $request->input('balance');
|
||||
$balance = ($raw === null || $raw === '') ? null : (float) $raw;
|
||||
if ($balance !== null && $balance < 0) {
|
||||
return response()->json([
|
||||
'message' => 'Баланс не может быть отрицательным.',
|
||||
'errors' => ['balance' => ['Введите сумму ≥ 0 или очистите поле.']],
|
||||
], 422);
|
||||
}
|
||||
|
||||
$this->store->set($balance);
|
||||
|
||||
return response()->json($this->store->status());
|
||||
}
|
||||
}
|
||||
File diff suppressed because it is too large
Load Diff
@@ -307,14 +307,7 @@ class BillingController extends Controller
|
||||
$rows = DB::table('saas_invoices')
|
||||
->where('tenant_id', $tenantId)
|
||||
->orderBy('issued_at', 'desc')
|
||||
->get(['id', 'invoice_number', 'amount_total', 'status', 'issued_at', 'expires_at', 'pdf_path']);
|
||||
|
||||
// Какие счета уже имеют закрывающий документ (акт) — для кнопки «Скачать акт».
|
||||
$actInvoiceIds = DB::table('saas_upd_documents')
|
||||
->where('tenant_id', $tenantId)
|
||||
->whereNotNull('invoice_id')
|
||||
->pluck('invoice_id')
|
||||
->flip();
|
||||
->get(['id', 'invoice_number', 'amount_total', 'status', 'issued_at', 'pdf_path']);
|
||||
|
||||
return response()->json([
|
||||
'data' => $rows->map(static fn (\stdClass $r): array => [
|
||||
@@ -323,11 +316,7 @@ class BillingController extends Controller
|
||||
'amount_total' => $r->amount_total,
|
||||
'status' => $r->status,
|
||||
'issued_at' => $r->issued_at,
|
||||
'expires_at' => $r->expires_at,
|
||||
'has_pdf' => $r->pdf_path !== null,
|
||||
'has_act' => isset($actInvoiceIds[$r->id]),
|
||||
'pdf_url' => $r->pdf_path !== null ? "/api/billing/invoices/{$r->id}/pdf" : null,
|
||||
'act_url' => isset($actInvoiceIds[$r->id]) ? "/api/billing/invoices/{$r->id}/act" : null,
|
||||
])->all(),
|
||||
]);
|
||||
}
|
||||
|
||||
@@ -6,7 +6,6 @@ namespace App\Http\Controllers\Api;
|
||||
|
||||
use App\Http\Controllers\Controller;
|
||||
use App\Models\ActivityLog;
|
||||
use App\Models\AutopodborSource;
|
||||
use App\Models\Deal;
|
||||
use App\Models\LeadCharge;
|
||||
use App\Models\Project;
|
||||
@@ -105,7 +104,7 @@ class DealController extends Controller
|
||||
$query = Deal::query()
|
||||
->select('deals.*')
|
||||
->where('tenant_id', $tenantId)
|
||||
->with(['project:id,name,signal_type,signal_identifier,sms_keyword,sms_senders,is_active', 'manager:id,email,first_name,last_name']);
|
||||
->with(['project:id,name,signal_type,signal_identifier,sms_keyword,sms_senders', 'manager:id,email,first_name,last_name']);
|
||||
|
||||
if ($onlyDeleted) {
|
||||
$query->withTrashed()->whereNotNull('deleted_at');
|
||||
@@ -207,25 +206,6 @@ class DealController extends Controller
|
||||
});
|
||||
}
|
||||
|
||||
// Автоподбор: по каждой сделке — конкурент + источник (связь
|
||||
// deal.project_id → autopodbor_sources.created_project_id → competitor).
|
||||
// Батч-запрос по project_id всей страницы (без N+1). Своя транзакция с
|
||||
// app.current_tenant_id — иначе RLS на autopodbor_* вернёт 0 строк.
|
||||
$sourcesByProject = collect();
|
||||
$projectIds = $deals->pluck('project_id')->filter()->unique()->values()->all();
|
||||
if ($projectIds !== []) {
|
||||
$sourcesByProject = DB::transaction(function () use ($tenantId, $projectIds) {
|
||||
DB::statement('SET LOCAL app.current_tenant_id = '.$tenantId);
|
||||
|
||||
return AutopodborSource::query()
|
||||
->where('tenant_id', $tenantId)
|
||||
->whereIn('created_project_id', $projectIds)
|
||||
->with('competitor:id,name')
|
||||
->get()
|
||||
->groupBy('created_project_id');
|
||||
});
|
||||
}
|
||||
|
||||
$payload = [
|
||||
'deals' => $deals->map(fn (Deal $d) => [
|
||||
'id' => $d->id,
|
||||
@@ -250,21 +230,6 @@ class DealController extends Controller
|
||||
'project_sms_keyword' => $d->project?->sms_keyword,
|
||||
'project_sms_senders' => $d->project?->sms_senders,
|
||||
'cost_kopecks' => $costByDeal[$d->id] ?? null,
|
||||
// Автоподбор (2026-07-08): конкурент + источник для колонок «Сделок».
|
||||
...(function () use ($d, $sourcesByProject) {
|
||||
$group = $sourcesByProject[$d->project_id] ?? collect();
|
||||
$repr = $group->firstWhere('box', 'field') ?? $group->first();
|
||||
|
||||
return [
|
||||
'competitor_id' => $repr?->competitor_id,
|
||||
'competitor_name' => $repr?->competitor?->name,
|
||||
'source_identifier' => $repr?->identifier,
|
||||
'source_signal_type' => $repr?->signal_type,
|
||||
'source_project_id' => $repr ? $d->project_id : null,
|
||||
'source_is_active' => $repr ? (bool) $d->project?->is_active : null,
|
||||
'source_extra_count' => max(0, $group->count() - 1),
|
||||
];
|
||||
})(),
|
||||
]),
|
||||
'limit' => $limit,
|
||||
'next_cursor' => $nextCursor,
|
||||
|
||||
@@ -1,85 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Http\Controllers\Api;
|
||||
|
||||
use App\Http\Controllers\Controller;
|
||||
use App\Models\SaasInvoice;
|
||||
use App\Models\SaasUpdDocument;
|
||||
use App\Models\User;
|
||||
use App\Services\Billing\Invoice\InvoiceService;
|
||||
use App\Services\Billing\Invoice\RequisitesIncompleteException;
|
||||
use Illuminate\Http\JsonResponse;
|
||||
use Illuminate\Http\Request;
|
||||
use Illuminate\Http\Response;
|
||||
use Illuminate\Support\Facades\Storage;
|
||||
use Illuminate\Support\Str;
|
||||
|
||||
/**
|
||||
* Клиентские эндпоинты «оплата по счёту» (под middleware auth:sanctum + tenant).
|
||||
* Создание счёта (самообслуживание), скачивание PDF счёта и акта (tenant-scoped).
|
||||
*/
|
||||
class InvoiceController extends Controller
|
||||
{
|
||||
public function __construct(private readonly InvoiceService $invoices) {}
|
||||
|
||||
public function store(Request $request): JsonResponse
|
||||
{
|
||||
$validated = $request->validate([
|
||||
'amount_rub' => ['required', 'numeric', 'min:100', 'max:1000000', 'decimal:0,2'],
|
||||
]);
|
||||
/** @var User $user */
|
||||
$user = $request->user();
|
||||
$amountRub = bcadd((string) $validated['amount_rub'], '0', 2);
|
||||
|
||||
try {
|
||||
$invoice = $this->invoices->create((int) $user->tenant_id, $amountRub, (int) $user->id);
|
||||
} catch (RequisitesIncompleteException $e) {
|
||||
return response()->json(['message' => $e->getMessage()], 422);
|
||||
}
|
||||
|
||||
return response()->json(['invoice' => [
|
||||
'id' => $invoice->id,
|
||||
'invoice_number' => $invoice->invoice_number,
|
||||
'amount_total' => $invoice->amount_total,
|
||||
'pdf_url' => "/api/billing/invoices/{$invoice->id}/pdf",
|
||||
]], 201);
|
||||
}
|
||||
|
||||
public function pdf(Request $request, int $id): Response
|
||||
{
|
||||
/** @var User $user */
|
||||
$user = $request->user();
|
||||
$invoice = SaasInvoice::where('id', $id)->where('tenant_id', $user->tenant_id)->firstOrFail();
|
||||
abort_if($invoice->pdf_path === null || ! Storage::disk('local')->exists($invoice->pdf_path), 404);
|
||||
|
||||
return $this->inlinePdf($invoice->pdf_path, 'Schet-'.$invoice->invoice_number);
|
||||
}
|
||||
|
||||
public function act(Request $request, int $id): Response
|
||||
{
|
||||
/** @var User $user */
|
||||
$user = $request->user();
|
||||
$invoice = SaasInvoice::where('id', $id)->where('tenant_id', $user->tenant_id)->firstOrFail();
|
||||
$act = SaasUpdDocument::where('invoice_id', $invoice->id)->firstOrFail();
|
||||
abort_if($act->pdf_path === null || ! Storage::disk('local')->exists($act->pdf_path), 404);
|
||||
|
||||
return $this->inlinePdf($act->pdf_path, 'Akt-'.$act->upd_number);
|
||||
}
|
||||
|
||||
/**
|
||||
* Отдать PDF для просмотра в браузере (inline) с ASCII-безопасным именем —
|
||||
* кириллица в Content-Disposition ломала имя файла в браузере (random GUID).
|
||||
*/
|
||||
private function inlinePdf(string $path, string $baseName): Response
|
||||
{
|
||||
$content = Storage::disk('local')->get($path);
|
||||
$filename = Str::ascii($baseName).'.pdf'; // напр. Schet-SCh-2026-00001.pdf
|
||||
|
||||
return response($content, 200, [
|
||||
'Content-Type' => 'application/pdf',
|
||||
'Content-Disposition' => 'inline; filename="'.$filename.'"',
|
||||
]);
|
||||
}
|
||||
}
|
||||
@@ -0,0 +1,38 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Http\Controllers\Api;
|
||||
|
||||
use App\Http\Controllers\Controller;
|
||||
use App\Jobs\Bot\ProcessJivoMessageJob;
|
||||
use Illuminate\Http\JsonResponse;
|
||||
use Illuminate\Http\Request;
|
||||
|
||||
/**
|
||||
* Приём событий Jivo Bot API (спека §§2,5). Образец защиты — SupplierWebhookController:
|
||||
* секрет в URL (≥32 симв., config services.jivo_bot.webhook_secret), hash_equals,
|
||||
* несовпадение → 404 (не палим endpoint). Ack мгновенный (лимит Jivo 3 сек):
|
||||
* вся работа — в ProcessJivoMessageJob. Обрабатываем только CLIENT_MESSAGE
|
||||
* с непустым текстом; служебные события подтверждаем и игнорируем.
|
||||
*/
|
||||
class JivoBotController extends Controller
|
||||
{
|
||||
public function receive(Request $request, string $secret = ''): JsonResponse
|
||||
{
|
||||
$expected = (string) config('services.jivo_bot.webhook_secret');
|
||||
if ($expected === '' || strlen($expected) < 32 || ! hash_equals($expected, $secret)) {
|
||||
return response()->json(['message' => 'Not found.'], 404);
|
||||
}
|
||||
|
||||
$event = (string) $request->input('event', '');
|
||||
$text = trim((string) $request->input('message.text', ''));
|
||||
$chatId = (string) $request->input('chat_id', '');
|
||||
|
||||
if ($event === 'CLIENT_MESSAGE' && $text !== '' && $chatId !== '') {
|
||||
ProcessJivoMessageJob::dispatch($chatId, (string) $request->input('client_id', ''), $text);
|
||||
}
|
||||
|
||||
return response()->json(['ok' => true]);
|
||||
}
|
||||
}
|
||||
@@ -9,14 +9,15 @@ use App\Http\Requests\BulkProjectActionRequest;
|
||||
use App\Http\Requests\StoreProjectRequest;
|
||||
use App\Http\Requests\UpdateProjectRequest;
|
||||
use App\Http\Resources\ProjectResource;
|
||||
use App\Jobs\SyncSupplierProjectJob;
|
||||
use App\Models\Project;
|
||||
use App\Models\Tenant;
|
||||
use App\Services\Billing\LaunchBalanceGate;
|
||||
use App\Repositories\PricingTierRepository;
|
||||
use App\Services\Billing\BalancePreflightService;
|
||||
use App\Services\Project\ProjectService;
|
||||
use App\Services\Requisites\RequisitesService;
|
||||
use Illuminate\Http\JsonResponse;
|
||||
use Illuminate\Http\Request;
|
||||
use Illuminate\Support\Facades\DB;
|
||||
|
||||
/**
|
||||
* Проекты tenant'а — расширенный API для ProjectsView + NewDealDialog.
|
||||
@@ -133,18 +134,35 @@ class ProjectController extends Controller
|
||||
return response()->json(['error' => 'requisites_required'], 422);
|
||||
}
|
||||
|
||||
unset($validated['force_save_blocked']); // больше не блокируем создание
|
||||
$forceSaveBlocked = (bool) ($validated['force_save_blocked'] ?? false);
|
||||
unset($validated['force_save_blocked']);
|
||||
|
||||
$project = $this->projects->create($tenant, $validated, launch: true);
|
||||
// Spec C §3.4: преfflight баланса при создании. existingLimit учитывает только активные.
|
||||
$existingLimit = (int) Project::where('tenant_id', $tenant->id)
|
||||
->where('is_active', true)
|
||||
->whereNull('preflight_blocked_at')
|
||||
->sum('daily_limit_target');
|
||||
$wouldBeRequired = $existingLimit + (int) $validated['daily_limit_target'];
|
||||
|
||||
return response()->json([
|
||||
'data' => new ProjectResource($project->loadCount('supplierProjects')),
|
||||
'launch' => [
|
||||
'launched' => $project->launch_deferred ? 0 : 1,
|
||||
'deferred' => $project->launch_deferred ? 1 : 0,
|
||||
'balance' => $project->gate_payload,
|
||||
],
|
||||
], 201);
|
||||
$preflight = $this->runPreflight($tenant, $wouldBeRequired);
|
||||
|
||||
if (! $preflight['passes'] && ! $forceSaveBlocked) {
|
||||
return response()->json([
|
||||
'error' => 'balance_insufficient',
|
||||
'current_balance_rub' => (string) $tenant->balance_rub,
|
||||
'current_capacity_leads' => $preflight['capacity_leads'],
|
||||
'would_be_required_leads' => $wouldBeRequired,
|
||||
'deficit_leads' => $preflight['deficit_leads'],
|
||||
], 409);
|
||||
}
|
||||
|
||||
if (! $preflight['passes'] && $forceSaveBlocked) {
|
||||
$validated['preflight_blocked_at'] = now();
|
||||
}
|
||||
|
||||
$project = $this->projects->create($tenant, $validated);
|
||||
|
||||
return response()->json(['data' => new ProjectResource($project->loadCount('supplierProjects'))], 201);
|
||||
}
|
||||
|
||||
/** PATCH /api/projects/{id} */
|
||||
@@ -153,28 +171,34 @@ class ProjectController extends Controller
|
||||
$project = Project::where('tenant_id', $request->user()->tenant_id)->findOrFail($id);
|
||||
$validated = $request->validated();
|
||||
$tenant = $request->user()->tenant;
|
||||
$forceSaveBlocked = (bool) ($validated['force_save_blocked'] ?? false);
|
||||
unset($validated['force_save_blocked']);
|
||||
|
||||
$isLimitRaise = array_key_exists('daily_limit_target', $validated)
|
||||
&& (int) $validated['daily_limit_target'] > (int) $project->daily_limit_target
|
||||
&& $project->is_active && $project->preflight_blocked_at === null;
|
||||
// Spec C §3.4: преfflight при изменении лимита — учитываем новое значение для ЭТОГО
|
||||
// проекта + лимиты остальных активных не-blocked.
|
||||
if (array_key_exists('daily_limit_target', $validated)) {
|
||||
$existingLimit = (int) Project::where('tenant_id', $tenant->id)
|
||||
->where('id', '!=', $project->id)
|
||||
->where('is_active', true)
|
||||
->whereNull('preflight_blocked_at')
|
||||
->sum('daily_limit_target');
|
||||
$wouldBeRequired = $existingLimit + (int) $validated['daily_limit_target'];
|
||||
|
||||
if ($isLimitRaise) {
|
||||
$newLimit = (int) $validated['daily_limit_target'];
|
||||
$tenantId = $tenant->id;
|
||||
$preflight = $this->runPreflight($tenant, $wouldBeRequired);
|
||||
|
||||
return DB::transaction(function () use ($project, $validated, $tenant, $tenantId, $newLimit): JsonResponse {
|
||||
Tenant::whereKey($tenantId)->lockForUpdate()->firstOrFail();
|
||||
if (! $preflight['passes'] && ! $forceSaveBlocked) {
|
||||
return response()->json([
|
||||
'error' => 'balance_insufficient',
|
||||
'current_balance_rub' => (string) $tenant->balance_rub,
|
||||
'current_capacity_leads' => $preflight['capacity_leads'],
|
||||
'would_be_required_leads' => $wouldBeRequired,
|
||||
'deficit_leads' => $preflight['deficit_leads'],
|
||||
], 409);
|
||||
}
|
||||
|
||||
$gate = app(LaunchBalanceGate::class)->evaluate($tenant, $newLimit, [$project->id]);
|
||||
if (! $gate->passes) {
|
||||
return response()->json(['error' => 'balance_insufficient', 'balance' => $gate->toBalancePayload()], 409);
|
||||
}
|
||||
|
||||
$updated = $this->projects->update($project, $validated);
|
||||
|
||||
return response()->json(['data' => new ProjectResource($updated->loadCount('supplierProjects'))]);
|
||||
});
|
||||
if (! $preflight['passes'] && $forceSaveBlocked) {
|
||||
$validated['preflight_blocked_at'] = now();
|
||||
}
|
||||
}
|
||||
|
||||
$updated = $this->projects->update($project, $validated);
|
||||
@@ -182,6 +206,34 @@ class ProjectController extends Controller
|
||||
return response()->json(['data' => new ProjectResource($updated->loadCount('supplierProjects'))]);
|
||||
}
|
||||
|
||||
/**
|
||||
* @return array{passes: bool, capacity_leads: int, deficit_leads: int}
|
||||
*/
|
||||
private function runPreflight(Tenant $tenant, int $requiredLeads): array
|
||||
{
|
||||
// Косяк 01: действующая версия тарифа по дате (как списание/витрина), а не «по-простому».
|
||||
$tiers = app(PricingTierRepository::class)->activeAt(now('Europe/Moscow'));
|
||||
|
||||
// Safe fallback: без активных pricing_tiers биллинг не настроен —
|
||||
// преfflight не имеет смысла, пропускаем (legacy-окружения / тесты).
|
||||
if ($tiers->isEmpty()) {
|
||||
return ['passes' => true, 'capacity_leads' => PHP_INT_MAX, 'deficit_leads' => 0];
|
||||
}
|
||||
|
||||
$result = (new BalancePreflightService)->evaluate(
|
||||
balanceRub: (string) $tenant->balance_rub,
|
||||
deliveredInMonth: (int) $tenant->delivered_in_month,
|
||||
requiredLeads: $requiredLeads,
|
||||
tiers: $tiers,
|
||||
);
|
||||
|
||||
return [
|
||||
'passes' => $result->passes,
|
||||
'capacity_leads' => $result->capacityLeads,
|
||||
'deficit_leads' => $result->deficitLeads,
|
||||
];
|
||||
}
|
||||
|
||||
/** GET /api/projects/{id} */
|
||||
public function show(Request $request, int $id): JsonResponse
|
||||
{
|
||||
@@ -217,13 +269,23 @@ class ProjectController extends Controller
|
||||
$request->validate(['is_active' => ['required', 'boolean']]);
|
||||
$project = Project::where('tenant_id', $request->user()->tenant_id)->findOrFail($id);
|
||||
|
||||
$result = $this->projects->setActive($project, $request->boolean('is_active'));
|
||||
// Spec: docs/superpowers/plans/2026-05-26-supplier-snapshot-guard.md (Task 11).
|
||||
// paused_at — anchor для SupplierSnapshotGuard grace-расчёта.
|
||||
$newActive = $request->boolean('is_active');
|
||||
$project->update([
|
||||
'is_active' => $newActive,
|
||||
'paused_at' => $newActive ? null : now(),
|
||||
]);
|
||||
|
||||
if ($result->activate_deferred ?? false) {
|
||||
return response()->json(['error' => 'balance_insufficient', 'balance' => $result->gate_payload], 409);
|
||||
// #10: pause/resume must reach the supplier. The job's group recompute pushes
|
||||
// status=paused when no active project of the group remains (resume → active).
|
||||
// G (балансовый блок): заблокированный за нехваткой баланса проект не
|
||||
// возобновляется/синхронизируется у поставщика (зеркалит create-гард).
|
||||
if ($project->preflight_blocked_at === null) {
|
||||
SyncSupplierProjectJob::dispatch($project->id);
|
||||
}
|
||||
|
||||
return response()->json(['data' => new ProjectResource($result->loadCount('supplierProjects'))]);
|
||||
return response()->json(['data' => new ProjectResource($project->fresh()->loadCount('supplierProjects'))]);
|
||||
}
|
||||
|
||||
/** POST /api/projects/bulk — batch pause/resume/delete/update_regions/update_days/update_limit */
|
||||
|
||||
@@ -7,7 +7,8 @@ namespace App\Http\Controllers\Api;
|
||||
use App\Http\Controllers\Controller;
|
||||
use App\Models\BalanceTransaction;
|
||||
use App\Models\Deal;
|
||||
use Illuminate\Database\Query\Builder;
|
||||
use App\Models\LeadCharge;
|
||||
use Illuminate\Database\Eloquent\Builder;
|
||||
use Illuminate\Http\JsonResponse;
|
||||
use Illuminate\Http\Request;
|
||||
use Illuminate\Support\Carbon;
|
||||
@@ -37,37 +38,16 @@ class TenantChargesController extends Controller
|
||||
{
|
||||
$tenantId = (int) $request->user()->tenant_id;
|
||||
|
||||
$period = $request->query('period');
|
||||
$source = $request->query('charge_source');
|
||||
|
||||
// Explicit tenant_id фильтр — defense-in-depth поверх RLS (в тестах PG superuser BYPASSRLS).
|
||||
// Лид-списания.
|
||||
$lead = DB::table('lead_charges')
|
||||
// Explicit tenant_id фильтр — defense-in-depth поверх RLS. В тестах PG
|
||||
// superuser BYPASSRLS, и без явного where() запрос вернул бы строки
|
||||
// других тенантов (см. InAppNotificationController паттерн).
|
||||
$query = LeadCharge::query()
|
||||
->where('tenant_id', $tenantId)
|
||||
->selectRaw("id, charged_at, 'lead' as kind, deal_id, tier_no, charge_source, price_per_lead_kopecks, cast(null as text) as label");
|
||||
$this->applyPeriodTo($lead, 'charged_at', $period);
|
||||
if (is_string($source) && $source !== '') {
|
||||
$lead->where('charge_source', $source);
|
||||
}
|
||||
->orderBy('charged_at', 'desc');
|
||||
|
||||
// Списания автоподбора (balance_transactions) — тоже показываем в «Списаниях», иначе клиент
|
||||
// видит их только в «Истории транзакций». Фильтр charge_source (prepaid/rub) к автоподбору
|
||||
// неприменим → при выбранном источнике автоподбор не подмешиваем.
|
||||
if (! is_string($source) || $source === '') {
|
||||
$auto = DB::table('balance_transactions')
|
||||
->where('tenant_id', $tenantId)
|
||||
->where('type', 'autopodbor_charge')
|
||||
->selectRaw("id, created_at as charged_at, 'autopodbor' as kind, cast(null as bigint) as deal_id, cast(null as integer) as tier_no, cast(null as varchar) as charge_source, cast(round(abs(amount_rub) * 100) as bigint) as price_per_lead_kopecks, cast('Автоподбор конкурентов' as text) as label");
|
||||
$this->applyPeriodTo($auto, 'created_at', $period);
|
||||
$rows = $lead->unionAll($auto);
|
||||
} else {
|
||||
$rows = $lead;
|
||||
}
|
||||
$this->applyFilters($query, $request);
|
||||
|
||||
$page = DB::query()->fromSub($rows, 'c')
|
||||
->orderByDesc('charged_at')
|
||||
->orderByDesc('id')
|
||||
->paginate(20);
|
||||
$page = $query->paginate(20);
|
||||
|
||||
return response()->json([
|
||||
'data' => $page->items(),
|
||||
@@ -161,29 +141,6 @@ class TenantChargesController extends Controller
|
||||
}
|
||||
});
|
||||
|
||||
// Списания автоподбора — тоже в CSV (после лид-строк). charge_source к ним неприменим,
|
||||
// поэтому при выбранном источнике их не выгружаем (как и в списке).
|
||||
if ($source === null || $source === '') {
|
||||
$autoq = DB::table('balance_transactions')
|
||||
->where('tenant_id', $tenantId)
|
||||
->where('type', 'autopodbor_charge')
|
||||
->orderByDesc('created_at')
|
||||
->orderByDesc('id');
|
||||
$this->applyPeriodTo($autoq, 'created_at', $period);
|
||||
$autoq->chunk(500, function ($rows) use ($out) {
|
||||
foreach ($rows as $r) {
|
||||
fputcsv($out, [
|
||||
Carbon::parse($r->created_at)->toIso8601String(),
|
||||
'Автоподбор конкурентов',
|
||||
'',
|
||||
'',
|
||||
number_format(abs((float) $r->amount_rub), 2, '.', ''),
|
||||
$r->balance_rub_after ?? '',
|
||||
]);
|
||||
}
|
||||
});
|
||||
}
|
||||
|
||||
fclose($out);
|
||||
});
|
||||
}, 200, [
|
||||
@@ -193,12 +150,22 @@ class TenantChargesController extends Controller
|
||||
}
|
||||
|
||||
/**
|
||||
* Фильтр периода на произвольную колонку/билдер (lead_charges.charged_at либо
|
||||
* balance_transactions.created_at) — единый для лид- и автоподбор-веток union.
|
||||
*
|
||||
* @param Builder $query
|
||||
* @param Builder<LeadCharge> $query
|
||||
*/
|
||||
private function applyPeriodTo($query, string $column, mixed $period): void
|
||||
private function applyFilters($query, Request $request): void
|
||||
{
|
||||
$this->applyPeriodFilter($query, $request->query('period'));
|
||||
|
||||
$source = $request->query('charge_source');
|
||||
if (is_string($source) && $source !== '') {
|
||||
$query->where('charge_source', $source);
|
||||
}
|
||||
}
|
||||
|
||||
/**
|
||||
* @param Builder<LeadCharge> $query
|
||||
*/
|
||||
private function applyPeriodFilter($query, mixed $period): void
|
||||
{
|
||||
if (! is_string($period) || $period === '') {
|
||||
return;
|
||||
@@ -207,14 +174,14 @@ class TenantChargesController extends Controller
|
||||
$now = Carbon::now('Europe/Moscow');
|
||||
|
||||
if ($period === 'current_month') {
|
||||
$query->where($column, '>=', $now->copy()->startOfMonth());
|
||||
$query->where('charged_at', '>=', $now->copy()->startOfMonth());
|
||||
} elseif ($period === 'last_month') {
|
||||
$query->whereBetween($column, [
|
||||
$query->whereBetween('charged_at', [
|
||||
$now->copy()->subMonth()->startOfMonth(),
|
||||
$now->copy()->subMonth()->endOfMonth(),
|
||||
]);
|
||||
} elseif ($period === '90d') {
|
||||
$query->where($column, '>=', $now->copy()->subDays(90));
|
||||
$query->where('charged_at', '>=', $now->copy()->subDays(90));
|
||||
}
|
||||
}
|
||||
}
|
||||
|
||||
@@ -1,30 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Http\Resources\Autopodbor;
|
||||
|
||||
use Illuminate\Http\Request;
|
||||
use Illuminate\Http\Resources\Json\JsonResource;
|
||||
|
||||
class CompetitorResource extends JsonResource
|
||||
{
|
||||
public function toArray(Request $request): array
|
||||
{
|
||||
return [
|
||||
'id' => $this->id,
|
||||
'name' => $this->name,
|
||||
'description' => $this->description,
|
||||
'is_federal' => $this->is_federal,
|
||||
'relevance_pct' => $this->relevance_pct,
|
||||
'origin' => $this->origin,
|
||||
'box' => $this->box,
|
||||
'site_url' => $this->site_url,
|
||||
'directory_urls' => $this->directory_urls,
|
||||
'elements' => $this->elements ?? [],
|
||||
'studied_at' => $this->studied_at?->toIso8601String(),
|
||||
'study_run_id' => $this->study_run_id,
|
||||
'search_run_id' => $this->search_run_id,
|
||||
];
|
||||
}
|
||||
}
|
||||
@@ -1,37 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Http\Resources\Autopodbor;
|
||||
|
||||
use App\Models\AutopodborCompetitor;
|
||||
use App\Models\AutopodborSource;
|
||||
use App\Services\Autopodbor\AutopodborQueue;
|
||||
use Illuminate\Http\Request;
|
||||
use Illuminate\Http\Resources\Json\JsonResource;
|
||||
|
||||
class RunResource extends JsonResource
|
||||
{
|
||||
public function toArray(Request $request): array
|
||||
{
|
||||
return [
|
||||
'id' => $this->id,
|
||||
'kind' => $this->kind,
|
||||
'competitor_id' => $this->competitor_id,
|
||||
'status' => $this->status,
|
||||
'region_code' => $this->region_code,
|
||||
'params' => $this->params,
|
||||
'price_rub_charged' => $this->price_rub_charged,
|
||||
'error_code' => $this->error_code,
|
||||
// Клиенту показать, что идёт работа: место в общей очереди (пока queued) и текущий этап (пока running).
|
||||
'queue_position' => $this->status === 'queued' ? app(AutopodborQueue::class)->pending() : null,
|
||||
'progress' => $this->progress,
|
||||
'result' => $this->result,
|
||||
'competitors_count' => AutopodborCompetitor::where('search_run_id', $this->id)->count(),
|
||||
'sources_count' => AutopodborSource::where('study_run_id', $this->id)->count(),
|
||||
'started_at' => $this->started_at?->toIso8601String(),
|
||||
'finished_at' => $this->finished_at?->toIso8601String(),
|
||||
'created_at' => $this->created_at?->toIso8601String(),
|
||||
];
|
||||
}
|
||||
}
|
||||
@@ -1,30 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Http\Resources\Autopodbor;
|
||||
|
||||
use Illuminate\Http\Request;
|
||||
use Illuminate\Http\Resources\Json\JsonResource;
|
||||
|
||||
class SourceResource extends JsonResource
|
||||
{
|
||||
public function toArray(Request $request): array
|
||||
{
|
||||
return [
|
||||
'id' => $this->id,
|
||||
'competitor_id' => $this->competitor_id,
|
||||
'signal_type' => $this->signal_type,
|
||||
'identifier' => $this->identifier,
|
||||
'phone_kind' => $this->phone_kind,
|
||||
'phone_type' => $this->phone_type,
|
||||
'box' => $this->box,
|
||||
'provenance_url' => $this->provenance_url,
|
||||
'provenance_label' => $this->provenance_label,
|
||||
'created_project_id' => $this->created_project_id,
|
||||
'where_found' => $this->where_found ?? [],
|
||||
'office' => $this->office,
|
||||
'confirmations' => $this->confirmations,
|
||||
];
|
||||
}
|
||||
}
|
||||
@@ -52,8 +52,6 @@ class ProjectResource extends JsonResource
|
||||
'last_synced_at' => $this->aggregateLastSyncedAt(),
|
||||
// H (балансовый блок): проект приостановлен из-за нехватки баланса (read-only для UI).
|
||||
'balance_blocked' => $this->preflight_blocked_at !== null,
|
||||
// Task 15: сырое поле — UI отличает «заблокирован при попытке запуска» vs «закончился баланс».
|
||||
'preflight_blocked_at' => $this->preflight_blocked_at?->toIso8601String(),
|
||||
'supplier_links' => $this->when(
|
||||
$request->routeIs('projects.show'),
|
||||
fn () => $this->getSupplierLinks(),
|
||||
|
||||
@@ -1,113 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Jobs\Autopodbor;
|
||||
|
||||
use App\Models\AutopodborCompetitor;
|
||||
use App\Models\AutopodborRun;
|
||||
use App\Services\Autopodbor\Agent\CompetitorAgent;
|
||||
use App\Services\Autopodbor\Agent\Dto\ResolveByNameRequest;
|
||||
use App\Services\Autopodbor\AutopodborDedup;
|
||||
use Illuminate\Bus\Queueable;
|
||||
use Illuminate\Contracts\Queue\ShouldQueue;
|
||||
use Illuminate\Foundation\Bus\Dispatchable;
|
||||
use Illuminate\Queue\InteractsWithQueue;
|
||||
use Illuminate\Queue\Middleware\WithoutOverlapping;
|
||||
use Illuminate\Queue\SerializesModels;
|
||||
use Illuminate\Support\Facades\DB;
|
||||
|
||||
class RunAutopodborResolveJob implements ShouldQueue
|
||||
{
|
||||
use Dispatchable, InteractsWithQueue, Queueable, SerializesModels;
|
||||
|
||||
public int $tries = 3;
|
||||
|
||||
public array $backoff = [15, 60, 300];
|
||||
|
||||
public function __construct(public int $runId, public ?int $tenantId = null)
|
||||
{
|
||||
// Резолв по имени — тоже шаг 1 (ИИ-поиск кандидатов), поэтому на одной очереди с поиском.
|
||||
$this->onQueue('autopodbor-find');
|
||||
}
|
||||
|
||||
/**
|
||||
* Защита от нахлёста: один прогон резолва не обрабатывается двумя воркерами разом (ретрай).
|
||||
*
|
||||
* @return array<int, object>
|
||||
*/
|
||||
public function middleware(): array
|
||||
{
|
||||
return [new WithoutOverlapping((string) $this->runId)];
|
||||
}
|
||||
|
||||
public function handle(CompetitorAgent $agent, AutopodborDedup $dedup): void
|
||||
{
|
||||
// Сначала представляемся базе, ПОТОМ читаем прогон: на боевом роль crm_app_user под FORCE RLS
|
||||
// не видит строку без tenant-контекста (на dev маскировалось суперюзером postgres → ModelNotFound
|
||||
// всплыл только на проде 07.07.2026). tenantId приходит из dispatch. Старый путь без tenantId
|
||||
// (только тесты, где ambient-контекст уже задан) — безопасный откат ниже.
|
||||
if ($this->tenantId !== null) {
|
||||
DB::statement("SELECT set_config('app.current_tenant_id', ?, false)", [(string) $this->tenantId]);
|
||||
}
|
||||
|
||||
$run = AutopodborRun::findOrFail($this->runId);
|
||||
|
||||
if ($this->tenantId === null) {
|
||||
DB::statement("SELECT set_config('app.current_tenant_id', ?, false)", [(string) $run->tenant_id]);
|
||||
}
|
||||
|
||||
// Идемпотентность: завершённый прогон повторно не обрабатываем (защита от лишнего ретрая/повторного dispatch).
|
||||
if (in_array($run->status, ['done', 'empty', 'failed'], true)) {
|
||||
return;
|
||||
}
|
||||
|
||||
$run->update(['status' => 'running', 'started_at' => now()]);
|
||||
|
||||
try {
|
||||
$p = $run->params;
|
||||
|
||||
$res = $agent->resolveByName(new ResolveByNameRequest(
|
||||
name: $p['name'],
|
||||
regionCode: (int) $run->region_code,
|
||||
));
|
||||
|
||||
$unique = $dedup->dedupCompetitors($res->candidates);
|
||||
|
||||
if ($unique === []) {
|
||||
$run->update(['status' => 'empty', 'finished_at' => now()]);
|
||||
|
||||
return;
|
||||
}
|
||||
|
||||
foreach ($unique as $c) {
|
||||
AutopodborCompetitor::updateOrCreate(
|
||||
[
|
||||
'tenant_id' => $run->tenant_id,
|
||||
'search_run_id' => $run->id,
|
||||
'dedup_key' => $c['dedup_key'],
|
||||
],
|
||||
[
|
||||
'name' => $c['name'],
|
||||
'description' => $c['description'] ?? null,
|
||||
'is_federal' => (bool) ($c['is_federal'] ?? false),
|
||||
'relevance_pct' => null,
|
||||
'origin' => 'resolve',
|
||||
'site_url' => $c['site_url'] ?? null,
|
||||
'directory_urls' => $c['directory_urls'] ?? [],
|
||||
'provenance' => $c['provenance'] ?? [],
|
||||
]
|
||||
);
|
||||
}
|
||||
|
||||
$run->update(['status' => 'done', 'finished_at' => now()]);
|
||||
} catch (\Throwable $e) {
|
||||
$run->update([
|
||||
'status' => 'failed',
|
||||
'error_code' => substr($e->getMessage(), 0, 64),
|
||||
'finished_at' => now(),
|
||||
]);
|
||||
throw $e;
|
||||
}
|
||||
}
|
||||
}
|
||||
@@ -1,216 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Jobs\Autopodbor;
|
||||
|
||||
use App\Mail\AutopodborReadyMail;
|
||||
use App\Models\AutopodborCompetitor;
|
||||
use App\Models\AutopodborRun;
|
||||
use App\Models\Tenant;
|
||||
use App\Services\Autopodbor\Agent\CompetitorAgent;
|
||||
use App\Services\Autopodbor\Agent\Dto\FindCompetitorsRequest;
|
||||
use App\Services\Autopodbor\AutopodborChargeService;
|
||||
use App\Services\Autopodbor\AutopodborDedup;
|
||||
use App\Services\Autopodbor\AutopodborNormalizer;
|
||||
use App\Services\Autopodbor\CompetitorIdentity;
|
||||
use App\Services\Autopodbor\RunProgressChannel;
|
||||
use App\Support\SystemSettings;
|
||||
use Illuminate\Bus\Queueable;
|
||||
use Illuminate\Contracts\Queue\ShouldQueue;
|
||||
use Illuminate\Foundation\Bus\Dispatchable;
|
||||
use Illuminate\Queue\InteractsWithQueue;
|
||||
use Illuminate\Queue\Middleware\WithoutOverlapping;
|
||||
use Illuminate\Queue\SerializesModels;
|
||||
use Illuminate\Support\Facades\DB;
|
||||
use Illuminate\Support\Facades\Mail;
|
||||
|
||||
class RunAutopodborSearchJob implements ShouldQueue
|
||||
{
|
||||
use Dispatchable, InteractsWithQueue, Queueable, SerializesModels;
|
||||
|
||||
// ОДИН прогон без авто-ретраев: движок платный (xfetch+ИИ+EXA), и повтор всего прогона при
|
||||
// таймауте = тройная цена и время. Медленный-но-настоящий ответ теперь ждём большими таймаутами
|
||||
// стадий (config services.aitunnel/exa), а не гоняем движок трижды.
|
||||
public int $tries = 1;
|
||||
|
||||
// Живой поиск (2ГИС+Яндекс через антибот + канал В sonar ×2 + EXA + «вскрыть всё»: параллельное
|
||||
// открытие карточек без лимита) идёт минутами — большой запас, чтобы не убить прогон на середине.
|
||||
public int $timeout = 3600;
|
||||
|
||||
public function __construct(public int $runId, public ?int $tenantId = null)
|
||||
{
|
||||
// Шаг 1 «собрать поле» (ИИ + внешние сервисы) — своя очередь, отдельный воркер-процесс,
|
||||
// чтобы тяжёлый поиск не стоял в одной линии с быстрым шагом 2 (изучением) другого клиента.
|
||||
$this->onQueue('autopodbor-find');
|
||||
}
|
||||
|
||||
/**
|
||||
* Защита от нахлёста: один и тот же прогон не обрабатывается двумя воркерами разом
|
||||
* (ретрай/повторный dispatch). Ключ — runId.
|
||||
*
|
||||
* @return array<int, object>
|
||||
*/
|
||||
public function middleware(): array
|
||||
{
|
||||
return [new WithoutOverlapping((string) $this->runId)];
|
||||
}
|
||||
|
||||
public function handle(CompetitorAgent $agent, AutopodborDedup $dedup, AutopodborChargeService $charge, CompetitorIdentity $identity, AutopodborNormalizer $normalizer, RunProgressChannel $progress): void
|
||||
{
|
||||
// Сначала представляемся базе, ПОТОМ читаем прогон: на боевом роль crm_app_user под FORCE RLS
|
||||
// не видит строку без tenant-контекста (на dev маскировалось суперюзером postgres → ModelNotFound
|
||||
// всплыл только на проде 07.07.2026). tenantId приходит из dispatch. Старый путь без tenantId
|
||||
// (только тесты, где ambient-контекст уже задан) — безопасный откат ниже. Контекст сессионный —
|
||||
// все дальнейшие запросы (включая вложенные транзакции charge) видят GUC.
|
||||
if ($this->tenantId !== null) {
|
||||
DB::statement("SELECT set_config('app.current_tenant_id', ?, false)", [(string) $this->tenantId]);
|
||||
}
|
||||
|
||||
$run = AutopodborRun::findOrFail($this->runId);
|
||||
|
||||
if ($this->tenantId === null) {
|
||||
DB::statement("SELECT set_config('app.current_tenant_id', ?, false)", [(string) $run->tenant_id]);
|
||||
}
|
||||
|
||||
// Идемпотентность: завершённый прогон повторно не обрабатываем (защита от лишнего ретрая/повторного dispatch).
|
||||
if (in_array($run->status, ['done', 'empty', 'failed'], true)) {
|
||||
return;
|
||||
}
|
||||
|
||||
$run->update(['status' => 'running', 'started_at' => now()]);
|
||||
|
||||
// Привязываем канал прогресса к этому прогону — движок будет отмечать этапы именно сюда.
|
||||
$progress->bind($run->id);
|
||||
|
||||
try {
|
||||
$p = $run->params;
|
||||
$max = (int) (SystemSettings::get('autopodbor_max_competitors') ?? 15);
|
||||
|
||||
$request = new FindCompetitorsRequest(
|
||||
regionCode: (int) $run->region_code,
|
||||
examples: $p['examples'] ?? [],
|
||||
aboutSelf: $p['about_self'] ?? [],
|
||||
includeFederal: (bool) ($p['include_federal'] ?? false),
|
||||
maxCompetitors: $max,
|
||||
);
|
||||
|
||||
// Авто-повтор при ПУСТОМ сборе: внешние источники (2ГИС/Яндекс/EXA) иногда моргают и
|
||||
// отдают пусто — вместо «ничего не нашлось» пробуем ещё раз (по умолчанию до 2 доп. попыток).
|
||||
// Реально пустая ниша (все попытки пусты) идёт дальше штатным путём «empty» — без списания.
|
||||
$retries = max(0, (int) config('autopodbor.search_retry_on_empty', 2));
|
||||
$attempt = 0;
|
||||
do {
|
||||
$attempt++;
|
||||
$res = $agent->findCompetitors($request);
|
||||
} while ($res->competitors === [] && $attempt <= $retries);
|
||||
|
||||
$unique = $dedup->dedupCompetitors($res->competitors);
|
||||
|
||||
// На записи выкидываем ТОЛЬКО полный дубль АКТИВНОЙ фирмы (поле/предложения) — та же
|
||||
// опознавалка и ни одной новой (это «скрытая» группа, спека §8). Находку, совпавшую с
|
||||
// АРХИВОМ удалённых, сохраняем — её покажем как «ранее удалён». Деление на группы —
|
||||
// при показе /proposals. Исключаем свой же прогон (ретрай не должен схлопнуть свои
|
||||
// результаты). Конкурентов без опознавалок (нет сайта/карточек) не с чем сверять — оставляем.
|
||||
$activeKeySets = AutopodborCompetitor::where('tenant_id', $run->tenant_id)
|
||||
->where('box', '!=', 'archived')
|
||||
->where(function ($q) use ($run) {
|
||||
$q->where('search_run_id', '!=', $run->id)->orWhereNull('search_run_id');
|
||||
})
|
||||
->get(['site_url', 'directory_urls'])
|
||||
->map(fn ($c) => array_flip($identity->keys([
|
||||
'site_url' => $c->site_url,
|
||||
'directory_urls' => $c->directory_urls ?? [],
|
||||
])))
|
||||
->all();
|
||||
|
||||
$unique = array_values(array_filter($unique, function (array $c) use ($identity, $activeKeySets): bool {
|
||||
$keys = $identity->keys(['site_url' => $c['site_url'] ?? null, 'directory_urls' => $c['directory_urls'] ?? []]);
|
||||
if ($keys === []) {
|
||||
return true;
|
||||
}
|
||||
foreach ($activeKeySets as $have) {
|
||||
$shares = false;
|
||||
$hasNew = false;
|
||||
foreach ($keys as $k) {
|
||||
if (isset($have[$k])) {
|
||||
$shares = true;
|
||||
} else {
|
||||
$hasNew = true;
|
||||
}
|
||||
}
|
||||
if ($shares && ! $hasNew) {
|
||||
return false; // полный дубль активной фирмы → скрыть
|
||||
}
|
||||
}
|
||||
|
||||
return true;
|
||||
}));
|
||||
|
||||
if ($unique === []) {
|
||||
$run->update(['status' => 'empty', 'finished_at' => now()]);
|
||||
$this->notifyReady($run, 0);
|
||||
|
||||
return;
|
||||
}
|
||||
|
||||
// $max === 0 → «не режем»: сохраняем ВСЕХ найденных. Иначе array_slice(…, 0, 0) обнулил бы
|
||||
// непустой результат (баг: прогон сохранял 0 конкурентов, но всё равно списывал).
|
||||
$saved = $max > 0 ? array_slice($unique, 0, $max) : $unique;
|
||||
foreach ($saved as $c) {
|
||||
AutopodborCompetitor::updateOrCreate(
|
||||
[
|
||||
'tenant_id' => $run->tenant_id,
|
||||
'search_run_id' => $run->id,
|
||||
'dedup_key' => $c['dedup_key'],
|
||||
],
|
||||
[
|
||||
'name' => $c['name'],
|
||||
'description' => $c['description'] ?? null,
|
||||
'is_federal' => (bool) ($c['is_federal'] ?? false),
|
||||
'relevance_pct' => $c['relevance_pct'] ?? null,
|
||||
'origin' => 'auto',
|
||||
'site_url' => $c['site_url'] ?? null,
|
||||
'directory_urls' => $c['directory_urls'] ?? [],
|
||||
// Телефоны (нормализованные) — для показа совпадений клиенту на «Предложениях».
|
||||
// В тихую склейку НЕ идут (решение 03.07) — только клиентская «Найти дубли».
|
||||
'phones' => array_values(array_unique(array_filter(array_map(
|
||||
static fn ($p): string => $normalizer->phone((string) $p),
|
||||
$c['phones'] ?? [],
|
||||
)))),
|
||||
'provenance' => $c['provenance'] ?? [],
|
||||
]
|
||||
);
|
||||
}
|
||||
|
||||
$price = (string) (SystemSettings::get('autopodbor_price_search_rub') ?? '0');
|
||||
$charge->chargeForRun($run, $price);
|
||||
|
||||
$run->update(['status' => 'done', 'finished_at' => now()]);
|
||||
$this->notifyReady($run, count($saved));
|
||||
} catch (\Throwable $e) {
|
||||
$run->update([
|
||||
'status' => 'failed',
|
||||
'error_code' => substr($e->getMessage(), 0, 64),
|
||||
'finished_at' => now(),
|
||||
]);
|
||||
throw $e;
|
||||
}
|
||||
}
|
||||
|
||||
/**
|
||||
* Письмо клиенту «подбор готов» — чтобы он не ждал у экрана. Не роняет успешный подбор,
|
||||
* если почта недоступна (try/catch + report).
|
||||
*/
|
||||
private function notifyReady(AutopodborRun $run, int $found): void
|
||||
{
|
||||
try {
|
||||
$email = Tenant::query()->whereKey($run->tenant_id)->value('contact_email');
|
||||
if (is_string($email) && $email !== '') {
|
||||
Mail::to($email)->send(new AutopodborReadyMail($run, $found));
|
||||
}
|
||||
} catch (\Throwable $e) {
|
||||
report($e);
|
||||
}
|
||||
}
|
||||
}
|
||||
@@ -1,168 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Jobs\Autopodbor;
|
||||
|
||||
use App\Models\AutopodborCompetitor;
|
||||
use App\Models\AutopodborRun;
|
||||
use App\Models\AutopodborSource;
|
||||
use App\Services\Autopodbor\Agent\CompetitorAgent;
|
||||
use App\Services\Autopodbor\Agent\Dto\StudyCompetitorRequest;
|
||||
use App\Services\Autopodbor\AutopodborChargeService;
|
||||
use App\Services\Autopodbor\AutopodborDedup;
|
||||
use App\Services\Autopodbor\AutopodborNormalizer;
|
||||
use App\Services\Autopodbor\RunProgressChannel;
|
||||
use App\Support\SystemSettings;
|
||||
use Illuminate\Bus\Queueable;
|
||||
use Illuminate\Contracts\Queue\ShouldQueue;
|
||||
use Illuminate\Foundation\Bus\Dispatchable;
|
||||
use Illuminate\Queue\InteractsWithQueue;
|
||||
use Illuminate\Queue\Middleware\WithoutOverlapping;
|
||||
use Illuminate\Queue\SerializesModels;
|
||||
use Illuminate\Support\Facades\DB;
|
||||
|
||||
class RunAutopodborStudyJob implements ShouldQueue
|
||||
{
|
||||
use Dispatchable, InteractsWithQueue, Queueable, SerializesModels;
|
||||
|
||||
public int $tries = 3;
|
||||
|
||||
public array $backoff = [15, 60, 300];
|
||||
|
||||
public function __construct(public int $runId, public ?int $tenantId = null)
|
||||
{
|
||||
// Шаг 2 «изучение / дайте источники» — тупой слой (без ИИ). ОТДЕЛЬНАЯ очередь + свой воркер,
|
||||
// чтобы изучение шло параллельно поиску, а не ждало его в общей линии.
|
||||
$this->onQueue('autopodbor-study');
|
||||
}
|
||||
|
||||
/**
|
||||
* Защита от нахлёста: один прогон изучения не обрабатывается двумя воркерами разом (ретрай).
|
||||
*
|
||||
* @return array<int, object>
|
||||
*/
|
||||
public function middleware(): array
|
||||
{
|
||||
return [new WithoutOverlapping((string) $this->runId)];
|
||||
}
|
||||
|
||||
public function handle(
|
||||
CompetitorAgent $agent,
|
||||
AutopodborDedup $dedup,
|
||||
AutopodborChargeService $charge,
|
||||
AutopodborNormalizer $norm,
|
||||
RunProgressChannel $progress,
|
||||
): void {
|
||||
// Сначала представляемся базе, ПОТОМ читаем прогон: на боевом роль crm_app_user под FORCE RLS
|
||||
// не видит строку без tenant-контекста (на dev маскировалось суперюзером postgres → ModelNotFound
|
||||
// всплыл только на проде 07.07.2026). tenantId приходит из dispatch. Старый путь без tenantId
|
||||
// (только тесты, где ambient-контекст уже задан) — безопасный откат ниже. Контекст сессионный —
|
||||
// все дальнейшие запросы (включая вложенные транзакции charge) видят GUC.
|
||||
if ($this->tenantId !== null) {
|
||||
DB::statement("SELECT set_config('app.current_tenant_id', ?, false)", [(string) $this->tenantId]);
|
||||
}
|
||||
|
||||
$run = AutopodborRun::findOrFail($this->runId);
|
||||
|
||||
if ($this->tenantId === null) {
|
||||
DB::statement("SELECT set_config('app.current_tenant_id', ?, false)", [(string) $run->tenant_id]);
|
||||
}
|
||||
|
||||
// Идемпотентность: завершённый прогон повторно не обрабатываем (защита от лишнего ретрая/повторного dispatch).
|
||||
if (in_array($run->status, ['done', 'empty', 'failed'], true)) {
|
||||
return;
|
||||
}
|
||||
|
||||
$run->update(['status' => 'running', 'started_at' => now()]);
|
||||
|
||||
// Привязываем канал прогресса к этому прогону — движок отметит этапы изучения именно сюда.
|
||||
$progress->bind($run->id);
|
||||
|
||||
try {
|
||||
$comp = AutopodborCompetitor::findOrFail($run->competitor_id);
|
||||
|
||||
$res = $agent->studyCompetitor(new StudyCompetitorRequest(
|
||||
competitor: [
|
||||
'name' => $comp->name,
|
||||
'site_url' => $comp->site_url,
|
||||
'directory_urls' => $comp->directory_urls ?? [],
|
||||
'elements' => $comp->elements ?? [],
|
||||
'is_federal' => (bool) $comp->is_federal,
|
||||
],
|
||||
regionCode: (int) $run->region_code,
|
||||
));
|
||||
|
||||
$unique = $dedup->dedupSources($res->sources);
|
||||
|
||||
if ($unique === []) {
|
||||
$run->update(['status' => 'empty', 'finished_at' => now()]);
|
||||
|
||||
return;
|
||||
}
|
||||
|
||||
// Классификация для итога (важно при ПОВТОРНОМ сборе): сколько источников совсем новых,
|
||||
// а какие — ранее удалённые (box=archived), которые движок нашёл снова. Известные (в работе/
|
||||
// предложениях) не трогаем — updateOrCreate не меняет им box (его нет в массиве значений).
|
||||
$newCount = 0;
|
||||
$refoundDeletedIds = [];
|
||||
foreach ($unique as $s) {
|
||||
$identifier = $s['signal_type'] === 'call'
|
||||
? $norm->phone($s['identifier'])
|
||||
: $norm->domainHead($s['identifier']);
|
||||
|
||||
$existing = AutopodborSource::where('competitor_id', $comp->id)
|
||||
->where('dedup_key', $s['dedup_key'])
|
||||
->first();
|
||||
|
||||
AutopodborSource::updateOrCreate(
|
||||
[
|
||||
'competitor_id' => $comp->id,
|
||||
'dedup_key' => $s['dedup_key'],
|
||||
],
|
||||
[
|
||||
'tenant_id' => $run->tenant_id,
|
||||
'study_run_id' => $run->id,
|
||||
'signal_type' => $s['signal_type'],
|
||||
'identifier' => $identifier,
|
||||
'phone_kind' => $s['phone_kind'] ?? null,
|
||||
'phone_type' => $s['phone_type'] ?? null,
|
||||
'provenance_url' => $s['provenance_url'] ?? null,
|
||||
'provenance_label' => $s['provenance_label'] ?? null,
|
||||
'where_found' => $s['where_found'] ?? null,
|
||||
'office' => $s['office'] ?? null,
|
||||
'confirmations' => $s['confirmations'] ?? 1,
|
||||
]
|
||||
);
|
||||
|
||||
if ($existing === null) {
|
||||
$newCount++; // совсем новый → в предложения
|
||||
} elseif ($existing->box === 'archived') {
|
||||
$refoundDeletedIds[] = $existing->id; // ранее удалённый, найден снова → «вернуть?»
|
||||
}
|
||||
}
|
||||
|
||||
$price = (string) (SystemSettings::get('autopodbor_price_study_rub') ?? '0');
|
||||
$charge->chargeForRun($run, $price);
|
||||
|
||||
$comp->update(['studied_at' => now(), 'study_run_id' => $run->id]);
|
||||
|
||||
$run->update([
|
||||
'status' => 'done',
|
||||
'finished_at' => now(),
|
||||
'result' => [
|
||||
'new_sources' => $newCount,
|
||||
'refound_deleted' => count($refoundDeletedIds),
|
||||
'refound_deleted_ids' => array_values($refoundDeletedIds),
|
||||
],
|
||||
]);
|
||||
} catch (\Throwable $e) {
|
||||
$run->update([
|
||||
'status' => 'failed',
|
||||
'error_code' => substr($e->getMessage(), 0, 64),
|
||||
'finished_at' => now(),
|
||||
]);
|
||||
throw $e;
|
||||
}
|
||||
}
|
||||
}
|
||||
@@ -51,65 +51,49 @@ final class BalanceFrozenReminderJob implements ShouldQueue
|
||||
// Косяк 01: действующая версия тарифа по дате (как списание/витрина), а не «по-простому».
|
||||
$tiers = app(PricingTierRepository::class)->activeAt(now('Europe/Moscow'));
|
||||
|
||||
// Переезд на Managed PG (26.06.2026): очередь под ролью crm_app_user (RLS).
|
||||
// Список замороженных тенантов брать через дефолтное соединение нельзя — без
|
||||
// app.current_tenant_id policy tenants_self_isolation отдаёт 0 строк (тот же
|
||||
// баг, что у BalancePreflightSweepJob). Берём id через pgsql_supplier (BYPASSRLS).
|
||||
$tenantIds = DB::connection('pgsql_supplier')->table('tenants')
|
||||
Tenant::query()
|
||||
->whereNotNull('frozen_by_balance_at')
|
||||
->whereNull('deleted_at')
|
||||
->orderBy('id')
|
||||
->pluck('id');
|
||||
|
||||
foreach ($tenantIds as $tenantId) {
|
||||
$this->processTenant((int) $tenantId, $service, $tiers);
|
||||
}
|
||||
->chunkById(200, function (Collection $tenants) use ($service, $tiers): void {
|
||||
foreach ($tenants as $tenant) {
|
||||
/** @var Tenant $tenant */
|
||||
$this->processTenant($tenant, $service, $tiers);
|
||||
}
|
||||
});
|
||||
}
|
||||
|
||||
/**
|
||||
* @param Collection<int, PricingTier> $tiers
|
||||
*/
|
||||
private function processTenant(int $tenantId, BalancePreflightService $service, Collection $tiers): void
|
||||
private function processTenant(Tenant $tenant, BalancePreflightService $service, Collection $tiers): void
|
||||
{
|
||||
// SET LOCAL внутри транзакции восстанавливает tenant-контекст: и Tenant::find,
|
||||
// и requiredLeadsForTomorrow() (читает projects) RLS-зависимы. mark()/alreadySent()
|
||||
// идут через pgsql_supplier (BYPASSRLS) — им контекст не нужен.
|
||||
DB::transaction(function () use ($tenantId, $service, $tiers): void {
|
||||
DB::statement('SET LOCAL app.current_tenant_id = '.$tenantId);
|
||||
// diffInHours округляет — у заморозки на 25h это 25, на 73h это 73 (OK).
|
||||
$hours = (int) abs(now()->diffInHours($tenant->frozen_by_balance_at, false));
|
||||
|
||||
$tenant = Tenant::find($tenantId);
|
||||
if ($tenant === null || $tenant->frozen_by_balance_at === null) {
|
||||
return; // разморожен/удалён между pluck и обработкой.
|
||||
}
|
||||
$window = $this->matchWindow($hours);
|
||||
if ($window === null) {
|
||||
return; // вне окон reminder/final
|
||||
}
|
||||
|
||||
// diffInHours округляет — у заморозки на 25h это 25, на 73h это 73 (OK).
|
||||
$hours = (int) abs(now()->diffInHours($tenant->frozen_by_balance_at, false));
|
||||
$marker = $window === 'reminder' ? 'reminder_sent' : 'final_sent';
|
||||
if ($this->alreadySent($tenant->id, $marker)) {
|
||||
return;
|
||||
}
|
||||
|
||||
$window = $this->matchWindow($hours);
|
||||
if ($window === null) {
|
||||
return; // вне окон reminder/final
|
||||
}
|
||||
// Re-evaluate для актуального дефицита в тексте письма.
|
||||
$result = $service->evaluate(
|
||||
balanceRub: (string) $tenant->balance_rub,
|
||||
deliveredInMonth: (int) $tenant->delivered_in_month,
|
||||
requiredLeads: $tenant->requiredLeadsForTomorrow(),
|
||||
tiers: $tiers,
|
||||
);
|
||||
|
||||
$marker = $window === 'reminder' ? 'reminder_sent' : 'final_sent';
|
||||
if ($this->alreadySent($tenant->id, $marker)) {
|
||||
return;
|
||||
}
|
||||
$mail = $window === 'reminder'
|
||||
? new BalanceFrozenReminderMail($tenant, $result)
|
||||
: new BalanceFrozenFinalMail($tenant, $result);
|
||||
|
||||
// Re-evaluate для актуального дефицита в тексте письма.
|
||||
$result = $service->evaluate(
|
||||
balanceRub: (string) $tenant->balance_rub,
|
||||
deliveredInMonth: (int) $tenant->delivered_in_month,
|
||||
requiredLeads: $tenant->requiredLeadsForTomorrow(),
|
||||
tiers: $tiers,
|
||||
);
|
||||
|
||||
$mail = $window === 'reminder'
|
||||
? new BalanceFrozenReminderMail($tenant, $result)
|
||||
: new BalanceFrozenFinalMail($tenant, $result);
|
||||
|
||||
Mail::queue($mail);
|
||||
$this->mark($tenant, $marker, $result);
|
||||
});
|
||||
Mail::queue($mail);
|
||||
$this->mark($tenant, $marker, $result);
|
||||
}
|
||||
|
||||
private function matchWindow(int $hours): ?string
|
||||
|
||||
@@ -41,40 +41,25 @@ final class BalancePreflightSweepJob implements ShouldQueue
|
||||
// Косяк 01: действующая версия тарифа по дате (как списание/витрина), а не «по-простому».
|
||||
$tiers = app(PricingTierRepository::class)->activeAt(now('Europe/Moscow'));
|
||||
|
||||
// Переезд на Managed PG (26.06.2026): очередь ходит в БД под ролью crm_app_user
|
||||
// (RLS). Перечень тенантов брать через ДЕФОЛТНОЕ соединение нельзя — без
|
||||
// app.current_tenant_id RLS-policy tenants_self_isolation отдаёт 0 строк, и
|
||||
// sweep молча превращался в no-op (ни заморозок, ни снятия блоков). Берём id
|
||||
// через pgsql_supplier (BYPASSRLS — системный контекст), как джоба уже делает
|
||||
// для balance_freeze_log. Дальше per-tenant SET LOCAL восстанавливает контекст.
|
||||
$tenantIds = DB::connection('pgsql_supplier')->table('tenants')
|
||||
->whereNull('deleted_at')
|
||||
->orderBy('id')
|
||||
->pluck('id');
|
||||
|
||||
foreach ($tenantIds as $tenantId) {
|
||||
$this->evaluateTenant((int) $tenantId, $service, $tiers);
|
||||
}
|
||||
Tenant::query()->whereNull('deleted_at')->chunkById(200, function (Collection $tenants) use ($service, $tiers): void {
|
||||
foreach ($tenants as $tenant) {
|
||||
/** @var Tenant $tenant */
|
||||
$this->evaluateTenant($tenant, $service, $tiers);
|
||||
}
|
||||
});
|
||||
}
|
||||
|
||||
/**
|
||||
* @param Collection<int, PricingTier> $tiers
|
||||
*/
|
||||
private function evaluateTenant(int $tenantId, BalancePreflightService $service, Collection $tiers): void
|
||||
private function evaluateTenant(Tenant $tenant, BalancePreflightService $service, Collection $tiers): void
|
||||
{
|
||||
// Spec C deploy hotfix (25.05.2026): CLI-команды и фоновые джобы не проходят
|
||||
// через SetTenantContext middleware → app.current_tenant_id не выставлен →
|
||||
// RLS-policy на projects падает с "unrecognized configuration parameter".
|
||||
// Зеркалим mechanic SetTenantContext: SET LOCAL внутри транзакции (PgBouncer-safe).
|
||||
DB::transaction(function () use ($tenantId, $service, $tiers): void {
|
||||
DB::statement('SET LOCAL app.current_tenant_id = '.$tenantId);
|
||||
|
||||
// Модель грузим ВНУТРИ контекста — под RLS-ролью без SET LOCAL Tenant::find
|
||||
// вернёт null (id-isolation policy). После SET LOCAL запись своей компании видна.
|
||||
$tenant = Tenant::find($tenantId);
|
||||
if ($tenant === null) {
|
||||
return; // удалён между pluck и обработкой — пропускаем.
|
||||
}
|
||||
DB::transaction(function () use ($tenant, $service, $tiers): void {
|
||||
DB::statement('SET LOCAL app.current_tenant_id = '.(int) $tenant->id);
|
||||
|
||||
$required = $tenant->requiredLeadsForTomorrow();
|
||||
$result = $service->evaluate(
|
||||
|
||||
@@ -0,0 +1,64 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Jobs\Bot;
|
||||
|
||||
use App\Models\BotDialog;
|
||||
use App\Services\Bot\BotAnswerService;
|
||||
use App\Services\Bot\JivoBotClient;
|
||||
use Illuminate\Contracts\Queue\ShouldQueue;
|
||||
use Illuminate\Foundation\Queue\Queueable;
|
||||
|
||||
/**
|
||||
* Оркестратор ответа бота (спека §2). Очередь `bot` — отдельный worker на проде,
|
||||
* чтобы поток лидов не задерживал ответы чата (скорость — требование №1).
|
||||
* timeout 12с < 15с Jivo-страховки: не успели — Jivo сам позовёт оператора.
|
||||
* $tries=1: ретраить разговор бессмысленно, клиент уже у живого оператора.
|
||||
*/
|
||||
class ProcessJivoMessageJob implements ShouldQueue
|
||||
{
|
||||
use Queueable;
|
||||
|
||||
public int $timeout = 12;
|
||||
|
||||
public int $tries = 1;
|
||||
|
||||
public function __construct(
|
||||
public readonly string $chatId,
|
||||
public readonly string $clientId,
|
||||
public readonly string $text,
|
||||
) {
|
||||
$this->onQueue('bot');
|
||||
}
|
||||
|
||||
public function handle(): void
|
||||
{
|
||||
$startedAt = hrtime(true);
|
||||
|
||||
BotDialog::create([
|
||||
'jivo_chat_id' => $this->chatId,
|
||||
'direction' => 'in',
|
||||
'message' => $this->text,
|
||||
'created_at' => now(),
|
||||
]);
|
||||
|
||||
$answer = app(BotAnswerService::class)->answer($this->text);
|
||||
$jivo = app(JivoBotClient::class);
|
||||
|
||||
$jivo->sendMessage($this->chatId, $this->clientId, $answer->text);
|
||||
if ($answer->escalate) {
|
||||
$jivo->inviteAgent($this->chatId, $this->clientId);
|
||||
}
|
||||
|
||||
BotDialog::create([
|
||||
'jivo_chat_id' => $this->chatId,
|
||||
'direction' => 'out',
|
||||
'message' => $answer->text,
|
||||
'matched_chunks' => $answer->matchedChunkIds,
|
||||
'latency_ms' => (int) ((hrtime(true) - $startedAt) / 1_000_000),
|
||||
'escalated' => $answer->escalate,
|
||||
'created_at' => now(),
|
||||
]);
|
||||
}
|
||||
}
|
||||
@@ -1,199 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Jobs\External;
|
||||
|
||||
use App\Mail\ExternalServiceDownMail;
|
||||
use App\Services\Dashboard\BalanceHealth;
|
||||
use App\Services\External\BalanceProvider;
|
||||
use App\Services\External\CaptchaLivenessProbe;
|
||||
use App\Services\External\DadataBalanceProvider;
|
||||
use App\Services\External\JivoLivenessProbe;
|
||||
use App\Services\External\LivenessProbe;
|
||||
use App\Services\External\SupplierBalanceProvider;
|
||||
use App\Services\External\Yandex360BalanceProvider;
|
||||
use App\Services\External\YandexCloudBalanceProvider;
|
||||
use App\Services\External\YooKassaLivenessProbe;
|
||||
use Illuminate\Bus\Queueable;
|
||||
use Illuminate\Contracts\Queue\ShouldQueue;
|
||||
use Illuminate\Foundation\Bus\Dispatchable;
|
||||
use Illuminate\Queue\InteractsWithQueue;
|
||||
use Illuminate\Queue\SerializesModels;
|
||||
use Illuminate\Support\Facades\DB;
|
||||
use Illuminate\Support\Facades\Mail;
|
||||
|
||||
/**
|
||||
* Ежедневно собирает баланс внешних сервисов и пишет в external_service_balances.
|
||||
* Каждый провайдер изолирован: fetch() не бросает; ok=false оставляет ПРОШЛЫЙ баланс
|
||||
* + метку ошибки (плитка не падает, показывает «данные от ДАТА»). Пишет под
|
||||
* crm_supplier_worker (BYPASSRLS) — таблица системная, как supplier_sync_runs.
|
||||
*
|
||||
* Spec: docs/superpowers/specs/2026-06-28-external-service-balances-design.md
|
||||
*/
|
||||
class RefreshExternalBalancesJob implements ShouldQueue
|
||||
{
|
||||
use Dispatchable, InteractsWithQueue, Queueable, SerializesModels;
|
||||
|
||||
public const DB_CONNECTION = 'pgsql_supplier'; // BYPASSRLS для записи системной таблицы
|
||||
|
||||
/** @return array<int,class-string<BalanceProvider>> */
|
||||
private function providers(): array
|
||||
{
|
||||
return [
|
||||
DadataBalanceProvider::class,
|
||||
SupplierBalanceProvider::class,
|
||||
YandexCloudBalanceProvider::class,
|
||||
Yandex360BalanceProvider::class,
|
||||
];
|
||||
}
|
||||
|
||||
/** @var array<int,LivenessProbe>|null Подмена списка проб в тестах; null → дефолт. */
|
||||
private static ?array $livenessOverride = null;
|
||||
|
||||
/** @param array<int,LivenessProbe> $probes */
|
||||
public static function useLivenessProbes(array $probes): void
|
||||
{
|
||||
self::$livenessOverride = $probes;
|
||||
}
|
||||
|
||||
public static function resetLivenessProbes(): void
|
||||
{
|
||||
self::$livenessOverride = null;
|
||||
}
|
||||
|
||||
/** @return array<int,LivenessProbe> */
|
||||
private function livenessProbes(): array
|
||||
{
|
||||
if (self::$livenessOverride !== null) {
|
||||
return self::$livenessOverride;
|
||||
}
|
||||
|
||||
return [
|
||||
app(YooKassaLivenessProbe::class),
|
||||
app(JivoLivenessProbe::class),
|
||||
app(CaptchaLivenessProbe::class),
|
||||
];
|
||||
}
|
||||
|
||||
public function handle(): void
|
||||
{
|
||||
// Прежние цвета (для edge-trigger алерта): service_key => light.
|
||||
$priorLights = DB::connection(self::DB_CONNECTION)
|
||||
->table('external_service_balances')
|
||||
->pluck('light', 'service_key')
|
||||
->all();
|
||||
|
||||
/** @var array<int,array{key:string,detail:string}> $newlyRed */
|
||||
$newlyRed = [];
|
||||
|
||||
foreach ($this->providers() as $cls) {
|
||||
/** @var BalanceProvider $p */
|
||||
$p = app($cls);
|
||||
$key = $p->serviceKey();
|
||||
$reading = $p->fetch(); // не бросает
|
||||
|
||||
// Свежий query-builder на КАЖДУЮ итерацию: переиспользование одного билдера
|
||||
// накапливает where-клаузы (service_key=A AND service_key=B…) → updateOrInsert
|
||||
// ошибочно идёт в INSERT существующей строки → нарушение PK.
|
||||
$table = DB::connection(self::DB_CONNECTION)->table('external_service_balances');
|
||||
|
||||
if (! $reading->ok) {
|
||||
// Оставляем прошлый баланс, помечаем ok=false + ошибку.
|
||||
$table->updateOrInsert(
|
||||
['service_key' => $key],
|
||||
[
|
||||
'ok' => false,
|
||||
'error' => $reading->error,
|
||||
'checked_at' => $reading->checkedAt,
|
||||
'updated_at' => now(),
|
||||
],
|
||||
);
|
||||
|
||||
continue;
|
||||
}
|
||||
|
||||
[$red, $amber] = $this->floors($key);
|
||||
$h = BalanceHealth::evaluate((float) $reading->balance, $reading->dailySpend, $red, $amber);
|
||||
|
||||
$table->updateOrInsert(
|
||||
['service_key' => $key],
|
||||
[
|
||||
'balance_amount' => $reading->balance,
|
||||
'currency' => $reading->currency,
|
||||
'daily_spend_estimate' => $reading->dailySpend,
|
||||
'days_left' => $h['days_left'],
|
||||
'light' => $h['light'],
|
||||
'ok' => true,
|
||||
'error' => null,
|
||||
'checked_at' => $reading->checkedAt,
|
||||
'updated_at' => now(),
|
||||
],
|
||||
);
|
||||
|
||||
if ($h['light'] === 'red' && ($priorLights[$key] ?? null) !== 'red') {
|
||||
$newlyRed[] = ['key' => $key, 'detail' => 'баланс на исходе'];
|
||||
}
|
||||
}
|
||||
|
||||
// Пробы живости (сервисы без денежного баланса): пишем в ту же таблицу.
|
||||
foreach ($this->livenessProbes() as $probe) {
|
||||
$reading = $probe->check(); // не бросает
|
||||
$key = $probe->serviceKey();
|
||||
|
||||
// Свежий builder на каждую итерацию (как в балансовом цикле).
|
||||
$table = DB::connection(self::DB_CONNECTION)->table('external_service_balances');
|
||||
|
||||
$table->updateOrInsert(
|
||||
['service_key' => $key],
|
||||
[
|
||||
'balance_amount' => null,
|
||||
'currency' => 'RUB',
|
||||
'daily_spend_estimate' => null,
|
||||
'days_left' => null,
|
||||
'light' => $reading->light,
|
||||
// ok=true у green/red (статус определённый), false у grey (не смогли/не применимо).
|
||||
'ok' => $reading->light !== 'grey',
|
||||
// error несёт человеческую подпись для red/grey (для плитки); у green — null.
|
||||
'error' => $reading->light === 'green' ? null : $reading->detail,
|
||||
'checked_at' => $reading->checkedAt,
|
||||
'updated_at' => now(),
|
||||
],
|
||||
);
|
||||
|
||||
if ($reading->light === 'red' && ($priorLights[$key] ?? null) !== 'red') {
|
||||
$newlyRed[] = ['key' => $key, 'detail' => $reading->detail];
|
||||
}
|
||||
}
|
||||
|
||||
// Edge-trigger: одно письмо, если появились новые красные сервисы.
|
||||
if ($newlyRed !== []) {
|
||||
$to = (string) config('services.monitoring.alert_email', 'ops@liderra.ru');
|
||||
Mail::to($to)->send(new ExternalServiceDownMail($newlyRed, now()));
|
||||
}
|
||||
}
|
||||
|
||||
/** @return array{0:float,1:float} [red_floor, amber_floor] */
|
||||
private function floors(string $key): array
|
||||
{
|
||||
return match ($key) {
|
||||
'dadata' => [
|
||||
(float) config('services.dadata.red_floor_rub', 500),
|
||||
(float) config('services.dadata.amber_floor_rub', 2000),
|
||||
],
|
||||
'yandex_cloud' => [
|
||||
(float) config('services.yandex_cloud.red_floor_rub', 1000),
|
||||
(float) config('services.yandex_cloud.amber_floor_rub', 5000),
|
||||
],
|
||||
'supplier' => [
|
||||
(float) config('services.supplier.red_floor_rub', 5000),
|
||||
(float) config('services.supplier.amber_floor_rub', 15000),
|
||||
],
|
||||
'email' => [
|
||||
(float) config('services.yandex360.red_floor_rub', 500),
|
||||
(float) config('services.yandex360.amber_floor_rub', 2000),
|
||||
],
|
||||
default => [0.0, 0.0],
|
||||
};
|
||||
}
|
||||
}
|
||||
@@ -1,47 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Mail;
|
||||
|
||||
use App\Models\AutopodborRun;
|
||||
use Illuminate\Bus\Queueable;
|
||||
use Illuminate\Mail\Mailable;
|
||||
use Illuminate\Mail\Mailables\Content;
|
||||
use Illuminate\Mail\Mailables\Envelope;
|
||||
use Illuminate\Queue\SerializesModels;
|
||||
|
||||
/**
|
||||
* Уведомление клиенту, что фоновый подбор конкурентов завершён (клиент не ждёт у экрана —
|
||||
* поставил задачу, работает дальше, получает письмо «готово»).
|
||||
*/
|
||||
class AutopodborReadyMail extends Mailable
|
||||
{
|
||||
use Queueable;
|
||||
use SerializesModels;
|
||||
|
||||
public function __construct(
|
||||
public AutopodborRun $run,
|
||||
public int $found,
|
||||
) {}
|
||||
|
||||
public function envelope(): Envelope
|
||||
{
|
||||
$subject = $this->found > 0
|
||||
? "Подбор конкурентов готов: {$this->found} — Лидерра"
|
||||
: 'Подбор конкурентов готов — Лидерра';
|
||||
|
||||
return new Envelope(subject: $subject);
|
||||
}
|
||||
|
||||
public function content(): Content
|
||||
{
|
||||
return new Content(
|
||||
markdown: 'mail.autopodbor-ready',
|
||||
with: [
|
||||
'found' => $this->found,
|
||||
'url' => rtrim((string) config('app.url'), '/').'/autopodbor',
|
||||
],
|
||||
);
|
||||
}
|
||||
}
|
||||
@@ -1,40 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Mail;
|
||||
|
||||
use Carbon\CarbonInterface;
|
||||
use Illuminate\Bus\Queueable;
|
||||
use Illuminate\Mail\Mailable;
|
||||
use Illuminate\Mail\Mailables\Content;
|
||||
use Illuminate\Mail\Mailables\Envelope;
|
||||
use Illuminate\Queue\SerializesModels;
|
||||
|
||||
/**
|
||||
* Email-алерт: один или несколько внешних сервисов впервые перешли в «красный»
|
||||
* (упали или деньги на исходе). Шлётся из RefreshExternalBalancesJob по edge-trigger.
|
||||
*/
|
||||
final class ExternalServiceDownMail extends Mailable
|
||||
{
|
||||
use Queueable;
|
||||
use SerializesModels;
|
||||
|
||||
/** @param array<int,array{key:string,detail:string}> $services */
|
||||
public function __construct(
|
||||
public readonly array $services,
|
||||
public readonly CarbonInterface $checkedAt,
|
||||
) {}
|
||||
|
||||
public function envelope(): Envelope
|
||||
{
|
||||
$names = implode(', ', array_map(fn ($s) => $s['key'], $this->services));
|
||||
|
||||
return new Envelope(subject: 'Лидерра: внешний сервис недоступен / баланс на исходе — '.$names);
|
||||
}
|
||||
|
||||
public function content(): Content
|
||||
{
|
||||
return new Content(view: 'emails.external_service_down');
|
||||
}
|
||||
}
|
||||
@@ -8,11 +8,9 @@ use App\Models\Tenant;
|
||||
use App\Models\User;
|
||||
use Illuminate\Bus\Queueable;
|
||||
use Illuminate\Mail\Mailable;
|
||||
use Illuminate\Mail\Mailables\Attachment;
|
||||
use Illuminate\Mail\Mailables\Content;
|
||||
use Illuminate\Mail\Mailables\Envelope;
|
||||
use Illuminate\Queue\SerializesModels;
|
||||
use Illuminate\Support\Str;
|
||||
|
||||
/**
|
||||
* Email-уведомление об оплате тарифного счёта (ТЗ §18.5, событие
|
||||
@@ -33,10 +31,6 @@ class InvoicePaidNotification extends Mailable
|
||||
public string $amountRub,
|
||||
public ?string $invoiceNumber,
|
||||
public ?string $tariffName,
|
||||
/** Относительный путь PDF-акта на диске 'local' (для вложения). */
|
||||
public ?string $actPdfPath = null,
|
||||
/** Номер акта — для имени файла вложения. */
|
||||
public ?string $actNumber = null,
|
||||
) {}
|
||||
|
||||
public function envelope(): Envelope
|
||||
@@ -59,24 +53,4 @@ class InvoicePaidNotification extends Mailable
|
||||
],
|
||||
);
|
||||
}
|
||||
|
||||
/**
|
||||
* Вложение: PDF закрывающего документа (Акт), если он сформирован.
|
||||
*
|
||||
* @return array<int, Attachment>
|
||||
*/
|
||||
public function attachments(): array
|
||||
{
|
||||
if ($this->actPdfPath === null) {
|
||||
return [];
|
||||
}
|
||||
|
||||
$name = 'Akt-'.Str::ascii((string) $this->actNumber).'.pdf';
|
||||
|
||||
return [
|
||||
Attachment::fromStorageDisk('local', $this->actPdfPath)
|
||||
->as($name)
|
||||
->withMime('application/pdf'),
|
||||
];
|
||||
}
|
||||
}
|
||||
|
||||
@@ -1,60 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Models;
|
||||
|
||||
use Illuminate\Database\Eloquent\Model;
|
||||
use Illuminate\Database\Eloquent\Relations\BelongsTo;
|
||||
use Illuminate\Database\Eloquent\Relations\HasMany;
|
||||
|
||||
class AutopodborCompetitor extends Model
|
||||
{
|
||||
public $timestamps = false;
|
||||
|
||||
protected $fillable = [
|
||||
'tenant_id',
|
||||
'search_run_id',
|
||||
'name',
|
||||
'description',
|
||||
'is_federal',
|
||||
'relevance_pct',
|
||||
'origin',
|
||||
'site_url',
|
||||
'directory_urls',
|
||||
'phones',
|
||||
'provenance',
|
||||
'dedup_key',
|
||||
'study_run_id',
|
||||
'studied_at',
|
||||
'box',
|
||||
'elements',
|
||||
'dismissed_actualize_keys',
|
||||
];
|
||||
|
||||
protected $casts = [
|
||||
'is_federal' => 'bool',
|
||||
'directory_urls' => 'array',
|
||||
'elements' => 'array',
|
||||
'phones' => 'array',
|
||||
'provenance' => 'array',
|
||||
'dismissed_actualize_keys' => 'array',
|
||||
'studied_at' => 'datetime',
|
||||
'created_at' => 'datetime',
|
||||
];
|
||||
|
||||
public function sources(): HasMany
|
||||
{
|
||||
return $this->hasMany(AutopodborSource::class, 'competitor_id');
|
||||
}
|
||||
|
||||
public function searchRun(): BelongsTo
|
||||
{
|
||||
return $this->belongsTo(AutopodborRun::class, 'search_run_id');
|
||||
}
|
||||
|
||||
public function studyRun(): BelongsTo
|
||||
{
|
||||
return $this->belongsTo(AutopodborRun::class, 'study_run_id');
|
||||
}
|
||||
}
|
||||
@@ -1,38 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Models;
|
||||
|
||||
use Illuminate\Database\Eloquent\Model;
|
||||
use Illuminate\Database\Eloquent\Relations\BelongsTo;
|
||||
|
||||
/**
|
||||
* Событие слияния конкурентов: что во что слили + снимок поглощённых карточек.
|
||||
* Журнал делает склейку прозрачной и обратимой (вернуть поглощённую карточку из снимка).
|
||||
*/
|
||||
class AutopodborMergeEvent extends Model
|
||||
{
|
||||
public $timestamps = false;
|
||||
|
||||
protected $fillable = [
|
||||
'tenant_id',
|
||||
'user_id',
|
||||
'survivor_id',
|
||||
'survivor_name',
|
||||
'reason',
|
||||
'absorbed',
|
||||
'restored',
|
||||
];
|
||||
|
||||
protected $casts = [
|
||||
'absorbed' => 'array',
|
||||
'restored' => 'bool',
|
||||
'created_at' => 'datetime',
|
||||
];
|
||||
|
||||
public function survivor(): BelongsTo
|
||||
{
|
||||
return $this->belongsTo(AutopodborCompetitor::class, 'survivor_id');
|
||||
}
|
||||
}
|
||||
@@ -1,44 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Models;
|
||||
|
||||
use Illuminate\Database\Eloquent\Model;
|
||||
use Illuminate\Database\Eloquent\Relations\HasMany;
|
||||
|
||||
class AutopodborRun extends Model
|
||||
{
|
||||
public $timestamps = false;
|
||||
|
||||
protected $fillable = [
|
||||
'tenant_id',
|
||||
'kind',
|
||||
'status',
|
||||
'region_code',
|
||||
'params',
|
||||
'competitor_id',
|
||||
'price_rub_charged',
|
||||
'balance_transaction_id',
|
||||
'error_code',
|
||||
'started_at',
|
||||
'finished_at',
|
||||
'progress',
|
||||
'result',
|
||||
];
|
||||
|
||||
protected $casts = [
|
||||
'params' => 'array',
|
||||
'progress' => 'array',
|
||||
'result' => 'array',
|
||||
'price_rub_charged' => 'decimal:2',
|
||||
'started_at' => 'datetime',
|
||||
'finished_at' => 'datetime',
|
||||
'created_at' => 'datetime',
|
||||
];
|
||||
|
||||
public function competitors(): HasMany
|
||||
{
|
||||
return $this->hasMany(AutopodborCompetitor::class, 'search_run_id');
|
||||
}
|
||||
}
|
||||
@@ -1,47 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Models;
|
||||
|
||||
use Illuminate\Database\Eloquent\Model;
|
||||
use Illuminate\Database\Eloquent\Relations\BelongsTo;
|
||||
|
||||
class AutopodborSource extends Model
|
||||
{
|
||||
public $timestamps = false;
|
||||
|
||||
protected $fillable = [
|
||||
'tenant_id',
|
||||
'competitor_id',
|
||||
'study_run_id',
|
||||
'signal_type',
|
||||
'identifier',
|
||||
'phone_kind',
|
||||
'phone_type',
|
||||
'provenance_url',
|
||||
'provenance_label',
|
||||
'dedup_key',
|
||||
'created_project_id',
|
||||
'box',
|
||||
'where_found',
|
||||
'office',
|
||||
'confirmations',
|
||||
];
|
||||
|
||||
protected $casts = [
|
||||
'created_at' => 'datetime',
|
||||
'where_found' => 'array',
|
||||
'confirmations' => 'integer',
|
||||
];
|
||||
|
||||
public function competitor(): BelongsTo
|
||||
{
|
||||
return $this->belongsTo(AutopodborCompetitor::class, 'competitor_id');
|
||||
}
|
||||
|
||||
public function project(): BelongsTo
|
||||
{
|
||||
return $this->belongsTo(Project::class, 'created_project_id');
|
||||
}
|
||||
}
|
||||
@@ -42,8 +42,6 @@ class BalanceTransaction extends Model
|
||||
|
||||
public const TYPE_MIGRATION = 'migration';
|
||||
|
||||
public const TYPE_AUTOPODBOR_CHARGE = 'autopodbor_charge';
|
||||
|
||||
public $timestamps = false;
|
||||
|
||||
protected $fillable = [
|
||||
|
||||
@@ -0,0 +1,17 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Models;
|
||||
|
||||
use Illuminate\Database\Eloquent\Model;
|
||||
|
||||
/** Строка журнала диалога бота (direction: in/out). created_at only — updated_at нет. */
|
||||
class BotDialog extends Model
|
||||
{
|
||||
public $timestamps = false;
|
||||
|
||||
protected $guarded = [];
|
||||
|
||||
protected $casts = ['matched_chunks' => 'array', 'escalated' => 'bool', 'created_at' => 'datetime'];
|
||||
}
|
||||
@@ -0,0 +1,13 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Models;
|
||||
|
||||
use Illuminate\Database\Eloquent\Model;
|
||||
|
||||
/** Чанк базы знаний бота. search_tsv — generated column, в PHP не трогаем. */
|
||||
class KnowledgeChunk extends Model
|
||||
{
|
||||
protected $guarded = [];
|
||||
}
|
||||
@@ -19,6 +19,6 @@ class LegalEntity extends Model
|
||||
'code', 'name', 'short_name', 'legal_form', 'inn', 'kpp', 'ogrn',
|
||||
'okpo', 'legal_address', 'actual_address', 'bank_name', 'bank_account',
|
||||
'bank_bik', 'bank_corr', 'director_name', 'director_post',
|
||||
'director_basis', 'vat_mode', 'is_default',
|
||||
'director_basis', 'vat_mode',
|
||||
];
|
||||
}
|
||||
|
||||
@@ -1,79 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Models;
|
||||
|
||||
use Illuminate\Database\Eloquent\Model;
|
||||
use Illuminate\Database\Eloquent\Relations\HasMany;
|
||||
use Illuminate\Support\Carbon;
|
||||
|
||||
/**
|
||||
* Счёт на оплату (schema.sql table saas_invoices). RLS по tenant_id.
|
||||
* Этап 1 «оплата по счёту»: выставляется клиентом, оплачивается банковским
|
||||
* переводом, отмечается администратором (InvoicePaymentService).
|
||||
*
|
||||
* @property int $id
|
||||
* @property int $tenant_id
|
||||
* @property int $legal_entity_id
|
||||
* @property string $invoice_number
|
||||
* @property string $payer_type
|
||||
* @property string|null $payer_name
|
||||
* @property string|null $payer_inn
|
||||
* @property string|null $payer_kpp
|
||||
* @property string|null $payer_address
|
||||
* @property string|null $payer_email
|
||||
* @property string $amount_net
|
||||
* @property string|null $vat_rate
|
||||
* @property string|null $vat_amount
|
||||
* @property string $amount_total
|
||||
* @property string|null $payment_purpose
|
||||
* @property int|null $transaction_id
|
||||
* @property string|null $pdf_path
|
||||
* @property string $status
|
||||
* @property Carbon|null $issued_at
|
||||
* @property Carbon|null $expires_at
|
||||
* @property Carbon|null $paid_at
|
||||
* @property Carbon|null $cancelled_at
|
||||
*/
|
||||
class SaasInvoice extends Model
|
||||
{
|
||||
public $timestamps = false;
|
||||
|
||||
public const STATUS_DRAFT = 'draft';
|
||||
|
||||
public const STATUS_ISSUED = 'issued';
|
||||
|
||||
public const STATUS_PAID = 'paid';
|
||||
|
||||
public const STATUS_OVERDUE = 'overdue';
|
||||
|
||||
public const STATUS_CANCELLED = 'cancelled';
|
||||
|
||||
protected $fillable = [
|
||||
'tenant_id', 'legal_entity_id', 'invoice_number',
|
||||
'payer_type', 'payer_name', 'payer_inn', 'payer_kpp', 'payer_address', 'payer_email',
|
||||
'amount_net', 'vat_rate', 'vat_amount', 'amount_total', 'payment_purpose',
|
||||
'transaction_id', 'pdf_path', 'status',
|
||||
'issued_at', 'expires_at', 'paid_at', 'cancelled_at',
|
||||
];
|
||||
|
||||
protected function casts(): array
|
||||
{
|
||||
return [
|
||||
'amount_net' => 'decimal:2',
|
||||
'vat_amount' => 'decimal:2',
|
||||
'amount_total' => 'decimal:2',
|
||||
'issued_at' => 'datetime',
|
||||
'expires_at' => 'datetime',
|
||||
'paid_at' => 'datetime',
|
||||
'cancelled_at' => 'datetime',
|
||||
];
|
||||
}
|
||||
|
||||
/** @return HasMany<SaasInvoiceItem, $this> */
|
||||
public function items(): HasMany
|
||||
{
|
||||
return $this->hasMany(SaasInvoiceItem::class, 'invoice_id');
|
||||
}
|
||||
}
|
||||
@@ -1,42 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Models;
|
||||
|
||||
use Illuminate\Database\Eloquent\Model;
|
||||
|
||||
/**
|
||||
* Позиция счёта (schema.sql table saas_invoice_items). RLS косвенно через invoice_id.
|
||||
*
|
||||
* @property int $id
|
||||
* @property int $invoice_id
|
||||
* @property string $name
|
||||
* @property string|null $okpd2
|
||||
* @property string $quantity
|
||||
* @property string $unit
|
||||
* @property string $price
|
||||
* @property string $amount_net
|
||||
* @property string|null $vat_rate
|
||||
* @property string|null $vat_amount
|
||||
* @property string $amount_total
|
||||
*/
|
||||
class SaasInvoiceItem extends Model
|
||||
{
|
||||
public $timestamps = false;
|
||||
|
||||
protected $fillable = [
|
||||
'invoice_id', 'name', 'okpd2', 'quantity', 'unit',
|
||||
'price', 'amount_net', 'vat_rate', 'vat_amount', 'amount_total',
|
||||
];
|
||||
|
||||
protected function casts(): array
|
||||
{
|
||||
return [
|
||||
'quantity' => 'decimal:3',
|
||||
'price' => 'decimal:2',
|
||||
'amount_net' => 'decimal:2',
|
||||
'amount_total' => 'decimal:2',
|
||||
];
|
||||
}
|
||||
}
|
||||
@@ -1,60 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Models;
|
||||
|
||||
use Illuminate\Database\Eloquent\Model;
|
||||
use Illuminate\Support\Carbon;
|
||||
|
||||
/**
|
||||
* Закрывающий документ (schema.sql table saas_upd_documents). RLS по tenant_id.
|
||||
* Для УСН без НДС используем upd_function='ДОП' (передаточный документ без
|
||||
* счёта-фактуры) — формируется как Акт об оказании услуг (ActService).
|
||||
*
|
||||
* @property int $id
|
||||
* @property int $tenant_id
|
||||
* @property int $legal_entity_id
|
||||
* @property string $upd_number
|
||||
* @property string $upd_function
|
||||
* @property int|null $correction_for
|
||||
* @property string $buyer_type
|
||||
* @property string|null $buyer_name
|
||||
* @property string|null $buyer_inn
|
||||
* @property string|null $buyer_kpp
|
||||
* @property string|null $buyer_address
|
||||
* @property string $amount_net
|
||||
* @property string|null $vat_rate
|
||||
* @property string|null $vat_amount
|
||||
* @property string $amount_total
|
||||
* @property int|null $invoice_id
|
||||
* @property int|null $transaction_id
|
||||
* @property string|null $pdf_path
|
||||
* @property string $status
|
||||
* @property Carbon|null $issued_at
|
||||
*/
|
||||
class SaasUpdDocument extends Model
|
||||
{
|
||||
public $timestamps = false;
|
||||
|
||||
protected $table = 'saas_upd_documents';
|
||||
|
||||
public const FUNCTION_DOP = 'ДОП';
|
||||
|
||||
protected $fillable = [
|
||||
'tenant_id', 'legal_entity_id', 'upd_number', 'upd_function', 'correction_for',
|
||||
'buyer_type', 'buyer_name', 'buyer_inn', 'buyer_kpp', 'buyer_address',
|
||||
'amount_net', 'vat_rate', 'vat_amount', 'amount_total',
|
||||
'invoice_id', 'transaction_id', 'pdf_path', 'status', 'issued_at',
|
||||
];
|
||||
|
||||
protected function casts(): array
|
||||
{
|
||||
return [
|
||||
'amount_net' => 'decimal:2',
|
||||
'vat_amount' => 'decimal:2',
|
||||
'amount_total' => 'decimal:2',
|
||||
'issued_at' => 'datetime',
|
||||
];
|
||||
}
|
||||
}
|
||||
@@ -1,226 +0,0 @@
|
||||
<?php
|
||||
|
||||
namespace App\Providers;
|
||||
|
||||
use App\Services\Autopodbor\Agent\Aggregator\AggregatorFilter;
|
||||
use App\Services\Autopodbor\Agent\Aggregator\AitunnelAggregatorClassifier;
|
||||
use App\Services\Autopodbor\Agent\ChannelA\AitunnelQueryAnalyzer;
|
||||
use App\Services\Autopodbor\Agent\ChannelA\CategoryScraper;
|
||||
use App\Services\Autopodbor\Agent\ChannelA\PlaywrightYandexDirectory;
|
||||
use App\Services\Autopodbor\Agent\ChannelB\AitunnelResearcher;
|
||||
use App\Services\Autopodbor\Agent\ChannelB\ChannelBSearch;
|
||||
use App\Services\Autopodbor\Agent\ChannelB\ExaSiteFinder;
|
||||
use App\Services\Autopodbor\Agent\ChannelB\ResearcherParser;
|
||||
use App\Services\Autopodbor\Agent\CompetitorAgent;
|
||||
use App\Services\Autopodbor\Agent\CompetitorCardEnricher;
|
||||
use App\Services\Autopodbor\Agent\Extract\DirectoryParser;
|
||||
use App\Services\Autopodbor\Agent\Extract\HtmlTwoGisReader;
|
||||
use App\Services\Autopodbor\Agent\Extract\TwoGisJsonReader;
|
||||
use App\Services\Autopodbor\Agent\Extract\TwoGisReader;
|
||||
use App\Services\Autopodbor\Agent\FakeCompetitorAgent;
|
||||
use App\Services\Autopodbor\Agent\Fetch\BatchPageFetcher;
|
||||
use App\Services\Autopodbor\Agent\Fetch\CachingPageFetcher;
|
||||
use App\Services\Autopodbor\Agent\Fetch\CompositeFetcher;
|
||||
use App\Services\Autopodbor\Agent\Fetch\CurlPlaywrightFetcher;
|
||||
use App\Services\Autopodbor\Agent\Fetch\LivePageFetcher;
|
||||
use App\Services\Autopodbor\Agent\Fetch\LocalYandexListSource;
|
||||
use App\Services\Autopodbor\Agent\Fetch\PlaywrightPageFetcher;
|
||||
use App\Services\Autopodbor\Agent\Fetch\RenderServiceYandexListSource;
|
||||
use App\Services\Autopodbor\Agent\Fetch\RoutingBatchFetcher;
|
||||
use App\Services\Autopodbor\Agent\Fetch\SelfRenderClient;
|
||||
use App\Services\Autopodbor\Agent\Fetch\XfetchClient;
|
||||
use App\Services\Autopodbor\Agent\Fetch\XfetchDirectoryFetcher;
|
||||
use App\Services\Autopodbor\Agent\Fetch\YandexListSource;
|
||||
use App\Services\Autopodbor\Agent\FindCompetitorsAssembler;
|
||||
use App\Services\Autopodbor\Agent\LiveFindCompetitors;
|
||||
use App\Services\Autopodbor\Agent\RealCompetitorAgent;
|
||||
use App\Services\Autopodbor\Agent\Similarity\AitunnelEmbedder;
|
||||
use App\Services\Autopodbor\Agent\Similarity\EmbeddingRelevance;
|
||||
use App\Services\Autopodbor\Agent\Study\CompositePhoneReverse;
|
||||
use App\Services\Autopodbor\Agent\Study\DeepStudyCollector;
|
||||
use App\Services\Autopodbor\Agent\Study\ParallelPhoneReverse;
|
||||
use App\Services\Autopodbor\Agent\Study\PhoneReverse;
|
||||
use App\Services\Autopodbor\Agent\Study\PhoneReverseExpander;
|
||||
use App\Services\Autopodbor\Agent\Study\SiteOpener;
|
||||
use App\Services\Autopodbor\Agent\Study\Yandex\PlaywrightYandexCardReader;
|
||||
use App\Services\Autopodbor\Agent\Study\Yandex\PlaywrightYandexPhoneSearch;
|
||||
use App\Services\Autopodbor\Agent\Study\YandexPhoneReverseExpander;
|
||||
use App\Services\Autopodbor\AutopodborDedup;
|
||||
use App\Services\Autopodbor\AutopodborNormalizer;
|
||||
use App\Services\Autopodbor\RunProgressChannel;
|
||||
use Illuminate\Http\Client\Factory as HttpFactory;
|
||||
use Illuminate\Support\ServiceProvider;
|
||||
|
||||
class AutopodborServiceProvider extends ServiceProvider
|
||||
{
|
||||
public function register(): void
|
||||
{
|
||||
// Один канал прогресса на процесс: джоба привязывает его к своему прогону, движок пишет этапы.
|
||||
$this->app->singleton(RunProgressChannel::class);
|
||||
|
||||
// Шаг 2 (изучение конкурента) — настоящий движок: сайт конкурента берём обычным curl +
|
||||
// локальный Playwright, справочники 2ГИС/Яндекс — через антибот xfetch.ru ИЛИ свой рендер-сервис.
|
||||
//
|
||||
// Слой добычи 2ГИС/Яндекс переключается флагом autopodbor.self_render (§4, §12):
|
||||
// ВКЛ → SelfRenderClient (виртуалка+прокси; 2ГИС отдаёт initialState) + TwoGisJsonReader.
|
||||
// ВЫКЛ → XfetchClient (xf4) + HtmlTwoGisReader — как сейчас.
|
||||
// Фетчер и 2ГИС-ридер меняются ПАРОЙ (иначе JSON уйдёт в HTML-парсер и вернёт пусто).
|
||||
//
|
||||
// Шаг 1 (поиск): при autopodbor.real_find — ЖИВОЙ движок; без ИИ-ключа отсев/похожесть отключены
|
||||
// (деградация). Флаг ВЫКЛ → findCompetitors отдаёт демо-заглушку.
|
||||
$this->app->bind(CompetitorAgent::class, function ($app): CompetitorAgent {
|
||||
$selfRender = (bool) config('autopodbor.self_render');
|
||||
$sr = $selfRender ? $this->selfRenderClient() : null;
|
||||
|
||||
// Загрузчик xf4 (нужен всегда для xf4-пути и как база RoutingBatchFetcher под Яндекс).
|
||||
$xfetch = new XfetchClient(
|
||||
apiKey: config('services.xfetch.key'),
|
||||
endpoint: config('services.xfetch.endpoint', 'https://xf4.ru/fetch'),
|
||||
concurrency: (int) config('services.xfetch.concurrency', 4),
|
||||
);
|
||||
|
||||
// Основной загрузчик КАРТОЧЕК: self-render ИЛИ xf4 — обёрнут кэшем (§render_cache).
|
||||
// Ключ по URL в Redis → шаг 1 и шаг 2 делят ОДИН кэш; кэшируются только карточки
|
||||
// (/firm/, /maps/org/), поиск/ленты (/search/) идут мимо (passthrough). Флаг ВЫКЛ → как есть.
|
||||
$pages = $this->wrapCache($sr ?? $xfetch);
|
||||
// В self-render режиме обёрнутый загрузчик = обёрнутый self-render (тот же экземпляр $pages).
|
||||
$srCards = $sr !== null ? $pages : null;
|
||||
$reader = $this->twoGisReader();
|
||||
|
||||
// Таймаут 15с (было 45): сайт конкурента отвечает за 1-3с; режем только висяки, не теряя живых.
|
||||
$siteFetcher = new CurlPlaywrightFetcher(timeout: 15);
|
||||
$fetcher = new CompositeFetcher(
|
||||
siteFetcher: $siteFetcher,
|
||||
directoryFetcher: new XfetchDirectoryFetcher($pages),
|
||||
);
|
||||
|
||||
$deep = config('autopodbor.deep_study')
|
||||
? new DeepStudyCollector(
|
||||
xfetch: $pages,
|
||||
opener: new SiteOpener($siteFetcher),
|
||||
reverse: config('autopodbor.phone_reverse')
|
||||
? $this->buildPhoneReverse($pages, $reader)
|
||||
: null,
|
||||
reader: $reader,
|
||||
// self-render: Яндекс-справочник шага 2 — через виртуалку+прокси; иначе (null) движок
|
||||
// строит дефолт (локальный Playwright). §5.3/§5.7. Загрузчик карточек — обёрнутый кэшем.
|
||||
yandexDir: $srCards !== null ? new XfetchDirectoryFetcher($srCards, new DirectoryParser) : null,
|
||||
)
|
||||
: null;
|
||||
|
||||
$liveFind = config('autopodbor.real_find')
|
||||
? $this->buildLiveFind($xfetch, $srCards, $reader)
|
||||
: null;
|
||||
|
||||
return new RealCompetitorAgent(
|
||||
$fetcher,
|
||||
new FakeCompetitorAgent,
|
||||
liveFind: $liveFind,
|
||||
deep: $deep,
|
||||
progress: $app->make(RunProgressChannel::class),
|
||||
);
|
||||
});
|
||||
}
|
||||
|
||||
/**
|
||||
* Обернуть загрузчик КАРТОЧЕК общим кэшем (§render_cache). ВКЛ → {@see CachingPageFetcher}
|
||||
* (карточки /firm/, /maps/org/ в Redis на N дней; поиск/ленты — мимо). ВЫКЛ → фетчер как есть.
|
||||
* Ключ по URL → любые обёрнутые экземпляры делят один кэш (шаг 1 ↔ шаг 2 ↔ повторный прогон).
|
||||
*/
|
||||
public function wrapCache(BatchPageFetcher $inner): BatchPageFetcher
|
||||
{
|
||||
return config('autopodbor.render_cache')
|
||||
? new CachingPageFetcher($inner, (int) config('autopodbor.render_cache_ttl_days', 5))
|
||||
: $inner;
|
||||
}
|
||||
|
||||
/** Клиент своего рендер-сервиса (виртуалка). Без endpoint/key деградирует в пусто (§5.6). */
|
||||
private function selfRenderClient(): SelfRenderClient
|
||||
{
|
||||
return new SelfRenderClient(
|
||||
endpoint: (string) config('services.self_render.endpoint', ''),
|
||||
key: (string) config('services.self_render.key', ''),
|
||||
concurrency: (int) config('services.self_render.concurrency', 8),
|
||||
);
|
||||
}
|
||||
|
||||
/** 2ГИС-ридер под текущий флаг: initialState-JSON (self-render) ИЛИ HTML (xf4). Пара к фетчеру. */
|
||||
public function twoGisReader(): TwoGisReader
|
||||
{
|
||||
return config('autopodbor.self_render') ? new TwoGisJsonReader : new HtmlTwoGisReader;
|
||||
}
|
||||
|
||||
/** Источник ленты Яндекс.Карт: виртуалка+прокси (self-render) ИЛИ локальный Playwright (xf4). */
|
||||
public function yandexListSource(): YandexListSource
|
||||
{
|
||||
if (config('autopodbor.self_render')) {
|
||||
return new RenderServiceYandexListSource(
|
||||
(string) config('services.self_render.endpoint', ''),
|
||||
(string) config('services.self_render.key', ''),
|
||||
);
|
||||
}
|
||||
|
||||
return new LocalYandexListSource((string) config('autopodbor.node_bin', 'node'));
|
||||
}
|
||||
|
||||
private function buildPhoneReverse(BatchPageFetcher $pages, TwoGisReader $reader): PhoneReverse
|
||||
{
|
||||
$gis = new PhoneReverseExpander($pages, $reader);
|
||||
if (! config('autopodbor.phone_reverse_yandex')) {
|
||||
return $gis;
|
||||
}
|
||||
$node = (string) config('autopodbor.node_bin', 'node');
|
||||
// Яндекс-разворот: под self_render — виртуалка+прокси (лента + чтение карточки), иначе локальный Playwright.
|
||||
// Чтение карточек (/maps/org/) под self_render оборачиваем общим кэшем; Playwright (xf4) — нет.
|
||||
$cardFetcher = config('autopodbor.self_render')
|
||||
? $this->wrapCache($this->selfRenderClient())
|
||||
: new PlaywrightPageFetcher($node);
|
||||
$yandex = new YandexPhoneReverseExpander(
|
||||
new PlaywrightYandexPhoneSearch($this->yandexListSource()),
|
||||
new PlaywrightYandexCardReader($cardFetcher),
|
||||
);
|
||||
|
||||
// phone_reverse_parallel: 2ГИС и Яндекс крутятся ОДНОВРЕМЕННО (итог = max, оба источника целы).
|
||||
// Иначе — последовательный композит (как раньше). По умолчанию ВЫКЛ, откат — флаг в false.
|
||||
return config('autopodbor.phone_reverse_parallel')
|
||||
? new ParallelPhoneReverse($gis, $yandex)
|
||||
: new CompositePhoneReverse([$gis, $yandex]);
|
||||
}
|
||||
|
||||
/**
|
||||
* Живой движок поиска шага 1 — ФИНАЛ v4: АНАЛИЗ (мелкая модель → запросы-рубрики) → КАНАЛ А (скрейп
|
||||
* категории 2ГИС с пагинацией → карточки) → КАНАЛ В (модель → ИМЕНА федералов; их САЙТ через EXA) →
|
||||
* сборка (отсев агрегаторов + дедуп + похожесть + DTO). Все ИИ/exa/фетч-клиенты деградируют при пустом
|
||||
* ключе. Слой 2ГИС/Яндекс — self-render ($sr) ИЛИ xf4 ($xfetch), пара с $reader.
|
||||
*/
|
||||
private function buildLiveFind(XfetchClient $xfetch, ?BatchPageFetcher $srCards, TwoGisReader $reader): LiveFindCompetitors
|
||||
{
|
||||
$http = $this->app->make(HttpFactory::class);
|
||||
$node = (string) config('autopodbor.node_bin', 'node');
|
||||
|
||||
// Скрейп листинга 2ГИС (страницы /search/ — не кэшируются): self-render ИЛИ LivePageFetcher(xfetch).
|
||||
$catPages = $srCards ?? new LivePageFetcher($xfetch);
|
||||
// Обогатитель КАРТОЧЕК: self-render (обёрнут кэшем) ИЛИ RoutingBatchFetcher, где 2ГИС-база
|
||||
// обёрнута кэшем (/firm/ из кэша), а карточки Яндекса — локальный Playwright (кэш не трогаем).
|
||||
$enrichPages = $srCards ?? new RoutingBatchFetcher($this->wrapCache($xfetch), ['yandex' => new PlaywrightPageFetcher($node)]);
|
||||
|
||||
$assembler = new FindCompetitorsAssembler(
|
||||
new AggregatorFilter($this->app->make(AitunnelAggregatorClassifier::class)),
|
||||
new AutopodborDedup(new AutopodborNormalizer),
|
||||
new EmbeddingRelevance($this->app->make(AitunnelEmbedder::class)),
|
||||
);
|
||||
|
||||
return new LiveFindCompetitors(
|
||||
new AitunnelQueryAnalyzer($http),
|
||||
// 2ГИС: 4 страницы на рубрику (5-я — «хвост» низкоранговых, шум). Кол-во режем на старте.
|
||||
new CategoryScraper($catPages, $reader, maxPages: 4),
|
||||
new PlaywrightYandexDirectory($this->yandexListSource()),
|
||||
new ChannelBSearch(new AitunnelResearcher($http), new ResearcherParser),
|
||||
new ExaSiteFinder($http),
|
||||
$assembler,
|
||||
enricher: new CompetitorCardEnricher($enrichPages, new DirectoryParser, $reader),
|
||||
// Канал прогресса (синглтон): джоба привяжет его к прогону, движок отметит этапы.
|
||||
progress: $this->app->make(RunProgressChannel::class),
|
||||
);
|
||||
}
|
||||
}
|
||||
@@ -1,19 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Services\Autopodbor\Agent\Aggregator;
|
||||
|
||||
/**
|
||||
* Граница «это поставщик услуги или площадка-агрегатор?» (§12.6 движка v4). За ней — LLM-рассуждение
|
||||
* (sonar-reasoning-pro и т.п.), а НЕ статический список площадок (он мёртв: все агрегаторы не знаем,
|
||||
* плодятся). Позволяет фильтровать агрегаторов офлайн на фейке.
|
||||
*/
|
||||
interface AggregatorClassifier
|
||||
{
|
||||
/**
|
||||
* true — площадка-агрегатор (Авито/Юла/Zoon/Банки.ру…); false — поставщик услуги;
|
||||
* null — модель не смогла решить (тогда конкурента НЕ выкидываем, см. {@see AggregatorFilter}).
|
||||
*/
|
||||
public function isAggregator(string $name, ?string $siteUrl, ?string $description): ?bool;
|
||||
}
|
||||
@@ -1,50 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Services\Autopodbor\Agent\Aggregator;
|
||||
|
||||
/**
|
||||
* Отсев площадок-агрегаторов из кандидатов (§12.6): спрашивает {@see AggregatorClassifier} по каждому.
|
||||
* Консервативно: выкидываем ТОЛЬКО когда классификатор уверенно сказал «агрегатор» (true). При
|
||||
* неуверенности (null) или «поставщик» (false) — конкурента оставляем, чтобы не потерять настоящего.
|
||||
*/
|
||||
final class AggregatorFilter
|
||||
{
|
||||
public function __construct(private readonly AggregatorClassifier $classifier) {}
|
||||
|
||||
/**
|
||||
* @param array<int, array{name?:string,site_url?:?string,description?:?string}> $candidates
|
||||
* @return array<int, array>
|
||||
*/
|
||||
public function filter(array $candidates): array
|
||||
{
|
||||
$candidates = array_values($candidates);
|
||||
|
||||
// Классификатор умеет батч → один запрос на весь список (иначе ~90 запросов по одному, «умирает»).
|
||||
$verdicts = $this->classifier instanceof BatchAggregatorClassifier && $candidates !== []
|
||||
? $this->classifier->classifyManyAggregators(array_map(fn (array $c): array => [
|
||||
'name' => (string) ($c['name'] ?? ''),
|
||||
'site_url' => $c['site_url'] ?? null,
|
||||
'description' => $c['description'] ?? null,
|
||||
], $candidates))
|
||||
: null;
|
||||
|
||||
$out = [];
|
||||
foreach ($candidates as $i => $c) {
|
||||
$verdict = $verdicts !== null
|
||||
? ($verdicts[$i] ?? null)
|
||||
: $this->classifier->isAggregator(
|
||||
(string) ($c['name'] ?? ''),
|
||||
$c['site_url'] ?? null,
|
||||
$c['description'] ?? null,
|
||||
);
|
||||
if ($verdict === true) {
|
||||
continue; // площадка — не конкурент
|
||||
}
|
||||
$out[] = $c;
|
||||
}
|
||||
|
||||
return array_values($out);
|
||||
}
|
||||
}
|
||||
@@ -1,189 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Services\Autopodbor\Agent\Aggregator;
|
||||
|
||||
use Illuminate\Http\Client\Factory as HttpFactory;
|
||||
|
||||
/**
|
||||
* Живой {@see AggregatorClassifier} через AITUNNEL (OpenAI-совместимый chat, §12.6): спрашивает
|
||||
* у модели, поставщик ли это услуги или площадка-агрегатор. POST {base}/chat/completions →
|
||||
* {choices:[{message:{content}}]}. Ответ AGGREGATOR → true, SUPPLIER → false, иначе/без ключа/
|
||||
* при ошибке → null (тогда конкурента НЕ выкидываем — консервативно).
|
||||
*/
|
||||
final class AitunnelAggregatorClassifier implements AggregatorClassifier, BatchAggregatorClassifier
|
||||
{
|
||||
public function __construct(private readonly HttpFactory $http) {}
|
||||
|
||||
/**
|
||||
* Батч отсева агрегаторов: список режем на ПОРЦИИ по aggregator_batch_size (иначе один запрос
|
||||
* на ~100 фирм долгий и рискует не успеть в таймаут). Каждая порция — один запрос с длинным
|
||||
* таймаутом aggregator_timeout_sec. Пропущенные/непонятные/сбой порции — null (консервативно).
|
||||
*
|
||||
* @param list<array{name:string,site_url:?string,description:?string}> $companies
|
||||
* @return list<?bool>
|
||||
*/
|
||||
public function classifyManyAggregators(array $companies): array
|
||||
{
|
||||
$companies = array_values($companies);
|
||||
$n = count($companies);
|
||||
$none = array_fill(0, $n, null);
|
||||
if ($n === 0) {
|
||||
return [];
|
||||
}
|
||||
|
||||
$cfg = (array) config('services.aitunnel');
|
||||
$key = (string) ($cfg['key'] ?? '');
|
||||
if ($key === '') {
|
||||
return $none;
|
||||
}
|
||||
|
||||
$batchSize = max(1, (int) ($cfg['aggregator_batch_size'] ?? 40));
|
||||
$out = $none;
|
||||
$offset = 0;
|
||||
foreach (array_chunk($companies, $batchSize) as $chunk) {
|
||||
foreach ($this->classifyChunk($chunk, $key, $cfg) as $i => $verdict) {
|
||||
$out[$offset + $i] = $verdict;
|
||||
}
|
||||
$offset += count($chunk);
|
||||
}
|
||||
|
||||
return $out;
|
||||
}
|
||||
|
||||
/**
|
||||
* Одна порция: нумеруем 1..m, один запрос к модели с длинным таймаутом. Ответ → вердикты порции.
|
||||
*
|
||||
* @param list<array{name:string,site_url:?string,description:?string}> $chunk
|
||||
* @return list<?bool>
|
||||
*/
|
||||
private function classifyChunk(array $chunk, string $key, array $cfg): array
|
||||
{
|
||||
$none = array_fill(0, count($chunk), null);
|
||||
|
||||
$lines = [];
|
||||
foreach ($chunk as $i => $c) {
|
||||
$lines[] = ($i + 1).'. «'.($c['name'] ?? '').'» сайт: '.($c['site_url'] ?: '—').
|
||||
' описание: '.($c['description'] ?: '—');
|
||||
}
|
||||
$prompt = "Список компаний:\n".implode("\n", $lines)."\n\n".
|
||||
'Для КАЖДОЙ определи: это сам поставщик услуги/товара (SUPPLIER) или площадка-агрегатор/'
|
||||
.'каталог/маркетплейс/сравнение/справочник, который сводит клиентов с разными компаниями '
|
||||
.'(AGGREGATOR)? Ответ — СТРОГО JSON-массив по номерам, без текста вне него: '
|
||||
.'[{"n":1,"v":"SUPPLIER"},{"n":2,"v":"AGGREGATOR"}]';
|
||||
|
||||
try {
|
||||
$resp = $this->http
|
||||
->withToken($key)
|
||||
->timeout((int) ($cfg['aggregator_timeout_sec'] ?? 90))
|
||||
->post(rtrim((string) ($cfg['base_url'] ?? ''), '/').'/chat/completions', [
|
||||
'model' => $this->model($cfg),
|
||||
'messages' => [['role' => 'user', 'content' => $prompt]],
|
||||
'temperature' => 0,
|
||||
]);
|
||||
|
||||
if (! $resp->successful()) {
|
||||
return $none;
|
||||
}
|
||||
|
||||
return $this->parseVerdicts((string) $resp->json('choices.0.message.content'), $none);
|
||||
} catch (\Throwable) {
|
||||
return $none;
|
||||
}
|
||||
}
|
||||
|
||||
/**
|
||||
* JSON-массив [{n,v}] из ответа → вердикты по индексам (n − 1). Пропущенные — остаются null.
|
||||
*
|
||||
* @param list<?bool> $none болванка нужной длины
|
||||
* @return list<?bool>
|
||||
*/
|
||||
private function parseVerdicts(string $content, array $none): array
|
||||
{
|
||||
$start = strpos($content, '[');
|
||||
$end = strrpos($content, ']');
|
||||
if ($start === false || $end === false || $end < $start) {
|
||||
return $none;
|
||||
}
|
||||
$arr = json_decode(substr($content, $start, $end - $start + 1), true);
|
||||
if (! is_array($arr)) {
|
||||
return $none;
|
||||
}
|
||||
|
||||
$out = $none;
|
||||
$count = count($none);
|
||||
foreach ($arr as $row) {
|
||||
if (! is_array($row) || ! isset($row['n'])) {
|
||||
continue;
|
||||
}
|
||||
$idx = ((int) $row['n']) - 1;
|
||||
if ($idx < 0 || $idx >= $count) {
|
||||
continue;
|
||||
}
|
||||
$v = mb_strtolower((string) ($row['v'] ?? ''));
|
||||
if (str_contains($v, 'aggregator')) {
|
||||
$out[$idx] = true;
|
||||
} elseif (str_contains($v, 'supplier')) {
|
||||
$out[$idx] = false;
|
||||
}
|
||||
}
|
||||
|
||||
return $out;
|
||||
}
|
||||
|
||||
/**
|
||||
* Модель для отсева агрегаторов: aggregator_model (посильнее, вариант А) → фолбэк на общий
|
||||
* chat_model → gpt-4o-mini. Отдельный ключ, чтобы усилить точность классификации, не трогая
|
||||
* остальные ИИ-вызовы.
|
||||
*
|
||||
* @param array<string,mixed> $cfg
|
||||
*/
|
||||
private function model(array $cfg): string
|
||||
{
|
||||
$m = (string) ($cfg['aggregator_model'] ?? '');
|
||||
|
||||
return $m !== '' ? $m : (string) ($cfg['chat_model'] ?? 'gpt-4o-mini');
|
||||
}
|
||||
|
||||
public function isAggregator(string $name, ?string $siteUrl, ?string $description): ?bool
|
||||
{
|
||||
$cfg = (array) config('services.aitunnel');
|
||||
$key = (string) ($cfg['key'] ?? '');
|
||||
if ($key === '') {
|
||||
return null;
|
||||
}
|
||||
|
||||
$prompt = "Компания: «{$name}». Сайт: ".($siteUrl ?: '—').'. Описание: '.($description ?: '—').'. '
|
||||
.'Это сам поставщик услуги/товара (ответь SUPPLIER) или площадка-агрегатор/каталог/'
|
||||
.'маркетплейс/сравнение/справочник, который сводит клиентов с разными компаниями '
|
||||
.'(ответь AGGREGATOR)? Ответь РОВНО одним словом: SUPPLIER или AGGREGATOR.';
|
||||
|
||||
try {
|
||||
$resp = $this->http
|
||||
->withToken($key)
|
||||
->timeout((int) ($cfg['timeout_sec'] ?? 30))
|
||||
->post(rtrim((string) ($cfg['base_url'] ?? ''), '/').'/chat/completions', [
|
||||
'model' => $this->model($cfg),
|
||||
'messages' => [['role' => 'user', 'content' => $prompt]],
|
||||
'temperature' => 0,
|
||||
]);
|
||||
|
||||
if (! $resp->successful()) {
|
||||
return null;
|
||||
}
|
||||
|
||||
$content = mb_strtolower((string) $resp->json('choices.0.message.content'));
|
||||
if (str_contains($content, 'aggregator')) {
|
||||
return true;
|
||||
}
|
||||
if (str_contains($content, 'supplier')) {
|
||||
return false;
|
||||
}
|
||||
|
||||
return null;
|
||||
} catch (\Throwable) {
|
||||
return null;
|
||||
}
|
||||
}
|
||||
}
|
||||
@@ -1,19 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Services\Autopodbor\Agent\Aggregator;
|
||||
|
||||
/**
|
||||
* Батч-версия {@see AggregatorClassifier}: классифицирует ВЕСЬ список за один запрос к модели,
|
||||
* а не по одному (иначе на ~90 фирм — 90 последовательных запросов, «умирает»). Классификаторы,
|
||||
* умеющие батч, реализуют этот интерфейс; {@see AggregatorFilter} использует его, если он есть.
|
||||
*/
|
||||
interface BatchAggregatorClassifier
|
||||
{
|
||||
/**
|
||||
* @param list<array{name:string,site_url:?string,description:?string}> $companies
|
||||
* @return list<?bool> вердикты по индексам входа: true — агрегатор, false — поставщик, null — не решил
|
||||
*/
|
||||
public function classifyManyAggregators(array $companies): array;
|
||||
}
|
||||
@@ -1,135 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Services\Autopodbor\Agent\ChannelA;
|
||||
|
||||
use Illuminate\Http\Client\Factory as HttpFactory;
|
||||
|
||||
/**
|
||||
* Живой {@see QueryAnalyzer} через AITUNNEL: мелкая chat-модель разбивает описание клиента на короткие
|
||||
* запросы-рубрики для скрейпа категории справочников (шаг АНАЛИЗ канала А).
|
||||
*
|
||||
* ⚠️ Промт ВОССТАНОВЛЕН (оригинал жил в самоочистившемся collectA.js) — на живом прогоне точим.
|
||||
* Нет ключа / ошибка / пустой разбор → fallback: один запрос = само описание (канал А не мёртв).
|
||||
*/
|
||||
final class AitunnelQueryAnalyzer implements QueryAnalyzer
|
||||
{
|
||||
private const MAX_QUERIES = 8;
|
||||
|
||||
public function __construct(private readonly HttpFactory $http) {}
|
||||
|
||||
public function analyze(string $description, string $region, string $selfSite = '', array $competitorExamples = []): array
|
||||
{
|
||||
$description = trim($description);
|
||||
$fallback = $description !== '' ? [$description] : [];
|
||||
|
||||
$cfg = (array) config('services.aitunnel');
|
||||
$key = (string) ($cfg['key'] ?? '');
|
||||
if ($key === '' || $description === '') {
|
||||
return $fallback;
|
||||
}
|
||||
|
||||
// Контекст для модели: наш сайт + сайты/карточки конкурентов из запроса (условно — если переданы).
|
||||
$context = $this->contextClause($selfSite, $competitorExamples);
|
||||
|
||||
// Примеры НАМЕРЕННО из РАЗНЫХ отраслей — движок универсален (клиент Лидерры может быть любой
|
||||
// сферы и региона). Рубрики ИИ подбирает ПОД ОПИСАНИЕ клиента. Требуем УЗКИЕ категории и
|
||||
// запрещаем зонтичные слова («финансовые услуги» и т.п.) — иначе канал А тащит не тех (юрфирмы, банки).
|
||||
$prompt = "Описание деятельности клиента: «{$description}». {$context}Регион: {$region}.\n".
|
||||
'Дай от 3 до 6 КОРОТКИХ запросов-рубрик, по которым в справочниках 2ГИС и Яндекс.Карты '.
|
||||
"ищут именно ПРЯМЫХ конкурентов клиента — как называется его УЗКАЯ категория.\n".
|
||||
'Правило: рубрики только КОНКРЕТНЫЕ и узкие. ЗАПРЕЩЕНЫ общие «зонтичные» слова, которые '.
|
||||
'тащат кого попало: «услуги», «финансовые услуги», «финансы», «медицина», «товары», «магазин», '.
|
||||
"«сервис», «компания». Каждая рубрика — точная специализация, а не сфера целиком.\n".
|
||||
'Примеры (узкое, НЕ зонтичное): стоматология → «стоматология», «имплантация зубов» (НЕ «медицина»); '.
|
||||
'автосервис → «шиномонтаж», «автосервис» (НЕ «услуги»); займы под залог авто → «автоломбард», '.
|
||||
'«займ под ПТС» (НЕ «финансовые услуги»). Подбери рубрики строго ПОД ОПИСАНИЕ клиента выше. '.
|
||||
'Только сами запросы, без пояснений, без названий фирм и без города. '.
|
||||
'Ответ — строго JSON-массив строк: ["...","..."]';
|
||||
|
||||
try {
|
||||
$resp = $this->http
|
||||
->withToken($key)
|
||||
->timeout((int) ($cfg['timeout_sec'] ?? 30))
|
||||
->post(rtrim((string) ($cfg['base_url'] ?? ''), '/').'/chat/completions', [
|
||||
'model' => $cfg['chat_model'] ?? 'gpt-4o-mini',
|
||||
'messages' => [['role' => 'user', 'content' => $prompt]],
|
||||
'temperature' => 0,
|
||||
]);
|
||||
|
||||
if (! $resp->successful()) {
|
||||
return $fallback;
|
||||
}
|
||||
|
||||
$queries = $this->parseQueries((string) $resp->json('choices.0.message.content'));
|
||||
|
||||
return $queries !== [] ? $queries : $fallback;
|
||||
} catch (\Throwable) {
|
||||
return $fallback;
|
||||
}
|
||||
}
|
||||
|
||||
/**
|
||||
* Контекстная фраза «посмотри наш сайт X, а также наших главных конкурентов Y» — условно:
|
||||
* каждая часть добавляется, только если данные есть. Пусто → ''.
|
||||
*
|
||||
* @param list<string> $competitorExamples
|
||||
*/
|
||||
private function contextClause(string $selfSite, array $competitorExamples): string
|
||||
{
|
||||
$selfSite = trim($selfSite);
|
||||
$examples = array_values(array_filter(array_map(
|
||||
static fn ($v): string => trim((string) $v),
|
||||
$competitorExamples,
|
||||
), static fn (string $v): bool => $v !== ''));
|
||||
|
||||
$parts = [];
|
||||
if ($selfSite !== '') {
|
||||
$parts[] = "посмотри наш сайт {$selfSite}";
|
||||
}
|
||||
if ($examples !== []) {
|
||||
$parts[] = 'а также наших главных конкурентов '.implode(', ', $examples);
|
||||
}
|
||||
|
||||
return $parts !== [] ? implode(', ', $parts).' ' : '';
|
||||
}
|
||||
|
||||
/**
|
||||
* JSON-массив строк из сырого ответа: фрагмент `[`…`]`, дедуп (без регистра), отсев пустых, лимит.
|
||||
*
|
||||
* @return list<string>
|
||||
*/
|
||||
private function parseQueries(string $raw): array
|
||||
{
|
||||
$start = strpos($raw, '[');
|
||||
$end = strrpos($raw, ']');
|
||||
if ($start === false || $end === false || $end < $start) {
|
||||
return [];
|
||||
}
|
||||
$decoded = json_decode(substr($raw, $start, $end - $start + 1), true);
|
||||
if (! is_array($decoded)) {
|
||||
return [];
|
||||
}
|
||||
|
||||
$out = [];
|
||||
$seen = [];
|
||||
foreach ($decoded as $q) {
|
||||
if (! is_string($q)) {
|
||||
continue;
|
||||
}
|
||||
$q = trim($q);
|
||||
$k = mb_strtolower($q, 'UTF-8');
|
||||
if ($q === '' || isset($seen[$k])) {
|
||||
continue;
|
||||
}
|
||||
$seen[$k] = true;
|
||||
$out[] = $q;
|
||||
if (count($out) >= self::MAX_QUERIES) {
|
||||
break;
|
||||
}
|
||||
}
|
||||
|
||||
return $out;
|
||||
}
|
||||
}
|
||||
@@ -1,107 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Services\Autopodbor\Agent\ChannelA;
|
||||
|
||||
/**
|
||||
* Лёгкий разбор страницы категории 2ГИС (ZAFIKSIROVANO: шаг 1 = имя+сайт+карточка, БЕЗ захода в карточку).
|
||||
* Из списка по каждой фирме берём: ИМЯ + ссылку на карточку (firm/<id>) + САЙТ.
|
||||
*
|
||||
* Сайт лежит в редиректе «Перейти на сайт»: `…/<firmId>/null/<hash>?http://site.ru…` — id в пути = id
|
||||
* фирмы, настоящий адрес после `?`. Мусор (агрегаторы/мессенджеры/трекеры/иностранные TLD) отсеиваем —
|
||||
* это не сайт фирмы. Телефоны/описание тут НЕ трогаем (это шаг 2). Чистый: на вход HTML, наружу не ходит.
|
||||
*/
|
||||
final class CategoryListingParser
|
||||
{
|
||||
/** Не сайт фирмы: агрегаторы/каталоги/соцсети/мессенджеры/трекеры. */
|
||||
private const BLACKLIST = [
|
||||
'avito.ru', 'youla.ru', 'zoon.ru', 'banki.ru', 'sravni.ru', 'flamp.ru', 'orgpage.ru',
|
||||
'max.ru', 'vk.com', 'ok.ru', 't.me', 'telegram.me', 'wa.me', 'facebook.com', 'instagram.com',
|
||||
'youtube.com', 'dzen.ru', 'rambler.ru', 'mail.ru', 'tns-counter.ru', 'top100.ru',
|
||||
'serving-sys.ru', 'otello.ru', 'russpass.ru', 'gosuslugi.ru',
|
||||
];
|
||||
|
||||
private const FOREIGN_TLD = ['.kg', '.kz', '.by', '.ua', '.ge', '.am', '.uz', '.md', '.com.tr'];
|
||||
|
||||
/**
|
||||
* @return list<array{name:string,card_url:string,site:?string}>
|
||||
*/
|
||||
public function parse(string $html): array
|
||||
{
|
||||
$sites = $this->siteMap($html);
|
||||
|
||||
$out = [];
|
||||
$seen = [];
|
||||
$re = '#<a href="(/[a-z0-9_-]+/firm/(\d+))[^"]*"\s+class="_1rehek"><span class="_lvwrwt"><span>([^<]+)</span>#u';
|
||||
if (preg_match_all($re, $html, $m, PREG_SET_ORDER)) {
|
||||
foreach ($m as $hit) {
|
||||
$id = $hit[2];
|
||||
if (isset($seen[$id])) {
|
||||
continue;
|
||||
}
|
||||
$seen[$id] = true;
|
||||
$name = trim(html_entity_decode($hit[3], ENT_QUOTES | ENT_HTML5, 'UTF-8'));
|
||||
if ($name === '') {
|
||||
continue;
|
||||
}
|
||||
$out[] = [
|
||||
'name' => $name,
|
||||
'card_url' => 'https://2gis.ru'.$hit[1],
|
||||
'site' => $sites[$id] ?? null,
|
||||
];
|
||||
}
|
||||
}
|
||||
|
||||
return $out;
|
||||
}
|
||||
|
||||
/**
|
||||
* firmId → домен сайта из редиректов «Перейти на сайт». Первый «настоящий» на фирму.
|
||||
*
|
||||
* @return array<string,string>
|
||||
*/
|
||||
private function siteMap(string $html): array
|
||||
{
|
||||
$sites = [];
|
||||
if (preg_match_all('#/(\d{10,})/null/[^"?]*\?(https?://[^"\\\\?]+)#', $html, $m, PREG_SET_ORDER)) {
|
||||
foreach ($m as $hit) {
|
||||
$id = $hit[1];
|
||||
if (isset($sites[$id])) {
|
||||
continue;
|
||||
}
|
||||
$domain = $this->domain($hit[2]);
|
||||
if ($domain !== null && $this->isRealSite($domain)) {
|
||||
$sites[$id] = $domain;
|
||||
}
|
||||
}
|
||||
}
|
||||
|
||||
return $sites;
|
||||
}
|
||||
|
||||
private function domain(string $url): ?string
|
||||
{
|
||||
$url = mb_strtolower(trim($url), 'UTF-8');
|
||||
$url = preg_replace('#^https?://#', '', $url);
|
||||
$url = preg_replace('#^www\.#', '', $url);
|
||||
$url = explode('/', $url)[0];
|
||||
$url = explode('?', $url)[0];
|
||||
|
||||
return $url !== '' ? $url : null;
|
||||
}
|
||||
|
||||
private function isRealSite(string $domain): bool
|
||||
{
|
||||
if (in_array($domain, self::BLACKLIST, true)) {
|
||||
return false;
|
||||
}
|
||||
foreach (self::FOREIGN_TLD as $tld) {
|
||||
if (str_ends_with($domain, $tld)) {
|
||||
return false;
|
||||
}
|
||||
}
|
||||
|
||||
return true;
|
||||
}
|
||||
}
|
||||
@@ -1,134 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Services\Autopodbor\Agent\ChannelA;
|
||||
|
||||
use App\Services\Autopodbor\Agent\Extract\TwoGisReader;
|
||||
use App\Services\Autopodbor\Agent\Fetch\BatchPageFetcher;
|
||||
use App\Services\Autopodbor\Agent\Fetch\PageFetcher;
|
||||
|
||||
/**
|
||||
* Канал А (ZAFIKSIROVANO: шаг 1 = имя+сайт+карточка БЕЗ захода в карточку): по каждому запросу-рубрике
|
||||
* из шага АНАЛИЗ скрейпим категорию 2ГИС со СКВОЗНОЙ ПАГИНАЦИЕЙ всех страниц и берём из СПИСКА по
|
||||
* фирме имя + ссылку на карточку + сайт (через {@see CategoryListingParser}). Карточки не открываем —
|
||||
* это резко быстрее. Дедуп между страницами и запросами по ссылке карточки. Остановка: пустая
|
||||
* страница / страница без новых фирм / лимит maxPages.
|
||||
*
|
||||
* Загрузка страниц — ПАРАЛЛЕЛЬНАЯ ПОПЕРЁК РУБРИК (страница P всех активных рубрик за один
|
||||
* {@see BatchPageFetcher::htmlBatch()} вызов). Параллельность живёт внутри htmlBatch (режет на
|
||||
* порции по services.xfetch.concurrency). Если передан простой PageFetcher (тестовый стаб без
|
||||
* batch) — деградирует на одиночные html() вызовы, не ломая существующие тесты.
|
||||
*/
|
||||
final class CategoryScraper
|
||||
{
|
||||
public function __construct(
|
||||
private readonly PageFetcher $pages,
|
||||
// Разбор списка 2ГИС: HtmlTwoGisReader (xf4) ИЛИ TwoGisJsonReader (self-render) — пара к фетчеру.
|
||||
private readonly TwoGisReader $reader,
|
||||
private readonly int $maxPages = 5,
|
||||
) {}
|
||||
|
||||
/**
|
||||
* @param list<string> $queries запросы-рубрики из шага АНАЛИЗ
|
||||
* @return list<array{name:string,card_url:string,site:?string}>
|
||||
*/
|
||||
public function collectTwoGis(string $slug, array $queries): array
|
||||
{
|
||||
$seen = [];
|
||||
$out = [];
|
||||
|
||||
// Нормализуем и фильтруем пустые рубрики
|
||||
$activeQueries = [];
|
||||
foreach ($queries as $query) {
|
||||
$query = trim((string) $query);
|
||||
if ($query !== '') {
|
||||
$activeQueries[] = $query;
|
||||
}
|
||||
}
|
||||
|
||||
if ($activeQueries === []) {
|
||||
return [];
|
||||
}
|
||||
|
||||
// Базовые URL для каждой рубрики (страница 1)
|
||||
$baseUrls = [];
|
||||
foreach ($activeQueries as $query) {
|
||||
$baseUrls[$query] = "https://2gis.ru/{$slug}/search/".rawurlencode($query);
|
||||
}
|
||||
|
||||
// active — список рубрик, которые ещё «живы» (дали новые фирмы на предыдущей странице)
|
||||
$active = $activeQueries;
|
||||
|
||||
for ($page = 1; $page <= max(1, $this->maxPages); $page++) {
|
||||
if ($active === []) {
|
||||
break;
|
||||
}
|
||||
|
||||
// Строим URL текущей страницы для каждой активной рубрики
|
||||
$urlByQuery = [];
|
||||
foreach ($active as $query) {
|
||||
$base = $baseUrls[$query];
|
||||
$urlByQuery[$query] = $page === 1 ? $base : $base."/page/{$page}";
|
||||
}
|
||||
|
||||
// Загружаем пачку: BatchPageFetcher — параллельно; простой PageFetcher — по одному
|
||||
$htmlByUrl = $this->fetchBatch(array_values($urlByQuery));
|
||||
|
||||
// Разбираем каждую рубрику; те, что дали 0 новых — выбывают
|
||||
$stillActive = [];
|
||||
foreach ($active as $query) {
|
||||
$url = $urlByQuery[$query];
|
||||
$html = $htmlByUrl[$url] ?? '';
|
||||
$rows = $this->reader->listing($html);
|
||||
|
||||
if ($rows === []) {
|
||||
// Пустая страница — рубрика выбывает
|
||||
continue;
|
||||
}
|
||||
|
||||
$added = 0;
|
||||
foreach ($rows as $row) {
|
||||
$key = $row['card_url'];
|
||||
if (isset($seen[$key])) {
|
||||
continue;
|
||||
}
|
||||
$seen[$key] = true;
|
||||
$out[] = $row;
|
||||
$added++;
|
||||
}
|
||||
|
||||
if ($added > 0) {
|
||||
$stillActive[] = $query; // есть новые — рубрика живёт
|
||||
}
|
||||
// $added === 0: страница без новых фирм → рубрика тоже выбывает
|
||||
}
|
||||
|
||||
$active = $stillActive;
|
||||
}
|
||||
|
||||
return $out;
|
||||
}
|
||||
|
||||
/**
|
||||
* Загружает HTML нескольких URL. Если fetcher реализует BatchPageFetcher — делегирует
|
||||
* в htmlBatch() (параллельно, порциями по лимиту сервиса). Иначе — цикл html() по одному
|
||||
* (сохраняет совместимость с простыми PageFetcher-стабами в тестах).
|
||||
*
|
||||
* @param list<string> $urls
|
||||
* @return array<string, string> url => html
|
||||
*/
|
||||
private function fetchBatch(array $urls): array
|
||||
{
|
||||
if ($this->pages instanceof BatchPageFetcher) {
|
||||
return $this->pages->htmlBatch($urls);
|
||||
}
|
||||
|
||||
$result = [];
|
||||
foreach ($urls as $url) {
|
||||
$result[$url] = $this->pages->html($url);
|
||||
}
|
||||
|
||||
return $result;
|
||||
}
|
||||
}
|
||||
@@ -1,45 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Services\Autopodbor\Agent\ChannelA;
|
||||
|
||||
use App\Services\Autopodbor\Agent\Fetch\LocalYandexListSource;
|
||||
use App\Services\Autopodbor\Agent\Fetch\YandexListSource;
|
||||
|
||||
/**
|
||||
* Живой {@see YandexDirectory}: по каждой рубрике рендерит ленту `yandex.ru/maps/?text=<запрос> <город>`,
|
||||
* скроллит и берёт организации (имя + карточка). Сам рендер — за {@see YandexListSource}: локальный
|
||||
* Playwright (xf4-путь) ИЛИ виртуалка+прокси (self-render). Дедуп по SLUG — в {@see YandexListParser}.
|
||||
*
|
||||
* Источник за интерфейсом → оркестрация (URL по рубрике, потолок, слияние) тестируется офлайн фейком.
|
||||
*/
|
||||
final class PlaywrightYandexDirectory implements YandexDirectory
|
||||
{
|
||||
public function __construct(
|
||||
private readonly YandexListSource $source = new LocalYandexListSource,
|
||||
// Берём ВСЕ рубрики (аналитик отдаёт до 8): каждая рубрика первой даёт самые релевантные фирмы.
|
||||
private readonly int $maxQueries = 8,
|
||||
// Сколько раз прокрутить ленту в каждой рубрике. Мало = быстро (верх выдачи = самые релевантные).
|
||||
private readonly int $scrolls = 6,
|
||||
private readonly YandexListParser $parser = new YandexListParser,
|
||||
) {}
|
||||
|
||||
public function collect(string $city, array $queries): array
|
||||
{
|
||||
// Сырьё по всем рубрикам; дедуп/опознание фирмы по SLUG — в парсере («Корунд ×15 → один»).
|
||||
$orgs = [];
|
||||
foreach (array_slice($queries, 0, max(0, $this->maxQueries)) as $query) {
|
||||
$query = trim((string) $query);
|
||||
if ($query === '') {
|
||||
continue;
|
||||
}
|
||||
$url = 'https://yandex.ru/maps/?text='.rawurlencode(trim($query.' '.$city));
|
||||
foreach ($this->source->fetch($url, $this->scrolls) as $org) {
|
||||
$orgs[] = $org;
|
||||
}
|
||||
}
|
||||
|
||||
return $this->parser->parse($orgs);
|
||||
}
|
||||
}
|
||||
@@ -1,20 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Services\Autopodbor\Agent\ChannelA;
|
||||
|
||||
/**
|
||||
* Шаг АНАЛИЗ канала А: из описания деятельности клиента → НЕСКОЛЬКО коротких запросов-рубрик для
|
||||
* скрейпа категории 2ГИС/Яндекса (ZAFIKSIROVANO §0-БИС / §12.7 — в тесте Омеги было ~6 запросов).
|
||||
* Реализация решает, какой моделью (по умолчанию — мелкая chat-модель). За границей — для офлайн-теста.
|
||||
*/
|
||||
interface QueryAnalyzer
|
||||
{
|
||||
/**
|
||||
* @param string $selfSite сайт клиента из запроса на поиск (пусто — не добавляем в промт)
|
||||
* @param list<string> $competitorExamples сайты/карточки конкурентов из запроса (пусто — не добавляем)
|
||||
* @return list<string> короткие запросы-рубрики (напр. «автоломбард», «займ под залог авто»).
|
||||
*/
|
||||
public function analyze(string $description, string $region, string $selfSite = '', array $competitorExamples = []): array;
|
||||
}
|
||||
@@ -1,19 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Services\Autopodbor\Agent\ChannelA;
|
||||
|
||||
/**
|
||||
* Второй справочник канала А — Яндекс.Карты (ZAFIKSIROVANO: Яндекс = имя + карточка, БЕЗ сайта;
|
||||
* сайт в списке Яндекса не отдаётся, только на карточке — не открываем). Собирает по запросам-рубрикам
|
||||
* организации: имя + ссылка на карточку. За границей — для офлайн-теста оркестратора через фейк.
|
||||
*/
|
||||
interface YandexDirectory
|
||||
{
|
||||
/**
|
||||
* @param list<string> $queries запросы-рубрики из шага АНАЛИЗ
|
||||
* @return list<array{name:string,card_url:string}>
|
||||
*/
|
||||
public function collect(string $city, array $queries): array;
|
||||
}
|
||||
@@ -1,51 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Services\Autopodbor\Agent\ChannelA;
|
||||
|
||||
/**
|
||||
* Разбор списка организаций Яндекс.Карт (канал А). Дедуп по SLUG — коду фирмы от самого Яндекса
|
||||
* из адреса страницы `/maps/org/<slug>/<id>`, а НЕ по id филиала и НЕ по тексту имени.
|
||||
*
|
||||
* Почему slug: у всех точек одной сети slug общий (напр. `korund`), а id у каждой точки свой —
|
||||
* поэтому дедуп по slug честно схлопывает филиалы «Корунд ×15 → один» и склеивает разные написания
|
||||
* одной фирмы («КрасЛомбард»/«Красломбард» → slug `kraslombard`). При этом две РАЗНЫЕ фирмы с похожим
|
||||
* именем, которым Яндекс дал разные slug, остаются раздельными. Это опознавательный признак источника,
|
||||
* а не догадка по строке. Чистый разбор: на вход сырой массив организаций из render, наружу не ходит.
|
||||
*/
|
||||
final class YandexListParser
|
||||
{
|
||||
/**
|
||||
* @param list<array<string,mixed>> $orgs сырые организации из render-скрипта (name, href, category, ...)
|
||||
* @return list<array{name:string,card_url:string,slug:string,description:?string}>
|
||||
*/
|
||||
public function parse(array $orgs): array
|
||||
{
|
||||
$seen = [];
|
||||
$out = [];
|
||||
|
||||
foreach ($orgs as $org) {
|
||||
$href = trim((string) ($org['href'] ?? ''));
|
||||
$name = trim((string) ($org['name'] ?? ''));
|
||||
if ($name === '' || ! preg_match('#^/maps/org/([a-z0-9_-]+)/(\d+)#i', $href, $m)) {
|
||||
continue;
|
||||
}
|
||||
$slug = mb_strtolower($m[1], 'UTF-8');
|
||||
if (isset($seen[$slug])) {
|
||||
continue; // одна фирма (slug) = одна строка; филиалы схлопнуты
|
||||
}
|
||||
$seen[$slug] = true;
|
||||
// Рубрика из списка Яндекса («Ломбард, автоломбард», «Микрофинансовая организация») = описание.
|
||||
$category = trim((string) ($org['category'] ?? ''));
|
||||
$out[] = [
|
||||
'name' => $name,
|
||||
'card_url' => 'https://yandex.ru'.$href,
|
||||
'slug' => $slug,
|
||||
'description' => $category !== '' ? $category : null,
|
||||
];
|
||||
}
|
||||
|
||||
return $out;
|
||||
}
|
||||
}
|
||||
@@ -1,51 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Services\Autopodbor\Agent\ChannelB;
|
||||
|
||||
use Illuminate\Http\Client\Factory as HttpFactory;
|
||||
|
||||
/**
|
||||
* Живой {@see ResearcherClient} через AITUNNEL (OpenAI-совместимый chat). ФИНАЛ (ZAFIKSIROVANO §0-БИС):
|
||||
* ОДНА рассуждающая модель (`research_model`, по умолчанию sonar-reasoning-pro) с веб-поиском, temperature:0.
|
||||
* POST {base}/chat/completions [system, user] → {choices:[{message:{content}}]}.
|
||||
* Нет ключа / ошибка сети → возвращаем '[]' (движок деградирует, не падает; канал В даст 0 имён).
|
||||
*/
|
||||
final class AitunnelResearcher implements ResearcherClient
|
||||
{
|
||||
public function __construct(private readonly HttpFactory $http) {}
|
||||
|
||||
public function research(string $system, string $user): string
|
||||
{
|
||||
$cfg = (array) config('services.aitunnel');
|
||||
$key = (string) ($cfg['key'] ?? '');
|
||||
if ($key === '') {
|
||||
return '[]';
|
||||
}
|
||||
|
||||
try {
|
||||
$resp = $this->http
|
||||
->withToken($key)
|
||||
->timeout((int) ($cfg['research_timeout_sec'] ?? 120))
|
||||
->post(rtrim((string) ($cfg['base_url'] ?? ''), '/').'/chat/completions', [
|
||||
'model' => $cfg['research_model'] ?? 'sonar-reasoning-pro',
|
||||
'messages' => [
|
||||
['role' => 'system', 'content' => $system],
|
||||
['role' => 'user', 'content' => $user],
|
||||
],
|
||||
'temperature' => 0,
|
||||
]);
|
||||
|
||||
if (! $resp->successful()) {
|
||||
return '[]';
|
||||
}
|
||||
|
||||
$content = (string) $resp->json('choices.0.message.content');
|
||||
|
||||
return $content !== '' ? $content : '[]';
|
||||
} catch (\Throwable) {
|
||||
return '[]';
|
||||
}
|
||||
}
|
||||
}
|
||||
@@ -1,93 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Services\Autopodbor\Agent\ChannelB;
|
||||
|
||||
/**
|
||||
* Канал В (федералы/онлайн) — генератор ИМЁН моделью, ФИНАЛ владельца (ZAFIKSIROVANO §0-БИС + §11.3):
|
||||
* • На вход ИИ даём СПИСОК ИЗ КАНАЛА А (фирмы, уже найденные в справочниках) + примеры клиента —
|
||||
* как «уже известных, не повторять».
|
||||
* • ИИ выдаёт ТОЛЬКО НАЗВАНИЯ новых конкурентов (+ тип), которых в списке нет. Без сайтов/карточек.
|
||||
* • ОДНА модель × 2 прохода: проход 2 получает стоп-лист = известные + найденное в проходе 1.
|
||||
* • Сайт каждого имени добывает ПОТОМ EXA (нет сайта — нет якоря → имя выкидывается).
|
||||
*
|
||||
* Дедуп по имени (ё→е, без не-букв/цифр). Модель — за границей {@see ResearcherClient} (офлайн-тест).
|
||||
*/
|
||||
final class ChannelBSearch
|
||||
{
|
||||
/** Промт канала В: ТОЛЬКО НАЗВАНИЯ+тип федералов, ведущих деятельность в регионе. Сайт находит EXA. */
|
||||
public const SYSTEM_PROMPT = <<<'TXT'
|
||||
Ты — поисковик конкурентов для нашей компании. Используй интернет и справочники. Дай список НАЗВАНИЙ реальных компаний-конкурентов ведущих свою деятельность в указанном регионе федеральных игроков в этой сфере — чем больше реальных, тем лучше.
|
||||
Дай ТОЛЬКО НАЗВАНИЕ и ТИП каждой фирмы. Сайты и ссылки НЕ нужны — их мы найдём сами. Не выдумывай фирмы ради объёма; лучше меньше, но реальные.
|
||||
В запросе дан список уже известных — НЕ повторяй их.
|
||||
ФОРМА — строго JSON-массив, без текста вне него: [{"name":"Название","type":"федеральная"}]
|
||||
TXT;
|
||||
|
||||
public function __construct(
|
||||
private readonly ResearcherClient $client,
|
||||
private readonly ResearcherParser $parser,
|
||||
) {}
|
||||
|
||||
/**
|
||||
* @param list<string> $known имена, уже известные (список из канала А + примеры клиента)
|
||||
* @return list<array{name:string,type:?string}> только НОВЫЕ фирмы (имя + тип; сайт найдёт EXA)
|
||||
*/
|
||||
public function harvest(string $profile, string $region, string $clientSite, array $known, int $passes = 2): array
|
||||
{
|
||||
$accumulated = [];
|
||||
$seen = [];
|
||||
$stop = [];
|
||||
|
||||
foreach ($known as $name) {
|
||||
$name = trim((string) $name);
|
||||
if ($name === '') {
|
||||
continue;
|
||||
}
|
||||
$k = $this->key($name);
|
||||
if (isset($seen[$k])) {
|
||||
continue; // чистим стоп-лист от дублей-филиалов: «Корунд» ×27 → один
|
||||
}
|
||||
$seen[$k] = true;
|
||||
$stop[] = $name;
|
||||
}
|
||||
|
||||
for ($pass = 1; $pass <= max(1, $passes); $pass++) {
|
||||
$user = $this->userPrompt($profile, $region, $clientSite, $stop);
|
||||
$raw = $this->client->research(self::SYSTEM_PROMPT, $user);
|
||||
|
||||
foreach ($this->parser->parse($raw) as $cand) {
|
||||
$k = $this->key($cand['name']);
|
||||
if (isset($seen[$k])) {
|
||||
continue; // уже известен (канал А, пример или прошлый проход)
|
||||
}
|
||||
$seen[$k] = true;
|
||||
$accumulated[] = $cand;
|
||||
$stop[] = $cand['name']; // стоп-лист растёт к следующему проходу
|
||||
}
|
||||
}
|
||||
|
||||
return $accumulated;
|
||||
}
|
||||
|
||||
/** Пользовательский промт §11.3: профиль/регион/сайт клиента + список известных имён. */
|
||||
private function userPrompt(string $profile, string $region, string $clientSite, array $stop): string
|
||||
{
|
||||
$list = $stop === []
|
||||
? '(пока пусто)'
|
||||
: implode("\n", array_map(static fn (string $n): string => '- '.$n, $stop));
|
||||
|
||||
return "Наша компания: {$profile} в {$region}. Наш сайт: {$clientSite}.\n".
|
||||
"Уже известные конкуренты — НЕ выводить их повторно:\n".
|
||||
"{$list}\n".
|
||||
"Дай ТОЛЬКО НОВЫЕ фирмы-конкуренты в {$region}, которых нет в списке — только название и тип. Ответ — строго в формате из системного промта.";
|
||||
}
|
||||
|
||||
/** Ключ дедупа по имени: ё→е, нижний регистр, только буквы/цифры. */
|
||||
private function key(string $name): string
|
||||
{
|
||||
$name = str_replace('ё', 'е', mb_strtolower($name, 'UTF-8'));
|
||||
|
||||
return (string) preg_replace('/[^\p{L}\p{N}]+/u', '', $name);
|
||||
}
|
||||
}
|
||||
@@ -1,176 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Services\Autopodbor\Agent\ChannelB;
|
||||
|
||||
use Illuminate\Http\Client\Factory as HttpFactory;
|
||||
use Illuminate\Http\Client\Response;
|
||||
|
||||
/**
|
||||
* Нормализация канала В (ZAFIKSIROVANO / §11.4–11.5): у федерала НЕТ карточки в 2ГИС/Яндексе на регион,
|
||||
* поэтому его САЙТ ищем по имени через EXA. Берём домен первого «настоящего» результата, отсеивая
|
||||
* каталоги/агрегаторы/реестры/отзовики и иностранные TLD (это НЕ сайт самой фирмы).
|
||||
*
|
||||
* POST {base}/search {query, numResults} (header x-api-key) → {results:[{url}]}. Нет ключа/ошибка/
|
||||
* нет подходящих → null (тогда у имени из В сайта не будет; резолвер решит «нет филиала»).
|
||||
*/
|
||||
final class ExaSiteFinder
|
||||
{
|
||||
/** Домены-каталоги/агрегаторы/реестры/карты/отзовики — НЕ сайт фирмы (§11.4). */
|
||||
private const BLACKLIST = [
|
||||
'avito.ru', 'youla.ru', 'zoon.ru', 'banki.ru', 'sravni.ru', '1000bankov.ru',
|
||||
'yandex.ru', 'ya.ru', '2gis.ru', 'flamp.ru', 'orgpage.ru', 'rusprofile.ru',
|
||||
'list-org.com', 'sbis.ru', 'spark-interfax.ru', 'otzovik.com', 'irecommend.ru',
|
||||
'vk.com', 'ok.ru', 'instagram.com', 'facebook.com', 't.me', 'telegram.me',
|
||||
'wikipedia.org', 'youtube.com', 'dzen.ru', 'zen.yandex.ru',
|
||||
];
|
||||
|
||||
/** Иностранные TLD — не сайт российской фирмы (§11.4). */
|
||||
private const FOREIGN_TLD = ['.kg', '.kz', '.by', '.ua', '.ge', '.am', '.uz', '.md'];
|
||||
|
||||
public function __construct(private readonly HttpFactory $http) {}
|
||||
|
||||
public function findSite(string $name, string $region): ?string
|
||||
{
|
||||
$cfg = (array) config('services.exa');
|
||||
$key = (string) ($cfg['key'] ?? '');
|
||||
if ($key === '' || trim($name) === '') {
|
||||
return null;
|
||||
}
|
||||
|
||||
try {
|
||||
$resp = $this->http
|
||||
->withHeaders(['x-api-key' => $key])
|
||||
->withOptions($this->proxyOptions())
|
||||
->timeout((int) ($cfg['timeout_sec'] ?? 30))
|
||||
->post(rtrim((string) ($cfg['base_url'] ?? 'https://api.exa.ai'), '/').'/search', $this->body($name));
|
||||
|
||||
return $this->pickDomain($resp);
|
||||
} catch (\Throwable) {
|
||||
return null;
|
||||
}
|
||||
}
|
||||
|
||||
/**
|
||||
* Пакетный поиск сайтов ПАРАЛЛЕЛЬНО — пулом Laravel Http, порциями по services.exa.concurrency
|
||||
* (внутри порции одновременно, порции по очереди). Лимит EXA — на КЛЮЧ (один на всех клиентов),
|
||||
* поэтому не «все разом», а бережно; глобальный потолок между клиентами держит очередь.
|
||||
* Сбой/429 по имени → его сайт null (не роняет пул и не теряет остальных).
|
||||
*
|
||||
* @param list<string> $names
|
||||
* @return array<string, ?string> имя → домен (или null)
|
||||
*/
|
||||
public function findSites(array $names, string $region): array
|
||||
{
|
||||
$names = array_values(array_unique(array_filter(
|
||||
array_map(static fn ($n): string => trim((string) $n), $names),
|
||||
static fn (string $n): bool => $n !== '',
|
||||
)));
|
||||
|
||||
$out = [];
|
||||
foreach ($names as $n) {
|
||||
$out[$n] = null;
|
||||
}
|
||||
if ($names === []) {
|
||||
return $out;
|
||||
}
|
||||
|
||||
$cfg = (array) config('services.exa');
|
||||
$key = (string) ($cfg['key'] ?? '');
|
||||
if ($key === '') {
|
||||
return $out;
|
||||
}
|
||||
|
||||
$url = rtrim((string) ($cfg['base_url'] ?? 'https://api.exa.ai'), '/').'/search';
|
||||
$timeout = (int) ($cfg['timeout_sec'] ?? 30);
|
||||
$concurrency = max(1, (int) ($cfg['concurrency'] ?? 5));
|
||||
|
||||
foreach (array_chunk($names, $concurrency) as $chunk) {
|
||||
try {
|
||||
$responses = $this->http->pool(fn ($pool) => array_map(
|
||||
fn (string $n) => $pool->as($n)
|
||||
->withHeaders(['x-api-key' => $key])
|
||||
->withOptions($this->proxyOptions())
|
||||
->timeout($timeout)
|
||||
->post($url, $this->body($n)),
|
||||
$chunk,
|
||||
));
|
||||
} catch (\Throwable) {
|
||||
continue; // весь чанк не удался — имена остаются null, идём к следующему
|
||||
}
|
||||
|
||||
foreach ($chunk as $n) {
|
||||
$out[$n] = $this->pickDomain($responses[$n] ?? null);
|
||||
}
|
||||
}
|
||||
|
||||
return $out;
|
||||
}
|
||||
|
||||
/** Тело запроса EXA по имени. */
|
||||
private function body(string $name): array
|
||||
{
|
||||
return ['query' => $name.' официальный сайт', 'numResults' => 10, 'type' => 'auto'];
|
||||
}
|
||||
|
||||
/**
|
||||
* Опции Guzzle для запроса EXA: прокси (services.exa.proxy), если задан. EXA за Cloudflare
|
||||
* режет российские IP, поэтому на боевом канал В ходит через зарубежный выход. Пусто → напрямую.
|
||||
*
|
||||
* @return array<string, mixed>
|
||||
*/
|
||||
private function proxyOptions(): array
|
||||
{
|
||||
$proxy = trim((string) (config('services.exa.proxy') ?? ''));
|
||||
|
||||
return $proxy !== '' ? ['proxy' => $proxy] : [];
|
||||
}
|
||||
|
||||
/** Первый «настоящий» домен из ответа EXA (не каталог/агрегатор/иностранный TLD), иначе null. */
|
||||
private function pickDomain(mixed $resp): ?string
|
||||
{
|
||||
if (! $resp instanceof Response || ! $resp->successful()) {
|
||||
return null;
|
||||
}
|
||||
foreach ((array) $resp->json('results') as $r) {
|
||||
$url = is_array($r) ? (string) ($r['url'] ?? '') : '';
|
||||
$domain = $this->domain($url);
|
||||
if ($domain !== null && $this->isRealSite($domain)) {
|
||||
return $domain;
|
||||
}
|
||||
}
|
||||
|
||||
return null;
|
||||
}
|
||||
|
||||
/** Голый домен из URL: без схемы/www/пути, нижний регистр. */
|
||||
private function domain(string $url): ?string
|
||||
{
|
||||
$url = mb_strtolower(trim($url), 'UTF-8');
|
||||
if ($url === '') {
|
||||
return null;
|
||||
}
|
||||
$url = preg_replace('#^https?://#', '', $url);
|
||||
$url = preg_replace('#^www\.#', '', $url);
|
||||
$url = explode('/', $url)[0];
|
||||
$url = explode('?', $url)[0];
|
||||
|
||||
return $url !== '' ? $url : null;
|
||||
}
|
||||
|
||||
/** Настоящий сайт фирмы — не из чёрного списка и не иностранный TLD. */
|
||||
private function isRealSite(string $domain): bool
|
||||
{
|
||||
if (in_array($domain, self::BLACKLIST, true)) {
|
||||
return false;
|
||||
}
|
||||
foreach (self::FOREIGN_TLD as $tld) {
|
||||
if (str_ends_with($domain, $tld)) {
|
||||
return false;
|
||||
}
|
||||
}
|
||||
|
||||
return true;
|
||||
}
|
||||
}
|
||||
@@ -1,16 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Services\Autopodbor\Agent\ChannelB;
|
||||
|
||||
/**
|
||||
* Граница живого канала В: один вызов модели-исследователя (system+user промт → сырой текст ответа).
|
||||
* Финал движка (см. ZAFIKSIROVANO §0-БИС) — ОДНА модель, гоняется 2 прохода; реализация решает,
|
||||
* какую модель шлёт (по умолчанию sonar-reasoning-pro). Логика проходов/стоп-листа — за границей,
|
||||
* в {@see ChannelBSearch}, чтобы тестироваться офлайн через фейк-клиент.
|
||||
*/
|
||||
interface ResearcherClient
|
||||
{
|
||||
public function research(string $system, string $user): string;
|
||||
}
|
||||
@@ -1,65 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Services\Autopodbor\Agent\ChannelB;
|
||||
|
||||
/**
|
||||
* Канал В (§11.3 + ZAFIKSIROVANO §0-БИС): модель-исследователь даёт ТОЛЬКО НАЗВАНИЯ конкурентов
|
||||
* (+ тип регион/федерал), без сайтов/карточек/телефонов — их добывает ПОТОМ Firecrawl/резолвер.
|
||||
* Парсер вытаскивает JSON-массив имён из сырого ответа (часто в markdown-обёртке или с текстом вокруг).
|
||||
* Чистый: на вход строка, наружу не ходит.
|
||||
*/
|
||||
final class ResearcherParser
|
||||
{
|
||||
/**
|
||||
* @return list<array{name:string,type:?string}>
|
||||
*/
|
||||
public function parse(string $raw): array
|
||||
{
|
||||
$out = [];
|
||||
foreach ($this->decodeArray($raw) as $row) {
|
||||
if (! is_array($row)) {
|
||||
continue;
|
||||
}
|
||||
$name = trim((string) ($row['name'] ?? ''));
|
||||
if ($name === '') {
|
||||
continue; // без имени — мусор
|
||||
}
|
||||
// ТОЛЬКО имя+тип. Если модель по инерции положит site/card — игнорируем: сайт ищет EXA.
|
||||
$out[] = [
|
||||
'name' => $name,
|
||||
'type' => $this->str($row['type'] ?? null),
|
||||
];
|
||||
}
|
||||
|
||||
return $out;
|
||||
}
|
||||
|
||||
/**
|
||||
* Достаёт JSON-массив: фрагмент от первой `[` до последней `]`. Не распарсилось — пустой массив.
|
||||
*
|
||||
* @return array<int, mixed>
|
||||
*/
|
||||
private function decodeArray(string $raw): array
|
||||
{
|
||||
$start = strpos($raw, '[');
|
||||
$end = strrpos($raw, ']');
|
||||
if ($start === false || $end === false || $end < $start) {
|
||||
return [];
|
||||
}
|
||||
$decoded = json_decode(substr($raw, $start, $end - $start + 1), true);
|
||||
|
||||
return is_array($decoded) ? $decoded : [];
|
||||
}
|
||||
|
||||
private function str(mixed $v): ?string
|
||||
{
|
||||
if (! is_string($v)) {
|
||||
return null;
|
||||
}
|
||||
$v = trim($v);
|
||||
|
||||
return $v !== '' ? $v : null;
|
||||
}
|
||||
}
|
||||
@@ -1,19 +0,0 @@
|
||||
<?php
|
||||
|
||||
namespace App\Services\Autopodbor\Agent;
|
||||
|
||||
use App\Services\Autopodbor\Agent\Dto\FindCompetitorsRequest;
|
||||
use App\Services\Autopodbor\Agent\Dto\FindCompetitorsResult;
|
||||
use App\Services\Autopodbor\Agent\Dto\ResolveByNameRequest;
|
||||
use App\Services\Autopodbor\Agent\Dto\ResolveByNameResult;
|
||||
use App\Services\Autopodbor\Agent\Dto\StudyCompetitorRequest;
|
||||
use App\Services\Autopodbor\Agent\Dto\StudyCompetitorResult;
|
||||
|
||||
interface CompetitorAgent
|
||||
{
|
||||
public function findCompetitors(FindCompetitorsRequest $r): FindCompetitorsResult;
|
||||
|
||||
public function studyCompetitor(StudyCompetitorRequest $r): StudyCompetitorResult;
|
||||
|
||||
public function resolveByName(ResolveByNameRequest $r): ResolveByNameResult;
|
||||
}
|
||||
@@ -1,119 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Services\Autopodbor\Agent;
|
||||
|
||||
use App\Services\Autopodbor\Agent\Extract\DirectoryParser;
|
||||
use App\Services\Autopodbor\Agent\Extract\HtmlTwoGisReader;
|
||||
use App\Services\Autopodbor\Agent\Extract\TwoGisReader;
|
||||
use App\Services\Autopodbor\Agent\Fetch\BatchPageFetcher;
|
||||
use App\Services\Autopodbor\Agent\Fetch\DirectoryCard;
|
||||
use App\Services\Autopodbor\Agent\Fetch\PageFetcher;
|
||||
|
||||
/**
|
||||
* «Вскрыть всё» на этапе сбора: открываем карточку справочника у КАЖДОГО кандидата с карточкой — и без
|
||||
* сайта, и с сайтом (максимум качества). Из вскрытой карточки берём телефоны + описание всегда, а сайт —
|
||||
* только если его ещё нет (свой сайт из листинга надёжнее, его не затираем). Это нужно для чистой склейки
|
||||
* дублей (Автодом24 без сайта ↔ AutoMoney) и богатого описания. БЕЗ лимита на число карточек — открываем
|
||||
* ВСЕ ПАЧКОЙ (параллельно), если фетчер умеет ({@see BatchPageFetcher}); каждый запрос с таймаутом, поэтому
|
||||
* зависнуть не может. Кол-во режем на старте (страницы/рубрики), а не гейтом на вскрытии. Единственное
|
||||
* реальное ограничение — частотный лимит самого 2ГИС (карточка вернёт пусто — тогда просто пропускаем).
|
||||
*
|
||||
* Остальные дубли (по вскрывшемуся при ИЗУЧЕНИИ телефону/адресу) добирает кнопка «Найти дубли».
|
||||
* Фетчер за границей {@see PageFetcher} — тестируется офлайн.
|
||||
*/
|
||||
final class CompetitorCardEnricher
|
||||
{
|
||||
public function __construct(
|
||||
private readonly PageFetcher $pages,
|
||||
private readonly DirectoryParser $parser,
|
||||
// Разбор карточек 2ГИС: HtmlTwoGisReader (xf4) ИЛИ TwoGisJsonReader (self-render) — пара к
|
||||
// фетчеру. Яндекс-карточки остаются на $parser->parseYandexCard (свой формат, не 2ГИС).
|
||||
private readonly TwoGisReader $twoGis = new HtmlTwoGisReader,
|
||||
) {}
|
||||
|
||||
/**
|
||||
* @param array<int, array> $candidates
|
||||
* @return array<int, array>
|
||||
*/
|
||||
public function enrich(array $candidates): array
|
||||
{
|
||||
// Цели = ВСЕ кандидаты, у которых есть карточка справочника (гейта «сайт есть → пропустить»
|
||||
// больше нет — максимум качества: вскрываем всё, кол-во режем на старте страницами/рубриками).
|
||||
// idx => первая карточка. Без лимита.
|
||||
$targets = [];
|
||||
foreach ($candidates as $idx => $c) {
|
||||
foreach ($c['directory_urls'] ?? [] as $u) {
|
||||
$u = trim((string) $u);
|
||||
if ($u !== '') {
|
||||
$targets[$idx] = $u;
|
||||
break;
|
||||
}
|
||||
}
|
||||
}
|
||||
if ($targets === []) {
|
||||
return $candidates;
|
||||
}
|
||||
|
||||
// Пачкой (параллельно) если умеет, иначе по одной.
|
||||
$urls = array_values(array_unique(array_values($targets)));
|
||||
$htmls = $this->pages instanceof BatchPageFetcher
|
||||
? $this->pages->htmlBatch($urls)
|
||||
: $this->fetchSequential($urls);
|
||||
|
||||
foreach ($targets as $idx => $url) {
|
||||
$html = $htmls[$url] ?? '';
|
||||
if ($html === '') {
|
||||
continue;
|
||||
}
|
||||
$c = $candidates[$idx];
|
||||
foreach ($this->parseCards($html, $url) as $card) {
|
||||
if (empty($c['site_url']) && $card->siteUrl !== null && $card->siteUrl !== '') {
|
||||
$c['site_url'] = $card->siteUrl;
|
||||
}
|
||||
if (empty($c['description']) && $card->description !== null && $card->description !== '') {
|
||||
$c['description'] = $card->description;
|
||||
}
|
||||
if ($card->number !== '') {
|
||||
$c['phones'][] = $card->number;
|
||||
}
|
||||
}
|
||||
$c['phones'] = array_values(array_unique($c['phones'] ?? []));
|
||||
$candidates[$idx] = $c;
|
||||
}
|
||||
|
||||
return $candidates;
|
||||
}
|
||||
|
||||
/**
|
||||
* @param list<string> $urls
|
||||
* @return array<string, string>
|
||||
*/
|
||||
private function fetchSequential(array $urls): array
|
||||
{
|
||||
$out = [];
|
||||
foreach ($urls as $u) {
|
||||
$out[$u] = $this->pages->html($u);
|
||||
}
|
||||
|
||||
return $out;
|
||||
}
|
||||
|
||||
/**
|
||||
* Разбор карточки по типу справочника: Яндекс → parseYandexCard, 2ГИС → parse2gisCard.
|
||||
*
|
||||
* @return list<DirectoryCard>
|
||||
*/
|
||||
private function parseCards(string $html, string $url): array
|
||||
{
|
||||
if (str_contains($url, 'yandex')) {
|
||||
return $this->parser->parseYandexCard($html, $url);
|
||||
}
|
||||
if (str_contains($url, '2gis')) {
|
||||
return $this->twoGis->card($html, $url);
|
||||
}
|
||||
|
||||
return [];
|
||||
}
|
||||
}
|
||||
@@ -1,23 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Services\Autopodbor\Agent\Dto;
|
||||
|
||||
final class CollectedSource
|
||||
{
|
||||
/** @param array<int,array{label:string,url:?string}> $sources */
|
||||
public function __construct(
|
||||
public readonly string $signalType, // call | site
|
||||
public readonly string $identifier, // 7XXXXXXXXXX | домен
|
||||
public readonly ?string $phoneKind, // real | substitute | null
|
||||
public readonly ?string $phoneType, // city | mobile | tollfree | null
|
||||
public readonly ?string $office, // подпись филиала | null
|
||||
public readonly array $sources, // «где нашли»
|
||||
) {}
|
||||
|
||||
public function confirmations(): int
|
||||
{
|
||||
return count($this->sources);
|
||||
}
|
||||
}
|
||||
@@ -1,14 +0,0 @@
|
||||
<?php
|
||||
|
||||
namespace App\Services\Autopodbor\Agent\Dto;
|
||||
|
||||
final class FindCompetitorsRequest
|
||||
{
|
||||
public function __construct(
|
||||
public readonly int $regionCode,
|
||||
public readonly array $examples,
|
||||
public readonly array $aboutSelf,
|
||||
public readonly bool $includeFederal,
|
||||
public readonly int $maxCompetitors,
|
||||
) {}
|
||||
}
|
||||
@@ -1,11 +0,0 @@
|
||||
<?php
|
||||
|
||||
namespace App\Services\Autopodbor\Agent\Dto;
|
||||
|
||||
final class FindCompetitorsResult
|
||||
{
|
||||
/**
|
||||
* @param array<int,array{name:string,description?:?string,is_federal?:bool,relevance_pct?:?int,site_url?:?string,directory_urls?:array,provenance?:array}> $competitors
|
||||
*/
|
||||
public function __construct(public readonly array $competitors) {}
|
||||
}
|
||||
@@ -1,11 +0,0 @@
|
||||
<?php
|
||||
|
||||
namespace App\Services\Autopodbor\Agent\Dto;
|
||||
|
||||
final class ResolveByNameRequest
|
||||
{
|
||||
public function __construct(
|
||||
public readonly string $name,
|
||||
public readonly int $regionCode,
|
||||
) {}
|
||||
}
|
||||
@@ -1,11 +0,0 @@
|
||||
<?php
|
||||
|
||||
namespace App\Services\Autopodbor\Agent\Dto;
|
||||
|
||||
final class ResolveByNameResult
|
||||
{
|
||||
/**
|
||||
* @param array<int,array{name:string,description?:?string,site_url?:?string,directory_urls?:array,provenance?:array}> $candidates
|
||||
*/
|
||||
public function __construct(public readonly array $candidates) {}
|
||||
}
|
||||
@@ -1,14 +0,0 @@
|
||||
<?php
|
||||
|
||||
namespace App\Services\Autopodbor\Agent\Dto;
|
||||
|
||||
final class StudyCompetitorRequest
|
||||
{
|
||||
/**
|
||||
* @param array{name:string,site_url?:?string,directory_urls?:array} $competitor
|
||||
*/
|
||||
public function __construct(
|
||||
public readonly array $competitor,
|
||||
public readonly int $regionCode,
|
||||
) {}
|
||||
}
|
||||
@@ -1,11 +0,0 @@
|
||||
<?php
|
||||
|
||||
namespace App\Services\Autopodbor\Agent\Dto;
|
||||
|
||||
final class StudyCompetitorResult
|
||||
{
|
||||
/**
|
||||
* @param array<int,array{signal_type:string,identifier:string,phone_kind?:?string,phone_type?:?string,provenance_url?:?string,provenance_label?:?string,where_found?:array<int,array{label:string,url:?string}>,office?:?string,confirmations?:int}> $sources
|
||||
*/
|
||||
public function __construct(public readonly array $sources) {}
|
||||
}
|
||||
@@ -1,23 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Services\Autopodbor\Agent\Extract;
|
||||
|
||||
final class CalltrackingDetector
|
||||
{
|
||||
private const PROVIDERS = ['roistat', 'calltouch', 'comagic', 'uiscom', 'mango-office', 'callibri', 'ringostat', 'phonet'];
|
||||
|
||||
/** @return list<string> */
|
||||
public function detect(string $html): array
|
||||
{
|
||||
$found = [];
|
||||
foreach (self::PROVIDERS as $p) {
|
||||
if (stripos($html, $p) !== false) {
|
||||
$found[] = $p;
|
||||
}
|
||||
}
|
||||
|
||||
return array_values(array_unique($found));
|
||||
}
|
||||
}
|
||||
@@ -1,136 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Services\Autopodbor\Agent\Extract;
|
||||
|
||||
use App\Services\Autopodbor\Agent\Fetch\DirectoryCard;
|
||||
use App\Services\Autopodbor\Agent\Fetch\FetchedSite;
|
||||
use App\Services\Autopodbor\AutopodborNormalizer;
|
||||
|
||||
final class CandidateBuilder
|
||||
{
|
||||
public function __construct(
|
||||
private HtmlPhoneScanner $scanner = new HtmlPhoneScanner,
|
||||
private CalltrackingDetector $detector = new CalltrackingDetector,
|
||||
private AutopodborNormalizer $norm = new AutopodborNormalizer,
|
||||
) {}
|
||||
|
||||
/**
|
||||
* @param list<FetchedSite> $sites
|
||||
* @param list<DirectoryCard> $cards
|
||||
* @param ?string $defaultAreaCode запасной код города (по региону конкурента) —
|
||||
* для достройки коротких номеров, если на странице нет полных
|
||||
* @return list<array{number:string,kind:string,label:string,url:?string,office:?string,tracker:bool}>
|
||||
*/
|
||||
public function build(array $sites, array $cards, ?string $defaultAreaCode = null): array
|
||||
{
|
||||
$out = [];
|
||||
foreach ($sites as $site) {
|
||||
$scan = $this->scanner->scan($site->rawHtml, $defaultAreaCode);
|
||||
$hasTracker = $this->detector->detect($site->rawHtml) !== [];
|
||||
|
||||
foreach (array_keys($scan['code']) as $number) {
|
||||
$out[] = [
|
||||
'number' => (string) $number,
|
||||
'kind' => 'code',
|
||||
'label' => 'в коде сайта',
|
||||
'url' => $site->url,
|
||||
'office' => null,
|
||||
'tracker' => $hasTracker,
|
||||
];
|
||||
}
|
||||
|
||||
// короткие локальные номера, код города которых не удалось определить —
|
||||
// НЕ теряем, отдаём клиенту с пометкой «требует проверки»
|
||||
foreach ($scan['uncertain'] ?? [] as $short) {
|
||||
$out[] = [
|
||||
'number' => (string) $short,
|
||||
'kind' => 'uncertain',
|
||||
'label' => 'локальный номер на сайте — код города не определён, требует проверки',
|
||||
'url' => $site->url,
|
||||
'office' => null,
|
||||
'tracker' => $hasTracker,
|
||||
];
|
||||
}
|
||||
|
||||
$codeNumbers = array_map('strval', array_keys($scan['code']));
|
||||
|
||||
// видимые отрендеренные номера → displayed (подменный), если их нет в коде
|
||||
$visible = [];
|
||||
foreach ($site->visiblePhones as $raw) {
|
||||
$n = $this->normalize($raw);
|
||||
if ($n === null) {
|
||||
continue;
|
||||
}
|
||||
$visible[] = $n;
|
||||
if (! in_array($n, $codeNumbers, true)) {
|
||||
$out[] = [
|
||||
'number' => $n, 'kind' => 'displayed', 'label' => 'показан на сайте (коллтрекинг)',
|
||||
'url' => $site->url, 'office' => null, 'tracker' => $hasTracker,
|
||||
];
|
||||
}
|
||||
}
|
||||
|
||||
// пул ротации: номер в теле ≥2 раз, не в коде и не видимый, при активном трекере
|
||||
if ($hasTracker) {
|
||||
foreach ($scan['body'] as $number => $count) {
|
||||
$number = (string) $number;
|
||||
if ($count >= 2 && ! in_array($number, $codeNumbers, true) && ! in_array($number, $visible, true)) {
|
||||
$out[] = [
|
||||
'number' => $number, 'kind' => 'pool', 'label' => 'пул подмены',
|
||||
'url' => $site->url, 'office' => null, 'tracker' => true,
|
||||
];
|
||||
}
|
||||
}
|
||||
} else {
|
||||
// без коллтрекинга: номера, написанные на сайте ПРОСТЫМ ТЕКСТОМ (не tel:/schema,
|
||||
// не отрендеренные) — не теряем, а отдаём клиенту с пометкой «проверьте». На
|
||||
// верифицированном сайте фирмы это чаще её линии, но без tel:-ссылки за 100%
|
||||
// настоящие не выдаём. (Число вхождений не важно — номер уже в видимом тексте.)
|
||||
foreach ($scan['body'] as $number => $count) {
|
||||
$number = (string) $number;
|
||||
if (in_array($number, $codeNumbers, true) || in_array($number, $visible, true)) {
|
||||
continue;
|
||||
}
|
||||
$out[] = [
|
||||
'number' => $number, 'kind' => 'text', 'label' => 'в тексте сайта — проверьте',
|
||||
'url' => $site->url, 'office' => null, 'tracker' => false,
|
||||
];
|
||||
}
|
||||
}
|
||||
|
||||
// номера филиалов со страницы «Контакты» (рендер)
|
||||
foreach ($site->contactsNumbers as $row) {
|
||||
$n = $this->normalize($row['number']);
|
||||
if ($n === null) {
|
||||
continue;
|
||||
}
|
||||
$out[] = [
|
||||
'number' => $n, 'kind' => 'contacts', 'label' => 'страница «Контакты»',
|
||||
'url' => $site->url, 'office' => $row['office'] ?? null, 'tracker' => $hasTracker,
|
||||
];
|
||||
}
|
||||
}
|
||||
|
||||
foreach ($cards as $card) {
|
||||
$n = $this->normalize($card->number);
|
||||
if ($n === null) {
|
||||
continue;
|
||||
}
|
||||
$out[] = [
|
||||
'number' => $n, 'kind' => 'directory', 'label' => $card->source,
|
||||
'url' => $card->url, 'office' => $card->office, 'tracker' => false,
|
||||
];
|
||||
}
|
||||
|
||||
return $out;
|
||||
}
|
||||
|
||||
private function normalize(string $raw): ?string
|
||||
{
|
||||
$n = $this->norm->phone($raw);
|
||||
|
||||
return (strlen($n) === 11 && $n[0] === '7') ? $n : null;
|
||||
}
|
||||
}
|
||||
@@ -1,352 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Services\Autopodbor\Agent\Extract;
|
||||
|
||||
use App\Services\Autopodbor\Agent\Fetch\DirectoryCard;
|
||||
|
||||
/**
|
||||
* Разбор страниц справочников (2ГИС/Яндекс): список филиалов и карточка филиала.
|
||||
* Чистый: на вход — уже отрендеренный HTML, на выход — ссылки/карточки.
|
||||
*/
|
||||
final class DirectoryParser
|
||||
{
|
||||
/**
|
||||
* Ссылки на карточки филиалов со страницы списка (2ГИС: /city/firm/<id>).
|
||||
*
|
||||
* @return list<string>
|
||||
*/
|
||||
public function parseBranchList(string $html): array
|
||||
{
|
||||
// Путь карточки филиала /<город>/firm/<id> — 2ГИС отдаёт его то как href,
|
||||
// то внутри JSON-состояния страницы. Берём отовсюду (с дедупом) — иначе на части
|
||||
// прорисовок филиалы теряются (поймано на живом 2ГИС).
|
||||
$out = [];
|
||||
if (preg_match_all('#/[a-z0-9_-]+/firm/\d+#i', $html, $m)) {
|
||||
foreach ($m[0] as $href) {
|
||||
if (! in_array($href, $out, true)) {
|
||||
$out[] = $href;
|
||||
}
|
||||
}
|
||||
}
|
||||
|
||||
return $out;
|
||||
}
|
||||
|
||||
/**
|
||||
* Карточка филиала: телефоны из tel:-ссылок + адрес из заголовка страницы.
|
||||
*
|
||||
* @return list<DirectoryCard>
|
||||
*/
|
||||
public function parseFirmCard(string $html, string $url, string $source): array
|
||||
{
|
||||
$office = $this->officeFromTitle($html);
|
||||
|
||||
$out = [];
|
||||
if (preg_match_all('/tel:([+0-9()\s-]{7,})/i', $html, $m)) {
|
||||
$seen = [];
|
||||
foreach ($m[1] as $raw) {
|
||||
$num = trim($raw);
|
||||
if (isset($seen[$num])) {
|
||||
continue;
|
||||
}
|
||||
$seen[$num] = true;
|
||||
$out[] = new DirectoryCard(number: $num, office: $office, url: $url, source: $source);
|
||||
}
|
||||
}
|
||||
|
||||
return $out;
|
||||
}
|
||||
|
||||
/**
|
||||
* Карточка организации Яндекс.Карт: телефоны + сайт + адрес из заголовка.
|
||||
*
|
||||
* Приоритеты парсинга:
|
||||
* 1. Телефоны из <div class="orgpage-phones-view__phone-number">
|
||||
* 2. Резервные номера из wa.me-ссылок (если не совпадают по цифрам с уже найденными)
|
||||
* 3. Сайт из <a class="business-urls-view__link" href="…">
|
||||
* 4. Адрес офиса через officeFromTitle()
|
||||
*
|
||||
* Если телефонов нет, но сайт есть — одна карточка с number=''.
|
||||
* Если нет ни телефона, ни сайта — [].
|
||||
*
|
||||
* @return list<DirectoryCard>
|
||||
*/
|
||||
public function parseYandexCard(string $html, string $url): array
|
||||
{
|
||||
$office = $this->officeFromTitle($html);
|
||||
// «Чем занимается» — рубрика из заголовка карточки Яндекса («Имя, РУБРИКА, адрес…, Город»).
|
||||
$description = $this->categoryFromTitle($html);
|
||||
|
||||
// Телефоны из <div class="orgpage-phones-view__phone-number"…>ТЕЛЕФОН</div>
|
||||
$phones = [];
|
||||
if (preg_match_all(
|
||||
'/class="orgpage-phones-view__phone-number"[^>]*>\s*([^<]+?)\s*</',
|
||||
$html,
|
||||
$m,
|
||||
)) {
|
||||
foreach ($m[1] as $raw) {
|
||||
$raw = trim($raw);
|
||||
if ($raw !== '') {
|
||||
$phones[] = $raw;
|
||||
}
|
||||
}
|
||||
}
|
||||
|
||||
// Телефоны из скрытого JSON (Яндекс прячет 2-й и последующие за раскрывашкой,
|
||||
// но все объекты {"number":"...","type":"phone","value":"..."} лежат в HTML).
|
||||
// Берём поле value — это чистый номер в международном формате.
|
||||
if (preg_match_all(
|
||||
'/"number":"[^"]+","type":"phone","value":"(\+?\d{10,15})"/u',
|
||||
$html,
|
||||
$jm,
|
||||
)) {
|
||||
foreach ($jm[1] as $jsonNum) {
|
||||
$jsonDigits = preg_replace('/\D/', '', $jsonNum);
|
||||
$alreadyHave = false;
|
||||
foreach ($phones as $existing) {
|
||||
if (preg_replace('/\D/', '', $existing) === $jsonDigits) {
|
||||
$alreadyHave = true;
|
||||
break;
|
||||
}
|
||||
}
|
||||
if (! $alreadyHave) {
|
||||
$phones[] = $jsonNum;
|
||||
}
|
||||
}
|
||||
}
|
||||
|
||||
// Резервные: wa.me/7XXXXXXXXXX — добавляем только если цифры нового
|
||||
if (preg_match_all('/wa\.me\/(\d{10,15})/i', $html, $wm)) {
|
||||
foreach ($wm[1] as $digits) {
|
||||
$alreadyHave = false;
|
||||
foreach ($phones as $existing) {
|
||||
if (preg_replace('/\D/', '', $existing) === $digits) {
|
||||
$alreadyHave = true;
|
||||
break;
|
||||
}
|
||||
}
|
||||
if (! $alreadyHave) {
|
||||
$phones[] = '+'.$digits;
|
||||
}
|
||||
}
|
||||
}
|
||||
|
||||
// Сайт
|
||||
$siteUrl = null;
|
||||
if (preg_match('/class="business-urls-view__link"\s+href="([^"]+)"/i', $html, $sm)) {
|
||||
$siteUrl = $sm[1];
|
||||
}
|
||||
|
||||
if ($phones === [] && $siteUrl === null) {
|
||||
return [];
|
||||
}
|
||||
|
||||
if ($phones === []) {
|
||||
return [new DirectoryCard(
|
||||
number: '',
|
||||
office: $office,
|
||||
url: $url,
|
||||
source: 'Яндекс.Карты',
|
||||
siteUrl: $siteUrl,
|
||||
description: $description,
|
||||
)];
|
||||
}
|
||||
|
||||
$out = [];
|
||||
$seenDigits = [];
|
||||
foreach ($phones as $raw) {
|
||||
$digits = preg_replace('/\D/', '', $raw);
|
||||
if (isset($seenDigits[$digits])) {
|
||||
continue;
|
||||
}
|
||||
$seenDigits[$digits] = true;
|
||||
$out[] = new DirectoryCard(
|
||||
number: $raw,
|
||||
office: $office,
|
||||
url: $url,
|
||||
source: 'Яндекс.Карты',
|
||||
siteUrl: $siteUrl,
|
||||
description: $description,
|
||||
);
|
||||
}
|
||||
|
||||
return $out;
|
||||
}
|
||||
|
||||
/**
|
||||
* Карточка фирмы 2ГИС «вскрыть всё»: сайт + ВСЕ телефоны + описание из карточки.
|
||||
*
|
||||
* 2ГИС хранит контакты JSON-массивом объектов:
|
||||
* - сайт — объект {"url":"…","type":"website",…} → берём поле `url` (НЕ `value`:
|
||||
* там редирект link.2gis.ru, а не настоящий сайт);
|
||||
* - телефоны — объекты {"type":"phone","value":"+7…"} → берём `value`;
|
||||
* - описание «чем занимается» — best-effort из og:description (стабильнее хэш-классов 2ГИС).
|
||||
*
|
||||
* Мусор-домены (счётчики/трекеры в <script src>) сюда не попадают: сайт берём ТОЛЬКО из
|
||||
* объекта-контакта website, а не «первый домен на странице».
|
||||
*
|
||||
* Если телефонов нет, но сайт есть — одна карточка с number=''. Нет ни того, ни другого — [].
|
||||
*
|
||||
* @return list<DirectoryCard>
|
||||
*/
|
||||
public function parse2gisCard(string $html, string $url): array
|
||||
{
|
||||
$office = $this->officeFromTitle($html);
|
||||
// «Чем занимается»: сначала своё описание (og), если оно не заглушка; иначе — рубрика из
|
||||
// заголовка карточки («Имя, РУБРИКА, адрес…, Город»). Рекламный текст 2ГИС грузится отдельно
|
||||
// (не в HTML) — его тут нет, рубрика — надёжный минимум.
|
||||
$description = $this->descriptionFromMeta($html) ?? $this->categoryFromTitle($html);
|
||||
|
||||
// Сайт: в объекте-контакте url идёт ДО "type":"website" (порядок ключей url,text,code,type).
|
||||
// Берём первый такой объект; [^}]*? не даёт «перепрыгнуть» в соседний объект.
|
||||
$siteUrl = null;
|
||||
if (preg_match('/"url":"([^"]+)"[^}]*?"type":"website"/u', $html, $sm)) {
|
||||
$siteUrl = $sm[1];
|
||||
}
|
||||
|
||||
// Телефоны: value у объектов {"type":"phone","value":"+7…"}; дедуп по цифрам.
|
||||
// ВАЖНО: разбираем ПООБЪЕКТНО (не сквозной регуляркой по всей странице), чтобы отсеять
|
||||
// РЕКЛАМНЫЕ кнопки-действия. 2ГИС вшивает в карточку рекламу чужих фирм («Связаться с
|
||||
// менеджером») — это объект с caption/platforms и БЕЗ code/print_text; его value — телефон
|
||||
// другой компании. Если его взять, чужой номер попадает в контакты фирмы и даёт ложную
|
||||
// склейку/«объединить?» (живой случай: телефон Айклауда прилетал в Ломбард Бодрый).
|
||||
$phones = [];
|
||||
$seenDigits = [];
|
||||
if (preg_match_all('/\{[^{}]*?"type":"phone"[^{}]*?\}/u', $html, $om)) {
|
||||
foreach ($om[0] as $obj) {
|
||||
// Рекламная кнопка-действие, а не контакт фирмы → пропускаем.
|
||||
if (str_contains($obj, '"platforms"') || str_contains($obj, '"caption"')) {
|
||||
continue;
|
||||
}
|
||||
if (! preg_match('/"value":"(\+?\d{10,15})"/u', $obj, $vm)) {
|
||||
continue;
|
||||
}
|
||||
$digits = preg_replace('/\D/', '', $vm[1]);
|
||||
if ($digits === '' || isset($seenDigits[$digits])) {
|
||||
continue;
|
||||
}
|
||||
$seenDigits[$digits] = true;
|
||||
$phones[] = $vm[1];
|
||||
}
|
||||
}
|
||||
|
||||
if ($phones === [] && $siteUrl === null) {
|
||||
return [];
|
||||
}
|
||||
|
||||
if ($phones === []) {
|
||||
return [new DirectoryCard(
|
||||
number: '',
|
||||
office: $office,
|
||||
url: $url,
|
||||
source: '2ГИС',
|
||||
siteUrl: $siteUrl,
|
||||
description: $description,
|
||||
)];
|
||||
}
|
||||
|
||||
$out = [];
|
||||
foreach ($phones as $raw) {
|
||||
$out[] = new DirectoryCard(
|
||||
number: $raw,
|
||||
office: $office,
|
||||
url: $url,
|
||||
source: '2ГИС',
|
||||
siteUrl: $siteUrl,
|
||||
description: $description,
|
||||
);
|
||||
}
|
||||
|
||||
return $out;
|
||||
}
|
||||
|
||||
/**
|
||||
* Описание «чем занимается» из og:description / meta description (best-effort, может быть null).
|
||||
*/
|
||||
private function descriptionFromMeta(string $html): ?string
|
||||
{
|
||||
if (preg_match('/<meta[^>]+property="og:description"[^>]+content="([^"]+)"/i', $html, $m)
|
||||
|| preg_match('/<meta[^>]+name="description"[^>]+content="([^"]+)"/i', $html, $m)) {
|
||||
$d = trim(html_entity_decode($m[1], ENT_QUOTES | ENT_HTML5, 'UTF-8'));
|
||||
|
||||
return ($d !== '' && ! $this->isJunkDescription($d)) ? $d : null;
|
||||
}
|
||||
|
||||
return null;
|
||||
}
|
||||
|
||||
/**
|
||||
* Служебная заглушка справочника (не «чем занимается»): «Оценка N, N фото, N отзывов. Вся
|
||||
* информация об этом месте есть в 2ГИС» и т.п. Такое в описание не пишем — это мусор для
|
||||
* релевантности и отсева агрегаторов.
|
||||
*/
|
||||
private function isJunkDescription(string $d): bool
|
||||
{
|
||||
$low = mb_strtolower($d, 'UTF-8');
|
||||
|
||||
// Упоминает сам справочник (2ГИС/Яндекс) или это блок «оценка … фото … отзыв».
|
||||
return str_contains($low, '2гис')
|
||||
|| str_contains($low, '2gis')
|
||||
|| (str_contains($low, 'фото') && str_contains($low, 'отзыв'))
|
||||
|| (bool) preg_match('/^оценка\s+\d/u', $low);
|
||||
}
|
||||
|
||||
/**
|
||||
* Рубрика «чем занимается» из <title> вида «Имя, РУБРИКА, адрес…, Город — 2ГИС/Яндекс».
|
||||
* Рубрика — 2-й кусок, НО только если он не похож на адрес (иначе это «Имя, адрес…, Город» без рубрики).
|
||||
*/
|
||||
private function categoryFromTitle(string $html): ?string
|
||||
{
|
||||
if (! preg_match('#<title>(.*?)</title>#is', $html, $m)) {
|
||||
return null;
|
||||
}
|
||||
$title = html_entity_decode(trim($m[1]), ENT_QUOTES | ENT_HTML5, 'UTF-8');
|
||||
$title = preg_replace('/[\s\x{00A0}]+/u', ' ', $title) ?? $title;
|
||||
$title = trim($title);
|
||||
$title = preg_replace('/\s*[—-]\s*(2ГИС|Яндекс[^,]*)\s*$/u', '', $title) ?? $title;
|
||||
|
||||
$parts = array_map('trim', explode(',', $title));
|
||||
if (count($parts) < 3) {
|
||||
return null; // «Имя, Город» — отдельной рубрики нет
|
||||
}
|
||||
$cand = $parts[1] ?? '';
|
||||
|
||||
return ($cand !== '' && ! $this->looksLikeAddress($cand)) ? $cand : null;
|
||||
}
|
||||
|
||||
/** Кусок заголовка похож на адрес (улица/проспект/дом), а не на рубрику. */
|
||||
private function looksLikeAddress(string $s): bool
|
||||
{
|
||||
$low = mb_strtolower($s, 'UTF-8');
|
||||
|
||||
return (bool) preg_match('/улиц|ул\.|проспект|пр-т|пр\.|переул|пер\.|бульвар|шоссе|набереж|площад|проезд|тракт|\d/u', $low);
|
||||
}
|
||||
|
||||
/**
|
||||
* Адрес офиса из <title> вида «Имя, адрес…, Город — 2ГИС».
|
||||
* Берём всё между первой и последней запятой (имя фирмы и город/суффикс отбрасываем).
|
||||
*/
|
||||
private function officeFromTitle(string $html): ?string
|
||||
{
|
||||
if (! preg_match('#<title>(.*?)</title>#is', $html, $m)) {
|
||||
return null;
|
||||
}
|
||||
$title = html_entity_decode(trim($m[1]), ENT_QUOTES | ENT_HTML5, 'UTF-8');
|
||||
// нормализуем пробелы (в т.ч. неразрывные U+00A0) → одиночные
|
||||
$title = preg_replace('/[\s\x{00A0}]+/u', ' ', $title) ?? $title;
|
||||
$title = trim($title);
|
||||
// отрезаем хвост « — 2ГИС» / « — Яндекс Карты»
|
||||
$title = preg_replace('/\s*[—-]\s*(2ГИС|Яндекс[^,]*)\s*$/u', '', $title) ?? $title;
|
||||
|
||||
$parts = array_map('trim', explode(',', $title));
|
||||
if (count($parts) < 3) {
|
||||
return null; // нет адреса между именем и городом
|
||||
}
|
||||
// имя фирмы — первый кусок, город — последний; адрес — середина
|
||||
$address = array_slice($parts, 1, count($parts) - 2);
|
||||
|
||||
return implode(', ', $address) ?: null;
|
||||
}
|
||||
}
|
||||
@@ -1,171 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Services\Autopodbor\Agent\Extract;
|
||||
|
||||
final class HtmlPhoneScanner
|
||||
{
|
||||
/**
|
||||
* @param ?string $defaultAreaCode код города из запроса (напр. «391») — запасной для
|
||||
* достройки коротких локальных номеров, если на странице нет полных
|
||||
* @return array{code: array<string,list<string>>, body: array<string,int>, emails: list<string>, uncertain: list<string>}
|
||||
*/
|
||||
public function scan(string $html, ?string $defaultAreaCode = null): array
|
||||
{
|
||||
$code = [];
|
||||
$uncertain = [];
|
||||
|
||||
// 1. Собираем сырые значения из ЯВНЫХ телефонных контекстов (tel/schema/microdata).
|
||||
// Короткие локальные формы (без кода города) здесь безопасны — это точно телефоны.
|
||||
$rawCandidates = [];
|
||||
$patterns = [
|
||||
['/tel:([+0-9()\s-]{6,})/i', 'tel'],
|
||||
['/"telephone"\s*:\s*"([^"]+)"/i', 'schema'],
|
||||
['/itemprop=["\']telephone["\'][^>]*content=["\']([^"\']+)/i', 'microdata'],
|
||||
];
|
||||
foreach ($patterns as [$re, $slot]) {
|
||||
if (preg_match_all($re, $html, $m)) {
|
||||
foreach ($m[1] as $x) {
|
||||
$rawCandidates[] = ['raw' => $x, 'slot' => $slot];
|
||||
}
|
||||
}
|
||||
}
|
||||
|
||||
// 2. Из полных номеров берём национальные части (10 цифр) — по ним определяем код города.
|
||||
$national = [];
|
||||
foreach ($rawCandidates as $c) {
|
||||
$n = $this->normalizeMaybe($c['raw']);
|
||||
if ($n !== null) {
|
||||
$national[] = substr($n, 1);
|
||||
}
|
||||
}
|
||||
|
||||
$add = function (string $n, string $slot) use (&$code): void {
|
||||
$code[$n] ??= [];
|
||||
if (! in_array($slot, $code[$n], true)) {
|
||||
$code[$n][] = $slot;
|
||||
}
|
||||
};
|
||||
|
||||
// 3. Разносим: полные — как есть; короткие локальные — достраиваем кодом города.
|
||||
foreach ($rawCandidates as $c) {
|
||||
$n = $this->normalizeMaybe($c['raw']);
|
||||
if ($n !== null) {
|
||||
$add($n, $c['slot']);
|
||||
|
||||
continue;
|
||||
}
|
||||
[$status, $value] = $this->classifyShort($c['raw'], $national, $defaultAreaCode);
|
||||
if ($status === 'built') {
|
||||
$add((string) $value, $c['slot']);
|
||||
} elseif ($status === 'uncertain' && ! in_array($value, $uncertain, true)) {
|
||||
$uncertain[] = (string) $value; // код города не определить — не теряем, к проверке
|
||||
}
|
||||
// 'fragment' (обрезок полного номера) и 'skip' (не телефон) — игнорируем
|
||||
}
|
||||
|
||||
// Номера в теле берём из ВИДИМОГО текста: вырезаем <script>/<style>, чтобы не тянуть
|
||||
// технический мусор из конфигов/аналитики. Реальные номера из JSON-LD уже пойманы выше (schema).
|
||||
$bodyHtml = preg_replace('#<(script|style)\b[^>]*>.*?</\1>#is', ' ', $html) ?? $html;
|
||||
|
||||
$body = [];
|
||||
if (preg_match_all('/(?:\+7|8)[\s(\-]*\d{3}[\s)\-]*\d{3}[\s\-]*\d{2}[\s\-]*\d{2}/', $bodyHtml, $m)) {
|
||||
foreach ($m[0] as $x) {
|
||||
$n = $this->normalizeMaybe($x);
|
||||
if ($n !== null) {
|
||||
$body[$n] = ($body[$n] ?? 0) + 1;
|
||||
}
|
||||
}
|
||||
}
|
||||
|
||||
$emails = [];
|
||||
if (preg_match_all('/([a-z0-9._%+-]+)@[a-z0-9.-]+\.[a-z]{2,}/i', $html, $m)) {
|
||||
foreach ($m[1] as $local) {
|
||||
$d = preg_replace('/\D+/', '', $local) ?? '';
|
||||
if (strlen($d) >= 7) {
|
||||
$emails[] = $d;
|
||||
}
|
||||
}
|
||||
}
|
||||
|
||||
return ['code' => $code, 'body' => $body, 'emails' => $emails, 'uncertain' => $uncertain];
|
||||
}
|
||||
|
||||
private function normalizeMaybe(string $raw): ?string
|
||||
{
|
||||
$digits = preg_replace('/\D+/', '', $raw) ?? '';
|
||||
if (strlen($digits) === 11 && ($digits[0] === '8' || $digits[0] === '7')) {
|
||||
return '7'.substr($digits, 1);
|
||||
}
|
||||
if (strlen($digits) === 10) {
|
||||
return '7'.$digits;
|
||||
}
|
||||
|
||||
return null;
|
||||
}
|
||||
|
||||
/**
|
||||
* Классифицирует короткую (6–7 цифр) форму номера из явного телефонного контекста.
|
||||
* Возвращает [статус, значение]:
|
||||
* - 'built' + 7XXXXXXXXXX — локальный номер достроен кодом города;
|
||||
* - 'fragment' + null — обрезок полного номера (страна+код), выкидываем;
|
||||
* - 'uncertain' + цифры — код города не определить, не теряем, помечаем к проверке;
|
||||
* - 'skip' + null — не 6–7-значная форма, не наше.
|
||||
* Пример: «271-33-33» при «+7 (391) …» → ['built','73912713333'];
|
||||
* обрезок «+7 (391) 271» (7391271) → ['fragment', null].
|
||||
*
|
||||
* @param list<string> $national 10-значные национальные части полных номеров страницы
|
||||
* @param ?string $defaultAreaCode запасной код города из запроса (если полных нет)
|
||||
* @return array{0:string,1:?string}
|
||||
*/
|
||||
private function classifyShort(string $raw, array $national, ?string $defaultAreaCode): array
|
||||
{
|
||||
$digits = preg_replace('/\D+/', '', $raw) ?? '';
|
||||
$len = strlen($digits);
|
||||
if ($len < 6 || $len > 7) {
|
||||
return ['skip', null];
|
||||
}
|
||||
|
||||
$area = $this->areaCode($national, 10 - $len, $defaultAreaCode);
|
||||
if ($area === null) {
|
||||
return ['uncertain', $digits]; // код города не определить
|
||||
}
|
||||
|
||||
// Обрезок полного номера: уже содержит код страны 7/8 + код города (напр. 7391271 = 7·391·271).
|
||||
// Настоящий локальный (2713333, или московский 7712233 при коде 495) этим не задевается.
|
||||
if (str_starts_with($digits, '7'.$area) || str_starts_with($digits, '8'.$area)) {
|
||||
return ['fragment', null];
|
||||
}
|
||||
|
||||
return ['built', '7'.$area.$digits];
|
||||
}
|
||||
|
||||
/**
|
||||
* Код города нужной длины: самый частый префикс среди полных номеров страницы,
|
||||
* иначе запасной из запроса. null — если не определить.
|
||||
*
|
||||
* @param list<string> $national
|
||||
*/
|
||||
private function areaCode(array $national, int $prefixLen, ?string $defaultAreaCode): ?string
|
||||
{
|
||||
if ($national !== []) {
|
||||
$counts = [];
|
||||
foreach ($national as $nat) {
|
||||
$p = substr($nat, 0, $prefixLen);
|
||||
$counts[$p] = ($counts[$p] ?? 0) + 1;
|
||||
}
|
||||
arsort($counts);
|
||||
$prefix = (string) array_key_first($counts);
|
||||
if (strlen($prefix) === $prefixLen) {
|
||||
return $prefix;
|
||||
}
|
||||
}
|
||||
|
||||
if ($defaultAreaCode !== null && strlen($defaultAreaCode) === $prefixLen) {
|
||||
return $defaultAreaCode;
|
||||
}
|
||||
|
||||
return null;
|
||||
}
|
||||
}
|
||||
@@ -1,38 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Services\Autopodbor\Agent\Extract;
|
||||
|
||||
use App\Services\Autopodbor\Agent\ChannelA\CategoryListingParser;
|
||||
use App\Services\Autopodbor\Agent\Fetch\DirectoryCard;
|
||||
|
||||
/**
|
||||
* xf4-путь шва {@see TwoGisReader}: тонкий делегат к нынешним HTML-парсерам. Поведение 1:1 с прямым
|
||||
* вызовом {@see CategoryListingParser}/{@see DirectoryParser} — старые парсеры не трогаются, xf4-путь
|
||||
* остаётся целым. Развилка HTML↔JSON — на уровне провайдера (какой ридер инжектится), не внутри парсеров.
|
||||
*/
|
||||
final class HtmlTwoGisReader implements TwoGisReader
|
||||
{
|
||||
public function __construct(
|
||||
private readonly CategoryListingParser $listing = new CategoryListingParser,
|
||||
private readonly DirectoryParser $directory = new DirectoryParser,
|
||||
) {}
|
||||
|
||||
public function listing(string $payload): array
|
||||
{
|
||||
return $this->listing->parse($payload);
|
||||
}
|
||||
|
||||
/** @return list<DirectoryCard> */
|
||||
public function card(string $payload, string $url): array
|
||||
{
|
||||
return $this->directory->parse2gisCard($payload, $url);
|
||||
}
|
||||
|
||||
/** @return list<string> */
|
||||
public function branchList(string $payload): array
|
||||
{
|
||||
return $this->directory->parseBranchList($payload);
|
||||
}
|
||||
}
|
||||
@@ -1,22 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Services\Autopodbor\Agent\Extract;
|
||||
|
||||
final class PhoneType
|
||||
{
|
||||
/** @param string $p номер в виде 7XXXXXXXXXX */
|
||||
public static function of(string $p): string
|
||||
{
|
||||
$code = substr($p, 1, 3);
|
||||
if ($code === '800') {
|
||||
return 'tollfree';
|
||||
}
|
||||
if (isset($code[0]) && $code[0] === '9') {
|
||||
return 'mobile';
|
||||
}
|
||||
|
||||
return 'city';
|
||||
}
|
||||
}
|
||||
@@ -1,85 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Services\Autopodbor\Agent\Extract;
|
||||
|
||||
use App\Services\Autopodbor\Agent\Dto\CollectedSource;
|
||||
|
||||
final class SourceAggregator
|
||||
{
|
||||
private const TRUSTED = ['code', 'contacts', 'directory', 'email'];
|
||||
|
||||
/**
|
||||
* @param array<int,array{number:string,kind:string,label:string,url:?string,office:?string,tracker:bool}> $candidates
|
||||
* @return list<CollectedSource>
|
||||
*/
|
||||
public function aggregate(array $candidates): array
|
||||
{
|
||||
/** @var array<string,array{sources:array<string,array{label:string,url:?string}>,kinds:list<string>,office:?string,tracker:bool}> $by */
|
||||
$by = [];
|
||||
foreach ($candidates as $c) {
|
||||
$n = $c['number'];
|
||||
$by[$n] ??= ['sources' => [], 'kinds' => [], 'office' => null, 'tracker' => false];
|
||||
$by[$n]['kinds'][] = $c['kind'];
|
||||
$by[$n]['tracker'] = $by[$n]['tracker'] || $c['tracker'];
|
||||
$by[$n]['office'] ??= $c['office'];
|
||||
if ($c['kind'] !== 'pool') {
|
||||
$key = $c['label'];
|
||||
if (! isset($by[$n]['sources'][$key])) {
|
||||
$by[$n]['sources'][$key] = ['label' => $c['label'], 'url' => $c['url']];
|
||||
}
|
||||
}
|
||||
}
|
||||
|
||||
$out = [];
|
||||
foreach ($by as $n => $info) {
|
||||
$n = (string) $n; // PHP приводит числовые ключи массива к int — возвращаем строку
|
||||
$kinds = $info['kinds'];
|
||||
$hasTrusted = (bool) array_intersect(self::TRUSTED, $kinds);
|
||||
$hasDisplayed = in_array('displayed', $kinds, true);
|
||||
$hasText = in_array('text', $kinds, true);
|
||||
// короткий локальный номер без определимого кода города — «требует проверки»
|
||||
$isUncertain = ! $hasTrusted && ! $hasDisplayed && ! $hasText && in_array('uncertain', $kinds, true);
|
||||
// номер только из текста сайта (не подтверждён tel:/справочником) — показываем «проверьте»
|
||||
$isTextOnly = ! $hasTrusted && ! $hasDisplayed && ! $isUncertain && $hasText;
|
||||
$onlyHidden = ! $hasTrusted && ! $hasDisplayed && ! $isUncertain && ! $isTextOnly; // только pool-свалка
|
||||
if ($onlyHidden) {
|
||||
continue; // пул-свалка — не выводим
|
||||
}
|
||||
if ($isUncertain) {
|
||||
$phoneKind = 'uncertain';
|
||||
$phoneType = null; // тип не выдумываем — номер ещё не достроен
|
||||
} elseif ($isTextOnly) {
|
||||
$phoneKind = 'unverified'; // «на сайте — проверьте»
|
||||
$phoneType = PhoneType::of($n); // номер полный — тип знаем
|
||||
} else {
|
||||
$phoneKind = $hasTrusted ? 'real' : 'substitute';
|
||||
$phoneType = PhoneType::of($n);
|
||||
}
|
||||
$out[] = new CollectedSource(
|
||||
signalType: 'call',
|
||||
identifier: $n,
|
||||
phoneKind: $phoneKind,
|
||||
phoneType: $phoneType,
|
||||
office: $info['office'],
|
||||
sources: array_values($info['sources']),
|
||||
);
|
||||
}
|
||||
|
||||
usort($out, function (CollectedSource $a, CollectedSource $b): int {
|
||||
$sa = $a->phoneKind === 'substitute' ? 1 : 0;
|
||||
$sb = $b->phoneKind === 'substitute' ? 1 : 0;
|
||||
if ($sa !== $sb) {
|
||||
return $sa <=> $sb; // подменные — вниз
|
||||
}
|
||||
if ($a->confirmations() !== $b->confirmations()) {
|
||||
return $b->confirmations() <=> $a->confirmations(); // больше подтверждений — выше
|
||||
}
|
||||
|
||||
return strcmp($a->identifier, $b->identifier);
|
||||
});
|
||||
|
||||
return $out;
|
||||
}
|
||||
}
|
||||
@@ -1,269 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Services\Autopodbor\Agent\Extract;
|
||||
|
||||
use App\Services\Autopodbor\Agent\Fetch\DirectoryCard;
|
||||
|
||||
/**
|
||||
* self-render путь шва {@see TwoGisReader}: разбирает встроенное состояние 2ГИС (`window.initialState`,
|
||||
* приходит строкой-JSON от рендер-сервиса) в ТОТ ЖЕ контракт, что HTML-парсеры. Карта JSON-путей и
|
||||
* рецепт рендера — docs/superpowers/findings/2026-07-05-2gis-initialstate-spike.md.
|
||||
*
|
||||
* Структура: упорядоченный список результатов `data.search.pagination.{searchId}.{page}.data`
|
||||
* (id фирм по рангу) → профили `data.entity.profile.{id}.data` (имя/город/рубрика/сайт/телефоны).
|
||||
* 🔴 Ходим ТОЛЬКО по pagination-списку, НЕ по ключам profile (там бывают посторонние сущности).
|
||||
*/
|
||||
final class TwoGisJsonReader implements TwoGisReader
|
||||
{
|
||||
/** Тип «фирма» в 2ГИС — branch (филиал организации). Здания/улицы/маршруты = не фирма, отсекаем. */
|
||||
private const FIRM_TYPE = 'branch';
|
||||
|
||||
/**
|
||||
* @return list<array{name:string,card_url:string,site:?string}>
|
||||
*/
|
||||
public function listing(string $payload): array
|
||||
{
|
||||
$state = $this->decode($payload);
|
||||
if ($state === null) {
|
||||
return [];
|
||||
}
|
||||
|
||||
$out = [];
|
||||
foreach ($this->resultIds($state) as $id) {
|
||||
$d = $this->profileData($state, $id);
|
||||
if ($d === null || ($d['type'] ?? null) !== self::FIRM_TYPE) {
|
||||
continue; // не фирма (здание/улица/маршрут) или нет профиля — пропускаем
|
||||
}
|
||||
$name = trim((string) ($d['name'] ?? ''));
|
||||
if ($name === '') {
|
||||
continue;
|
||||
}
|
||||
$out[] = [
|
||||
'name' => $name,
|
||||
'card_url' => $this->cardUrl($d, $id),
|
||||
'site' => $this->siteOf($d),
|
||||
];
|
||||
}
|
||||
|
||||
return $out;
|
||||
}
|
||||
|
||||
/**
|
||||
* @return list<DirectoryCard>
|
||||
*/
|
||||
public function card(string $payload, string $url): array
|
||||
{
|
||||
$state = $this->decode($payload);
|
||||
if ($state === null) {
|
||||
return [];
|
||||
}
|
||||
|
||||
// Целевая фирма — по id из URL /firm/{id}; если не нашли — единственный профиль страницы.
|
||||
$id = null;
|
||||
if (preg_match('#/firm/(\d+)#', $url, $m)) {
|
||||
$id = $m[1];
|
||||
}
|
||||
$d = $id !== null ? $this->profileData($state, $id) : null;
|
||||
if ($d === null) {
|
||||
$profiles = $this->arr($state, ['data', 'entity', 'profile']);
|
||||
$first = $profiles !== [] ? array_key_first($profiles) : null;
|
||||
$d = $first !== null ? ($profiles[$first]['data'] ?? null) : null;
|
||||
}
|
||||
if (! is_array($d)) {
|
||||
return [];
|
||||
}
|
||||
|
||||
$site = $this->siteOf($d);
|
||||
$office = isset($d['address_name']) ? (string) $d['address_name'] : null;
|
||||
$description = $this->firstRubric($d);
|
||||
|
||||
// Телефоны из contact_groups → contacts type=phone → поле value (чистый +7…). Дедуп по цифрам.
|
||||
$phones = [];
|
||||
$seen = [];
|
||||
foreach ($this->contacts($d) as $c) {
|
||||
if (($c['type'] ?? null) !== 'phone') {
|
||||
continue;
|
||||
}
|
||||
$value = (string) ($c['value'] ?? $c['text'] ?? '');
|
||||
$digits = preg_replace('/\D/', '', $value) ?? '';
|
||||
if ($digits === '' || isset($seen[$digits])) {
|
||||
continue;
|
||||
}
|
||||
$seen[$digits] = true;
|
||||
$phones[] = $value;
|
||||
}
|
||||
|
||||
// Семантика 1:1 с parse2gisCard: нет ни телефона, ни сайта → []; нет телефонов, есть сайт →
|
||||
// одна карточка с number=''; иначе карточка на каждый телефон (общий сайт/описание/офис).
|
||||
if ($phones === [] && $site === null) {
|
||||
return [];
|
||||
}
|
||||
if ($phones === []) {
|
||||
return [new DirectoryCard(number: '', office: $office, url: $url, source: '2ГИС', siteUrl: $site, description: $description)];
|
||||
}
|
||||
|
||||
$out = [];
|
||||
foreach ($phones as $raw) {
|
||||
$out[] = new DirectoryCard(number: $raw, office: $office, url: $url, source: '2ГИС', siteUrl: $site, description: $description);
|
||||
}
|
||||
|
||||
return $out;
|
||||
}
|
||||
|
||||
/**
|
||||
* @return list<string>
|
||||
*/
|
||||
public function branchList(string $payload): array
|
||||
{
|
||||
$state = $this->decode($payload);
|
||||
if ($state === null) {
|
||||
return [];
|
||||
}
|
||||
|
||||
$out = [];
|
||||
foreach ($this->resultIds($state) as $id) {
|
||||
$d = $this->profileData($state, $id);
|
||||
if ($d === null || ($d['type'] ?? null) !== self::FIRM_TYPE) {
|
||||
continue;
|
||||
}
|
||||
$path = '/'.($d['city_alias'] ?? '').'/firm/'.$id;
|
||||
if (! in_array($path, $out, true)) {
|
||||
$out[] = $path;
|
||||
}
|
||||
}
|
||||
|
||||
return $out;
|
||||
}
|
||||
|
||||
// --- helpers ---
|
||||
|
||||
/** @return array<mixed>|null */
|
||||
private function decode(string $payload): ?array
|
||||
{
|
||||
$payload = trim($payload);
|
||||
if ($payload === '' || $payload[0] !== '{') {
|
||||
return null;
|
||||
}
|
||||
$state = json_decode($payload, true);
|
||||
|
||||
return is_array($state) ? $state : null;
|
||||
}
|
||||
|
||||
/**
|
||||
* Упорядоченный список id результатов: первый searchId → все страницы по числовому ключу → data.
|
||||
*
|
||||
* @param array<mixed> $state
|
||||
* @return list<string>
|
||||
*/
|
||||
private function resultIds(array $state): array
|
||||
{
|
||||
$pagination = $this->arr($state, ['data', 'search', 'pagination']);
|
||||
if ($pagination === []) {
|
||||
return [];
|
||||
}
|
||||
$searchId = array_key_first($pagination);
|
||||
$pages = is_array($pagination[$searchId] ?? null) ? $pagination[$searchId] : [];
|
||||
// Страницы по возрастанию номера (payload обычно = одна страница, но подстрахуемся).
|
||||
$keys = array_keys($pages);
|
||||
sort($keys, SORT_NATURAL);
|
||||
|
||||
$ids = [];
|
||||
$seen = [];
|
||||
foreach ($keys as $k) {
|
||||
foreach (($pages[$k]['data'] ?? []) as $id) {
|
||||
$id = (string) $id;
|
||||
if ($id !== '' && ! isset($seen[$id])) {
|
||||
$seen[$id] = true;
|
||||
$ids[] = $id;
|
||||
}
|
||||
}
|
||||
}
|
||||
|
||||
return $ids;
|
||||
}
|
||||
|
||||
/**
|
||||
* @param array<mixed> $state
|
||||
* @return array<mixed>|null
|
||||
*/
|
||||
private function profileData(array $state, string $id): ?array
|
||||
{
|
||||
$profiles = $this->arr($state, ['data', 'entity', 'profile']);
|
||||
$d = $profiles[$id]['data'] ?? null;
|
||||
|
||||
return is_array($d) ? $d : null;
|
||||
}
|
||||
|
||||
/** @param array<mixed> $d */
|
||||
private function cardUrl(array $d, string $id): string
|
||||
{
|
||||
return 'https://2gis.ru/'.($d['city_alias'] ?? '').'/firm/'.$id;
|
||||
}
|
||||
|
||||
/**
|
||||
* Сайт из contact_groups → contact type=website → поле url (НЕ value: там редирект link.2gis.ru).
|
||||
*
|
||||
* @param array<mixed> $d
|
||||
*/
|
||||
private function siteOf(array $d): ?string
|
||||
{
|
||||
foreach ($this->contacts($d) as $c) {
|
||||
if (($c['type'] ?? null) === 'website') {
|
||||
$url = (string) ($c['url'] ?? '');
|
||||
if ($url !== '') {
|
||||
return $url;
|
||||
}
|
||||
}
|
||||
}
|
||||
|
||||
return null;
|
||||
}
|
||||
|
||||
/** @param array<mixed> $d @return list<array<mixed>> */
|
||||
private function contacts(array $d): array
|
||||
{
|
||||
$out = [];
|
||||
foreach (($d['contact_groups'] ?? []) as $group) {
|
||||
foreach (($group['contacts'] ?? []) as $c) {
|
||||
if (is_array($c)) {
|
||||
$out[] = $c;
|
||||
}
|
||||
}
|
||||
}
|
||||
|
||||
return $out;
|
||||
}
|
||||
|
||||
/** @param array<mixed> $d */
|
||||
private function firstRubric(array $d): ?string
|
||||
{
|
||||
foreach (($d['rubrics'] ?? []) as $r) {
|
||||
$name = trim((string) ($r['name'] ?? ''));
|
||||
if ($name !== '') {
|
||||
return $name;
|
||||
}
|
||||
}
|
||||
|
||||
return null;
|
||||
}
|
||||
|
||||
/**
|
||||
* @param array<mixed> $state
|
||||
* @param list<string> $path
|
||||
* @return array<mixed>
|
||||
*/
|
||||
private function arr(array $state, array $path): array
|
||||
{
|
||||
$node = $state;
|
||||
foreach ($path as $key) {
|
||||
if (! is_array($node) || ! array_key_exists($key, $node)) {
|
||||
return [];
|
||||
}
|
||||
$node = $node[$key];
|
||||
}
|
||||
|
||||
return is_array($node) ? $node : [];
|
||||
}
|
||||
}
|
||||
@@ -1,37 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Services\Autopodbor\Agent\Extract;
|
||||
|
||||
use App\Services\Autopodbor\Agent\Fetch\DirectoryCard;
|
||||
|
||||
/**
|
||||
* Шов разбора 2ГИС: единый контракт поверх «сырья» страницы (HTML от xf4 ИЛИ initialState-JSON
|
||||
* от своего рендера). Реализации: {@see HtmlTwoGisReader} (xf4-путь, делегирует старым парсерам) и
|
||||
* {@see TwoGisJsonReader} (self-render, разбирает initialState). Выход по форме идентичен нынешним
|
||||
* парсерам, поэтому потребители (шаг 1/2, разворот) не замечают разницы источника.
|
||||
*/
|
||||
interface TwoGisReader
|
||||
{
|
||||
/**
|
||||
* Список фирм со страницы поиска-рубрики (как {@see CategoryListingParser::parse}).
|
||||
*
|
||||
* @return list<array{name:string,card_url:string,site:?string}>
|
||||
*/
|
||||
public function listing(string $payload): array;
|
||||
|
||||
/**
|
||||
* Карточка фирмы: телефоны+сайт+описание (как {@see DirectoryParser::parse2gisCard}).
|
||||
*
|
||||
* @return list<DirectoryCard>
|
||||
*/
|
||||
public function card(string $payload, string $url): array;
|
||||
|
||||
/**
|
||||
* Пути карточек филиалов со страницы списка/поиска (как {@see DirectoryParser::parseBranchList}).
|
||||
*
|
||||
* @return list<string>
|
||||
*/
|
||||
public function branchList(string $payload): array;
|
||||
}
|
||||
@@ -1,42 +0,0 @@
|
||||
<?php
|
||||
|
||||
namespace App\Services\Autopodbor\Agent;
|
||||
|
||||
use App\Services\Autopodbor\Agent\Dto\FindCompetitorsRequest;
|
||||
use App\Services\Autopodbor\Agent\Dto\FindCompetitorsResult;
|
||||
use App\Services\Autopodbor\Agent\Dto\ResolveByNameRequest;
|
||||
use App\Services\Autopodbor\Agent\Dto\ResolveByNameResult;
|
||||
use App\Services\Autopodbor\Agent\Dto\StudyCompetitorRequest;
|
||||
use App\Services\Autopodbor\Agent\Dto\StudyCompetitorResult;
|
||||
|
||||
final class FakeCompetitorAgent implements CompetitorAgent
|
||||
{
|
||||
public function findCompetitors(FindCompetitorsRequest $r): FindCompetitorsResult
|
||||
{
|
||||
return new FindCompetitorsResult([
|
||||
['name' => 'Окна Комфорт', 'description' => 'Пластиковые окна и остекление балконов под ключ.', 'is_federal' => false, 'relevance_pct' => 100, 'site_url' => 'okna-komfort-kzn.ru', 'directory_urls' => ['https://2gis.ru/firm/1'], 'provenance' => ['via' => 'similar-pages']],
|
||||
['name' => 'Пластика Окон', 'description' => 'Окна ПВХ, лоджии, входные группы.', 'is_federal' => false, 'relevance_pct' => 96, 'site_url' => 'plastika-okon-kzn.ru', 'directory_urls' => ['https://2gis.ru/firm/2'], 'provenance' => ['via' => 'similar-pages']],
|
||||
['name' => 'Фабрика Окон', 'description' => 'Федеральная сеть окон ПВХ, филиал в регионе.', 'is_federal' => true, 'relevance_pct' => 84, 'site_url' => 'fabrika-okon.ru', 'directory_urls' => ['https://2gis.ru/firm/3'], 'provenance' => ['via' => 'similar-pages']],
|
||||
['name' => 'Балкон-Сервис 16', 'description' => 'Остекление балконов; окна частично.', 'is_federal' => false, 'relevance_pct' => 61, 'site_url' => null, 'directory_urls' => ['https://yandex.ru/maps/4', 'https://2gis.ru/firm/4'], 'provenance' => ['via' => 'similar-pages']],
|
||||
]);
|
||||
}
|
||||
|
||||
public function studyCompetitor(StudyCompetitorRequest $r): StudyCompetitorResult
|
||||
{
|
||||
return new StudyCompetitorResult([
|
||||
['signal_type' => 'site', 'identifier' => 'okna-komfort-kzn.ru', 'phone_kind' => null, 'phone_type' => null, 'provenance_url' => 'https://2gis.ru/firm/1', 'provenance_label' => '2ГИС — карточка компании'],
|
||||
['signal_type' => 'site', 'identifier' => 'okna-komfort.pro', 'phone_kind' => null, 'phone_type' => null, 'provenance_url' => 'https://yandex.ru/maps/1', 'provenance_label' => 'Яндекс.Карты — сайт в контактах'],
|
||||
['signal_type' => 'call', 'identifier' => '78432001122', 'phone_kind' => 'real', 'phone_type' => 'city', 'provenance_url' => 'https://2gis.ru/firm/1', 'provenance_label' => '2ГИС — карточка компании'],
|
||||
['signal_type' => 'call', 'identifier' => '78432009988', 'phone_kind' => 'substitute', 'phone_type' => 'city', 'provenance_url' => 'https://okna-komfort-kzn.ru', 'provenance_label' => 'номер в шапке (коллтрекинг)'],
|
||||
['signal_type' => 'call', 'identifier' => '79172001122', 'phone_kind' => 'real', 'phone_type' => 'mobile', 'provenance_url' => 'https://yandex.ru/maps/1', 'provenance_label' => 'Яндекс.Карты — карточка компании'],
|
||||
['signal_type' => 'call', 'identifier' => '88002001122', 'phone_kind' => 'real', 'phone_type' => 'tollfree', 'provenance_url' => 'https://okna-komfort-kzn.ru/contacts', 'provenance_label' => 'бесплатная линия 8-800 на сайте'],
|
||||
]);
|
||||
}
|
||||
|
||||
public function resolveByName(ResolveByNameRequest $r): ResolveByNameResult
|
||||
{
|
||||
return new ResolveByNameResult([
|
||||
['name' => $r->name, 'description' => 'Найдено по названию (заглушка).', 'site_url' => 'okna-komfort-kzn.ru', 'directory_urls' => ['https://2gis.ru/firm/1'], 'provenance' => ['via' => 'name-search']],
|
||||
]);
|
||||
}
|
||||
}
|
||||
@@ -1,23 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Services\Autopodbor\Agent\Fetch;
|
||||
|
||||
/**
|
||||
* Загрузчик, умеющий тянуть НЕСКОЛЬКО страниц пачкой (параллельно, порциями по лимиту сервиса).
|
||||
* Отдельный интерфейс поверх {@see PageFetcher}, чтобы обходчик справочников мог опционально
|
||||
* ускорять сбор карточек (до 25 филиалов) — а простые/тестовые загрузчики его не реализуют
|
||||
* и продолжают работать по одному через {@see PageFetcher::html()}.
|
||||
*/
|
||||
interface BatchPageFetcher extends PageFetcher
|
||||
{
|
||||
/**
|
||||
* Достать HTML нескольких страниц. Реализация сама режет на порции по лимиту конкурентности
|
||||
* и параллелит внутри порции. Порядок не важен — возвращается карта url => html.
|
||||
*
|
||||
* @param list<string> $urls
|
||||
* @return array<string, string> url => html (пустая строка при неудаче — исключений не кидаем)
|
||||
*/
|
||||
public function htmlBatch(array $urls): array;
|
||||
}
|
||||
@@ -1,93 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Services\Autopodbor\Agent\Fetch;
|
||||
|
||||
use Illuminate\Support\Facades\Cache;
|
||||
|
||||
/**
|
||||
* Декоратор над реальным загрузчиком карточек ({@see SelfRenderClient} / {@see XfetchClient}).
|
||||
* Кэширует ОТРИСОВАННЫЕ карточки в общем хранилище (Redis) по ключу URL на N дней — чтобы не
|
||||
* дёргать 2ГИС/Яндекс/прокси повторно за одним и тем же. Кэш общий для шага 1 (поиск) и шага 2
|
||||
* (изучение) и для повторных прогонов: ключ по URL в Redis → любые экземпляры делят один кэш.
|
||||
*
|
||||
* 🔴 Кэшируем ТОЛЬКО карточки (2ГИС `…/firm/…`, Яндекс `…/maps/org/…`). Поиск (`…/search/…`) и
|
||||
* ленты — всегда мимо кэша (passthrough): добывание новых фирм должно оставаться свежим, иначе
|
||||
* повторный сбор не найдёт новые фирмы. Свежесть ограничивается ТОЛЬКО у уже найденного контента.
|
||||
*
|
||||
* 🔴 Пустой ответ НЕ кэшируем — разовый сбой (прокси/антибот) не должен отравить кэш на N дней.
|
||||
*/
|
||||
final class CachingPageFetcher implements BatchPageFetcher
|
||||
{
|
||||
public function __construct(
|
||||
private BatchPageFetcher $inner,
|
||||
private int $ttlDays = 5,
|
||||
) {}
|
||||
|
||||
public function html(string $url): string
|
||||
{
|
||||
if (! $this->cacheable($url)) {
|
||||
return $this->inner->html($url);
|
||||
}
|
||||
|
||||
$hit = Cache::get($this->key($url));
|
||||
if (is_string($hit) && $hit !== '') {
|
||||
return $hit;
|
||||
}
|
||||
|
||||
$value = $this->inner->html($url);
|
||||
$this->remember($url, $value);
|
||||
|
||||
return $value;
|
||||
}
|
||||
|
||||
/**
|
||||
* @param list<string> $urls
|
||||
* @return array<string, string>
|
||||
*/
|
||||
public function htmlBatch(array $urls): array
|
||||
{
|
||||
$result = [];
|
||||
$misses = [];
|
||||
foreach (array_values(array_unique($urls)) as $url) {
|
||||
if ($this->cacheable($url)) {
|
||||
$hit = Cache::get($this->key($url));
|
||||
if (is_string($hit) && $hit !== '') {
|
||||
$result[$url] = $hit;
|
||||
|
||||
continue;
|
||||
}
|
||||
}
|
||||
$misses[] = $url;
|
||||
}
|
||||
|
||||
if ($misses !== []) {
|
||||
foreach ($this->inner->htmlBatch($misses) as $url => $value) {
|
||||
$result[$url] = $value;
|
||||
$this->remember($url, $value);
|
||||
}
|
||||
}
|
||||
|
||||
return $result;
|
||||
}
|
||||
|
||||
/** Класть в кэш только карточку с НЕПУСТЫМ содержимым. */
|
||||
private function remember(string $url, string $value): void
|
||||
{
|
||||
if ($value !== '' && $this->cacheable($url)) {
|
||||
Cache::put($this->key($url), $value, now()->addDays($this->ttlDays));
|
||||
}
|
||||
}
|
||||
|
||||
/** Кэшируем только карточки: 2ГИС `/firm/`, Яндекс `/maps/org/`. Поиск и ленты — нет. */
|
||||
private function cacheable(string $url): bool
|
||||
{
|
||||
return str_contains($url, '/firm/') || str_contains($url, '/maps/org/');
|
||||
}
|
||||
|
||||
private function key(string $url): string
|
||||
{
|
||||
return 'autopodbor:render:'.sha1($url);
|
||||
}
|
||||
}
|
||||
@@ -1,28 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Services\Autopodbor\Agent\Fetch;
|
||||
|
||||
/**
|
||||
* Разводит добычу по двум путям: сайт конкурента — через богатый загрузчик
|
||||
* (curl + локальный Playwright, бесплатно, с видимыми/пул/контактами), справочники
|
||||
* (2ГИС/Яндекс) — через антибот-загрузчик (xfetch). Для движка — один {@see Fetcher}.
|
||||
*/
|
||||
final class CompositeFetcher implements Fetcher
|
||||
{
|
||||
public function __construct(
|
||||
private Fetcher $siteFetcher,
|
||||
private Fetcher $directoryFetcher,
|
||||
) {}
|
||||
|
||||
public function site(string $url): FetchedSite
|
||||
{
|
||||
return $this->siteFetcher->site($url);
|
||||
}
|
||||
|
||||
public function directory(string $url): array
|
||||
{
|
||||
return $this->directoryFetcher->directory($url);
|
||||
}
|
||||
}
|
||||
@@ -1,209 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Services\Autopodbor\Agent\Fetch;
|
||||
|
||||
use App\Services\Autopodbor\Agent\Extract\DirectoryParser;
|
||||
use Symfony\Component\Process\Process;
|
||||
|
||||
final class CurlPlaywrightFetcher implements Fetcher
|
||||
{
|
||||
public function __construct(
|
||||
private string $nodeBin = 'node',
|
||||
private string $renderScript = '', // путь к render-page.cjs; по умолчанию — base_path
|
||||
private int $timeout = 45,
|
||||
private string $firmScript = '', // путь к render-firm.cjs (карточка справочника с кликом)
|
||||
private int $maxBranches = 25, // предел обхода филиалов за один сбор
|
||||
private DirectoryParser $dirParser = new DirectoryParser,
|
||||
// Сиды (seams) для тестов: подмена curl и запуска node-рендера, без реальной сети/подпроцесса.
|
||||
// null → боевое поведение. fn(string $url): string и fn(string $script, string $url): ?array.
|
||||
private ?\Closure $curlRunner = null,
|
||||
private ?\Closure $nodeRunner = null,
|
||||
) {
|
||||
if ($this->renderScript === '') {
|
||||
$this->renderScript = base_path('scripts/render-page.cjs');
|
||||
}
|
||||
if ($this->firmScript === '') {
|
||||
$this->firmScript = base_path('scripts/render-firm.cjs');
|
||||
}
|
||||
}
|
||||
|
||||
public function site(string $url): FetchedSite
|
||||
{
|
||||
if (! $this->isSafeUrl($url)) {
|
||||
return new FetchedSite(url: $url, rawHtml: '');
|
||||
}
|
||||
|
||||
$raw = $this->curl($url);
|
||||
|
||||
$visible = [];
|
||||
$contacts = [];
|
||||
$rendered = $this->render($url);
|
||||
if ($rendered !== null) {
|
||||
$visible = $rendered['visiblePhones'] ?? [];
|
||||
// номера со страницы /contacts добираем отдельным рендером, если есть такая ссылка
|
||||
$contactsUrl = $this->guessContactsUrl($url, $raw);
|
||||
if ($contactsUrl !== null && $this->isSafeUrl($contactsUrl)) {
|
||||
$rc = $this->render($contactsUrl);
|
||||
if ($rc !== null) {
|
||||
foreach (($rc['visiblePhones'] ?? []) as $p) {
|
||||
$contacts[] = ['number' => $p, 'office' => null];
|
||||
}
|
||||
}
|
||||
}
|
||||
}
|
||||
|
||||
return new FetchedSite(url: $url, rawHtml: $raw, visiblePhones: $visible, contactsNumbers: $contacts);
|
||||
}
|
||||
|
||||
public function directory(string $url): array
|
||||
{
|
||||
if (! $this->isSafeUrl($url)) {
|
||||
return [];
|
||||
}
|
||||
|
||||
// 1. Рендерим страницу списка филиалов → ссылки на карточки.
|
||||
$list = $this->render($url);
|
||||
if ($list === null) {
|
||||
return [];
|
||||
}
|
||||
$links = $this->dirParser->parseBranchList($list['html'] ?? '');
|
||||
if ($links === []) {
|
||||
return [];
|
||||
}
|
||||
|
||||
$origin = parse_url($url);
|
||||
$base = ($origin['scheme'] ?? 'https').'://'.($origin['host'] ?? '');
|
||||
$source = stripos((string) ($origin['host'] ?? ''), 'yandex') !== false ? 'Яндекс.Карты' : '2ГИС';
|
||||
|
||||
// 2. Обходим карточки филиалов (с пределом), на каждой жмём «показать телефон».
|
||||
$cards = [];
|
||||
foreach (array_slice($links, 0, $this->maxBranches) as $href) {
|
||||
$firmUrl = str_starts_with($href, 'http') ? $href : $base.$href;
|
||||
if (! $this->isSafeUrl($firmUrl)) {
|
||||
continue;
|
||||
}
|
||||
$firm = $this->renderFirm($firmUrl);
|
||||
if ($firm === null) {
|
||||
continue;
|
||||
}
|
||||
foreach ($this->dirParser->parseFirmCard($firm['html'] ?? '', $firmUrl, $source) as $card) {
|
||||
$cards[] = $card;
|
||||
}
|
||||
}
|
||||
|
||||
return $cards;
|
||||
}
|
||||
|
||||
private function curl(string $url): string
|
||||
{
|
||||
if ($this->curlRunner !== null) {
|
||||
return (string) ($this->curlRunner)($url);
|
||||
}
|
||||
|
||||
$ch = curl_init($url);
|
||||
curl_setopt_array($ch, [
|
||||
CURLOPT_RETURNTRANSFER => true,
|
||||
CURLOPT_FOLLOWLOCATION => false, // защита от SSRF через редирект на внутренний адрес
|
||||
CURLOPT_PROTOCOLS => CURLPROTO_HTTP | CURLPROTO_HTTPS,
|
||||
CURLOPT_TIMEOUT => $this->timeout,
|
||||
CURLOPT_USERAGENT => 'Mozilla/5.0 (compatible; LiderraBot/1.0)',
|
||||
CURLOPT_SSL_VERIFYPEER => true,
|
||||
CURLOPT_SSL_VERIFYHOST => 2,
|
||||
]);
|
||||
$body = curl_exec($ch);
|
||||
curl_close($ch);
|
||||
|
||||
return is_string($body) ? $body : '';
|
||||
}
|
||||
|
||||
/**
|
||||
* Пускаем только публичные http/https адреса; блокируем loopback, приватные
|
||||
* и служебные диапазоны (защита от SSRF — заход на внутренние сервисы).
|
||||
*/
|
||||
private function isSafeUrl(string $url): bool
|
||||
{
|
||||
$parts = parse_url($url);
|
||||
if ($parts === false || ! isset($parts['scheme'], $parts['host'])) {
|
||||
return false;
|
||||
}
|
||||
if (! in_array(strtolower($parts['scheme']), ['http', 'https'], true)) {
|
||||
return false;
|
||||
}
|
||||
|
||||
$host = $parts['host'];
|
||||
$ips = filter_var($host, FILTER_VALIDATE_IP) ? [$host] : (gethostbynamel($host) ?: []);
|
||||
if ($ips === []) {
|
||||
return false;
|
||||
}
|
||||
foreach ($ips as $ip) {
|
||||
if (filter_var($ip, FILTER_VALIDATE_IP, FILTER_FLAG_NO_PRIV_RANGE | FILTER_FLAG_NO_RES_RANGE) === false) {
|
||||
return false; // приватный/служебный/loopback — не ходим
|
||||
}
|
||||
}
|
||||
|
||||
return true;
|
||||
}
|
||||
|
||||
/** @return array{html:string,visiblePhones:list<string>}|null */
|
||||
private function render(string $url): ?array
|
||||
{
|
||||
// Рендер — НЕ фатальный: если node висит/падает по таймауту (Playwright ждёт networkidle
|
||||
// на «шумном» сайте), Symfony Process бросает ProcessTimedOutException. Гасим его здесь,
|
||||
// чтобы уже добытый curl-HTML (с номерами «в коде сайта») не потерялся. Возврат null =
|
||||
// «видимых/рендер-номеров нет», обычные номера из curl остаются.
|
||||
try {
|
||||
return $this->runNode($this->renderScript, $url);
|
||||
} catch (\Throwable) {
|
||||
return null;
|
||||
}
|
||||
}
|
||||
|
||||
/** @return array{html:string}|null */
|
||||
private function renderFirm(string $url): ?array
|
||||
{
|
||||
try {
|
||||
return $this->runNode($this->firmScript, $url);
|
||||
} catch (\Throwable) {
|
||||
return null;
|
||||
}
|
||||
}
|
||||
|
||||
/**
|
||||
* Запуск node-скрипта рендера. Реальный Process при висе (Playwright ждёт networkidle на
|
||||
* «шумном» сайте) бросает ProcessTimedOutException.
|
||||
*
|
||||
* @return array<string,mixed>|null
|
||||
*/
|
||||
private function runNode(string $script, string $url): ?array
|
||||
{
|
||||
if ($this->nodeRunner !== null) {
|
||||
return ($this->nodeRunner)($script, $url);
|
||||
}
|
||||
|
||||
$p = new Process([$this->nodeBin, $script, $url]);
|
||||
$p->setTimeout($this->timeout);
|
||||
$p->run();
|
||||
if (! $p->isSuccessful()) {
|
||||
return null;
|
||||
}
|
||||
$json = json_decode($p->getOutput(), true);
|
||||
|
||||
return is_array($json) ? $json : null;
|
||||
}
|
||||
|
||||
private function guessContactsUrl(string $base, string $raw): ?string
|
||||
{
|
||||
if (preg_match('#href=["\']([^"\']*(?:contacts?|kontakty)[^"\']*)["\']#i', $raw, $m)) {
|
||||
$href = $m[1];
|
||||
if (preg_match('#^https?://#i', $href)) {
|
||||
return $href;
|
||||
}
|
||||
|
||||
return rtrim($base, '/').'/'.ltrim($href, '/');
|
||||
}
|
||||
|
||||
return null;
|
||||
}
|
||||
}
|
||||
@@ -1,17 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Services\Autopodbor\Agent\Fetch;
|
||||
|
||||
final class DirectoryCard
|
||||
{
|
||||
public function __construct(
|
||||
public readonly string $number, // сырой номер
|
||||
public readonly ?string $office, // подпись филиала
|
||||
public readonly string $url, // ссылка на карточку
|
||||
public readonly string $source, // '2ГИС' | 'Яндекс.Карты'
|
||||
public readonly ?string $siteUrl = null, // сайт, указанный в карточке
|
||||
public readonly ?string $description = null, // «чем занимается» (из карточки справочника)
|
||||
) {}
|
||||
}
|
||||
@@ -1,19 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Services\Autopodbor\Agent\Fetch;
|
||||
|
||||
final class FetchedSite
|
||||
{
|
||||
/**
|
||||
* @param list<string> $visiblePhones видимые посетителю (отрендеренные) номера, сырые строки
|
||||
* @param list<array{number:string,office:?string}> $contactsNumbers номера со страницы «Контакты» с привязкой к офису
|
||||
*/
|
||||
public function __construct(
|
||||
public readonly string $url,
|
||||
public readonly string $rawHtml,
|
||||
public readonly array $visiblePhones = [],
|
||||
public readonly array $contactsNumbers = [],
|
||||
) {}
|
||||
}
|
||||
@@ -1,13 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Services\Autopodbor\Agent\Fetch;
|
||||
|
||||
interface Fetcher
|
||||
{
|
||||
public function site(string $url): FetchedSite;
|
||||
|
||||
/** @return list<DirectoryCard> */
|
||||
public function directory(string $url): array;
|
||||
}
|
||||
@@ -1,59 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Services\Autopodbor\Agent\Fetch;
|
||||
|
||||
use Symfony\Component\Process\Exception\ProcessTimedOutException;
|
||||
use Symfony\Component\Process\Process;
|
||||
|
||||
/**
|
||||
* Живая добыча страниц для поиска конкурентов (§12.2 движка v4): 2ГИС — через xfetch (обход
|
||||
* антибота); Яндекс — тоже через xfetch, а при пустом ответе fallback на ЛОКАЛЬНЫЙ Playwright
|
||||
* (бесплатный, проверенный рендер) через scripts/render-page.cjs. Прочие домены не грузим
|
||||
* (поиск конкурентов ходит только в справочники). Любая ошибка → '' (как контракт PageFetcher).
|
||||
*/
|
||||
final class LivePageFetcher implements PageFetcher
|
||||
{
|
||||
public function __construct(
|
||||
private readonly XfetchClient $xfetch,
|
||||
private readonly string $nodeBin = 'node',
|
||||
private readonly string $renderScript = 'scripts/render-page.cjs',
|
||||
private readonly int $renderTimeoutSec = 90,
|
||||
) {}
|
||||
|
||||
public function html(string $url): string
|
||||
{
|
||||
if (str_contains($url, '2gis.ru')) {
|
||||
return $this->xfetch->html($url);
|
||||
}
|
||||
|
||||
if (str_contains($url, 'yandex.')) {
|
||||
$html = $this->xfetch->html($url);
|
||||
|
||||
return $html !== '' ? $html : $this->renderLocally($url);
|
||||
}
|
||||
|
||||
return '';
|
||||
}
|
||||
|
||||
/** Локальный Playwright-рендер (бесплатный запас для Яндекса). */
|
||||
private function renderLocally(string $url): string
|
||||
{
|
||||
try {
|
||||
$process = new Process([$this->nodeBin, base_path($this->renderScript), $url]);
|
||||
$process->setTimeout($this->renderTimeoutSec);
|
||||
$process->run();
|
||||
|
||||
if (! $process->isSuccessful()) {
|
||||
return '';
|
||||
}
|
||||
|
||||
$decoded = json_decode($process->getOutput(), true);
|
||||
|
||||
return is_array($decoded) && isset($decoded['html']) ? (string) $decoded['html'] : '';
|
||||
} catch (ProcessTimedOutException|\Throwable) {
|
||||
return '';
|
||||
}
|
||||
}
|
||||
}
|
||||
@@ -1,42 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Services\Autopodbor\Agent\Fetch;
|
||||
|
||||
use Symfony\Component\Process\Process;
|
||||
|
||||
/**
|
||||
* xf4-путь {@see YandexListSource}: локальный Playwright через `scripts/render-yandex-list.cjs`
|
||||
* (Firecrawl Яндекс.Карты не рендерит). Печатает JSON `{orgs:[...]}`. Сеть/браузер за Process —
|
||||
* офлайн не юнит-тестим (как раньше PlaywrightYandexDirectory).
|
||||
*/
|
||||
final class LocalYandexListSource implements YandexListSource
|
||||
{
|
||||
private string $script;
|
||||
|
||||
public function __construct(
|
||||
private readonly string $nodeBin = 'node',
|
||||
string $script = '',
|
||||
private readonly int $timeout = 120,
|
||||
) {
|
||||
$this->script = $script !== '' ? $script : base_path('scripts/render-yandex-list.cjs');
|
||||
}
|
||||
|
||||
public function fetch(string $url, int $scrolls): array
|
||||
{
|
||||
try {
|
||||
$p = new Process([$this->nodeBin, $this->script, $url, (string) $scrolls]);
|
||||
$p->setTimeout($this->timeout);
|
||||
$p->run();
|
||||
if (! $p->isSuccessful()) {
|
||||
return [];
|
||||
}
|
||||
$json = json_decode($p->getOutput(), true);
|
||||
|
||||
return is_array($json['orgs'] ?? null) ? $json['orgs'] : [];
|
||||
} catch (\Throwable) {
|
||||
return [];
|
||||
}
|
||||
}
|
||||
}
|
||||
@@ -1,15 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Services\Autopodbor\Agent\Fetch;
|
||||
|
||||
/**
|
||||
* Тонкая граница «достать HTML страницы» — за ней может стоять xfetch, локальный
|
||||
* Playwright и т.п. Позволяет тестировать обход справочников без сети.
|
||||
*/
|
||||
interface PageFetcher
|
||||
{
|
||||
/** Вернуть HTML страницы (пустую строку при неудаче — не кидаем исключений). */
|
||||
public function html(string $url): string;
|
||||
}
|
||||
@@ -1,79 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Services\Autopodbor\Agent\Fetch;
|
||||
|
||||
use App\Services\Autopodbor\Agent\ChannelA\PlaywrightYandexDirectory;
|
||||
use Symfony\Component\Process\Process;
|
||||
|
||||
/**
|
||||
* Загрузка страниц ЛОКАЛЬНЫМ Playwright (scripts/render-page.cjs → JSON {html}). Для карточек Яндекса:
|
||||
* xfetch под нагрузкой их режет (пустой ответ → терялся сайт), а Playwright рендерит надёжно и бесплатно.
|
||||
*
|
||||
* ПАРАЛЛЕЛЬНО: порциями по $concurrency стартуем несколько node-процессов разом (Process::start),
|
||||
* затем ждём каждый (wait) — так пачка карточек грузится параллельно, а не по одной. Каждый рендер
|
||||
* с таймаутом, ошибка/таймаут → пустая строка (контракт PageFetcher, исключений не кидаем).
|
||||
*
|
||||
* Сеть/браузер за Process — офлайн не юнит-тестим (как {@see PlaywrightYandexDirectory}).
|
||||
*/
|
||||
final class PlaywrightPageFetcher implements BatchPageFetcher
|
||||
{
|
||||
public function __construct(
|
||||
private readonly string $nodeBin = 'node',
|
||||
// render-card.cjs: domcontentloaded + пауза (Яндекс.Карты не доходят до networkidle).
|
||||
private readonly string $script = 'scripts/render-card.cjs',
|
||||
private readonly int $timeoutSec = 90,
|
||||
// Сколько браузеров держать одновременно (каждый рендер — headless Chromium, тяжёлый по RAM).
|
||||
private readonly int $concurrency = 4,
|
||||
) {}
|
||||
|
||||
public function html(string $url): string
|
||||
{
|
||||
return $this->htmlBatch([$url])[$url] ?? '';
|
||||
}
|
||||
|
||||
/**
|
||||
* @param list<string> $urls
|
||||
* @return array<string, string>
|
||||
*/
|
||||
public function htmlBatch(array $urls): array
|
||||
{
|
||||
$urls = array_values(array_unique($urls));
|
||||
$out = array_fill_keys($urls, '');
|
||||
|
||||
foreach (array_chunk($urls, max(1, $this->concurrency)) as $chunk) {
|
||||
/** @var array<string, Process> $procs */
|
||||
$procs = [];
|
||||
foreach ($chunk as $u) {
|
||||
try {
|
||||
$p = new Process([$this->nodeBin, base_path($this->script), $u]);
|
||||
$p->setTimeout($this->timeoutSec);
|
||||
$p->start();
|
||||
$procs[$u] = $p;
|
||||
} catch (\Throwable) {
|
||||
// не стартовал — оставляем пустым
|
||||
}
|
||||
}
|
||||
foreach ($procs as $u => $p) {
|
||||
try {
|
||||
$p->wait();
|
||||
if ($p->isSuccessful()) {
|
||||
$out[$u] = $this->decode($p->getOutput());
|
||||
}
|
||||
} catch (\Throwable) {
|
||||
// таймаут/ошибка — оставляем пустым
|
||||
}
|
||||
}
|
||||
}
|
||||
|
||||
return $out;
|
||||
}
|
||||
|
||||
private function decode(string $json): string
|
||||
{
|
||||
$d = json_decode($json, true);
|
||||
|
||||
return is_array($d) && isset($d['html']) ? (string) $d['html'] : '';
|
||||
}
|
||||
}
|
||||
@@ -1,44 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Services\Autopodbor\Agent\Fetch;
|
||||
|
||||
use Illuminate\Support\Facades\Http;
|
||||
|
||||
/**
|
||||
* self-render путь {@see YandexListSource}: просит виртуалку отрисовать ленту Яндекс.Карт (со скроллом)
|
||||
* через прокси и вернуть организации. Контракт: `POST {endpoint} {url,type:'yandex-list',scrolls}` с
|
||||
* заголовком `X-Render-Key` → `{ "data": "<JSON {orgs:[...]}>" }`. Без endpoint/key — пусто (деградация).
|
||||
*/
|
||||
final class RenderServiceYandexListSource implements YandexListSource
|
||||
{
|
||||
public function __construct(
|
||||
private readonly string $endpoint,
|
||||
private readonly string $key,
|
||||
private readonly int $httpTimeout = 120,
|
||||
) {}
|
||||
|
||||
public function fetch(string $url, int $scrolls): array
|
||||
{
|
||||
if ($this->endpoint === '' || $this->key === '') {
|
||||
return [];
|
||||
}
|
||||
|
||||
$resp = Http::timeout($this->httpTimeout)
|
||||
->withHeaders(['X-Render-Key' => $this->key])
|
||||
->asJson()
|
||||
->post($this->endpoint, ['url' => $url, 'type' => 'yandex-list', 'scrolls' => $scrolls]);
|
||||
|
||||
if (! $resp->successful()) {
|
||||
return [];
|
||||
}
|
||||
$data = $resp->json('data');
|
||||
if (! is_string($data) || $data === '') {
|
||||
return [];
|
||||
}
|
||||
$json = json_decode($data, true);
|
||||
|
||||
return is_array($json['orgs'] ?? null) ? $json['orgs'] : [];
|
||||
}
|
||||
}
|
||||
@@ -1,63 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Services\Autopodbor\Agent\Fetch;
|
||||
|
||||
/**
|
||||
* Маршрутизатор загрузки страниц по подстроке URL. Нужен, чтобы карточки Яндекса вскрывать
|
||||
* ЛОКАЛЬНЫМ Playwright (он надёжно достаёт сайт/контакты и не режется антиботом под нагрузкой),
|
||||
* а 2ГИС и прочее — через xfetch. Первое совпадение подстроки-иглы выигрывает; нет совпадений —
|
||||
* дефолтный фетчер. Каждая ветка сама решает про параллельность внутри своего htmlBatch().
|
||||
*/
|
||||
final class RoutingBatchFetcher implements BatchPageFetcher
|
||||
{
|
||||
/**
|
||||
* @param array<string, BatchPageFetcher> $routes игла-подстрока => фетчер (по порядку)
|
||||
*/
|
||||
public function __construct(
|
||||
private readonly BatchPageFetcher $default,
|
||||
private readonly array $routes = [],
|
||||
) {}
|
||||
|
||||
public function html(string $url): string
|
||||
{
|
||||
return $this->pick($url)->html($url);
|
||||
}
|
||||
|
||||
/**
|
||||
* @param list<string> $urls
|
||||
* @return array<string, string>
|
||||
*/
|
||||
public function htmlBatch(array $urls): array
|
||||
{
|
||||
// Группируем URL по фетчеру, чтобы каждый обработал свою пачку одним вызовом (параллельно внутри).
|
||||
$byFetcher = [];
|
||||
foreach (array_values(array_unique($urls)) as $u) {
|
||||
$f = $this->pick($u);
|
||||
$id = spl_object_id($f);
|
||||
$byFetcher[$id]['f'] = $f;
|
||||
$byFetcher[$id]['urls'][] = $u;
|
||||
}
|
||||
|
||||
$out = [];
|
||||
foreach ($byFetcher as $bucket) {
|
||||
foreach ($bucket['f']->htmlBatch($bucket['urls']) as $url => $html) {
|
||||
$out[$url] = $html;
|
||||
}
|
||||
}
|
||||
|
||||
return $out;
|
||||
}
|
||||
|
||||
private function pick(string $url): BatchPageFetcher
|
||||
{
|
||||
foreach ($this->routes as $needle => $fetcher) {
|
||||
if ($needle !== '' && str_contains($url, (string) $needle)) {
|
||||
return $fetcher;
|
||||
}
|
||||
}
|
||||
|
||||
return $this->default;
|
||||
}
|
||||
}
|
||||
@@ -1,123 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Services\Autopodbor\Agent\Fetch;
|
||||
|
||||
use Illuminate\Http\Client\Pool;
|
||||
use Illuminate\Http\Client\Response;
|
||||
use Illuminate\Support\Facades\Http;
|
||||
|
||||
/**
|
||||
* HTTP-клиент к своему рендер-сервису на виртуалке (замена xf4). По форме — как {@see XfetchClient}:
|
||||
* реализует {@see BatchPageFetcher} (значит и {@see PageFetcher}). Просит виртуалку отрисовать страницу
|
||||
* с маскировкой+прокси и вернуть данные: для 2ГИС — `initialState` (разбирает {@see TwoGisJsonReader}),
|
||||
* для Яндекса/сайтов — HTML. Секрет портал↔виртуалка — в заголовке `X-Render-Key` (только из .env).
|
||||
* Без ключа/адреса — молча пусто (деградация, как xfetch без ключа), поток не падает.
|
||||
*
|
||||
* Контракт ответа виртуалки: `{ "data": "<initialState|html>" }`; не-2xx/нет data → пустая строка.
|
||||
*/
|
||||
final class SelfRenderClient implements BatchPageFetcher
|
||||
{
|
||||
public function __construct(
|
||||
private string $endpoint,
|
||||
private string $key,
|
||||
private int $concurrency = 8,
|
||||
private int $httpTimeout = 120,
|
||||
private int $retries = 2,
|
||||
) {}
|
||||
|
||||
public function html(string $url): string
|
||||
{
|
||||
if (! $this->ready()) {
|
||||
return '';
|
||||
}
|
||||
|
||||
for ($attempt = 1; $attempt <= max(1, $this->retries); $attempt++) {
|
||||
$data = $this->decode($this->request($url));
|
||||
if ($data !== '') {
|
||||
return $data;
|
||||
}
|
||||
}
|
||||
|
||||
return '';
|
||||
}
|
||||
|
||||
/**
|
||||
* @param list<string> $urls
|
||||
* @return array<string, string>
|
||||
*/
|
||||
public function htmlBatch(array $urls): array
|
||||
{
|
||||
$urls = array_values(array_unique($urls));
|
||||
if (! $this->ready() || $urls === []) {
|
||||
return array_fill_keys($urls, '');
|
||||
}
|
||||
|
||||
$result = array_fill_keys($urls, '');
|
||||
foreach (array_chunk($urls, max(1, $this->concurrency)) as $chunk) {
|
||||
$this->fetchChunkInto($chunk, $result);
|
||||
}
|
||||
|
||||
return $result;
|
||||
}
|
||||
|
||||
/**
|
||||
* Догружает порцию параллельно, ретраит оставшиеся пустыми (флак) до $retries раз.
|
||||
*
|
||||
* @param list<string> $chunk
|
||||
* @param array<string, string> $result
|
||||
*/
|
||||
private function fetchChunkInto(array $chunk, array &$result): void
|
||||
{
|
||||
for ($attempt = 1; $attempt <= max(1, $this->retries); $attempt++) {
|
||||
$pending = array_values(array_filter($chunk, fn (string $u): bool => $result[$u] === ''));
|
||||
if ($pending === []) {
|
||||
return;
|
||||
}
|
||||
|
||||
$responses = Http::pool(fn (Pool $pool) => array_map(
|
||||
fn (string $u) => $pool->as($u)
|
||||
->timeout($this->httpTimeout)
|
||||
->withHeaders(['X-Render-Key' => $this->key])
|
||||
->asJson()
|
||||
->post($this->endpoint, ['url' => $u, 'type' => $this->typeFor($u)]),
|
||||
$pending,
|
||||
));
|
||||
|
||||
foreach ($pending as $u) {
|
||||
$result[$u] = $this->decode($responses[$u] ?? null);
|
||||
}
|
||||
}
|
||||
}
|
||||
|
||||
private function request(string $url): Response|\Throwable|null
|
||||
{
|
||||
return Http::timeout($this->httpTimeout)
|
||||
->withHeaders(['X-Render-Key' => $this->key])
|
||||
->asJson()
|
||||
->post($this->endpoint, ['url' => $url, 'type' => $this->typeFor($url)]);
|
||||
}
|
||||
|
||||
/** 2ГИС отдаёт встроенный initialState (JSON), Яндекс/сайты — HTML. */
|
||||
private function typeFor(string $url): string
|
||||
{
|
||||
return str_contains($url, '2gis') ? 'initialState' : 'html';
|
||||
}
|
||||
|
||||
private function decode(Response|\Throwable|null $resp): string
|
||||
{
|
||||
if (! $resp instanceof Response || ! $resp->successful()) {
|
||||
return '';
|
||||
}
|
||||
|
||||
$data = $resp->json('data');
|
||||
|
||||
return is_string($data) ? $data : '';
|
||||
}
|
||||
|
||||
private function ready(): bool
|
||||
{
|
||||
return $this->endpoint !== '' && $this->key !== '';
|
||||
}
|
||||
}
|
||||
@@ -1,125 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Services\Autopodbor\Agent\Fetch;
|
||||
|
||||
use Illuminate\Http\Client\Pool;
|
||||
use Illuminate\Http\Client\Response;
|
||||
use Illuminate\Support\Facades\Http;
|
||||
|
||||
/**
|
||||
* Загрузка страниц через сервис xfetch.ru (обход антибота 2ГИС/Яндекс/Cloudflare).
|
||||
* POST {url, api_key, render, timeout} → {response_body_base64}. Ключ — из конфига,
|
||||
* НИКОГДА не в коде/гите. Без ключа клиент молча возвращает пусто (не падает).
|
||||
*
|
||||
* Пакетная загрузка {@see htmlBatch()} режет список на порции по $concurrency и параллелит
|
||||
* внутри порции (эмпирический предел xf4.ru — ~4 одновременных; выше идут 429 Too Many Requests).
|
||||
*/
|
||||
final class XfetchClient implements BatchPageFetcher
|
||||
{
|
||||
public function __construct(
|
||||
private ?string $apiKey,
|
||||
private string $endpoint = 'https://xf4.ru/fetch',
|
||||
private bool $render = true,
|
||||
private int $renderTimeout = 20,
|
||||
private int $httpTimeout = 120,
|
||||
private int $retries = 3,
|
||||
private int $concurrency = 4,
|
||||
) {}
|
||||
|
||||
public function html(string $url): string
|
||||
{
|
||||
if ($this->apiKey === null || $this->apiKey === '') {
|
||||
return '';
|
||||
}
|
||||
|
||||
// Рендер 2ГИС/Яндекс флакует: иногда возвращается пустой/ошибочный ответ.
|
||||
// Повторяем до $retries раз — берём первый непустой результат.
|
||||
for ($attempt = 1; $attempt <= max(1, $this->retries); $attempt++) {
|
||||
$html = $this->decode($this->request($url));
|
||||
if ($html !== '') {
|
||||
return $html;
|
||||
}
|
||||
}
|
||||
|
||||
return '';
|
||||
}
|
||||
|
||||
/**
|
||||
* Пачкой (параллельно, порциями по $concurrency). Карта url => html; пустая строка при неудаче.
|
||||
*
|
||||
* @param list<string> $urls
|
||||
* @return array<string, string>
|
||||
*/
|
||||
public function htmlBatch(array $urls): array
|
||||
{
|
||||
$urls = array_values(array_unique($urls));
|
||||
if ($this->apiKey === null || $this->apiKey === '' || $urls === []) {
|
||||
return array_fill_keys($urls, '');
|
||||
}
|
||||
|
||||
$result = array_fill_keys($urls, '');
|
||||
foreach (array_chunk($urls, max(1, $this->concurrency)) as $chunk) {
|
||||
$this->fetchChunkInto($chunk, $result);
|
||||
}
|
||||
|
||||
return $result;
|
||||
}
|
||||
|
||||
/**
|
||||
* Догружает порцию параллельно, ретраит только оставшиеся пустыми (флак/429) до $retries раз.
|
||||
*
|
||||
* @param list<string> $chunk
|
||||
* @param array<string, string> $result
|
||||
*/
|
||||
private function fetchChunkInto(array $chunk, array &$result): void
|
||||
{
|
||||
for ($attempt = 1; $attempt <= max(1, $this->retries); $attempt++) {
|
||||
$pending = array_values(array_filter($chunk, fn (string $u): bool => $result[$u] === ''));
|
||||
if ($pending === []) {
|
||||
return;
|
||||
}
|
||||
|
||||
$responses = Http::pool(fn (Pool $pool) => array_map(
|
||||
fn (string $u) => $pool->as($u)->timeout($this->httpTimeout)->asJson()->post($this->endpoint, [
|
||||
'url' => $u,
|
||||
'api_key' => $this->apiKey,
|
||||
'render' => $this->render,
|
||||
'timeout' => $this->renderTimeout,
|
||||
]),
|
||||
$pending,
|
||||
));
|
||||
|
||||
foreach ($pending as $u) {
|
||||
$result[$u] = $this->decode($responses[$u] ?? null);
|
||||
}
|
||||
}
|
||||
}
|
||||
|
||||
private function request(string $url): Response|\Throwable|null
|
||||
{
|
||||
return Http::timeout($this->httpTimeout)->asJson()->post($this->endpoint, [
|
||||
'url' => $url,
|
||||
'api_key' => $this->apiKey,
|
||||
'render' => $this->render,
|
||||
'timeout' => $this->renderTimeout,
|
||||
]);
|
||||
}
|
||||
|
||||
private function decode(Response|\Throwable|null $resp): string
|
||||
{
|
||||
if (! $resp instanceof Response || ! $resp->successful()) {
|
||||
return '';
|
||||
}
|
||||
|
||||
$b64 = $resp->json('response_body_base64');
|
||||
if (! is_string($b64) || $b64 === '') {
|
||||
return '';
|
||||
}
|
||||
|
||||
$html = base64_decode($b64, true);
|
||||
|
||||
return is_string($html) ? $html : '';
|
||||
}
|
||||
}
|
||||
@@ -1,87 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Services\Autopodbor\Agent\Fetch;
|
||||
|
||||
use App\Services\Autopodbor\Agent\Extract\DirectoryParser;
|
||||
|
||||
/**
|
||||
* Загрузчик справочников (2ГИС/Яндекс.Карты) через {@see PageFetcher} (обычно xfetch).
|
||||
* Список филиалов → ссылки на карточки → телефон+адрес каждой карточки.
|
||||
* Парсинг — в {@see DirectoryParser}; добыча HTML — за антибот-границей PageFetcher.
|
||||
*/
|
||||
final class XfetchDirectoryFetcher implements Fetcher
|
||||
{
|
||||
public function __construct(
|
||||
private PageFetcher $pages,
|
||||
private DirectoryParser $parser = new DirectoryParser,
|
||||
private int $maxBranches = 25,
|
||||
private int $listRetries = 3,
|
||||
) {}
|
||||
|
||||
public function site(string $url): FetchedSite
|
||||
{
|
||||
return new FetchedSite(url: $url, rawHtml: $this->pages->html($url));
|
||||
}
|
||||
|
||||
public function directory(string $url): array
|
||||
{
|
||||
// Яндекс.Карты: одиночная карточка организации (нет списка филиалов).
|
||||
// Загружаем HTML один раз и отдаём в parseYandexCard.
|
||||
$host = (string) (parse_url($url, PHP_URL_HOST) ?? '');
|
||||
if (stripos($host, 'yandex') !== false) {
|
||||
$html = $this->pages->html($url);
|
||||
|
||||
return $this->parser->parseYandexCard($html, $url);
|
||||
}
|
||||
|
||||
// Рендер списка филиалов 2ГИС флакует: иногда отдаётся «оболочка» БЕЗ ссылок на
|
||||
// карточки. Повторяем загрузку списка, пока ссылки не появятся (до $listRetries раз).
|
||||
$links = [];
|
||||
for ($attempt = 1; $attempt <= max(1, $this->listRetries); $attempt++) {
|
||||
$listHtml = $this->pages->html($url);
|
||||
$links = $this->parser->parseBranchList($listHtml);
|
||||
if ($links !== []) {
|
||||
break;
|
||||
}
|
||||
}
|
||||
if ($links === []) {
|
||||
return [];
|
||||
}
|
||||
|
||||
$origin = parse_url($url);
|
||||
$base = ($origin['scheme'] ?? 'https').'://'.($origin['host'] ?? '');
|
||||
$source = stripos((string) ($origin['host'] ?? ''), 'yandex') !== false ? 'Яндекс.Карты' : '2ГИС';
|
||||
|
||||
// Абсолютные ссылки на карточки филиалов (до лимита).
|
||||
$firmUrls = array_map(
|
||||
fn (string $href): string => str_starts_with($href, 'http') ? $href : $base.$href,
|
||||
array_slice($links, 0, $this->maxBranches),
|
||||
);
|
||||
|
||||
// Пакетно (параллельно) — если загрузчик умеет; иначе по одной. Карточек до 25, каждый
|
||||
// рендер — секунды, поэтому последовательный обход был узким местом (спека §12.2).
|
||||
if ($this->pages instanceof BatchPageFetcher) {
|
||||
$htmls = $this->pages->htmlBatch($firmUrls);
|
||||
} else {
|
||||
$htmls = [];
|
||||
foreach ($firmUrls as $firmUrl) {
|
||||
$htmls[$firmUrl] = $this->pages->html($firmUrl);
|
||||
}
|
||||
}
|
||||
|
||||
$cards = [];
|
||||
foreach ($firmUrls as $firmUrl) {
|
||||
$firmHtml = $htmls[$firmUrl] ?? '';
|
||||
if ($firmHtml === '') {
|
||||
continue;
|
||||
}
|
||||
foreach ($this->parser->parseFirmCard($firmHtml, $firmUrl, $source) as $card) {
|
||||
$cards[] = $card;
|
||||
}
|
||||
}
|
||||
|
||||
return $cards;
|
||||
}
|
||||
}
|
||||
@@ -1,19 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Services\Autopodbor\Agent\Fetch;
|
||||
|
||||
/**
|
||||
* Источник «ленты организаций» Яндекс.Карт: рендерит страницу-список (скролл ленивой ленты) и отдаёт
|
||||
* сырые организации `{name,id,href,category}`. Реализации: {@see LocalYandexListSource} (локальный
|
||||
* Playwright, xf4-путь) и {@see RenderServiceYandexListSource} (виртуалка+прокси, self-render). Так и
|
||||
* листинг шага 1, и поиск-по-телефону разворота получают прокси-покрытие, не таща браузер на портал.
|
||||
*/
|
||||
interface YandexListSource
|
||||
{
|
||||
/**
|
||||
* @return list<array<string,mixed>> сырые организации ленты (пустой массив при неудаче)
|
||||
*/
|
||||
public function fetch(string $url, int $scrolls): array;
|
||||
}
|
||||
@@ -1,78 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Services\Autopodbor\Agent;
|
||||
|
||||
use App\Services\Autopodbor\Agent\Aggregator\AggregatorFilter;
|
||||
use App\Services\Autopodbor\Agent\Dto\FindCompetitorsResult;
|
||||
use App\Services\Autopodbor\Agent\Similarity\EmbeddingRelevance;
|
||||
use App\Services\Autopodbor\AutopodborDedup;
|
||||
|
||||
/**
|
||||
* Сборка ядра шага 1 (§12.1, хвост движка v4): резолвленные кандидаты каналов (A/B/0) →
|
||||
* слияние+дедуп+вычет клиента (E, §12) → отсев агрегаторов (§12.6, ПОСЛЕ дедупа — по уникальным
|
||||
* фирмам) → отсев федералов (если не нужны) → похожесть-эмбеддинги (F, §12.5) → срез top-N →
|
||||
* DTO {@see FindCompetitorsResult} (§7.2).
|
||||
*
|
||||
* Это ЧИСТАЯ сборка: добыча страниц/имён (каналы) и резолв — выше по течению, за своими границами.
|
||||
* Поэтому всё ядро тестируется офлайн. Провайдер на боевой движок флипается отдельно (за флагом).
|
||||
*/
|
||||
final class FindCompetitorsAssembler
|
||||
{
|
||||
public function __construct(
|
||||
private readonly AggregatorFilter $aggregatorFilter,
|
||||
private readonly AutopodborDedup $dedup,
|
||||
private readonly EmbeddingRelevance $relevance,
|
||||
) {}
|
||||
|
||||
/**
|
||||
* @param array<int, array> $candidates резолвленные кандидаты (имя/сайт/описание/телефоны/ссылки/is_federal)
|
||||
* @param list<string> $clientExamples тексты-примеры клиента (для похожести)
|
||||
* @param list<string> $clientKeys НЕ используется (вычет себя убран, спека §7) — параметр оставлен для совместимости вызова
|
||||
*/
|
||||
public function assemble(
|
||||
array $candidates,
|
||||
array $clientExamples,
|
||||
array $clientKeys,
|
||||
bool $includeFederal,
|
||||
int $maxCompetitors,
|
||||
): FindCompetitorsResult {
|
||||
// Склейка/дедуп ПЕРВОЙ — иначе отсев агрегаторов классифицирует дубли-филиалы по многу раз
|
||||
// (реальный случай: gpt-4o-mini залетело 227 позиций с повторами вместо ~90 уникальных).
|
||||
// «Вычет себя» УБРАН (спека §7): свой сайт/пример-конкурент клиент вправе вернуть и поставить
|
||||
// на прослушку — поэтому clientKeys в склейку НЕ передаём (параметр оставлен для совместимости).
|
||||
$merged = $this->dedup->mergeCompetitors($candidates);
|
||||
$filtered = $this->aggregatorFilter->filter($merged);
|
||||
|
||||
if (! $includeFederal) {
|
||||
$filtered = array_values(array_filter($filtered, fn (array $c): bool => empty($c['is_federal'])));
|
||||
}
|
||||
|
||||
$ranked = $this->relevance->rank($clientExamples, $filtered);
|
||||
|
||||
if ($maxCompetitors > 0) {
|
||||
$ranked = array_slice($ranked, 0, $maxCompetitors);
|
||||
}
|
||||
|
||||
return new FindCompetitorsResult(array_map(fn (array $c): array => $this->toCompetitor($c), $ranked));
|
||||
}
|
||||
|
||||
/**
|
||||
* Карточка ядра → конкурент §7.2 {name, description, is_federal, relevance_pct, site_url, directory_urls, phones, provenance}.
|
||||
* phones — вскрытые при сборе телефоны; в тихую склейку НЕ идут, нужны для клиентской «Найти дубли».
|
||||
*/
|
||||
private function toCompetitor(array $c): array
|
||||
{
|
||||
return [
|
||||
'name' => (string) ($c['name'] ?? ''),
|
||||
'description' => $c['description'] ?? null,
|
||||
'is_federal' => (bool) ($c['is_federal'] ?? false),
|
||||
'relevance_pct' => $c['relevance_pct'] ?? null,
|
||||
'site_url' => $c['site_url'] ?? null,
|
||||
'directory_urls' => $c['directory_urls'] ?? [],
|
||||
'phones' => array_values($c['phones'] ?? []),
|
||||
'provenance' => $c['provenance'] ?? ['via' => 'engine'],
|
||||
];
|
||||
}
|
||||
}
|
||||
@@ -1,219 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Services\Autopodbor\Agent;
|
||||
|
||||
use App\Services\Autopodbor\Agent\ChannelA\CategoryScraper;
|
||||
use App\Services\Autopodbor\Agent\ChannelA\QueryAnalyzer;
|
||||
use App\Services\Autopodbor\Agent\ChannelA\YandexDirectory;
|
||||
use App\Services\Autopodbor\Agent\ChannelB\ChannelBSearch;
|
||||
use App\Services\Autopodbor\Agent\ChannelB\ExaSiteFinder;
|
||||
use App\Services\Autopodbor\Agent\Dto\FindCompetitorsRequest;
|
||||
use App\Services\Autopodbor\Agent\Dto\FindCompetitorsResult;
|
||||
use App\Services\Autopodbor\RunProgressChannel;
|
||||
use App\Support\RegionCity;
|
||||
|
||||
/**
|
||||
* Живой findCompetitors — ФИНАЛ v4, ЛЁГКАЯ версия шага 1 (ZAFIKSIROVANO: нужны ТОЛЬКО имя+сайт+карточка;
|
||||
* телефоны/описание/глубокий сбор = шаг 2). БЕЗ захода в карточки и без per-name резолва — резко быстрее.
|
||||
* 1. Шаг АНАЛИЗ ({@see QueryAnalyzer}): описание → запросы-рубрики.
|
||||
* 2. КАНАЛ А ({@see CategoryScraper}): скрейп категории 2ГИС с пагинацией → из СПИСКА имя+карточка+сайт
|
||||
* (местные фирмы, is_federal=false).
|
||||
* 3. КАНАЛ В ({@see ChannelBSearch}): одна модель × 2 прохода → ИМЕНА федералов (стоп-лист = имена из А +
|
||||
* примеры); сайт каждого — через EXA ({@see ExaSiteFinder}). Без сайта (нет якоря) — выкидываем.
|
||||
* 4. Слияние А+В → {@see FindCompetitorsAssembler}: отсев агрегаторов → дедуп+вычет клиента →
|
||||
* федерал-фильтр → похожесть-эмбеддинги (математически) → DTO §7.2.
|
||||
*/
|
||||
final class LiveFindCompetitors
|
||||
{
|
||||
public function __construct(
|
||||
private readonly QueryAnalyzer $analyzer,
|
||||
private readonly CategoryScraper $scraper,
|
||||
private readonly YandexDirectory $yandex,
|
||||
private readonly ChannelBSearch $channelB,
|
||||
private readonly ExaSiteFinder $exa,
|
||||
private readonly FindCompetitorsAssembler $assembler,
|
||||
// Потолок имён канала В на проверку сайта EXA (ограничивает живые exa-вызовы за подбор).
|
||||
private readonly int $channelBCap = 40,
|
||||
private readonly int $passes = 2,
|
||||
// «Вскрыть всё»: открывает карточки справочника и дописывает сайт/телефоны/описание.
|
||||
// null → лёгкий режим (карточки не открываем).
|
||||
private readonly ?CompetitorCardEnricher $enricher = null,
|
||||
// Канал прогресса: движок отмечает текущий этап для показа клиенту. null → без отметок.
|
||||
private readonly ?RunProgressChannel $progress = null,
|
||||
) {}
|
||||
|
||||
public function find(FindCompetitorsRequest $r): FindCompetitorsResult
|
||||
{
|
||||
// Понятные клиенту этапы в том же порядке, что и работа ниже. Отмечаем ПЕРЕД каждым этапом,
|
||||
// чтобы клиент видел, что сейчас делает движок (не точные %, а «этап N из M»).
|
||||
$stages = SearchStages::plan($r->includeFederal, $this->enricher !== null);
|
||||
$total = count($stages);
|
||||
$step = 0;
|
||||
$mark = function () use (&$step, $stages, $total): void {
|
||||
$this->progress?->stage($step + 1, $total, $stages[$step]);
|
||||
$step++;
|
||||
};
|
||||
|
||||
$profile = $this->profile($r->aboutSelf);
|
||||
$clientSite = $this->clientSite($r->aboutSelf);
|
||||
$city = RegionCity::name($r->regionCode) ?? '';
|
||||
$slug = RegionCity::slug($r->regionCode);
|
||||
|
||||
// 1+2. АНАЛИЗ → канал А, ДВА справочника: 2ГИС (xfetch, имя+карточка+сайт из списка) +
|
||||
// Яндекс (локальный Playwright, имя+карточка, без сайта). Слияние ниже объединит дубли по имени.
|
||||
$mark(); // этап 1: разбираем запрос
|
||||
$queries = $this->analyzer->analyze($profile, $city, $clientSite, $this->stringList($r->examples));
|
||||
$mark(); // этап 2: ищем фирмы в справочниках
|
||||
$twoGisRows = ($slug !== null && $queries !== [])
|
||||
? $this->scraper->collectTwoGis($slug, $queries)
|
||||
: [];
|
||||
$yandexRows = ($queries !== [])
|
||||
? $this->yandex->collect($city, $queries)
|
||||
: [];
|
||||
$aCards = array_merge(
|
||||
array_map(fn (array $row): array => $this->localCard($row['name'], $row['card_url'], $row['site'] ?? null), $twoGisRows),
|
||||
array_map(fn (array $row): array => $this->localCard(
|
||||
$row['name'],
|
||||
$row['card_url'],
|
||||
null,
|
||||
isset($row['slug']) && $row['slug'] !== '' ? 'ya:'.$row['slug'] : null,
|
||||
$row['description'] ?? null,
|
||||
), $yandexRows),
|
||||
);
|
||||
|
||||
// 3. Канал В: модель даёт ТОЛЬКО ИМЕНА федералов → САЙТ каждого ищем через EXA.
|
||||
// Нет сайта = нет якоря → выкидываем.
|
||||
$bCards = [];
|
||||
if ($r->includeFederal) {
|
||||
$mark(); // этап: ищем федеральные сети
|
||||
$known = array_merge(
|
||||
array_map(static fn (array $c): string => $c['name'], $aCards),
|
||||
$this->stringList($r->examples),
|
||||
);
|
||||
$cands = $this->channelB->harvest($profile, $city, $clientSite, $known, $this->passes);
|
||||
$capped = array_slice($cands, 0, max(0, $this->channelBCap));
|
||||
// Сайт для КАЖДОГО имени — через EXA (единственный источник; модель сайтов не даёт).
|
||||
$names = array_map(static fn (array $c): string => (string) $c['name'], $capped);
|
||||
$exaSites = $names !== [] ? $this->exa->findSites($names, $city) : [];
|
||||
foreach ($capped as $cand) {
|
||||
$name = trim((string) $cand['name']);
|
||||
$site = $exaSites[$name] ?? null;
|
||||
// Нет сайта от EXA — нет якоря → выкидываем.
|
||||
if ($site !== null && $site !== '') {
|
||||
$bCards[] = $this->federalCard($cand['name'], $site);
|
||||
}
|
||||
}
|
||||
}
|
||||
|
||||
$candidates = array_merge($aCards, $bCards);
|
||||
|
||||
// «Вскрыть всё»: открываем карточки справочника → дописываем сайт/телефоны/описание, чтобы
|
||||
// дубли склеились уже здесь (Автодом24 получит сайт из своей яндекс-карточки → сольётся с AutoMoney).
|
||||
if ($this->enricher !== null) {
|
||||
$mark(); // этап: собираем сайты и телефоны
|
||||
$candidates = $this->enricher->enrich($candidates);
|
||||
}
|
||||
|
||||
$clientKeys = $this->stringList($r->aboutSelf);
|
||||
$profileTexts = $this->clientProfileTexts($r);
|
||||
|
||||
$mark(); // финальный этап: отбираем самых похожих
|
||||
|
||||
return $this->assembler->assemble($candidates, $profileTexts, $clientKeys, $r->includeFederal, $r->maxCompetitors);
|
||||
}
|
||||
|
||||
/**
|
||||
* Местная карточка из списка справочника (канал А): 2ГИС (с сайтом) или Яндекс (site=null).
|
||||
* $dirKey — опознавательный код фирмы от справочника (напр. «ya:korund») для склейки по источнику.
|
||||
* $description — рубрика из списка («Ломбард, автоломбард») для похожести-эмбеддингов.
|
||||
*/
|
||||
private function localCard(string $name, string $cardUrl, ?string $site, ?string $dirKey = null, ?string $description = null): array
|
||||
{
|
||||
$source = str_contains($cardUrl, 'yandex.ru') ? 'yandex-list' : '2gis-list';
|
||||
|
||||
return [
|
||||
'name' => $name,
|
||||
'site_url' => $site,
|
||||
'description' => $description,
|
||||
'is_federal' => false,
|
||||
'directory_urls' => [$cardUrl],
|
||||
'directory_keys' => $dirKey !== null ? [$dirKey] : [],
|
||||
'phones' => [],
|
||||
'provenance' => ['via' => 'engine', 'source' => $source],
|
||||
];
|
||||
}
|
||||
|
||||
/** Федеральная карточка (канал В): имя + якорь = сайт от EXA. Карточки справочника у федерала нет. */
|
||||
private function federalCard(string $name, ?string $site): array
|
||||
{
|
||||
return [
|
||||
'name' => $name,
|
||||
'site_url' => $site,
|
||||
'description' => null,
|
||||
'is_federal' => true,
|
||||
'directory_urls' => [],
|
||||
'phones' => [],
|
||||
'provenance' => ['via' => 'engine', 'source' => 'channelB'],
|
||||
];
|
||||
}
|
||||
|
||||
/** Профиль (ниша) = первая непустая строка «о себе». */
|
||||
private function profile(array $aboutSelf): string
|
||||
{
|
||||
foreach ($aboutSelf as $v) {
|
||||
$v = trim((string) $v);
|
||||
if ($v !== '') {
|
||||
return $v;
|
||||
}
|
||||
}
|
||||
|
||||
return '';
|
||||
}
|
||||
|
||||
/** Сайт клиента = первая «о себе»-строка, похожая на домен (есть точка, нет пробела). */
|
||||
private function clientSite(array $aboutSelf): string
|
||||
{
|
||||
foreach ($aboutSelf as $v) {
|
||||
$v = trim((string) $v);
|
||||
if ($v !== '' && $this->looksLikeDomain($v)) {
|
||||
return $v;
|
||||
}
|
||||
}
|
||||
|
||||
return '';
|
||||
}
|
||||
|
||||
/**
|
||||
* Тексты клиента для ЦЕНТРА похожести (§12.5): описание ниши из «о себе» + примеры-конкуренты.
|
||||
* Собственный домен клиента (напр. lkomega.ru) в центр НЕ тащим — он строку-имя, а не смысл ниши,
|
||||
* и смещал бы центр (рычаг чистоты №1: раньше центр строился ТОЛЬКО из доменов-примеров и был «сбит»).
|
||||
*
|
||||
* @return list<string>
|
||||
*/
|
||||
private function clientProfileTexts(FindCompetitorsRequest $r): array
|
||||
{
|
||||
$niche = array_values(array_filter(
|
||||
$this->stringList($r->aboutSelf),
|
||||
fn (string $v): bool => ! $this->looksLikeDomain($v),
|
||||
));
|
||||
|
||||
return array_values(array_unique(array_merge($niche, $this->stringList($r->examples))));
|
||||
}
|
||||
|
||||
/** Похоже на домен: есть точка, нет пробела (например «lkomega.ru», но не «займы под залог»). */
|
||||
private function looksLikeDomain(string $v): bool
|
||||
{
|
||||
return ! str_contains($v, ' ') && str_contains($v, '.');
|
||||
}
|
||||
|
||||
/** @return list<string> */
|
||||
private function stringList(array $items): array
|
||||
{
|
||||
return array_values(array_filter(
|
||||
array_map(static fn ($v): string => trim((string) $v), $items),
|
||||
static fn (string $v): bool => $v !== '',
|
||||
));
|
||||
}
|
||||
}
|
||||
@@ -1,72 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Services\Autopodbor\Agent\Phone;
|
||||
|
||||
use App\Services\Autopodbor\Agent\Extract\PhoneType;
|
||||
use App\Services\DaData\DaDataException;
|
||||
use App\Services\DaData\DaDataPhoneClient;
|
||||
|
||||
/**
|
||||
* Обогащение телефонов конкурента через DaData clean/phone (§12.4 движка v4): тип (городской/
|
||||
* мобильный/8-800), регион, годность (qc=0). Переиспользует ЖИВОЙ {@see DaDataPhoneClient}
|
||||
* (тот же, что резолв региона лида) — не дублирует клиент. Если DaData недоступна, подбор не
|
||||
* падает: тип берётся по префиксу номера ({@see PhoneType}), регион пуст, номер помечается негодным.
|
||||
*
|
||||
* Берём ТОЛЬКО опубликованные фирмой номера (§12.4) — здесь они не синтезируются, только классифицируются.
|
||||
*/
|
||||
final class CompetitorPhoneEnricher
|
||||
{
|
||||
public function __construct(private readonly DaDataPhoneClient $client) {}
|
||||
|
||||
/**
|
||||
* @param list<string> $phones номера 7XXXXXXXXXX (из карточки конкурента)
|
||||
* @return list<array{phone:string,type:string,region:?string,valid:bool}>
|
||||
*/
|
||||
public function enrich(array $phones): array
|
||||
{
|
||||
$out = [];
|
||||
foreach ($phones as $phone) {
|
||||
try {
|
||||
$r = $this->client->cleanPhone($phone);
|
||||
$out[] = [
|
||||
'phone' => $phone,
|
||||
'type' => $this->slug($r->type, $phone),
|
||||
'region' => $r->region,
|
||||
'valid' => $r->qc === 0,
|
||||
];
|
||||
} catch (DaDataException) {
|
||||
// DaData недоступна/ошибка — деградируем, не роняя весь подбор.
|
||||
$out[] = [
|
||||
'phone' => $phone,
|
||||
'type' => PhoneType::of($phone),
|
||||
'region' => null,
|
||||
'valid' => false,
|
||||
];
|
||||
}
|
||||
}
|
||||
|
||||
return $out;
|
||||
}
|
||||
|
||||
/** Тип DaData (рус.) → slug city/mobile/tollfree; неизвестный — по префиксу номера. */
|
||||
private function slug(?string $type, string $phone): string
|
||||
{
|
||||
$t = mb_strtolower(trim((string) $type));
|
||||
if ($t === '') {
|
||||
return PhoneType::of($phone);
|
||||
}
|
||||
if (str_contains($t, 'мобильн')) {
|
||||
return 'mobile';
|
||||
}
|
||||
if (str_contains($t, 'стационар') || str_contains($t, 'городск')) {
|
||||
return 'city';
|
||||
}
|
||||
if (str_contains($t, 'бесплатн') || str_contains($t, 'колл')) {
|
||||
return 'tollfree';
|
||||
}
|
||||
|
||||
return PhoneType::of($phone);
|
||||
}
|
||||
}
|
||||
@@ -1,170 +0,0 @@
|
||||
<?php
|
||||
|
||||
declare(strict_types=1);
|
||||
|
||||
namespace App\Services\Autopodbor\Agent;
|
||||
|
||||
use App\Services\Autopodbor\Agent\Dto\CollectedSource;
|
||||
use App\Services\Autopodbor\Agent\Dto\FindCompetitorsRequest;
|
||||
use App\Services\Autopodbor\Agent\Dto\FindCompetitorsResult;
|
||||
use App\Services\Autopodbor\Agent\Dto\ResolveByNameRequest;
|
||||
use App\Services\Autopodbor\Agent\Dto\ResolveByNameResult;
|
||||
use App\Services\Autopodbor\Agent\Dto\StudyCompetitorRequest;
|
||||
use App\Services\Autopodbor\Agent\Dto\StudyCompetitorResult;
|
||||
use App\Services\Autopodbor\Agent\Extract\CandidateBuilder;
|
||||
use App\Services\Autopodbor\Agent\Extract\SourceAggregator;
|
||||
use App\Services\Autopodbor\Agent\Fetch\Fetcher;
|
||||
use App\Services\Autopodbor\Agent\Study\CompetitorFingerprint;
|
||||
use App\Services\Autopodbor\Agent\Study\SourceCollector;
|
||||
use App\Services\Autopodbor\AutopodborNormalizer;
|
||||
use App\Services\Autopodbor\RunProgressChannel;
|
||||
use App\Support\RegionAreaCode;
|
||||
|
||||
final class RealCompetitorAgent implements CompetitorAgent
|
||||
{
|
||||
public function __construct(
|
||||
private Fetcher $fetcher,
|
||||
private CompetitorAgent $fallback, // для resolve, и для find пока не подключён живой
|
||||
private CandidateBuilder $builder = new CandidateBuilder,
|
||||
private SourceAggregator $aggregator = new SourceAggregator,
|
||||
private AutopodborNormalizer $norm = new AutopodborNormalizer,
|
||||
private ?LiveFindCompetitors $liveFind = null, // живой поиск шага 1 (если подключён за флагом)
|
||||
private ?SourceCollector $deep = null,
|
||||
private ?RunProgressChannel $progress = null, // канал прогресса (отметки этапов изучения)
|
||||
) {}
|
||||
|
||||
public function findCompetitors(FindCompetitorsRequest $r): FindCompetitorsResult
|
||||
{
|
||||
// Подключён живой движок поиска — используем его; иначе заглушка (демо-данные).
|
||||
return $this->liveFind?->find($r) ?? $this->fallback->findCompetitors($r);
|
||||
}
|
||||
|
||||
public function resolveByName(ResolveByNameRequest $r): ResolveByNameResult
|
||||
{
|
||||
return $this->fallback->resolveByName($r);
|
||||
}
|
||||
|
||||
public function studyCompetitor(StudyCompetitorRequest $r): StudyCompetitorResult
|
||||
{
|
||||
// Тумблер deep_study ВКЛ и собиратель подключён → движок «глобального шага 2».
|
||||
if (config('autopodbor.deep_study') && $this->deep !== null) {
|
||||
$elements = $r->competitor['elements'] ?? [];
|
||||
|
||||
// Нет элементов (старый конкурент) — один отпечаток из имени+сайта, как раньше.
|
||||
if (! is_array($elements) || $elements === []) {
|
||||
$this->progress?->stage(1, 1, 'Изучаю фирму');
|
||||
$fp = (new CompetitorFingerprint)->build($r->competitor, $r->regionCode);
|
||||
|
||||
return new StudyCompetitorResult($this->deep->collect($fp));
|
||||
}
|
||||
|
||||
// Конкурент из нескольких элементов (подкомпании/ЖК холдинга): по КАЖДОМУ элементу —
|
||||
// свой отпечаток (имя элемента + его первый сайт), строки со всех элементов сводим.
|
||||
// Дедуп источников — выше по стеку (в джобе), поэтому просто конкатенируем.
|
||||
$rows = [];
|
||||
$total = count($elements);
|
||||
foreach (array_values($elements) as $i => $el) {
|
||||
if (! is_array($el)) {
|
||||
continue;
|
||||
}
|
||||
$name = trim((string) ($el['name'] ?? ''));
|
||||
if ($name === '') {
|
||||
$name = (string) ($r->competitor['name'] ?? '');
|
||||
}
|
||||
$this->progress?->stage($i + 1, $total, 'Изучаю: '.$name);
|
||||
$sites = is_array($el['sites'] ?? null) ? $el['sites'] : [];
|
||||
$cards = is_array($el['cards'] ?? null) ? $el['cards'] : [];
|
||||
$fp = (new CompetitorFingerprint)->build([
|
||||
'name' => $name,
|
||||
'site_url' => $sites[0] ?? null,
|
||||
'is_federal' => $r->competitor['is_federal'] ?? false,
|
||||
'cards' => $cards,
|
||||
], $r->regionCode);
|
||||
foreach ($this->deep->collect($fp) as $row) {
|
||||
$rows[] = $row;
|
||||
}
|
||||
}
|
||||
|
||||
return new StudyCompetitorResult($rows);
|
||||
}
|
||||
|
||||
$competitor = $r->competitor;
|
||||
$siteUrl = $competitor['site_url'] ?? null;
|
||||
$directoryUrls = $competitor['directory_urls'] ?? [];
|
||||
|
||||
// 1. Грузим сайт(ы) и карточки справочников
|
||||
$sites = [];
|
||||
if (is_string($siteUrl) && $siteUrl !== '') {
|
||||
$sites[] = $this->fetcher->site($this->ensureScheme($siteUrl));
|
||||
}
|
||||
$cards = [];
|
||||
foreach ($directoryUrls as $du) {
|
||||
foreach ($this->fetcher->directory($du) as $card) {
|
||||
$cards[] = $card;
|
||||
}
|
||||
}
|
||||
|
||||
// 2. Размечаем кандидатов и сводим ядром. Запасной код города — по региону
|
||||
// конкурента (только если на странице нет полных номеров; см. RegionAreaCode).
|
||||
$areaCode = RegionAreaCode::forSubject($r->regionCode);
|
||||
$candidates = $this->builder->build($sites, $cards, $areaCode);
|
||||
$collected = $this->aggregator->aggregate($candidates);
|
||||
|
||||
// 3. Маппинг в существующий контракт
|
||||
$rows = [];
|
||||
|
||||
// 3a. Сайты: сайт конкурента + сайты из карточек
|
||||
$siteIds = [];
|
||||
if (is_string($siteUrl) && $siteUrl !== '') {
|
||||
$siteIds[$this->norm->domainHead($siteUrl)] = ['url' => $this->ensureScheme($siteUrl), 'label' => 'сайт конкурента'];
|
||||
}
|
||||
foreach ($cards as $card) {
|
||||
if ($card->siteUrl !== null && $card->siteUrl !== '') {
|
||||
$siteIds[$this->norm->domainHead($card->siteUrl)] ??= ['url' => $card->url, 'label' => $card->source.' — сайт в карточке'];
|
||||
}
|
||||
}
|
||||
foreach ($siteIds as $domain => $meta) {
|
||||
$rows[] = [
|
||||
'signal_type' => 'site',
|
||||
'identifier' => $domain,
|
||||
'phone_kind' => null,
|
||||
'phone_type' => null,
|
||||
'provenance_url' => $meta['url'],
|
||||
'provenance_label' => $meta['label'],
|
||||
'where_found' => [['label' => $meta['label'], 'url' => $meta['url']]],
|
||||
'office' => null,
|
||||
'confirmations' => 1,
|
||||
];
|
||||
}
|
||||
|
||||
// 3b. Телефоны
|
||||
foreach ($collected as $c) {
|
||||
$rows[] = $this->callRow($c);
|
||||
}
|
||||
|
||||
return new StudyCompetitorResult($rows);
|
||||
}
|
||||
|
||||
/** @return array{signal_type:string,identifier:string,phone_kind:?string,phone_type:?string,provenance_url:?string,provenance_label:?string,where_found:array<int,array{label:string,url:?string}>,office:?string,confirmations:int} */
|
||||
private function callRow(CollectedSource $c): array
|
||||
{
|
||||
$top = $c->sources[0] ?? ['label' => null, 'url' => null];
|
||||
|
||||
return [
|
||||
'signal_type' => 'call',
|
||||
'identifier' => $c->identifier,
|
||||
'phone_kind' => $c->phoneKind,
|
||||
'phone_type' => $c->phoneType,
|
||||
'provenance_url' => $top['url'] ?? null,
|
||||
'provenance_label' => $top['label'] ?? null,
|
||||
'where_found' => $c->sources,
|
||||
'office' => $c->office,
|
||||
'confirmations' => $c->confirmations(),
|
||||
];
|
||||
}
|
||||
|
||||
private function ensureScheme(string $url): string
|
||||
{
|
||||
return preg_match('#^[a-z]+://#i', $url) ? $url : 'https://'.$url;
|
||||
}
|
||||
}
|
||||
Some files were not shown because too many files have changed in this diff Show More
Reference in New Issue
Block a user