Abstract
В работе представлена комплексная система защиты VoIP-соединений в IP-АТС Asterisk, основанная на интеграции модифицированного протокола TLS с постквантовым алгоритмом обмена ключами CRYSTALS-Kyber-512 и цифровой подписью CRYSTALS-Dilithium3. Целью исследования является повышение устойчивости процесса установления сеансовых ключей к сетевым атакам и угрозам квантового взлома без снижения качества обслуживания. Разработанное решение включает использование симметричного шифрования AES-256-CBC для защиты сеансовых ключей и токенов, систему CSRF-защиты, токен-менеджмент с автоматическим резервным копированием и механизм ограничения частоты запросов. Проведено функциональное и нагрузочное тестирование на платформе Asterisk 20.5 с числом клиентов до 1500 и каналом 1 Gbps. Результаты экспериментов показали, что внедрение Kyber-512 увеличило задержку установления TLS-сессии лишь на 3–7 мс по сравнению с RSA-2048, что не снижает производительности VoIP. Разработанная система снизила среднюю задержку речи при нагрузочных атаках SYN-Flood, UDP-Flood и HTTP-Flood на 30–40 % (например, с 300 мс до 180 мс при HTTP-Flood), сохранив стабильность сервиса при высоком уровне вредоносного трафика. CSRF-защита и шифрование токенов повысили отказоустойчивость и устойчивость к подделке запросов. Отдельно исследована уязвимость Dilithium3 к тайминговым атакам по побочным каналам. Анализ временных различий при верификации подписей с использованием гибридной модели CNN + LSTM и решёточных методов (BKZ, SVP, Babai) позволил выявить корреляцию времени проверки и успешности атаки, что подчёркивает необходимость внедрения постоянных временных алгоритмов и шумовых контрмер. Предложенная архитектура демонстрирует высокую эффективность защиты VoIP-систем от сетевых угроз и минимальное влияние на производительность при использовании постквантовой криптографии, что делает её перспективной для критически важных корпоративных и государственных коммуникаций.