Свежая публикация SecurityLab от 24 марта 2026 года бьёт по больному месту: ChatGPT сохраняет контекст в «памяти» даже после того, как вы удалили чат. Раньше это называли шпионажем, теперь — «полезным обновлением». Для выпускника ИТ-специальности здесь не сенсация, а готовое поле для дипломной работы: утечки через LLM — это класс задач, который сейчас закрывают в корпоративных контурах, и по нему вакансий больше, чем желающих.
Почему это выгодно для ВКР? Тема попадает в три пересекающихся тренда: приватность данных (152-ФЗ, GDPR), безопасность ИИ-сервисов (OWASP LLM Top 10) и операционный аудит (SIEM/DLP). Комиссия любит такие темы, потому что они защищаемы: есть официальный повод, есть измеримые метрики, есть куда приложить техническую часть. Ниже — разбор, как превратить новостной кейс в цельную работу с моделью угроз, стендом и расчётом эффективности.
Тема пограничная. Если кафедра ИБ — акцент на модель угроз, классификацию PII, соответствие ФСТЭК/152-ФЗ. Если кафедра ИИ — тот же кейс защищается через оценку риска на уровне пайплайна: как память LLM влияет на leakage и качество ответов. Выбирайте сторону, где у вашей кафедры больше компетенций: споры с ГЭК начинаются именно из-за дисциплинарной привязки.
Не нужен реальный работодатель. Разворачиваете локальную среду: Ollama или vLLM поднимает модель на своей машине, вы пишете сценарий диалога, где пользователь вводит синтетические ПДн (телефоны, СНИЛС в валидном формате через Faker), а затем проверяете, что остаётся в логах и в памяти. Это воспроизводимо, этично и защищается как полноценный стенд.
Сводите к количественным метрикам: доля сохранённых сущностей после «удаления» сессии (retention rate), precision/recall детектора PII на тестовом наборе, среднее время реакции DLP-правила, процент ложных срабатываний. Все они ложатся в таблицу и защищаются цифрами — комиссия такое любит.
Используйте в тексте нейтральные формулировки: «сторонний LLM-сервис», «внешний облачный ассистент». Название ChatGPT оставьте в первом абзаце введения и в списке источников. Так снимаете риск придирок к бренду и сохраняете актуальность отсылки к статье.
Не пересказывайте статью — используйте её как иллюстрацию класса угроз. Схема изложения: (а) определение «памяти» LLM как persistence-слоя; (б) сопоставление с классическими механизмами (cookie, session storage) и разбор различий; (в) таблица «что пользователь ожидает / что происходит на самом деле». Последнюю строку заполняет именно кейс SecurityLab. Обязательно добавьте диаграмму потока данных (DFD) — как минимум 4 внешних сущности (пользователь, LLM-сервис, память сервиса, оператор-организация) и 6–8 потоков.
Здесь рождается основная техническая ценность. Минимальная архитектура: proxy-шлюз между пользователем и LLM-сервисом, который логирует, фильтрует и маскирует. Полезно нарисовать C4-модель (Context + Container) — она защищается легче, чем UML, и комиссия обычно знает нотацию хотя бы на уровне идеи. Пример псевдокода детектора секретов/PII на Python:
import re
from typing import NamedTuple
class Finding(NamedTuple):
kind: str
span: tuple
severity: str
PATTERNS = {
"phone_ru": (r"\+7\d{10}", "high"),
"snils": (r"\d{3}-\d{3}-\d{3} \d{2}", "critical"),
"api_key": (r"(sk|api)[-_][A-Za-z0-9]{20,}", "critical"),
"email": (r"[\w.+-]+@[\w-]+\.[\w.]+", "medium"),
}
def scan(text: str) -> list[Finding]:
findings = []
for kind, (rx, sev) in PATTERNS.items():
for m in re.finditer(rx, text):
findings.append(Finding(kind, m.span(), sev))
return findings
def redact(text: str, findings: list[Finding]) -> str:
for f in sorted(findings, key=lambda x: x.span[0], reverse=True):
s, e = f.span
text = text[:s] + f"[{f.kind.upper()}_REDACTED]" + text[e:]
return text
Этот фрагмент идёт в приложение, а в тексте главы описываются: обоснование выбора regex против ML-детектора, обработка ложных срабатываний, стратегия маскирования (полное, частичное, хеширование).
Соберите тестовый корпус: минимум 100 синтетических промптов, из них 30% — с внедрёнными PII. Прогоните через прототип. Считайте:
| Метрика | Формула | Целевое значение |
|---|---|---|
| Precision детектора | TP / (TP + FP) | ≥ 0.90 |
| Recall детектора | TP / (TP + FN) | ≥ 0.85 |
| Retention rate после «удаления» | сохранённые сущности / всего сущностей | ≤ 0.05 |
| Задержка обработки | p95 в мс на 1 КБ текста | ≤ 50 мс |
| Ложные блокировки легитимных запросов | FP / всего запросов | ≤ 3% |
Каждая цифра должна иметь обоснование. «Почему ≥ 0.90, а не 0.95?» — потому что на синтетическом корпусе больше пропусков, а ложные блокировки плохо сказываются на UX. Такие ответы на защите дороже, чем сама формула.
Не изобретайте: привязывайте работу к OWASP LLM Top 10 (LLM02 — insecure output handling, LLM06 — sensitive information disclosure), ISO/IEC 25010 (aspects of confidentiality), при необходимости — к методике ФСТЭК по моделированию угроз. Для аудита логов и мониторинга упомяните OpenTelemetry и SIEM-интеграцию — это показывает, что вы мыслите не «скриптом в стол», а компонентом инфраструктуры.
1. Пересказ новости вместо исследования. Студент открывает SecurityLab, переписывает абзацы и называет это «анализом проблемы». Комиссия видит первоисточник за 20 секунд. Исправление: статья — только повод. Дальше идёт ваш стенд, ваши метрики, ваша модель угроз.
2. Отсутствие измеримости. Формулировки «система позволяет снизить риск» без цифр. Защищайтесь числами: precision, recall, p95-задержка, retention rate. Одна таблица метрик закрывает половину вопросов на защите.
3. Правовой ликбез по верхам. Ссылка на 152-ФЗ без указания конкретных статей и классов данных выглядит как отписка. Указывайте ст. 19 (меры по обеспечению безопасности) и приказ ФСТЭК №21, если речь о ГИС.
Если тема кажется узкой или не хватает времени на стенд — у профильных специалистов часто есть готовые наработки по 120-часовому формату сопровождения. Можно получить бесплатную консультацию и обсудить, как развернуть лабораторию под вашу кафедру, а не переписывать чужой диплом.
Источник: ChatGPT завёл на вас папку с компроматом. Теперь ваши грязные секреты останутся в памяти, даже если полностью удалить чат (опубликовано 2026-03-24)
```