Захист від галюцинацій та тавтологічних тестів

Архитектурная база#

Главная проблема генерации кода языковыми моделями — "уверенные галлюцинации", когда код выглядит корректно, но не выполняет требуемую бизнес-задачу. В контексте тестирования это приводит к появлению тавтологических тестов: тестов, которые проверяют сами себя, тестируют моки вместо реальной реализации или используют предельно широкие утверждения (assertions).

Для надежной интеграции ИИ в пайплайн требуется автоматизированная система верификации тестов. Mutation Testing (мутационное тестирование) является архитектурным стандартом для оценки качества тестов, генерируемых агентами. Оно проверяет, способны ли тесты "упасть", если бизнес-логика сломана.

Ментальная модель#

Mutation Testing гарантирует, что ИИ не написал "пустые" тесты.

[Исходный код от ИИ] ─(Мутатор)─► [Мутант 1 (if a > b)] ──► [Тесты] ─► Успех (Мутант ВЫЖИЛ - Тест плохой)
                               │
                               ├─► [Мутант 2 (if a < b)] ──► [Тесты] ─► Провал (Мутант УБИТ - Тест хороший)

На практике применяется#

1. Аудит AI-генерируемых тестов: Интеграция фреймворка Stryker в CI-пайплайн для блокировки PR, если агент написал тесты, пропускающие мутации.
2. Защита финансовых модулей: В сервисах оплаты запрещается использовать моки для доменной логики, чтобы ИИ не имитировал успешные транзакции вместо их реальной проверки.
3. Обнаружение мертвых зон: Мутационное тестирование выявляет блоки кода, которые были сгенерированы агентом, но фактически не используются или не покрыты логическими проверками.

Как это работает#

Пример использования Stryker с TypeScript. Предположим, агент сгенерировал функцию и "тавтологический" тест к ней.

// Код, сгенерированный агентом
export function isValidPassword(password: string): boolean {
  if (password.length >= 8) {
    return true;
  }
  return false;
}

import { expect, test } from "vitest";
import { isValidPassword } from "./password";

// Плохой тест: проверяет только одно граничное условие
test("пароль должен быть валидным", () => {
  expect(isValidPassword("12345678")).toBe(true);
});

Если запустить Stryker (npx stryker run), он изменит password.length >= 8 на password.length > 8 (или false / true). Тест упадет только в некоторых случаях, а мутант, заменяющий >= на >, выживет, потому что тест проверяет ровно длину 8. Это сигнал агенту (или инженеру), что тесты не покрывают граничные условия должным образом.

Распространённые ошибки#

Вопросы на собеседовании#