Первый запрос к модели: Vercel AI SDK, generateText и потоковый streamText

+-----------------------------------------------------------------------------------+
|               СИНХРОННЫЙ GENERATETEXT VS ПОТОКОВЫЙ STREAMTEXT                     |
+-----------------------------------------------------------------------------------+
| СЦЕНАРИЙ А: Блокирующий generateText()                                            |
| Время:    0s              2s              4s              6s (Пользователь ждет)  |
| Сервер:   [--- Запрос ---> GPU генерирует полный ответ ----> HTTP 200 JSON]       |
| Клиент:   (Пустой экран / спиннер) ........................ [Появление всего текста]
| TTFT:     6000 мс (высокий риск сброса соединения по таймауту 504 Gateway Timeout)|
+-----------------------------------------------------------------------------------+
| СЦЕНАРИЙ Б: Потоковый streamText()                                                |
| Время:    0s     0.3s     0.6s     0.9s     1.2s ... 6s (Живой интерфейс)        |
| Сервер:   [Запрос] -> [Токен 1] -> [Токен 2] -> [Токен 3] ... [Stop]              |
| Клиент:   [Спиннер] -> "Вы"    -> "пол"    -> "няем"  ... [Полный текст]          |
| TTFT:     300 мс (мгновенная отзывчивость интерфейса)                             |
+-----------------------------------------------------------------------------------+

import { generateText } from 'ai';
import { openai } from '@ai-sdk/openai';

export interface SummarizationResult {
  summary: string;
  tokensUsed: {
    prompt: number;
    completion: number;
    total: number;
  };
  finishReason: string;
}

export async function summarizeArticle(content: string): Promise<SummarizationResult> {
  const result = await generateText({
    model: openai('gpt-4o-mini'),
    system: 'Ты — профессиональный технический редактор. Сформируй выжимку текста в 3 пунктах.',
    prompt: content,
    temperature: 0.2,
    maxTokens: 500,
  });

  return {
    summary: result.text,
    tokensUsed: {
      prompt: result.usage.promptTokens,
      completion: result.usage.completionTokens,
      total: result.usage.totalTokens,
    },
    finishReason: result.finishReason, // 'stop' | 'length' | 'content-filter'
  };
}

import { streamText } from 'ai';
import { anthropic } from '@ai-sdk/anthropic';

export async function streamTechnicalReview(codeSnippet: string): Promise<void> {
  const result = streamText({
    model: anthropic('claude-3-7-sonnet-20250219'),
    system: 'Ты — Senior Staff архитектор. Проведи ревью переданного кода на безопасность.',
    prompt: codeSnippet,
    temperature: 0.1,
  });

  process.stdout.write('\n--- НАЧАЛО ПОТОКА ОТВЕТА ---\n');

  // Читаем чанки по мере их прибытия по сети
  for await (const textDelta of result.textStream) {
    process.stdout.write(textDelta);
  }

  process.stdout.write('\n--- КОНЕЦ ПОТОКА ---\n');

  // Метаданные usage доступны через Promise после завершения стрима
  const usage = await result.usage;
  console.log(`Использовано токенов: ${usage.totalTokens} (Вход: ${usage.promptTokens}, Выход: ${usage.completionTokens})`);
}

import { streamText } from 'ai';
import { openai } from '@ai-sdk/openai';

export const runtime = 'edge'; // Или 'nodejs'

export async function POST(req: Request) {
  const { messages } = await req.json();

  const result = streamText({
    model: openai('gpt-4o'),
    system: 'Ты — корпоративный AI-ассистент платформы WPSKILLS.',
    messages,
  });

  // Преобразует WebStream в совместимый с фронтендом ответ SSE
  return result.toDataStreamResponse();
}