Введение в анализ текстов, базовые методы предобработки и выделения признаков
Векторные представления слов
Машинный перевод и механизм внимания
Архитектура «Трансформер»
Языковые модели на основе архитектуры кодировщика Трансформера
Генеративные языковые модели на основе архитектуры декодеровщика Трансформера (LLM, prompt tuning, RLHF)
Оптимизация языковых моделей (P-tuning, LoRA, квантизация)
RAG-системы и ранжирование
Диалоговые системы (intent detection, slot filling)
Извлечение именованных сущностей и отношений