В широком смысле, языковое моделирование — это процесс формализации языка, в частности — естественного языка, чтобы сделать его машинно‑читаемым и обрабатывать различными способами. Таким образом, это касается не только генерации текста, но и представления языка. Хотя можно показать, что современные языковые модели, такие как GPT-3, соответствуют способностям человека в некоторых задачах,