Улучшение поддержки принятия инженерных решений с помощью эффективно настроенных логических рассуждений LLM

Интеграция больших языковых моделей (LLM) в инженерные рабочие процессы представляет собой многообещающий путь к автоматизации сложного принятия решений. Однако универсальные LLM часто не обладают структурированными многошаговыми рассуждениями, необходимыми для технических задач. В данном исследовании изучается эффективность тонкой настройки компактной LLM с открытым исходным кодом Mistral-7B для специализации на логических и математических рассуждениях. Мы применяем параметрически эффективные методы — низкоранговую адаптацию (LoRA) и 4-битное квантование — для адаптации модели к пользовательскому многозадачному набору данных, объединяющему тесты ANLI (логический вывод) и GSM8K (решение математических задач). Наши результаты показывают, что тонкая настройка модели обеспечивает значительное повышение производительности с точностью на наборе инженерных задач, сохраняя при этом вычислительную эффективность. Результаты показывают, что целенаправленная тонкая настройка может снабдить меньшие модели надежными возможностями рассуждения, делая продвинутых помощников на основе ИИ жизнеспособными в инженерных средах с ограниченными ресурсами и потенциально сокращая время итерации проектирования.