У сучасних інтелектуальних системах на основі трансформерних моделей однією з ключових проблем залишається здатність моделі не лише адаптуватися до нових задач, але й зберігати вже набуті знання. У межах даного дослідження основна увага зосереджена на аналізі того, як трансформерна модель поводиться після донавчання на двох різних типах даних: програмних конструкціях Salesforce Apex та бізнес-правилах CPQ Price Rule.