В статье рассматривается задача повышения интерпретируемости решений математических моделей при сохранении высокой точности предсказаний. Основное внимание уделяется интеграции нейронных сетей, обладающих высокой точностью, с ансамблем интерпретируемых моделей, механизмы которых прозрачны и поддаются аналитическому описанию. Предложен метод формирования обоснования на основе решений ансамбля, согласованных с предсказанием нейросети. Согласование достигается путем сравнения степеней уверенности моделей после предварительной калибровки, необходимость которой обусловлена эффектом избыточной уверенности (overconfidence), характерным для некоторых моделей машинного обучения. Разработан метод выбора интерпретируемых моделей ансамбля классификаторов, чьи оценки на конкретном объекте максимально близки по степени уверенности к выходу нейронной сети. Это позволяет формировать обоснования, содержащие как аргументы в пользу принятого решения, так и возможные альтернативные мнения. Для повышения гибкости интерпретации введено расширенное определение высокоинформативного признака, включающее категоризацию значений по степени их характерности для различных классов. Показано, что переход от бинарных к категориальным признакам способствует росту точности классификации и увеличивает ее общую эффективность. Дополнительно разработан метод построения информативных интервалов признаков, позволяющий повысить их информативность – разделяющую способность. На основе полученных интервалов предложены алгоритмы уточнения полуопределенных меток и коррекции обучающей выборки с целью повышения ее качества и репрезентативности. Предложенные подходы протестированы на задаче диагностики рака молочной железы по данным микроволновой радиотермометрии. Результаты вычислительных экспериментов подтверждают, что использование категориальных интерпретируемых признаков в сочетании с модельной калибровкой позволяет существенно повысить точность классификации и обоснованность принимаемых решений.

The article considers the problem of increasing the interpretability of solutions of mathematical models while maintaining high prediction accuracy. The main attention is paid to the integration of highly accurate neural networks with an ensemble of interpretable models whose mechanisms are transparent and amenable to analytical description. A method for forming a justification based on ensemble decisions consistent with the prediction of the neural network is proposed. The agreement is achieved by comparing the confidence levels of the models after preliminary calibration, the need for which is due to the overconfidence effect characteristic of some machine learning models. A method has been developed for selecting interpretable models of an ensemble of classifiers whose estimates on a specific object are as close as possible in terms of confidence to the output of the neural network. This allows forming justifications containing both arguments in favor of the decision made and possible alternative opinions. To increase the flexibility of interpretation, an extended definition of a highly informative feature has been introduced, including categorization of values by the degree of their characteristic for different classes. It is shown that the transition from binary to categorical features contributes to the growth of classification accuracy and increases its overall efficiency. Additionally, a method for constructing informative intervals of features has been developed, which allows increasing their informativeness – separating ability. Based on the obtained intervals, algorithms for refining semi-definite labels and correcting the training sample in order to improve its quality and representativeness have been proposed. The proposed approaches have been tested on the problem of breast cancer diagnostics using microwave radiothermometry data. The results of computational experiments confirm that the use of categorical interpretable features in combination with model calibration allows for a significant increase in classification accuracy and the validity of decisions made.