Neural Attribution for Semantic Bug-Localization in Student Programs

Повышение интерпретируемости глубоких моделей — крайне важная задача машинного обучения. Одним из методов решения этой проблемы является определение фрагментов входных данных, которые вносят наибольший вклад в итоговый результат работы модели. Однако, существующие подходы обладают рядом недостатков, например, слабой чувствительностью и неустойчивостью к конкретной реализации модели. На семинаре будет рассмотрена статья Axiomatic Attribution for Deep Networks, предлагающая новый метод интегрированных градиен