Научно-исследовательский семинар Магистратуры Прикладное МО и большие данные 10 апреля 2024

Статья для разбора: Y. Tay, M. Dehghani, V.Q. Tran, X. García, J. Wei, X. Wang, H.W. Chung, D. Bahri, T. Schuster, H.S. Zheng, D. Zhou, N. Houlsby, and D. Metzler, UL2: Unifying Language Learning Paradigms, in Proceedings of the Tenth International Conference on Learning Representations, 2022 Докладчик 1 Петоян Андраник Докладчик 2 Тарасенко Александр Гость: Иван Бондаренко научный сотрудник лаборатории прикладных цифровых технологий, старший преподаватель кафедры фундаментальной и прикладной лингвистики и кафедры применения математических методов в экономике и планировании НГУ. Ранее работал специалистом по анализу данных в компании 2ГИС, архитектором решений в компании Data Monsters, техлидом команды AutoML для больших данных в компании Huawei, научным сотрудником в МФТИ, преподавателем в ДонНТУ. Тема: Безопасное предобучение глубоких языковых моделей на синтетическом псевдоязыке.