Облачные и периферийные вычисления

  Облачные вычисления имеют критически важное значение для беспроводных сетей 5G/6G, так как позволяют решать многие сложные задачи связи и машинного обучения в распределённой манере с использованием программного обеспечения вместо дорогостоящего, трудоёмкого и медленно развивающегося аппаратного обеспечения. Эволюция телекоммуникационной инфраструктуры в сторону 6G предполагает перенос вычислений из центрального облака на периферийные вычислительные ресурсы, интегрированные в каждый узел сети. Периферийные вычисления (edge computing) значительно уменьшают объём данных, передаваемых по сети, и, соответственно, нагрузку на сеть, а также снижают задержки.  

  

  Однако распределённый характер периферийных вычислений порождает ряд проблем. В частности, центральный узел может получать результаты от вычислительных узлов с задержкой или не получать часть результатов вовсе. Такие узлы называются медлительными (straggler nodes). Ещё одним важным аспектом является обеспечение конфиденциальности, то есть личная информация пользователей не должна раскрываться при обработке и передаче данных. Для выполнения требований 6G необходимо разработать новые методы распределённых вычислений, которые будут быстрыми, надёжными и безопасными.


  Мы уже активно работаем в смежной области — надёжное и безопасное распределённое хранение данных. Наша группа опубликовала более 10 статей по данной тематике. Особенно хочется отметить публикации [1–3] в *IEEE Transactions on Information Theory* (импакт-фактор 2.501, Q1) и *IEEE Transactions on Information Forensics & Security* (импакт-фактор 7.178, Q1). Мы планируем провести исследования по следующим направлениям:


  1. Алгоритмы кодированных распределённых вычислений.
Одной из серьёзных проблем в распределённых вычислениях являются медлительные узлы (stragglers) [4], ожидание отклика от которых вызывает значительные задержки в работе алгоритмов машинного обучения. Для решения этой проблемы планируется использование кодов исправления стираний, что позволит восстановить общий результат на основе откликов от многих (но не всех) вычислительных узлов.


  2. Конфиденциальные распределённые вычисления.
Мы планируем сосредоточиться на задачах обучения, относящихся к области федеративного обучения (federated learning) [5]. Наша первоначальная цель — вывести фундаментальные компромиссы между конфиденциальностью, объёмом передаваемых данных и точностью, а также исследовать, как ограничения на конфиденциальность влияют на сходимость алгоритмов машинного обучения. В конечном итоге мы планируем предложить конфиденциальные распределённые вычисления на основе подхода локальной дифференциальной конфиденциальности.


Гранты:
  1. 2018–2019, Russian Foundation for Basic Research, Expansion, “19-17-50094 – An information-theoretic approach for reliable distributed storage systems”.

  2. 2018–2019, Russian Foundation for Basic Research, My first grant, “18-37-00459 – Investigation of Coding Techniques for High-Loaded Distributed and Cloud Storage Systems”.

Источники:
1. Holzbaur L., Kruglik S., Frolov A., Wachter-Zeh A., Secure Codes with Accessibility for Distributed Storage, IEEE Transactions on Information Forensics & Security.
2. Kruglik S., Nazirkhanova K. and Frolov A., New Bounds and Generalizations of Locally Recoverable Codes With Availability, IEEE Transactions on Information Theory, 2019, 65:7, 4156-4166
3. Tamo I., Barg A. and Frolov A., Bounds on the Parameters of Locally Recoverable Codes, IEEE Transactions on Information Theory, 2016, 62:6, 3070–3083.
4. Q. Yu, M. A. Maddah-Ali, and A. S. Avestimehr, “Straggler mitigation in distributed matrix multiplication: Fundamental limits and optimal coding,” in IEEE International Symposium on Information Theory (ISIT), June 2018, pp. 2022–2026.
5. A. Saiapin, G. Balitskiy, D. Bershatsky, A. Katrutsa, E. Frolov, A. Frolov, I. Oseledets, V. Kharin, Federated privacy-preserving collaborative filtering for on-device next app prediction. User Modeling and User-Adapted Interaction, 2024.