Научный руководитель СибИПСА принял участие в вебинаре «Künstliche Intelligenz datenschutzkonform entwickeln» («Разрабатывать искусственный интеллект с соблюдением правил защиты данных»), проводимом XING Ambassador Community при поддержке DATAKONTEXT GmbH.
Обсуждались идеи использования методов машинного обучения с дифференцированной конфиденциальностью (differential privacy) для создания заслуживающего доверия ИИ (Trustworthy AI). В качестве примера реализации подхода упоминались, в частности, разработки европейской компании DQ0( https://dq0.io).
В СибИПСА разрабатывается подход, позволяющий сохранять конфиденциальность данных при использовании искусственного интеллекта за счет автоматического проектирования технологий машинного обучения самоадаптивными стохастическими алгоритмами оптимизации непосредственно под задачи пользователя. В этом случае пользователь получает систему искусственного интеллекта для своей задачи без необходимости привлекать разработчика такой системы и раскрывать ему конфиденциальные данные.
Более подробная информация по теме
Докладчик предоставил ссылки для более детального ознакомления с темой:
- The Algorithmic Foundations of Differential Privacy: https://www.cis.upenn.edu/~aaroth/Papers/privacybook.pdf
- Differential Privacy: A Primer for a Non-technical Adience: https://privacytools.seas.harvard.edu/files/privacytools/files/pedagogical-document-dp_0.pdf
- DQ0 Software-Plattform für vertauenswürdige KI und Differential Privacy: https://dq0.io/de/
- OpenDP: https://opendifferentialprivacy.github.io/
- OpenMinded: https://www.openmined.org/
- Tensorflow Privacy: https://github.com/tensorflow/privacy
- EU Ethics guidelines for trustworthy AI: https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai