Международное партнерство молодых ученых в области гуманизации искусственного интеллекта

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
2. Робот всегда выполняет приказы человека, если это не противоречит п. 1.
3. Робот всегда заботится о своей безопасности, если это не противоречит п.1 и п. 2.

Айзек Азимов

Современный искусственный интеллект (ИИ) – это повседневный инструмент информационных технологий, который широко используется людьми, начиная от развлечений (игры, творчество) и до сложных систем управления и принятия решений в бизнесе, промышленности, медицине и других областях. В большинстве случаев ИИ создается математиками и программистами под требования заказчика.

Цель прикладного системного анализа – для любой сложной задачи попытаться формализовать истинные цели с учетом мнения большинства (в идеале всех) участников, вовлеченных в проблемную ситуацию, и смоделировать систему, где применяется ИИ, во всем ее многообразии внешних и внутренних связей, чтобы предельно адекватно оценить последствия применения ИИ.

---

Проблема гуманизации современного ИИ

ИИ с первых дней развивается в двух крупных направлениях: бионическое (воспроизведение физиологических особенностей человека) и прагматическое (ИИ «черного ящика»). Последнее связано с созданием инструментов решения сложных задач, которые ранее считались прерогативой человека. При этом сами инструменты могут быть сколь угодно далеки от моделей мышления человека и, в общем случае, вообще не моделировать особенности человеческого принятия решений. Именно ИИ «черного ящика» получил на сегодня набольшее развитие, в этом направлении достигнуты наилучшие результаты и имеются большие перспективы развития.

К сожалению, подобный «вычислительный» интеллект создается человеком и при решении прикладных задач обычно преследует лишь одну цель – минимизация так называемой функции потерь, т.е. ищет подходящие паттерны среди наборов чисел и символов, за которыми, тем не менее, кроется реальный физический смысл. Очевидно, что такой ИИ предельно рационален, но совершенно не учитывает гуманистические особенности принятия решения, и при неграмотном или неэтичном использовании может нанести вред человеку.

Некоторые вопросы этики проектирования ИИ обсуждены в статье «Как построить доверие между человеком и искусственным интеллектом» (ссылка на первоисточник).

В то же время, очевидно, что цели проектирования ИИ должны основываться на всестороннем анализе проблемной ситуации с максимальным вовлечением (в идеале всех) участников проблемной ситуации, что требует проведения полноценного системного анализа и формализации проблемосодержащей и проблеморазрешающей систем. Очевидно, что учет мнения большинства потребует принятия решения при многих критериях, что является сложной аналитической и математической задачей. При взаимодействии с человеком ИИ должен учитывать не только формальные причинно-следственные связи, извлекаемые как паттерны из данных, но и эмоциональные составляющие отношения человека к проблемной ситуации. ИИ должен быть способен объяснять свои решения каким-либо доступным для интерпретации человеком способом (переход к так называемому «серому» или «прозрачному ящику»). И, наконец, при создании ИИ необходимо исключить некомпетентность, предвзятость и, тем более, злые намерения создателя ИИ, что можно достичь автоматизацией проектирования ИИ с учетом интерпретируемости, человеко- и социально-ориентированности, объективности и ответственности. Такие технологии автоматизированного проектирования могут в дальнейшем стать стандартом де-факто или даже де-юре для разработчиков конкретных ИИ-решений.

Международная инициатива СибИПСА в области создания интерпретируемого, человеко- и социально-ориентированного, объективного и ответственного ИИ

Прикладной системный анализ (ПСА) предлагает холистический (целостный) и креативный подход к решению проблем произвольной природы, опирающийся на системное мышление и методы постепенного перехода от слабоструктурированных к частично или полностью формализованным моделям проблемосодержащей и проблеморазрешающей систем. ПСА предполагает вовлечение в процесс работы над проблемой всех участников проблемы: владельца проблемы и всех (или большинство) стейкхолдеров, включающих ближайшее окружение владельца проблемы и другие внешние стороны. ПСА рекомендует при решении проблем также вовлекать «мнение» прошлых и будущих поколений, а также таких «безмолвных свидетелей» как окружающая среда. Применение ПСА при проектировании систем ИИ позволит уйти от формальных критериев (точность, среднеквадратическая ошибка, и т.п.) в сторону учета менее формальных требований, включая гуманистические и этические.

Коллектив СибИПСА имеет богатый опыт применения оригинальных подходов автоматизации (без участия или с минимальным вовлечением специалиста по ИИ) проектирования и управления работой методов и моделей ИИ, за счет самоконфигурации и самонастройки последних под решаемую задачу. Такой подход позволяет получить эффективную модель ИИ, которая не зависит от знаний, опыта и предпочтений разработчика, и, следовательно, существенно повышает объективность решения поставленных задач на основе проведенного ПСА. Этот же подход сегодня активно внедряется и в проектирование человеко-машинных интерфейсов с целью учесть (идентифицировать и использовать) индивидуальные особенности стейкхолдеров (пол, возраст, язык, уровень образования и прочее) и эмоциональную составляющую взаимодействия.

Международная инициатива СибИПСА связана с активным вовлечением молодых исследователей разных стран, языков и культур в решение проблемы создания «гуманного» ИИ. Во-первых, это связано с популяризацией методологии ПСА при анализе и выборе способов создания ИИ. Во-вторых, это развитие методологии автоматизации проектирования ИИ. И, наконец, вовлечение разных специалистов из разных стран должно помочь всесторонне подойти к проблеме анализа и использования человеко- и социально-ориентированных требований при создании ИИ.

В настоящее время СибИПСА активно сотрудничает с молодыми и состоявшимися исследователями из Австрии, Германии, Финляндии, Японии, Словении, Китая, Бразилии, Великобритании, Нигерии.

---

В настоящее время одним из ведущих специалистов и инициатором международного партнерства в области гуманизации ИИ является Ахмедова Шахназ Агасувар кызы. В 2020 году Шахназ стала участником всероссийского конкурса «Лидеры международного сотрудничества».

Направление развития международного сотрудничества

Проект рассчитан на немецкоязычные страны Западной Европы (Австрия, Германия, Швейцария) и направлен на создание сетевой структуры для молодых ученых-исследователей в области разработки систем искусственного интеллекта (ИИ).

Выбор данных стран обусловлен рядом причин, среди которых следует особо выделить:

1. Многолетнее плодотворное сотрудничество СибИПСА с университетами этих стран, реализующее всестороннюю поддержку молодых ученых за счет четко выстроенной системы обменов, стажировок и двухстороннего научного руководства, что позволяет создавать новые точки роста и центры превосходства в перспективных областях ИИ.
2. Именно в этих странах наиболее сильно развито направление, связанное с фундаментальными и прикладными исследованиями в области ИИ, и достигнуты наибольшие успехи в разработке и реализации технологий и систем, основанных на методах машинного обучения и ИИ.
3. Именно с этими странами Европы у России установились наиболее дружественные связи и наиболее тесное экономическое сотрудничество, в рамках развития которых особое внимание уделяется гуманитарным аспектам взаимодействия при развитии современных технологий.

Инициативы по развитию молодежного сотрудничества

Основная цель проекта заключается в привлечении молодых ученых в области ИИ к активной деятельности по продвижению идеи гуманизации систем ИИ в конструктивном смысле, а именно в смысле интенсивного развития идеологии, методологии и технологии автоматизированного проектирования интеллектуальных систем, заранее ориентированных на учет и безусловное соблюдение человеческих ценностей при анализе ситуации, принятии решений и выполнении активных действий.

Для достижения данной цели в СибИПСА будет реализован проект, для чего сформирован коллектив молодых ученых, находящихся в России, Австрии, Германии и Финляндии, основной задачей которых является привлечение научной молодежи из всех стран и отраслей науки для участия в специальных секциях, посвященных гуманистическим аспектам проектирования систем ИИ, на следующих конференциях:

1. Международная конференция молодых ученых «Актуальные проблемы авиации и космонавтики», СибГУ им. М.Ф. Решетнева, г. Красноярск, апрель 2021;
2. Международная научно-практическая конференция, посвященной памяти генерального конструктора ракетно-космических систем академика Михаила Федоровича Решетнева «РЕШЕТНЕВСКИЕ ЧТЕНИЯ», СибГУ им. М.Ф. Решетнева, г. Красноярск, ноябрь 2021;
3. International Workshop on Mathematical Models and their Applications (IWMMA), СибИПСА – Ульмский университет, г. Красноярск, ноябрь 2021.

В дальнейшем предполагается организация аналогичных научных событий в университетах-партнерах в Австрии, Германии и Швейцарии.

Итогом реализации данного проекта, направленного на развитие молодежного сотрудничества с выбранными странами является создание прототипа Европейского центра молодежных инициатив в области автоматизации проектирования гуманных систем на основе ИИ и консорциума университетов для подготовки кадров в этой области.

Опыт взаимодействия участника конкурса с иностранными партнерами

Среди наиболее значимых индивидуальных достижений следует отметить:

1. Победитель Международного конкурса компании Google на получение стипендии Фонда имени Аниты Борг за выдающиеся достижения женщин-исследователей в области компьютерных наук (The Google Anita Borg Memorial Scholarship). Приглашение в офисы компании Google в Цюрихе (Швейцария) и Москве (РФ) с целью проведения семинаров и представления выполняемых проектных работ, 2014.

2. Стипендия Германской службы академических обменов (ДААД) на участие в программе Эйлера в 2013-2014 гг. (стажировка в Университете Ульма, Германия) и на включенное обучение в рамках программы «Международная программа компьютерной инженерии/науки» («International Computer Engineering/Science Program», ICEP) в Университете прикладных наук Ульма (Ульм, Германия) в весеннем семестре 2012-2013 гг.

Кроме того, в составе коллектива СибИПСА: участник открытого российско-германского конкурса «Россия и Германия: научно-образовательные мосты», 2020.  

Опыт общественной и научной деятельности участника конкурса

Организация международных конференций:

1. Председатель секции «Optimization Algorithms» в рамках конференции «15th International Conference on Informatics in Control, Automation and Robotics» (Порту, Португалия, 29-31 июля 2018 г.);
2. Член программного комитета конференции «9th International Congress on Advanced Applied Informatics» (1-15 сентября 2020, Токио, Япония).
3. Проведение научных семинаров в офисах компании «Google» (2013 г. – Цюрих, Швейцария; 2014 г. – Москва, Российская Федерация). 
4. Проведение занятий на английском языке для иностранных студентов (Афганистан, Нигерия, Сомали) в СибГУ (математический анализ, методы оптимизации).
5. Проведение занятий для студентов в Университете Префектуры Аичи, г. Накагуте, Япония (искусственный интеллект).
6. Руководство магистерской работой студентки Чиори Мияджима (Университет Префектуры Аичи, Накагуте, Япония) в 2018-2019 гг.

Коллектив молодых ученых СибИПСА

1. Ахмедова Шахназ Агасувар кызы – канд. техн. наук, доцент кафедры высшей математики института информатики и телекоммуникаций СибГУ им. М.Ф. Решетнева, г. Красноярск, Российская Федерация.
2. Становов Владимир Вадимович – канд. техн. наук, доцент кафедры высшей математики института информатики и телекоммуникаций СибГУ им. М.Ф. Решетнева, г. Красноярск, Российская Федерация.
3. Семенкина Мария Евгеньевна – канд. техн. наук, научный сотрудник лаборатории эвристических и эволюционных алгоритмов Высшей технической школы Верхней Австрии, г. Хагенберг, Австрия.
4. Семенкина Ольга Евгеньевна — системный аналитик офиса аналитики и моделирования ОАО «Красцветмет», Красноярск, Российская Федерация.
5. Полякова Анастасия Сергеевна – канд. техн. наук, cпециалист в области применения интеллектуальных систем анализа и управления для кибер-физических систем и робототехники, г. Красноярск, Российская Федерация.
6. Брестер Кристина Юрьевна — канд. техн. наук, исследователь Университета Восточной Финляндии, Куопио.
7. Рыжиков Иван Сергеевич — канд. техн. наук, ведущий исследователь Университета Восточной Финляндии, Куопио.
8. Вахнин Алексей Валерьевич — аспирант СибГУ, стажер-исследователь лаборатории эвристических и эволюционных алгоритмов Высшей технической школы Верхней Австрии, г. Хагенберг, Австрия.
9. Скороход Алина Владимировна — аспирант СибГУ, стажер-исследователь института нейроинформатики Ульмского университета, г. Ульм, Германия.
10. Спирина Анастасия Викторовна — Dr.rer.nat., системный аналитик офиса аналитики и моделирования ОАО «Красцветмет», Красноярск, Российская Федерация.
11. Карасева Татьяна Сергеевна — аспирант СибГУ.
12. Митрофанов Сергей Александрович — аспирант СибГУ.

Пресса об участниках конкурса:

План реализации мероприятий коллективом в рамках проекта на 2021 год:

1. Секция на международной научно-практической конференции «Актуальные проблемы авиации и космонавтики», СибГУ им. М.Ф. Решетнева, г. Красноярск;
2. Секция на международной научно-практической конференции, посвященной памяти генерального конструктора ракетно-космических систем академика Михаила Федоровича Решетнева «РЕШЕТНЕВСКИЕ ЧТЕНИЯ», СибГУ им. М.Ф. Решетнева, г. Красноярск;
3. Секция на международной научной конференции International Workshop on Mathematical Models and their Applications (IWMMA), СибГУ им. М.Ф. Решетнева, г. Красноярск.