Посмотрев одно из самых ожидаемых событий года, Синтия Вебер задалась вопросом: правильно ли поступила компания Sky News, решив воспользоваться искусственным интеллектом (ИИ) на съемках свадебной церемонии принца Гарри и Меган Маркл?

Впервые в истории новостная компания использовала во время прямой трансляции технологию распознавания лиц на основе ИИ. Синтия, профессор международных отношений и гендерных наук в Сассекском университете, объяснила, что применение подобного программного обеспечения для идентификации гостей на свадьбе — признак высокого уровня технического развития, однако такой подход может быть сопряжен с некоторыми сложностями.

«Некоторые считают, что эта технология способна определять сексуальную ориентацию человека», — отметила Синтия в своем выступлении на Международном дне борьбы с гомофобией, трансфобией и бифобией, который прошел в Женеве в штаб-квартире ЮНЭЙДС.

Опираясь на результаты исследования, проведенного в Стэнфордском университете, в ходе которого были проанализированы более 35 000 фотографий здоровых белых людей в возрасте 18–40 лет с американского сайта знакомств, исследователи сравнили их сексуальную ориентацию, определенную ИИ, с ориентацией, указанной в профилях этих людей. Авторы исследования утверждают, что технология распознавания лиц на основе ИИ способна определять сексуальную ориентацию на 30 % более точно, чем это делает человек.

По словам Синтии, организации по защите прав ЛГБТИ-сообщества резко раскритиковали это исследование, мотивировав это тем, что в нем использовалась нерепрезентативная выборка в отношении расы и пола, а сексуальная ориентация приравнивалась к сексуальной активности. «В результате алгоритм этого ИИ нашел лишь то, на поиск чего был запрограммирован: стереотипы по отношению к гетеросексуалистам, геям и лесбиянкам», — добавила Синтия.

Г-жа Вебер не отрицает, что ИИ открывает множество возможностей в самых разных сферах, но полагает, что для ЛГБТИ-сообщества он несет больше вреда, чем пользы.

Когда ИИ объединяют с технологией распознавания лиц и алгоритмом выявления сексуальной ориентации, возникает как минимум четыре проблемы. Во-первых, конфиденциальность. Согласно национальному и международному законодательству, лицо человека не защищено законами о конфиденциальности. Это значит, что сканировать и считывать изображения лиц может кто угодно — от правительства до Sky News.

Во-вторых, точность. «Если не брать в расчет королевскую свадьбу, технология распознавания лиц на основе искусственного интеллекта еще далека от совершенства, даже для такой простой задачи, как сопоставление имен гостей с их лицами, не говоря уже о более сложной задаче определения сексуальной ориентации по лицу», — рассказала Синтия.

Для нее главной проблемой является принцип работы этой технологии. Как алгоритм может определить сексуальную ориентацию человека лучше, чем он сам? Синтия считает, что такой подход с применением программных средств и считываемых компьютером данных несовместим с огромным разнообразием гендерных и сексуальных различий.

И наконец, четвертая проблема, которая волнует Синтию, — для чего будут использоваться полученные с помощью ИИ данные? «Допустим, компания Sky News использовала их для комментирования свадебной церемонии, но что если они попадут в руки полиции тех стран, где гомосексуальные отношения запрещены законом?» — задается вопросом Синтия.

Для нее ИИ и сексуальная ориентация — две вещи, которые не следует объединять. Она понимает, что развитие искусственного интеллекта расширяет творческие возможности и ускоряет внедрение инноваций, но полагает, что классификация людей, как правило, имеет больше минусов, чем плюсов.

В завершение Синтия добавляет: «Люди должны быть уверены в том, что искусственный интеллект работает этично, а не только технологично».

Мероприятие было организовано 16 мая швейцарской ЛГБТИ-ассоциациейPride@Work и UN Globe, ЛГБТИ-организацией при ООН.