Что знает о вас нью-йоркский полицейский и потенциальный преступник: искусственный интеллект становится частью жизни

13 апреля 2019

Мэр Нью-Йорка обращается к горожанам с призывом срочно эвакуироваться или сообщает о том, что город находится во власти террористов. Мэр настоящий, но слов, вложенных в его уста злоумышленниками, он никогда не произносил - это один их сценариев нападения на крупнейший американский мегаполис с использованием новейших технологий.

Об этом рассказал заместитель главы нью-йоркской полиции Джон Миллер, выступая в ООН на мероприятии, посвященном вопросам безопасности и технического прогресса. Технологии стремительно развиваются и становятся все более доступными. Во многих странах, хотя и далеко не во всех, их успешно берут на вооружение и правоохранительные органы. В том же Нью-Йорке, например, как рассказал Миллер, главное оружие современного полицейского – это смартфон с приложением, которое позволяет за считанные секунды получить исчерпывающую информацию.

«Представьте себе стрельбу на улице, скажем, в Бронксе (район Нью-Йорка), - говорит он. – С таким устройством в руках полицейский, не сходя с места, может выяснить, сколько оружия было изъято на этой улице за последний месяц, кто из живущих в радиусе нескольких сотен футов отбывает условный срок, номера машин, припаркованных в этом районе, и имена их владельцев. И это не все: система найдет страницы этих людей в социальных сетях, их фото и настроит программу распознавания их лиц». 

Как предотвратить вторжение в частную жизнь?

При этом в Америке никто не отменял законы, ограничивающие вторжение в частную жизнь. Где же пролегает золотая середина? По словам Миллера, система, которой сегодня пользуются нью-йоркские полицейские, до ее внедрения была выставлена на сайте городской полиции. Каждый мог узнать о ней все, что его интересует и даже высказать свое мнение. «Кроме того, мы постоянно проверяем, кто и как пользуется базой данных, не пытается ли кто-то с помощью программы, например, следить за жизнью бывшей подружки», - отметил Миллер.

В идеале принцип защиты частной жизни закладывается на этапе разработки системы. Сотрудница Google Карина Чу рассказала о том, как в компанию обратились группы по защите прав людей с инвалидностью с просьбой создать систему по считыванию движения губ. В Google, по ее словам, есть специальная комиссия, которая рассматривает этические аспекты при производстве любого продукта. «А как быть, если кто-то с помощью этой системы устроит слежку за супругом или еще за кем-то, или злоумышленники воспользуются видеоматериалами, которые находятся в открытом доступе? […] Изучив все потенциальные риски, мы решили, что модель должна работать только, если камера «видит» говорящего под углом в ноль градусов, а также включили ряд других ограничений, - сообщила Чу.  Кроме того, эта программа Google не доступна широкой публике, ее могут использовать только те, для кого она создавалась.  

Преступники также пользуются новыми технологиями

Организаторами мероприятия, посвященного вопросам безопасности и новейших технологий, выступили миссии Грузии и Нидерландов, а также Межрегиональный научно-исследовательский институт ООН по вопросам преступности и правосудия. В докладе, подготовленном Институтом совместно с Интерполом, говорится о рисках, с которыми сопряжено внедрение новых технологий, в том числе искусственного интеллекта. Ведь с таким же успехом техническими новшествами могут воспользоваться и преступники. И кто гарантирует, что имея в арсенале такие возможности, правоохранительные органы не будут ими злоупотреблять?

Злоумышленники, например, пользуются социальными сетями для вербовки новых членов в свои группировки, они освоили платежную систему, связанную с криптовалютой, и свободно общаются в даркнете – скрытой сети, существующей параллельно обычному интернету. Одна из новых форм злоупотребления искусственным интеллектом – создание фейковых новостей - дезинформации. Как в случае с видеообращением мэра, которое предполагаемые преступники использовали, чтобы посеять панику среди горожан.

Фото МСЭ/Г.Андерсон
«Фейковые новости», сексуальная эксплуатация, травля - это лишь несколько проблем, связанных с регулированием интернета.

Эту же программу можно использовать исподволь, распространяя заведомо ложную информацию, чтобы воздействовать, например, на исход выборов в какой-либо стране. И, если верить ФБР, именно это и произошло в преддверии выборов американского президента.

Новые инструменты позволяют исказить любое видео или звуковой файл, подменив частично или полностью звук и изображение. Поэтому на такие свидетельства больше нельзя полагаться, например, в ходе судебных разбирательств.

Искусственный интеллект может участвовать и в физических нападениях, например, с помощью беспилотников, оснащенных оружием и датчиками, которые способны распознать предполагаемую жертву в лицо. «Представляете, какая это проблема для правоохранительных органов, - говорит заместитель главы нью-йоркской полиции. – Это просто ночной кошмар для полиции, которой, например, приходится обеспечивать безопасность полутора миллиона человек, собравшихся на Таймс-сквере, чтобы встретить новый год».

С другой стороны, все те же технологии помогают отразить или предотвратить нападение. Например, частная компания PredPol помогает полиции анализировать криминальную обстановку, чтобы правильно распределять свои силы, направляя патруль в самые опасные места. «Нам нужно знать данные о времени, месте и характере преступлений в определенном районе, - рассказывает представитель компании Брайан Макдональд. – Программа анализирует эту информацию, определяет потенциальные риски и прогнозирует, где может произойти следующее преступление». Программа беспристрастна, утверждает Макдональд, и не дискриминирует по расовому или какому-то другому признаку.

Как устранить растущее неравенство

Фото ООН/А.Фиоренте
Генсек ООН Антониу Гутерриш посетил организованные учреждениями ООН курсы компьютерного программирования для девочек в Африке. Аддис-Абеба, Эфиопия. 9 февраля.

Представительница ОБСЕ Раса Остраукайте, впрочем, привлекла внимание собравшихся к вопросам «двойной», как она сказала, гендерной дискриминации. «Женщины недостаточно представлены в правоохранительных органах, - сказала она. – В Европе только каждый пятый полицейский женского пола, а на глобальном уровне ситуация и того хуже: женщины составляют лишь 10 процентов стражей правопорядка во всем мире». «При этом, - добавила она, - в отрасли, связанной с созданием искусственного интеллекта, женщины составляют лишь четверть сотрудников». Таким образом, по словам Остраукайте, эти программы и создают, и используют мужчины, а вот применяются они в отношении всего населения, половину которого составляют женщины. «Существует риск дискриминации, заложенный уже в алгоритм системы», - считает представительница ОБСЕ.

 

Как решают проблему в ООН  

Фото ООН/А.Кейн
Члены экспертной Группы по международному сотрудничеству в области цифровых технологий на встрече в Женеве.

Этими и другими вопросами, связанными с новейшими технологиями, активно занимаются в ООН. В 2018 году Генеральный секретарь создал экспертную Группу по международному сотрудничеству в области цифровых технологий. Ее возглавляет американский филантроп и супруга создателя «Майкрософт» Мелинда Гейтс и основатель компании «Алибаба», китайского гиганта в области электронной коммерции, Джек Ма.

Интернет, блокчейн, искусственный интеллект – глава ООН поставил перед специалистами задачу рассмотреть, как каждая из этих технологий и их сочетание могут служить людям, не нарушая их прав и не подрывая основы демократии и социальной справедливости. Свой итоговый доклад эксперты представят Генеральному секретарю ООН этим летом.