21 сентября 2018

Современные роботы уже могут вести вполне осмысленную беседу с человеком, сочинять музыку и писать стихи, ставить диагноз и выбирать кандидатов на ту или иную должность. «Искусственный интеллект» все активнее входит в нашу жизнь и во многом облегчает ее. Этические стороны стремительного развития технологий на прошлой неделе обсуждали в ЮНЕСКО. 

Рассказывает Ирина Зубенко-Лаплант из отдела биоэтики и этики ЮНЕСКО.

ИЗЛ: Прежде всего, нужно договориться о том, что такое искусственный интеллект. Это название придумали в 1950-х годах. В 1956 году Джон Маккарти из Дартмутского университета назвал искусственным интеллектом машины, основанные на так называемых когнитивных вычислениях, способные имитировать интеллектуальные способности человеческого мозга: сенсорная способность, взаимодействие в рамках языка, распознавание речи, способность сделать перевод, также произвести аналитический анализ. Сегодня основные области применения искусственного интеллекта – это и медицина: теперь врачи у нас получают советы о том, как поставить диагноз, это машинный перевод, который значительно улучшается. И особенность этих машин заключается в том, что они могут самообучаться. Они построены на нейронных алгоритмах, которые посредством усвоения большого количества данных становятся умнее. После этого они становятся автономными и даже могут выйти из-под контроля человека.

Эти технологии создают большие этические проблемы. Первая проблема – это проблема ответственности, потому что у этих технологий алгоритм непредсказуем: две одинаковые машины, поставленные в одинаковые условия, могут выдать вам разные результаты. Это зависит от их способности к обучению, от того, сколько они перерабатывают информации. Поэтому, если у Вас на столе лежит пациент, и он умер, кто за это отвечает? Или, допустим, авария с участием машины, не управляемой пилотом, кто за нее отвечает? Это первый вопрос – ответственности. Потом, конечно, там есть другие очень важные моменты, например, принцип уважения человеческого достоинства. Здесь мы заменяем человеческое общение, когда используем искусственный интеллект в обучении наших детей, для проведения свободного времени с пожилыми людьми. С одной стороны, они получают автономность и независимость в общении, а с другой стороны, – может быть, они предпочитают общаться с человеком, а не с машиной. Далее -экономические вопросы: рынок профессий, рабочая сила. Все люди боятся, что эти машины будут настолько мощными, эффективными, что вытеснят людей из многих областей и изменят многие профессии. Безусловно, профессии изменятся, многие из них исчезнут. Уже сейчас мы видим, что в такой области, как юриспруденция, многие рутинные функции полностью автоматизированы. Теперь по интернету Вы можете заполнить заявление о том, что у Вас случилось. Либо Вы являетесь работодателем и Вам нужен контракт: через интернет Вам предлагают различные формы. Кроме этого, Вы можете получить консультацию по интернету по ряду других вопросов. Также если говорить о судьях, то у них огромное количество досье. Для них теперь существуют программы, которые способны обработать всю введенную в них информацию и указать судье порядок очередности рассмотрения досье. Эти программы даже могут предложить решения. Если искусственный интеллект Вам предлагает какое-то судебное решение, то после этого Вы должны задать себе вопрос: «Насколько Вы можете доверять этому решению? Насколько Вы уверены, что искусственный интеллект совершенно правильно, беспристрастно переработал такое количество информации и Вам дает это решение?».

ЕВ: Честно говоря, это звучит немного страшновато. Я не уверена, что хотела бы оказаться перед судьей, который полагается на машину.

ИЗЛ: Это вопрос, который задает Комиссия по этике научных знаний и технологий, и привлекает внимание к этой проблеме: когда мы сможем это сделать? Каким уровнем транспарентности, открытости, объяснений должны обладать производители этих программ, чтобы общество это принимало.

ЕВ: Я хотела еще уточнить: вы сказали, что искусственный интеллект самообучаем, но может ли человек задать направление этого самообразования или искусственный интеллект сам решает в какую сторону идти?

ИЗЛ: Самообучение зависит от количества данных. У искусственного интеллекта есть три компонента, которые в настоящий момент сошлись вместе. Нейронные алгоритмы, на которых он работает, были выработаны в 80-х или даже в 70-х годах. Они уже в известной степени обладали нейронными алгоритмами, которые заложены в систему анализа. Но не было двух моментов. Первый момент – это высокая мощность вычислительной техники. Теперь вычислительная техника достигла такой мощности, что она может переработать большой объем информации. И второй момент, конечно, это количество данных. Эти данные стали появляться с того момента, как возникла облачная система хранения и получения данных от миллионов пользователей.

Для того, чтобы искусственный интеллект развивался, нужны пользователи. Чем больше он будет работать, тем больше он будет обучаться в рамках той программы, для которой он создан. Например, если речь идет о программах автоматического перевода, то мы знаем, что за последнее десятилетие они значительно улучшились. Если раньше это был просто набор каких-то непонятных слов, то теперь, когда вы вводите текст, вам Гугл выдает вполне нормальные предложения, которые имеют смысл – благодаря тому, что помимо улучшения алгоритмов, эта программа «переварила» очень много информации, было очень много пользователей. Такие программы работают по принципу ассоциации. Даже когда мы теперь делаем поиск, поиск стал значительно более автоматическим, более широким, более интересным. Вы можете ввести какое-то слово, и система будет Вам давать выборку, в которой этого конкретного слова может и не быть, но по смыслу это именно то, что вы ищете.

Искусственный интеллект, конечно, развивается, поэтому и нужно размышление, общественное обсуждение проблем. Нужно воспитывать человека в том ключе, что искусственный интеллект облегчает нашу жизнь – сельское хозяйство, промышленность, «умные» города, построенные на принципах регулирования транспортных потоков, рационализации экологических проблем.

Но, с другой стороны, не стоит забывать, что чем больше у нас электроники – тем больше электромагнитных волн, которые влияют на человека. Уже не говоря о самых элементарных вопросах – уважении к неприкосновенности частной жизни, конфиденциальности. Мы делимся большим количеством информации, сами того не подозревая. Даже если вам нечего скрывать – не значит, что нужно все показывать.

 

Подписывайтесь на нашу рассылку.
Загружайте приложение для мобильных устройств:
   Для устройств iOS
   ♦ Для устройств Android