Компания DeepMind, которая является подразделением компании Google, занимающимся исследованиями и разработкой систем искусственного интеллекта, сформировала новую группу, которая будет изучать достаточно сложные и "животрепещущие" этические проблемы, имеющие отношение к искусственному интеллекту. К этим проблемам относится экономическое влияние использования ИИ в различных системах автоматизации, в том числе и промышленной, необходимость контроля и управления искусственным интеллектом, обеспечение гарантий того, что любые разрабатываемые интеллектуальные системы должны понимать и придерживаться человеческих этических и моральных ценностей.
Группа DeepMind Ethics & Society (DMES) начнет работу в самом ближайшем времени, а первые результаты ее работы начнут публиковаться уже в начале 2018 года. Сейчас в состав группы DMES входят восемь штатных сотрудников, но их количество через год должно увеличиться до 25. Кроме этого, к работе группы будут привлекаться специалисты со стороны, включая таких известных людей, как Ник Бостром (Nick Bostrom), исследователь из Оксфорда, написавший книгу по экзистенциальным рискам, связанным с искусственным интеллектом.
Главной целью группы DMES, со слов Верити Хардинг (Verity Harding) и Шона Легассика (Sean Legassick), является "исследование и понимание всех тонкостей взаимодействия ИИ с реальным миром". В качестве примера, на что это может быть похоже, исследователи упоминают об определениях расизма в уголовном делопроизводстве и об этических сторонах действий самоуправляемых автомобилей-роботов а непредвиденных и критических ситуациях. "Если искусственному интеллекту придется стать на службу человеческому обществу, то он будет должен придерживаться всех приоритетов, ценностей и принципов поведения, принятых в этом обществе" - пишут Хардинг и Легассик в официальном блоге группы DMES.
Несмотря на то, что компания DeepMind уже давно работает с искусственным интеллектом, даже ее руководство признает то, что они уделяют очень мало внимания этическим проблемам. Ярким примером тому является работа компании с Национальной службой здравоохранения Великобритании. В прошлом году компания DeepMind для обучения одной из своих систем искусственного интеллекта использовала данные о 1.6 миллионе пациентов трех лондонских больниц. При этом, данные обрабатывались без всякого согласия и уведомления об этом самих пациентов, что привело к возникновению серьезного скандала. Сейчас руководство компании наняло несколько квалифицированных специалистов в области нравственности и этики, которые проверяют на этот предмет все договора и соглашения, заключаемые компанией с другими организациями.
Создание группы DMES является прямым доказательством того, что компания DeepMind и Google в полной мере осознают важность этических проблем, связанных с искусственным интеллектом и деятельностью этих компаний в данном направлении. К сожалению, учитывая скрытность компаний Google и DeepMind, вряд ли можно надеяться на широкое освещение того, какую роль сыграет работа группы DMES в дальнейших действиях обоих компаний. Но на получение некоторых результатов работы группы DMES, среди которых могут появиться весьма неожиданные и занимательные вещи, можно будет смело рассчитывать.
