Искусственный интеллект: опасный враг или добрый помощник

Применение искусственного интеллекта в повседневной жизни стремительно набирает обороты, но эта тенденция все чаще вызывает беспокойство специалистов. Сотрудники Нью-Йоркского университета подготовили доклад с предостережением о рисках использования ИИ.

О потенциальных угрозах ИИ говорили почти все визионеры технологического прогресса. Стивен Хокинг в ноябре прошлого года озвучил главные страхи, сопровождающие размышления о развитии техники. По его мнению, компьютеры рано или поздно научатся воспроизводить сами себя. Биологические существа наверняка проиграют кремниевому разуму как в умственных способностях, так и в вопросах приспособленности к окружению, в особенности на другой планете. Рано или поздно умные роботы посчитают человека устаревшей формой и пожелают избавиться от него.

Слова Хокинга пока звучат как страшилка, десятки раз обыгранная в кино и книгах, но даже те, кто работает над внедрением умных систем, стали все чаще опасаться будущего с ИИ, хотя есть и такие, кто считает подобные страхи преждевременными. «Бояться развития ИИ сегодня — все равно что беспокоиться о перенаселении Марса», — заявил Эндрю Ын, глава Google Brain. Однако успокоил он далеко не всех.

Среди крупнейших фобий, связанных с внедрением компьютера во все сферы жизни, стоит отметить три. Первая — компьютерный разум станут использовать в качестве инструмента войны, который значительно превзойдет в разрушительной силе даже ядерное оружие. Вторая — ИИ поработит человека. Третья — как любое человеческое творение, компьютер подвержен ошибкам. На всех трех пунктах можно остановиться подробнее.

21 августа 2017 года ведущие специалисты в области исследований и внедрения искусственного интеллекта, включая глав таких компаний как SpaceX и Deep Mind, направили в ООН открытое письмо. В тексте они предостерегли мировое сообщество от разработки летального автономного оружия, будь то роботы или другие механизмы, предназначенные для убийства противника. Авторы документа обратили внимание на фатальные последствия применения такого вооружения. При его феноменальной эффективности справедливо задаться вопросом, в чьи руки оно попадет. Воспользоваться им может как узкий круг элит, так и террористы.

Авторы письма призвали контрольную организацию, а вместе с ней и научное сообщество, очертить рамки вредоносного использования ИИ. Стоящая перед человеком ответственность за собственное детище обязывает его провести серьезную работу над предотвращением рисков. Кроме законов, ограничить мощь роботов должны и их создатели, которым предстоит поломать голову над тем, как отключить машины в крайних случаях.

Политическое злоупотребление электронными системами уже продемонстрировало себя на примере работы соцсетей и алгоритмов анализа данных. Весной этого года в мире прогремел скандал, связанный с компанией Cambridge Analytica. Ее специалисты провели глубинный анализ данных о пользователях и разместили в Facebook адаптированную индивидуально под каждого человека рекламу.

Работники фирмы не только перешли этические рамки, но и применили современные технологии, работу которых было невозможно проанализировать. Эффективность «машинного обучения» — тема не раз возникающая среди ведущих математиков. Они хором признают, что поражены чрезвычайными успехами компьютерных программ, но совершенно не способны понять работу сложной системы. В Мьянме в апреле этого года посты в Facebook также стали причиной волнения масс, но в отличие от США, где обошлось протестными акциями, в азиатском государстве произошла резня, жертвами которой стали несколько сотен человек. Манипуляция огромным количеством людей — осуществившаяся реальность и роботы здесь могут сыграть с нами злую шутку.

Читать далее

Последние новости
Ученые Института нефтегазовой геологии и геофизики им. А.А. Трофимука СО РАН моделируют процессы…
Глава SpaceX Илон Маск заявил, что ракетный двигатель Raptor достиг показателя 268,9 бар…
21-22 Февраль 2019 в Москве в Президент-отеле пройдёт IV Международная Конференция Арктика: шельфовые…