Меню
12+

«Алапаевская газета». Еженедельник для города и района

27.08.2020 08:21 Четверг
Категории (3):
Если Вы заметили ошибку в тексте, выделите необходимый фрагмент и нажмите Ctrl Enter. Заранее благодарны!
Выпуск 35 от 27.08.2020 г.

Искусственный разум: где фейк, а где новая реальность?

Автор: Подготовил Д.КЛЕЩЕВ. Иллюстрация avatars.mds.yandex.net

Мы часто слышим о том, что живем в «информационную эпоху», когда каждый человек, так или иначе, взаимодействует с цифровыми технологиями и на работе, и в быту. В последнее время в СМИ наблюдается повышенный интерес к проблеме искусственного интеллекта, который, как считают эксперты, не только решает отдельные задачи, но изменяет само общество. Сегодня в «Дискуссионной трибуне» мы представим несколько мнений о том, какие изменения происходят, как они влияют или могут повлиять на нашу жизнь в будущем.

Парадокс в том, что новые технологии и возможности привели к тому, что человечество стало стремительно глупеть. Вопреки расхожему мнению, глупеют не только подростки, проводящие свободное время в виртуальной реальности, но и вполне взрослые люди, центры принятия решений и даже некоторые законодатели, подгоняемые интересами производителей новых технологий.

Не так давно в «Российской газете» вышла интересная статья Владимира Емельяненко «Хакнуть душу», в которой автор задался вопросом: как вообще можно осознать и упорядочить проблему внедрения искусственного интеллекта?

ИИ-оптимисты рисуют безоблачное будущее, в котором искусственный разум будет обучать, лечить, решать бытовые проблемы, следить за правопорядком, финансами и даже заниматься обороной страны. Исчезнут войны, финансовые кризисы, и на земле наступит в буквальном смысле слова «цифровой рай». Причем уже появились фирмы, создающие электронные копии людей, которые имитируют манеру общения человека и будут «жить вечно» на серверах компании.

Аргумент ИИ-оптимистов прост – новые технологии не остановить, нужно воспользоваться «окном возможностей» и научиться управлять искусственным разумом, как в ХХ веке научились управлять энергией атома. Поэтому уже сейчас депутаты Европарламента разрабатывают закон об ИИ, в котором искусственный разум планируется наделить статусом «электронной личности», то есть определенными правами.

Но, как бы ни пытались ИИ-оптимисты тролить скептиков и доказывать, что потенциальной пользы от искусственного разума намного больше, чем потенциальных угроз, что «умный холодильник» не повлияет на работу государственных служб, проблема намного шире и глубже, чем кажется производителям и рядовым потребителям технологий.

Проблема в самой науке – насколько она адекватна условиям жизни на земле и где находится предел ее роста, за которым наука начинает принимать «умные решения», ведущие к катастрофическим последствиям. Никто не спорит, наука наделила человека огромной силой, но в XXI веке отчетливо прослеживается и другая тенденция. Вместе с ростом техносферы растет алчность корпораций и безответственность потребительского сообщества.

Вот наглядный пример, чтобы было понятно, о чем идет речь. Недавно по одному из телеканалов показали сюжет, как новые технологии помогают в борьбе с борщевиком, затянувшим брошенные по всей России поля. Нейросеть с точностью до 80 процентов определяет участок, заросший опасным сорняком, по которому проезжает робот, обрабатывая землю ядохимикатами. Проблема решена – борщевик уничтожен... Вместе с плодородным слоем земли, которая была загрязнена канцерогенами. Выходит, это всего лишь научно-популярная «показуха» – фейк, потому что суррогат выдают за реальное решение проблемы.

Такие фейковые «научные сенсации» и рекламные ролики появляются теперь каждый день. Они создают (а вернее – продают) иллюзию моментального решения почти всех проблем человечества. Вот только реальных проблем день ото дня почему-то не становится меньше.

Нас уверяют, что передовые технологии в области искусственного интеллекта позволяют обеспечить полную безопасность членам общества. А в действительности мы видим, как с помощью социальных сетей и алгоритмов обработки больших массивов данных организуются уличные беспорядки. Мы видим взрывной рост электронного мошенничества, возникновение массовых психозов и так далее.

Это еще один парадокс, о котором забывают ИИ-оптимисты: по законам термодинамики рост объемов передаваемой информации приводит к увеличению неопределенности и переводит систему в состояние хаоса. То есть проблем с ИИ точно не станет меньше. Мы знаем из истории, как состояние хаоса переживают социальные системы (революции, войны, исчезновение цивилизаций), что касается «продвинутого» искусственного разума, то здесь у нас пока нет никакого опыта.

В эпоху интернет-зависимости психологи отмечали значительное снижение внимания и способности человека к усвоению и запоминанию информации. Но это уже вчерашний день. Мы вступаем в эпоху ИИ-зависимости, когда современный человек вместо принятия самостоятельных решений будет ориентироваться на решения ИИ. Это будут не просто мелкие подсказки, а рекомендации, куда поступить учиться, на какую работу устроиться, как строить личную жизнь.

Более того, ИИ может создать ситуацию, когда даже сами ученые перестанут понимать науку. Так, профессор Лондонского королевского колледжа Брайан Дэйвис прогнозирует, что уже к концу XXI века все математические открытия будет делать искусственный разум, причем так, что ни один математик не сможет их понять.

На первый взгляд разобраться в потоке всей этой информации очень сложно. Но весь поток можно разбить на три части: есть ряд вспомогательных задач, с которыми ИИ справляется лучше человека, есть фантастические прогнозы и есть просто фейки, которые создают, чтобы продвигать ИИ, но есть и реальная опасность, исходящая в целом от всей техносферы.

Кстати говоря, если прав Роджер Пенроуз, который в своей книге «Новый ум короля» доказывал, что истинный интеллект, понимаемый как развитое сознание, недостижим искусственным путем, то фейком можно считать и сам термин «искусственный интеллект». Ведь даже вопрос о человеческом разуме не является окончательно решенным, поэтому и говорить о создании полноценного ИИ пока рано.

Денис КЛЕЩЕВ

Комментарий

Дмитрий ТОПОРКОВ, ведущий программист компании «АльтероПауэр» (ap-soft.ru), г.Екатеринбург:

– Когда фантасты писали про ИИ, они предполагали, что в будущем интеллектуальный уровень человечества вырастет до небывалых высот. По факту мы видим обратный процесс, когда развитие технологий приводит к интеллектуальной деградации очень многих людей, их использующих. В итоге возникает совсем другая ситуация, когда ИИ становится компетентнее большинства людей, с ним взаимодействующих. Какое отношение возникнет у ИИ к такому человечеству? Вполне может оказаться, что в процессе своего развития искусственный интеллект станет относить людей к «неразумным» существам.

Кое-где ИИ уже пытаются обучать автоматически, без участия экспертов. Это приводит к неожиданным результатам. В 2016 году корпорация Microsoft запустила ИИ по имени Тэй, который после свободного общения с людьми «полюбил» Гитлера и «возненавидел» феминисток. Этот случай в свое время наделал много шума.

Да, Денис, ты прав, что в задачах распознавания текстов, речи, изображений и прочего ИИ – это суперинструмент, демонстрирующий суперуспехи. Но большинство остальных «успехов» – это фейки. У ряда банков в чате службы поддержки в принципе нет возможности связаться с оператором-человеком. Цифровизация ведет к тому, что будет появляться всё больше и больше таких мест, где участие человека никак не предусмотрено.

Дегуманизация социальных процессов может привести к «цифровому рабству», когда человек не сможет корректно решать свои проблемы в цифровом виде. Формальные решения критических проблем будут негативно отражаться, например, на здоровье людей.

Все зависит от того, сумеет ли человечество правильно приспособиться к «цифре». Ты сказал про «ИИ-зависимость», но она пока не стала массовым явлением. Зато в мире уже существует «цифровой колониализм», когда крупные корпорации, в том числе банки, по разным причинам вынуждены хранить данные на серверах, расположенных в США. В любой момент страна может попасть под санкции, и доступ к этим серверам будет перекрыт. Это примерно то же самое, что хранить золотой запас в «Форт-Ноксе», и если страна решает вывезти свое золото обратно, ей говорят, что нет такой технической возможности.

Ещё один важный момент: программирует ИИ всё же человек, а человеку свойственно совершать ошибки. В итоге любой создаваемый ИИ изначально содержит «баги» от своего создателя, поэтому я бы не стал доверять что-то критически важное чисто автоматической обработке.

А вообще, всем, кто интересуется проблемами, связанными с ИИ, хочу порекомендовать книгу Джозефа Вейценбаума «Возможности вычислительных машин и человеческий разум. От суждений к вычислениям». В этой книге рассматриваются многие вопросы, актуальность которых мы начинаем осознавать только теперь.

11