Восстание машин отменяется
Каждая новая технология рождает свои собственные сценарии кошмара. Искусственный интеллект (ИИ) и робототехника не являются исключением. Сегодня все больше ученых предупреждают человечество о неминуемом истреблении нашей расы супер умными роботами.
Ранее в этом месяце открытое письмо, подписанное целым рядом ученых, наделало в прессе немало шуму. Новостные издания тут же запестрили такими заголовками как: «Известные ученые предупредили о смертельной опасности развития искусственного интеллекта», и «Эксперты ИИ защитят человечество от машин». Смысл всех этих новостей в том, что однажды разумные машины сместят человечество.
Однако Майкл Литтмэн (Michael Littman), профессор компьютерных наук в Университете Брауна, и соавтор Humanity-Centered Robotics Initiative объяснил, наконец, некоторые важные тонкости в вопросе вероятности изобретения сверхмощного ИИ, и последующего истребления человечества разумными машинами.
Давайте проясним одну вещь прямо сейчас: мир, в котором люди порабощены или уничтожены сверхразумными машинами нашего собственного производства является чисто научной фантастикой. Как и у любой другой технологии, у ИИ есть определенные риски и выгоды. Но нельзя позволять необоснованному страху направлять исследования искусственного интеллекта.
Тем не менее, сама идея кардинально изменить программу исследований ИИ, чтобы больше сосредоточиться на ИИ «безопасности», является основной целью группы, называющей себя Future of Life Institute (FLI).
Многие ученые сегодня в своих страшных предсказаниях говорят о невероятном интеллектуальном взрыве машин, опираясь при этом на закон Мура. Этот закон основывается на наблюдении, что вычислительные мощности компьютеров растут экспоненциально с 1950 года. Согласно этой теории мы увидим компьютеры с вычислительной мощностью всего человечества в ближайшие десятилетия. Это также должно означать скачок безудержного роста машинного интеллекта.
Во-первых, изобретательность не единственное препятствие для развития сверхбыстрых компьютеров. Машины должны быть не только реально придуманы, они должны быть построены из реальных материалов, которые требуют реальных ресурсов. В действительности же стоимость заводов, производящих микросхемы экспоненциально возрастает вместе с усложнением изготовляемых микросхем, а массовое производство прецизионной электроники стоит недешево. Кроме того, существуют фундаментальные физические законы — квантовые пределы, которые ограничивают скорость, с которой транзистор может выполнять свою работу. Non-silicon технологии могут преодолеть эти ограничения, но такие устройства остаются весьма спекулятивными.
В дополнение к физическим законам, мы знаем много о фундаментальном характере расчетов и их пределах.
Подождите, скажете вы. Тогда как человеческому разуму удается решать математические задачи, которые, как считают ученые, невозможно решить? А мы и не решаем. По большому счету, мы просто строим мультяшно-ментальную модель тех элементов мира, которые нам нужны, а затем исследуем поведение изобретения в своем «мини мире». Все это воображаемый микрокосм.
Как выяснилось, большинство вычислительных задач, которые мы связываем с человеческим интеллектом, являются частью класса математически очерченных задач (NP-complete), что означает, что они могут быть решены недетерминированно (N) за полиномиальное время (P), и не имеют масштабируемого решения.
Даже если допустить возможность существования значительно более быстрых компьютеров, чем мы имеем сегодня, логически невозможно, что эти компьютеры будут в состоянии точно смоделировать реальность быстрее, чем сама реальность.
Поэтому такие прогнозы, в которых компьютеры обзаводятся воображением, внезапно просыпаются и уничтожают нас — просто не реальны.
Автор: Александр Акулов