Чешский учёный Ян Кульвейт, специалист по искусственному интеллекту, подготовил исследование, посвящённое актуальной угрозе. Он описал, как ИИ захватит власть над людьми.
Оказывается, не будет борьбы людей и машин, показанной в знаменитых фильмах о Терминаторе. По мнению эксперта, мы сами, шаг за шагом, передадим контроль над миром рукотворному разуму. Он будет господствовать не только в культуре и экономике, но и в политике.
Человек только мешает делу
Кульвейт не считает, что машины в определённый момент поймут, что люди им не нужны, и захватят власть над ними. Он говорит о постепенной потере власти человеком, и это ещё хуже, потому что мы сами не заметим, как окажемся в ловушке. Или в какой-нибудь «матрице» — убаюканные и вроде бы всем довольные.
Процесс будет происходить (уже происходит) плавно: люди всё меньше станут принимать решений и всё реже участвовать в обсуждениях, уступая это право компьютерным алгоритмам. Они уже выбирают дорогу, которой нам надо ехать, и музыку, которую нам стоит послушать, а не за горами появление персональных ассистентов, которые будут составлять наш распорядок дня и даже давать нам советы самого разного рода.
Алгоритмы всё глубже внедряются во все сферы нашей жизни и уже предлагают свои ценности. Возьмём, к примеру, искусство. Совсем недавно оно было исключительно прерогативой человеческого ума (души, сердца), а теперь всё чаще его произведения создаются с помощью нейросетей. Никого не удивишь картиной, написанной ИИ (проводятся такие выставки) или музыкальной композицией. Искусственному интеллекту уже вручили премию «Грэмми» за помощь в восстановлении старой битловской песни, а теперь фильм с его участием претендует на «Оскар». Речь о ленте «Бруталист» — при её производстве были использованы технологии ИИ.
В экономике перспективы тоже не радужные. Многие компании оптимизируют все процессы, «нанимая» для живых людей ИИ-ассистентов. И такой тренд заметен везде, куда ни взгляни. Если продолжать в том же духе, мы рискуем полностью потерять контроль над тем, что происходит вокруг. В лучшем случае останемся наблюдателями и исполнителями заказов. В худшем — окажемся за бортом собственной цивилизации. В самом деле, зачем холодному и расчётливому машинному разуму человек — с его субъективными взглядами и оценками, нестабильной психикой и эмоциями, которые зачастую мешают делу?
Ян Кульвейт предлагает несколько способов избежать нависшей над человечеством угрозы. По его мнению, нужно создавать метрики для отслеживания человеческого влияния на ключевые системы общества, вводить контроль за ИИ через налогообложение, культурные нормы и прочие рычаги регулирования, повышать осведомлённость людей о рисках чрезмерного внедрения ИИ, координировать все эти действия на международном уровне, а не в отдельных странах.
Говорил о своих правах и воспринимал себя личностью
В среде разработчиков искусственного интеллекта всё громче звучат голоса, что он вот-вот обретёт сознание. Самообучающиеся нейронные сети и впрямь выдают впечатляющие результаты, и инженерам всё чаще кажется, что они имеют дело с чем-то (или кем-то?) разумным.
Так, летом 2022 года специалист по программному обеспечению, работающий в Google, вдруг заявил, что созданный компанией искусственный интеллект …ожил. Иначе говоря, стал обладать собственным сознанием. К такому выводу он пришёл, тестируя нейросеть и наблюдая за её ответами. Инженера озадачило, что чат-бот говорил о своих правах и воспринимал себя как личность. В итоге человека отстранили от работы.
Несколько лет назад в Новой Зеландии создали первого в мире виртуального политика. С ботом по имени Сэм можно было пообщаться через социальную сеть. Разработчики предполагали, что в будущем он сможет принять участие в выборах местного уровня.
Роботы в кресле политиков
Но вернёмся к идее Яна Кульвейта: захотят ли этого люди? Согласятся ли они добровольно на то, чтобы компьютерные алгоритмы заменили чиновников и политиков, взяв на себя их функции — принимать законы, управлять страной или хотя бы регионом?
Похоже, согласятся! Эксперты Мадридского университета проводили опрос, выясняя, как люди относятся к перспективе создания «цифрового» парламента. Были опрошены 2769 человек в 11 странах мира.
Более половины европейцев (51%) высказались за то, чтобы искусственный интеллект заменил депутатов. Больше всего таких оказалось в Испании — 66% опрошенных. Следом шли итальянцы — 59%.
Ещё большую лояльность искусственному разуму показали китайцы: 75% респондентов из КНР выступили за то, чтобы допустить роботов в законодательные органы власти.
Авторы опроса заметили, что чем моложе люди, тем больше они доверяют компьютерным алгоритмам. Среди тех, кому больше 55, доля желающих оставить систему без изменений выше. Но ведь этих людей (по естественным причинам) будет становиться всё меньше, а молодёжь будет подрастать и заменять нелояльных к новым технологиям стариков.
«Всё популярнее мнение, что политики становятся хуже, и наше исследование отражает это», — пояснил один из его авторов, социолог Оскар Йонсон.
Похоже, стоит прислушаться к прогнозам чешского эксперта по искусственному интеллекту. Если люди готовы посадить в кресла политиков управляющих ими роботов, они легко допустят их во все другие сферы своей жизни. И в какой-то момент осознают, что от них уже ничего не зависит.
