Человечество ждет прихода искусственного интеллекта (ИИ), чтобы взвалить на покорные плечи системы большую часть проблем. Но, с другой стороны, чем умнее становятся технологии, тем больше человечество беспокоится о том, как ими управлять. А возможно, предотвратить сюжет фантастических фильмов в стиле «ИИ разбушевался». На эту тему создано множество фильмов и книг, поэтому человечество в полной мере может представить, что же будет, если ИИ вовремя не ограничить. Теперь об этом всерьез задумалось и научное сообщество вместе с технокорпорациями. Илон Маск, Стивен Хокинг, директоры по развитию Google, Apple, IBM, Toyota и целый ряд ученых и разработчиков поддержали свод правил «Асиломарские принципы ИИ». 23 пункта о развитии и регулировании ИИ были предложены в ходе Асиломарской конференции 2017 года.
Принципы делятся на три части: проблемы исследований, этика и долгосрочные вопросы. Эти положения, закрепленные подписью ведущих разработчиков ИИ, заверяют, что машины будут действовать во благо человечества. Главный акцент сделан на безопасности технологий. Помимо этого, высокоавтономные системы должны быть сконструированы так, чтобы их цели и ценности соответствовали человеческим, учитывая права, свободы и культурные различия. Документ не оговаривает конкретные риски развития ИИ и не упоминает столь ожидаемого выражения вроде «война машин» или «порабощение человечества». Принципы лишь рекомендуют «избегать гонки ИИ-вооружения», просчитывать риски, а также следить за быстрым развитием системы.
В целом, документ производит двоякое впечатление. С одной стороны, это страх перед высокоинтеллектуальными машинами. С другой — вызывающее восторг признание того, что машины скоро станут частью социума. И поэтому им нужно внедрять правила политкорректности и оговаривать уважение к человеческому достоинству. Контроль, контроль и еще раз контроль — главный девиз документа.
Беспокойство научного общества является вполне обоснованным. По данным исследовательской организации Markets and Markets, рынок ИИ увеличится в 12 раз в ближайшие годы: с $420 млн до $5,05 млрд в период 2014—2020 годов. А еще через 2 года рынок утроится — до $16 млрд. Крупные компании постепенно начинают поручать машинам управление деньгами и персоналом. Bridgewater Associates, крупнейший в мире хедж-фонд, передает часть менеджмента искусственному интеллекту. В данный момент система только разрабатывается, но к 2022 году ИИ будет принимать около 75% решений компании, включая инвестирование, наем и увольнение сотрудников, сообщает The Wall Street Journal.
Эти данные свидетельствуют, что «Асиломарские принципы» были приняты вовремя. Идею создания правил для контроля искусственного интеллекта впервые предложил писатель-фантаст Айзек Азимов еще в 1942 году. Созданные им законы роботехники фундаментальны — всего 4 емких формулировки полностью регулируют жизнь людей с роботами. В фантастическом мире Айзека Азимова эти законы стали обязательной частью системы каждой машины и каждого ИИ. «Асиломарские принципы» не обязательны к исполнению — это пока лишь свод рекомендаций. Но они уже признаны крупнейшими корпорациями, исследователями и учеными. А значит, первый шаг к осознанному развитию технологий уже сделан.
Рассказ «Ответ» Фредерика Брауна
«Последнее соединение Двар Ив торжественно скрепил золотом. Глаза двенадцати телевизионных камер следили за ним, и все, что бы он ни делал, немедленно передавалось по субэфиру во вселенную. Он выпрямился и кивнул Двар Рейну, затем подошел к переключателю. Теперь оставалось повернуть ручку прибора — и контакт будет полным. Одним этим движением он может соединиться со всеми гигантскими счетными машинами всех обитаемых планет вселенной — девяноста шести биллионов планет. И тогда образуется сверхцепь, которая соединит все эти машины в единый суперсчетчик, единую кибернетическую машину, обладающую всеми знаниями, накопленными во всех галактиках. Двар Рейн произнес несколько кратких слов, обращаясь к тем триллионам мыслящих существ, которые сейчас видели и слышали его. Помедлив секунду, он сказал: — Пора, Двар Ив. Двар Ив повернул ручку. Раздался глухой гул, будто подымался могучий вал энергии, идущей от девяноста шести биллионов планет. Вспышки света то возникали, то гасли, пробегая вдоль щита, растянувшегося на несколько километров. Двар Ив отступил немного и глубоко вздохнул. — Честь задать первый вопрос принадлежит вам, Двар Рейн. — Благодарю вас, — сказал Двар Рейн. — Это будет вопрос, на который не могла бы ответить ни одна кибернетическая машина, действующая вне контакта с другими. Он повернулся к машине лицом. — Существует ли бог? — спросил он. Мощный бас ответил без колебаний, ни одно реле не щелкнуло в гигантском механизме: — Да, теперь бог существует. Внезапный ужас озарил лицо Двар Ива. Он кинулся к щиту. Удар молнии из безоблачных.
Законы роботехники Айзека Азимова
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
2. Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму законам.
Позже Азимов дописал еще один, нулевой закон: робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинен вред.
