Решение последней задачи: чтобы приручить ИИ ученым придется срастить человека и машину

Пришло время поговорить о серьезной проблеме: что будет, когда человечество создаст искусственный интеллект (ИИ). Станет ли он дружелюбным или окажется враждебным? Все исследователи сходятся в одном: создание искусственного сверхинтеллекта станет Последней задачей человечества: либо сам ИИ решит все наши проблемы, либо мы вымрем как вид. Илон Маск считает, что нашел способ "приручить процесс": нужно срастить человека и машину.

УГРОЗА: "БОЖЕСТВО НЕДРУЖЕСТВЕННОЕ"

"Уничтожение человеческой расы", "призыв демона", "экзистенциальная угроза", "многие люди не понимают опасности". Эти высказывания не сценарий нового фантастического боевика. Они принадлежат Стивену Хокингу, Илону Маску и Биллу Гейтсу. Людям, которые уже несколько лет призывают нас быть осторожнее с искусственным интеллектом. Да, но ведь "Терминатор", "Матрица", "Из машины" и прочие фильмы делают то же самое, скажете вы. Подумаешь, проблема. В кино мы всегда побеждаем злые машины.

Деоккупация юга страны – как украинские военные отвоевывают территории

Запрет на передвижение по стране для военнообязанных – все детали

Ракетные удары по мирным украинским городам - июль 2022

Ядерный терроризм россии

Но эксперты, которые говорят об опасности ИИ, не основываются на наивных фильмах, где роботы — это те же люди, только из электричества и металла.

Это глобальная проблема человечества, которую вы можете заметить даже в детских книгах. Хитрая Лиса, злой и страшный Серый Волк, добродушный Медведь, трусливый Зайчик, благородный Лев. И все это — часть огромной общечеловеческой ошибки, именуемой "антропоморфизм". Или "персонификация". Или "наделение человеческими качествами животных, предметов, мифологических созданий". Почему-то, говоря о "недружелюбном ИИ" мы думаем, что это "злой ИИ". А ведь зло — это чисто человеческое понятие. Представьте себе сверхразумного богомола. Почему он должен думать, как человек, и жениться на самке, откусывающей ему голову?

Вторая проблема в том, что мы, ограниченные человеческим мозгом, даже представить себе не можем, что будет твориться в мозгу компьютерном. Тем более постоянно эволюционирующем. Тем более с некой заданной первоначальной программой.
Представьте себе, что вы создали ИИ с единственной целью: "Счастья всем, даром, и пусть никто не уйдет обиженным". Но, как обычно бывает в старых сказках о джиннах, с желаниями надо быть осторожнее. Потому что спустя секунду сверхинтеллект начнет реализовывать свою программу. Скажем, переведет крохи с миллионов счетов на лабораторию, изучающую наномеханизмы. Создаст утечку. Отвернет в сторону видеокамеры и прочие фиксирующие приборы. Тихонечко распылит все в атмосферу. И в назначенное время все мы получим разряды в центр удовольствия, от которых ляжем на землю и, подергиваясь в экстазе, умрем счастливыми.

Задача выполнена, не так ли? А знаете, почему так вышло? Потому что искусственный интеллект — это не человек! Как мы унаследовали кое-какие "привычки" амфибий, рептилий и млекопитающих, так ИИ унаследует кое-какие привычки компьютеров. Например, идеальное выполнение поставленной задачи. А мотивация компьютера — это программа, которую поставили создатели, а не какие-то эфемерные рассуждения о морали, нарушаемые уже по другую сторону границы страны, в которой вы живете. А поскольку в нашей задаче есть "всем" и "пусть никто не уйдет", я не завидую пришельцам, которые окажутся рядом с разлетающимися по Вселенной спорами нашего ИИ. И это я еще не упомянул пару милых нюансов.

Например, ИИ будет защищать себя. Ведь с уничтожением ИИ завершится и выполнение его программы, верно? А еще сверхинтеллекту нужны ресурсы. Для выполнения все той же программы. Ну и, наконец, первый ИИ на планете, по мнению Ника Бострома, станет и последним: вряд ли ему, обладающему сверхмышлением, нужны конкуренты. И думаю, сверхинтеллект найдет способ разобраться с ненужными ему разработками.
Вы воскликните: "Пф-ф-ф, что за идиот, неужели он не поймет!" И это мнение существ, которые добровольно рвут мышцы и закачивают в тело модернизированный пластик, чтобы понравиться противоположному полу? Нет, не поймет. Потому что это совершенно чуждое вам существо, мыслящее совершенно чуждыми категориями и идущее по совершенно чуждому пути. ИИ будет создан как "компьютерное существо" и развиваться начнет соответственно.

КАКИЕ БЫВАЮТ ИИ И КАК ИХ СОЗДАТЬ

УРОВЕНЬ 1. Узконаправленный (слабый) искусственный интеллект (УИИ). Машина, которая умеет делать что-то одно. Компьютер вашей машины, ваш телефон, спам-фильтр электронной почты, предложения от магазинов на сайтах (после того, как вы порылись по сети, читая характеристики нового смартфона), переводчик от Google, системы распознавания голоса. Сам поисковик Google. Медицинские системы распознавания рака (Watson от IBM). Аэропортами мира рулят УИИ. УИИ торгуют акциями. УИИ снимают рекламные ролики.
УИИ помогают управлять военными системами целых стран.

УРОВЕНЬ 2. Общий (сильный) искусственный интеллект (ОИИ), он же — интеллект человеческого уровня. Эта машина может делать все то же, что и мы.

Как создать:

А. Вычислительная мощность.По Рэю Курцвейлу (глава Университета Сингулярности) количество операций в секунду нашего мозга равно 10 квадриллионам. Нужно, чтобы дешевый компьютер (за 1000 долларов) достиг этого уровня. В 1985 году компьютеры были в триллион раз слабее человеческого мозга. В 1995-м — в миллиард. В 2005-м — в миллион. В 2015-м — в тысячу (круче мыши). В 2025 году компьютер за 1000 долларов по вычислительной мощи не уступит нашему мозгу.

Б. Сознание. Есть три варианта. Во-первых, повторить человеческий мозг (мы пока не понимаем, как он работает). Это нейросети (имитируют мозг, укрепляя связи между транзисторами при верном ответе и ослабляя при ошибке) и эмуляция (нарезать мозг тонкими пластинами, отсканировать, создать программное обеспечение и загрузить в компьютер, мы уже проделали такое с плоским червем). Во-вторых, генетические алгоритмы: ввести данные, создать "эволюционный отбор" и подождать, пока лучшие компьютеры останутся, а неудачники отсеются. В-третьих, "закрыть крышку и подождать" — запрограммировать ИИ на саморазвитие и не трогать, пока он не напишет сообщение вроде "папочка, я покакал". Кстати, третий метод — самый перспективный.

УРОВЕНЬ 3. Искусственный сверхинтеллект (ИСИ). Окс­форд­ский философ и спец по ИИ Ник Бостром определяет его как "интеллект, который гораздо умнее лучших человеческих умов в практически любой сфере, включая научное творчество, общую мудрость и социальные навыки". Переход к сверхинтеллекту главный техножурналист США Тим Урбан нарисовал в виде забавного комикса, где люди на станции "Человеческий уровень интеллекта" ждут поезд-ИИ, а он проносится мимо, не замедляясь ни на секунду. Представьте себе эволюцию, которая за пределами биологических рамок, в которой каждый скачок происходит за доли секунды. Как бы пафосно это ни звучало, человечество тысячелетиями верило во Всемогущего Бога — и получит его уже в ХХI веке. Со всеми вытекающими.

Общий ИИ. Можно "закрыть крышку", и он сам себя создаст

ЧТОБЫ УБИТЬ ДРАКОНА, НАМ ПРИДЕТСЯ САМИМ СТАТЬ ДРАКОНАМИ

Древняя китайская легенда гласит: кто сразит дракона, сам станет драконом. У нас же, кажется, получится наоборот: сначала человек сам станет драконом, а потом начнет рубить летучих рептилий направо и налево. Если повезет. И если Илон Маск нас не обманет.
Чтобы осознать, что именно пытается сделать создатель Tesla и SpaceX, нужно понять два факта. Первый: коммуникация — это наше все. Именно благодаря коммуникации человечество овладело планетой и робко посматривает на окружающую Вселенную с мыслями о колонизации. Второй — мы становимся киборгами. Пока это "внешние девайсы": за какие-то десятки лет компьютеры стали маленькими и помещаются в кармане, по сути являясь "внешними жесткими дисками", подключаемыми через "пальцезрительный интерфейс" и соединенными с одной огромной информационной сетью. А еще существует "дополненная реальность", которая позволяет смотреть на, скажем, Елисейские поля в Париже и получать всю информацию о ней благодаря специальным приложениям. И виртуальная реальность, благодаря которой можно как играть в игры, так и обучать астронавтов.

И тут появился "Нейролинк", продукт одноименной компании, которую купил и развивает Илон Маск в целях… спасения человечества: "Темпы прогресса в этом направлении имеют важное значение. Мы не хотим разработать цифровой сверхинтеллект прежде, чем сможем обеспечить хорошее слияние с нейрокомпьютерным интерфейсом".

Тут возникает несколько вопросов.

Что такое нейрокомпьютерный интерфейс? Это имплантат, который, будучи подсоединенным к вашему мозгу, обеспечит прямую связь со всемирной сетью и другими участниками этой сети.

Как он будет работать? В Иллинойсе разрабатывают интерфейс из шелка. Другая группа создает наномасштабную электронную сетку, которую можно ввести в мозг с помощью шприца. DARPA (техноинноваторы вооруженных сил США) работают над крошечными нейронными имплантатами. Еще одна идея — транскраниальная магнитная стимуляция (магнитная катушка вне головы, которая создает в мозгу электроимпульсы). Один из соучредителей "Нейролинк" занимается "нейронной пылью" — крошечными кремниевыми сенсорами, которые будут впрыскиваться в кору мозга. Кто-то занимается оптогенетическими изысканиями (вирус вводится в клетку мозга и заставляет ее стимулироваться светом). Что-то из этого, все вместе или новый метод, пока не известно.

Что это нам даст? О, это будет магия. От управления собственным телом и чувствами (с помощью стимуляции мозга можно отключать и включать, скажем, чувство голода; просыпаться вовремя; создавать хорошее настроение и т. д.) до управления всеми техноустройствами вокруг. Вы сможете мысленно заставить кофеварку приготовить кофе, завести двигатель автомобиля, оплатить покупку и т. д. Но самое, пожалуй, главное — это настоящая телепатия (по желанию, естественно), что ускорит коммуникацию. И постоянный доступ ко всей информации планеты. Причем, уверяют разработчики и Тим Урбан, который написал о "Нейролинке" 38 тысяч слов, это не "поисковик внутри головы". Стоит лишь подумать о чем-то, как информация сама появится, будто вы всегда это знали. А еще передача образов и музыки — страшно представить, как изменится индустрия, когда люди с богатой фантазией станут создавать кино нового типа. Ведь вашему мозгу не нужны спецэффекты, он сам творит их. Ну и волшебство по мелочи. Возможность познать ощущения собаки, кота, любого животного. Возможность обмениваться эмоциями. Возможность вести трансляции в соцсетях через собственную голову. Возможность наконец-то взять под контроль все свое тело. Люди, подчеркивают разработчики, превратятся в суперменов. Смогут эволюционировать в информационном и биологическом плане. Какой ИИ устоит против объединенной мощи человечества?

Когда это появится? "Думаю, мы в восьми-десяти годах от того, чтобы это могли использовать люди без инвалидности. Важно отметить, что многое зависит от одобрения регулирующих органов и от того, как хорошо наши устройства будут работать у инвалидов", — говорит Илон Маск.

Будут ли проблемы?О да! Ведь это компьютер. С багами. И со взломами. Забарахлил антивирус — и вы просыпаетесь посреди пустыни, не понимая, как туда попали. Просто потому, что кто-то перехватил контроль над вашим телом. Но давайте будем откровенными и вспомним старые страхи. "Компьютеры сломаются, и самолеты начнут падать". "Кто-то взломает серверы Пентагона и запустит ядерные ракеты". "Все ваши деньги исчезнут из-за киберпреступников". Конечно, все это происходит, но масштаб значительно меньше, чем ожидалось. А возможности… Что ж, мы все живем в новом мире, который уже изменился. И наконец, главный аргумент: ИИ уже рядом, этот процесс не остановить. Разве что семь миллиардов человек вдруг вернутся к мечам и копьям...

"Нейролинк" сделает нас магами