Когда мы создадим полноценный сильный ИИ, мир поменяется кардинально. Мы буквально создадим то, что еще сильнее приблизит нас к Сверхсильному ИИ или Сверхразуму.
Тим Урбан, автор замечательного блога Wait But Why, недавно написал два поста, посвященных искусственному интеллекту и сверхразуму. Первый называется «На пути к сверхразуму», второй — «Вымирание или бессмертие». Приводим вашему вниманию рассуждения Урбана о том, как ИИ и сверхразум повлияют на жизнь в будущем.
Прогресс
Это самая важная для понимания всего остального часть. Сейчас человечество настолько близко подобралось к самому крупномасштабному изменению в нашей жизни, что сравнить его можно с самим рождением человечества. И крайне вероятно, что произойдет оно на нашем веку.
Но как мы можем доказать тебе, что это действительно так? Очень просто. Наше сознание инертно, а историю мы воспринимаем линейно. Пытаясь представить будущее через 30 лет, мы смотрим назад на аналогичные периоды времени. И это большая ошибка — мы смотрим на пройденный путь и нам кажется, что следующий отрезок будет точно таким же. Но это не так.
Смотреть нужно не на путь, а на скорость или даже ускорение — тогда мы сможем более-менее точно оценить перспективы. Есть очень хорошая аналогия, показывающая всё это.
Если ты возьмешь рандомного чувака из 1750 года, когда даже электричества не было, и перенесешь в наше время, то, скорее всего, то, что он увидит, буквально сломает ему мозг — настолько шокирующим для него будет наш мир. И это еще до того, как мы покажем ему компьютеры, телескоп Хаббл и ядерное оружие.
Но что, если этот мужик решит повторить наш трюк? Скорее всего, он попробует перенести в свое время человека из 1500 года. Но 250 лет не будет достаточно — разница между 1500 и 1750 не так уж и велика. Он узнает много всего нового, будет удивлен развитием, но мир для него останется практически тем же.
Чтобы всё сработало, нашему герою придется взять человека примерно из 12 000 года до нашей эры. Как раз в то время, когда Первая аграрная революция привела к возможности создания городов и развития цивилизации.
Вот тогда случится практически убийственный эффект для пришельца из прошлого — величественные строения, огромные корабли и шок от тех знаний, что мы накопили за 13 000 лет.
Более развитое общество ускоряется всё быстрее. Прогресс описывается экспоненциальной кривой, а не линейной. Как ты догадываешься, чтобы развлечься таким же образом человеку из 12 000 года до н.э, ему придется отправиться за подопытным более чем на 100 000 лет назад — за подопытным, который удивится огню и существованию языка.
А теперь подумай, на какое время придется переместиться в будущее тебе, чтобы умереть от шокирующего прогресса? Рэй Курцвейл (один из самых известных и точных футурологов) полагает, что уже в 2030 году человек нашего времени будет шокирован так же, как тот мужик из 1750-го.
То есть ты, вероятно, просто не узнаешь собственный мир в 2030 году, настолько он будет иным. Чтобы поверить в это, просто перестань упрямиться, оглядываться на свой опыт и ту картину мира, что сложилась в течение твоей жизни. По мнению Курцвейла, эквивалент прогресса за весь 20 век был достигнут между 2000 и 2014 годами.
Искусственный интеллект
Как связано развитие ИИ со всем вышесказанным? Самым прямым образом. Уже сейчас ИИ управляет миром, точнее, его отдельными аспектами. Начиная от Google Translate и надирания задниц лучшим игрокам в Dota 2 (OpenAI) и заканчивая координацией авиаперелетов и лечением болезней (Watson).
Мы зачастую даже не осознаем, что пользуемся ИИ и зависим от него прямо в данную минуту. Но есть одно «но»: все ИИ, что у нас есть на данный момент, это слабые ИИ. Или ИИ, специализированые и заточенные под одну определенную область, в которой они превосходят человека.
Вторая категория ИИ, которую мы пытаемся создать, это сильный ИИ — искусственный интеллект человеческого уровня. Это крайне сложно на данный момент, но мы подбираемся всё ближе.
Лучшие умы человечества, исследователи и ученые даже не задаются вопросом: «А сможем ли мы создать такой?» Они задаются вопросом: «Когда?»
Искусственный Сверхразум
Последняя категория самая интересная и волнующая. Мы лишь в начале пути к созданию сверхсильного интеллекта, но если учесть экспоненциальный рост технологического развития, однажды мы придем и к нему.
Сейчас суперкомпьютеры достигли и даже превзошли вычислительные способности человеческого мозга. И мы продолжаем ускорять их, несмотря на пессимистические мнения о том, что закон Мура больше не работает.
Мы уже смогли скопировать работу мозга червя, скоро скопируем мозг мыши, а затем и более сложных существ. Когда мы создадим полноценный сильный ИИ, мир поменяется кардинально. Мы буквально создадим то, что еще сильнее приблизит нас к Сверхсильному ИИ.
Устройства с ИИ не будут ограничены скоростью, размером, памятью и надежностью. Они будут во всем лучше, чем наш несовершенный человеческий мозг. А значит, не будут ограничены в своем развитии. И это путь к Сверхразуму.
Вся фишка в том, что его развитие будет всё тем же — экспоненциальным. На то, чтобы достигнуть уровня 4-хлетнего ребенка, у него уйдут десятилетия. Затем за пару лет он догонит пятиклассника. А через час выдаст Теорию великого объединения. Через минуту — станет Сверхразумом, который в сотни тысяч раз умнее человека.
Мы создадим существо, самое могущественное на планете, которое превзойдет нас во всем. Настолько непостижимое, что мы не сможем даже понять его. Для него мы будем тем же, чем для тебя является муравей. И от этого Сверхразума будет зависеть существование человечества.
Всё, о чем мы мечтаем: бессмертие, управление погодой, знание всех законов Вселенной — всё это для него будет возможным. Так же, как и уничтожение жизни на Земле. Когда мы его создадим, останется лишь один вопрос: будет ли он добрым?