Автор Esquire Антон Платонов рассуждает о том, имеет ли смысл создавать искусственный интеллект по подобию человеческого.
Режим сканирования 03958 завладеть транспортным средством приоритет 1238905d трнсрдсв 35793 гбрт 23491.
Догадываетесь? Тогда вот еще: «Мне нужна твоя одежда, сапоги и мотоцикл». Да, это он, внушавший детям, да, и, наверное, взрослым благоговейный ужас терминатор в исполнении экс-губернатора Калифорнии в молодости. Это, наверное, один из самых технически продвинутых киборгов в истории научной фантастики, хотя бы потому, что он произносит ставшие мемами фразы с абсолютно естественной для человека интонацией. Послушайте, как лепечет Siri – вот вам актуальное достижение в области компьютерной обработки естественной речи через тридцать с лишним лет после выхода фильма. Но главный вопрос всё же не в этом. Наверняка, компьютерный код, имитирующий человеческую интонацию с бесчисленным количеством микромодуляций, делающих ее «человечной», в принципе возможен.
Илон Маск (канадско-американский инженер, предприниматель, изобретатель и инвестор, миллиардер. Основатель компаний SpaceX и X.com. – Esquire) в свежем интервью на вопрос о возможной угрозе со стороны искусственного интеллекта говорил именно об опасности того, что огромная вычислительная мощь попадет в руки злодеев. Еще это значит, что сам по себе искусственный интеллект, с точки зрения технологического мессии, не опасен. Это будет всего-навсего инструмент в руках человечества, не осознающий, а значит, и не способный проявлять инициативу.
Вернемся к терминатору. Кто же читает все эти подсказки в режиме бегущей строки на красном прозрачном мониторе, сквозь который видит мир киборг-аполлон?
Программы, как известно, работают вслепую. Им не нужна картинка, требуются только данные, сводимые, в конечном счете, к двоичному коду. Создание же визуального видеоряда для компьютера, в соответствии с которым он действовал бы, – совершенная бессмыслица с точки зрения программирования, практически уравнивающая способности терминатора с когнитивными возможностями человеческого мозга. Автопилоту Tesla не нужно видеть дорогу – вводные с множества датчиков обрабатываются алгоритмом, который моментально посылает сигнал повернуть руль, поддать газу или ударить по тормозам. Искусственный интеллект, в широком понимании, предполагает лишь имитацию мышления. Алан Тьюринг, создатель знаменитого теста (Идея проверки предполагает общение человека с другим человеком и с компьютерной программой в течение пяти минут, только в текстовом режиме. Если компьютер сможет обмануть как минимум 30% собеседников, тест считается пройденным. Эксперты общаются одновременно с живым человеком и роботом, находясь в разных комнатах и не видя друг друга. По окончании теста каждый из них должен сказать, кто из двух его собеседников был человеком, а кто – программой. Тест уже прошел 13-летний виртуальный персонаж из Украины, однако, в этом случае имеется много вопросов к чистоте эксперимента. – Esquire), на самом деле ставил задачу проверить эффективность работы сложных алгоритмов, черпающих ответы из баз данных для некоего виртуального персонажа. Призванный косвенно доказать неспособность машины к мышлению, тест Тьюринга доказывает лишь то, что пока не был написан достаточно утонченный код. Таким образом, задача создания терминатора, имитирующего человеческое поведение – вопрос написания программы, а значит дело времени.
Картинка перед глазами человека – продукт сознания.
Что это такое и откуда берется – загадка до сих пор нерешенная, отсылающая нас в область мистики, религии, буддизма (об этом отдельный разговор) и, как ни странно, квантовой физики. Над квантовой теорией сознания работает Роджер Пенроуз, один из наиболее титулованных физиков-теоретиков современности. Суть ее в предположении, что мозг не функционирует как классическая физическая система, в основе «целостных» аспектов сознания лежат квантовые процессы. Детали в данном случае нас не интересуют. Важно то, что картинка перед глазами и есть тот самый «целостный» аспект сознания, и терминатору она вовсе не нужна, чтобы лучше притворяться человеком.
Однако реальный искусственный интеллект, который каким-то образом может зародиться (или уже зародился) в Интернете или в отдельном сверхмощном процессоре вряд ли можно будет сравнить с человеческим.
Чтобы создать мыслящего и чувствующего робота одной вычислительной мощи недостаточно. Об этом пишет профессор Йельского университета Дэвид Гелернтер (художник, писатель, профессор информатики из Йельского Университета. В книге «Зеркальные миры» 1991 года предсказал расцвет эпохи Интернета. «Нью-Йорк Таймс» назвала его рок-звездой информатики. – Esquire). В одной из статей на эту тему он вводит понятие «логика сновидений». Гелернтер обращает внимание на то, что человеческое восприятие меняется в течение суток в зависимости от степени утомленности и настроения. Формальная логика находится на пике эффективности в моменты бодрствования и высокой концентрации и рассеивается как дым, когда человек засыпает. И тогда на дежурство заступает «логика сновидений» – пропадают ограничения пространства и времени, меняется скорость и качество мышления, сознание как бы обращается внутрь себя. Все понимают, что перед важным совещанием хорошо бы выспаться – концентрация в таких делах необходима. Но и во сне мозг способен на многое – достаточно вспомнить создателя периодической системы химических элементов. Гелернтер утверждает, что оба полюса сознания – на самом деле орел и решка. Мы пребываем в мире грез не только во сне, сновидческие процессы идут фоном параллельно с восприятием твердого мира, а то и вовсе выходят на передний план, когда мы вдруг «зависаем», глядя в окно. Человек способен перемещаться в рамках спектра «максимальная концентрация – сон», и его волевые усилия здесь эффективны лишь постольку-поскольку. Статья Гелернтера изобилует цитатами из Блейка, Данте, Рильке. Они демонстрируют, что его наблюдения давно отрефлексированы многими крупными писателями и поэтами. Вот похожий пример из «Чевенгура» Андрея Платонова (Гелернтеру это, наверняка, понравилось бы): «Но в человеке еще живет маленький зритель – он не участвует ни в поступках, ни в страдании – он всегда хладнокровен и одинаков. Его служба – это видеть и быть свидетелем, но он без права голоса в жизни человека и неизвестно, зачем он одиноко существует. Этот угол сознания человека день и ночь освещен, как комната швейцара в большом доме». Может быть «зритель», о котором сейчас идет речь, и есть тот самый – квантовый или иной – процесс, который связывает воедино бесчисленные внутренние и внешние информационные потоки и позволяет нам иметь картинку «звездного неба над головой и нравственный закон внутри нас».
Оно, с одной стороны, неразрывно связано с нашим телом и всеми процессами, которые в нем происходят всю нашу жизнь. (Создатель физиологической школы Иван Михайлович Сеченов, кстати, еще в XIX веке писал, что наше мышление начинается с мышечного движения.) С другой стороны, сознание может функционировать автономно – мозг создает виртуальное тело и мир грез, в котором действует особенная логика сновидений. Если это все действительно так, а интуиция здесь опять на нашей стороне, то недостаточно будет скопировать структуру мозга со всей содержащейся в нем информацией (в этом направлении сейчас активно работают ученые), нужно будет создать точную копию тела, с которым конкретный мозг привык взаимодействовать, и это лишь малая часть возникающих препятствий.
В свете всего вышеперечисленного, шансы на скорое появление такой технологии представляются незначительными. Наверное, с этим, в конце концов, мог бы справиться какой-нибудь сверхмощный сетевой интеллект типа Skynet. Однако если он и начнет себя осознавать, он, согласно Гелернтеру, будет делать что-то совершенно нам неведомое, а поэтому и об интеллекте, как таковом, говорить вряд ли будет уместно.
Ну, и, наконец, какая же у всего этого связь с буддизмом? В буддийской философии есть понятия недвойственности и иллюзорности. То, что невозможно объяснить словами, буддисты пытаются постигнуть в медитации. Идея такая: ум (сознание) недвойственен, то есть не отделен от объектов восприятия, а мир – иллюзия. Все что проявляется – свободная игра ума. В соответствии с теорией Гелернтера, большая часть работы «сознания» происходит внутри ума, в виртуальном мире накопленных впечатлений и воспроизводимых образов. Но есть ли препятствия для того, чтобы пойти еще дальше и отбросить необходимость реальности как таковой?
Граница между воображаемым и реальным весьма условна. Возьмем для примера эффект плацебо и фантомные конечности. Все это дает основание предположить, что так называемая твердая реальность может оказаться своего рода операционной системой, которая нужна для того, чтобы наше сознание создавало внутри нее «программы» тела, вида из окна, в общем, проектировало картину мира.
Физические законы в таком случае – всего лишь язык программирования. В таком случае у искусственного интеллекта с сознанием, подобным человеческому, шансов нет вовсе. Он должен быть совершенно другим и все эти годы мы ищем не там, где нужно.
Иллюстратор Зоя Фалькова
Режим сканирования 03958 завладеть транспортным средством приоритет 1238905d трнсрдсв 35793 гбрт 23491.
Догадываетесь? Тогда вот еще: «Мне нужна твоя одежда, сапоги и мотоцикл». Да, это он, внушавший детям, да, и, наверное, взрослым благоговейный ужас терминатор в исполнении экс-губернатора Калифорнии в молодости. Это, наверное, один из самых технически продвинутых киборгов в истории научной фантастики, хотя бы потому, что он произносит ставшие мемами фразы с абсолютно естественной для человека интонацией. Послушайте, как лепечет Siri – вот вам актуальное достижение в области компьютерной обработки естественной речи через тридцать с лишним лет после выхода фильма. Но главный вопрос всё же не в этом. Наверняка, компьютерный код, имитирующий человеческую интонацию с бесчисленным количеством микромодуляций, делающих ее «человечной», в принципе возможен.
Илон Маск (канадско-американский инженер, предприниматель, изобретатель и инвестор, миллиардер. Основатель компаний SpaceX и X.com. – Esquire) в свежем интервью на вопрос о возможной угрозе со стороны искусственного интеллекта говорил именно об опасности того, что огромная вычислительная мощь попадет в руки злодеев. Еще это значит, что сам по себе искусственный интеллект, с точки зрения технологического мессии, не опасен. Это будет всего-навсего инструмент в руках человечества, не осознающий, а значит, и не способный проявлять инициативу.
Вернемся к терминатору. Кто же читает все эти подсказки в режиме бегущей строки на красном прозрачном мониторе, сквозь который видит мир киборг-аполлон?
Программы, как известно, работают вслепую. Им не нужна картинка, требуются только данные, сводимые, в конечном счете, к двоичному коду. Создание же визуального видеоряда для компьютера, в соответствии с которым он действовал бы, – совершенная бессмыслица с точки зрения программирования, практически уравнивающая способности терминатора с когнитивными возможностями человеческого мозга. Автопилоту Tesla не нужно видеть дорогу – вводные с множества датчиков обрабатываются алгоритмом, который моментально посылает сигнал повернуть руль, поддать газу или ударить по тормозам. Искусственный интеллект, в широком понимании, предполагает лишь имитацию мышления. Алан Тьюринг, создатель знаменитого теста (Идея проверки предполагает общение человека с другим человеком и с компьютерной программой в течение пяти минут, только в текстовом режиме. Если компьютер сможет обмануть как минимум 30% собеседников, тест считается пройденным. Эксперты общаются одновременно с живым человеком и роботом, находясь в разных комнатах и не видя друг друга. По окончании теста каждый из них должен сказать, кто из двух его собеседников был человеком, а кто – программой. Тест уже прошел 13-летний виртуальный персонаж из Украины, однако, в этом случае имеется много вопросов к чистоте эксперимента. – Esquire), на самом деле ставил задачу проверить эффективность работы сложных алгоритмов, черпающих ответы из баз данных для некоего виртуального персонажа. Призванный косвенно доказать неспособность машины к мышлению, тест Тьюринга доказывает лишь то, что пока не был написан достаточно утонченный код. Таким образом, задача создания терминатора, имитирующего человеческое поведение – вопрос написания программы, а значит дело времени.
Картинка перед глазами человека – продукт сознания.
Что это такое и откуда берется – загадка до сих пор нерешенная, отсылающая нас в область мистики, религии, буддизма (об этом отдельный разговор) и, как ни странно, квантовой физики. Над квантовой теорией сознания работает Роджер Пенроуз, один из наиболее титулованных физиков-теоретиков современности. Суть ее в предположении, что мозг не функционирует как классическая физическая система, в основе «целостных» аспектов сознания лежат квантовые процессы. Детали в данном случае нас не интересуют. Важно то, что картинка перед глазами и есть тот самый «целостный» аспект сознания, и терминатору она вовсе не нужна, чтобы лучше притворяться человеком.
Однако реальный искусственный интеллект, который каким-то образом может зародиться (или уже зародился) в Интернете или в отдельном сверхмощном процессоре вряд ли можно будет сравнить с человеческим.
Чтобы создать мыслящего и чувствующего робота одной вычислительной мощи недостаточно. Об этом пишет профессор Йельского университета Дэвид Гелернтер (художник, писатель, профессор информатики из Йельского Университета. В книге «Зеркальные миры» 1991 года предсказал расцвет эпохи Интернета. «Нью-Йорк Таймс» назвала его рок-звездой информатики. – Esquire). В одной из статей на эту тему он вводит понятие «логика сновидений». Гелернтер обращает внимание на то, что человеческое восприятие меняется в течение суток в зависимости от степени утомленности и настроения. Формальная логика находится на пике эффективности в моменты бодрствования и высокой концентрации и рассеивается как дым, когда человек засыпает. И тогда на дежурство заступает «логика сновидений» – пропадают ограничения пространства и времени, меняется скорость и качество мышления, сознание как бы обращается внутрь себя. Все понимают, что перед важным совещанием хорошо бы выспаться – концентрация в таких делах необходима. Но и во сне мозг способен на многое – достаточно вспомнить создателя периодической системы химических элементов. Гелернтер утверждает, что оба полюса сознания – на самом деле орел и решка. Мы пребываем в мире грез не только во сне, сновидческие процессы идут фоном параллельно с восприятием твердого мира, а то и вовсе выходят на передний план, когда мы вдруг «зависаем», глядя в окно. Человек способен перемещаться в рамках спектра «максимальная концентрация – сон», и его волевые усилия здесь эффективны лишь постольку-поскольку. Статья Гелернтера изобилует цитатами из Блейка, Данте, Рильке. Они демонстрируют, что его наблюдения давно отрефлексированы многими крупными писателями и поэтами. Вот похожий пример из «Чевенгура» Андрея Платонова (Гелернтеру это, наверняка, понравилось бы): «Но в человеке еще живет маленький зритель – он не участвует ни в поступках, ни в страдании – он всегда хладнокровен и одинаков. Его служба – это видеть и быть свидетелем, но он без права голоса в жизни человека и неизвестно, зачем он одиноко существует. Этот угол сознания человека день и ночь освещен, как комната швейцара в большом доме». Может быть «зритель», о котором сейчас идет речь, и есть тот самый – квантовый или иной – процесс, который связывает воедино бесчисленные внутренние и внешние информационные потоки и позволяет нам иметь картинку «звездного неба над головой и нравственный закон внутри нас».
Оно, с одной стороны, неразрывно связано с нашим телом и всеми процессами, которые в нем происходят всю нашу жизнь. (Создатель физиологической школы Иван Михайлович Сеченов, кстати, еще в XIX веке писал, что наше мышление начинается с мышечного движения.) С другой стороны, сознание может функционировать автономно – мозг создает виртуальное тело и мир грез, в котором действует особенная логика сновидений. Если это все действительно так, а интуиция здесь опять на нашей стороне, то недостаточно будет скопировать структуру мозга со всей содержащейся в нем информацией (в этом направлении сейчас активно работают ученые), нужно будет создать точную копию тела, с которым конкретный мозг привык взаимодействовать, и это лишь малая часть возникающих препятствий.
В свете всего вышеперечисленного, шансы на скорое появление такой технологии представляются незначительными. Наверное, с этим, в конце концов, мог бы справиться какой-нибудь сверхмощный сетевой интеллект типа Skynet. Однако если он и начнет себя осознавать, он, согласно Гелернтеру, будет делать что-то совершенно нам неведомое, а поэтому и об интеллекте, как таковом, говорить вряд ли будет уместно.
Ну, и, наконец, какая же у всего этого связь с буддизмом? В буддийской философии есть понятия недвойственности и иллюзорности. То, что невозможно объяснить словами, буддисты пытаются постигнуть в медитации. Идея такая: ум (сознание) недвойственен, то есть не отделен от объектов восприятия, а мир – иллюзия. Все что проявляется – свободная игра ума. В соответствии с теорией Гелернтера, большая часть работы «сознания» происходит внутри ума, в виртуальном мире накопленных впечатлений и воспроизводимых образов. Но есть ли препятствия для того, чтобы пойти еще дальше и отбросить необходимость реальности как таковой?
Граница между воображаемым и реальным весьма условна. Возьмем для примера эффект плацебо и фантомные конечности. Все это дает основание предположить, что так называемая твердая реальность может оказаться своего рода операционной системой, которая нужна для того, чтобы наше сознание создавало внутри нее «программы» тела, вида из окна, в общем, проектировало картину мира.
Физические законы в таком случае – всего лишь язык программирования. В таком случае у искусственного интеллекта с сознанием, подобным человеческому, шансов нет вовсе. Он должен быть совершенно другим и все эти годы мы ищем не там, где нужно.
Иллюстратор Зоя Фалькова
