Мозг человека, несмотря на огромное количество самых разнообразных исследований, является достаточно плохо изученным органом. Особенно это касается взаимодействия между сознанием и подсознанием. Профессор Открытого университета Каталонии и автор книги «Искусственный интеллект и нейроправа: защита бессознательного Я человека» Игнаси Бельтран де Эредиа уверен, что именно подсознание в ближайшем будущем может полностью подчиниться воле искусственного интеллекта.
Эксперт поясняет, что сознание является «второстепенным персонажем», контролируя только 5% деятельности человека. Остальные 95% формируются подсознанием. Речь идет о той основе, на которой человек принимает, казалось бы, абсолютно сознательные решения.
«Проблема в том, что мы не осознаем этого экстраординарного потока нейронной активности, потому что взаимодействие между сознательным разумом и бессознательным поведением чрезвычайно сложно. Силы, управляющие нашей жизнью, очень далеки от нашего осознания или контроля», – пишет Игнаси Бельтран де Эредиа.
Он подчеркивает, что человек не контролирует источник, из которого в сознание приходит то или иное решение. При этом сознательно люди всегда стремятся убедить себя в том, что полностью контролируют этот процесс.
Этим уже сегодня активно пользуются рекомендательные алгоритмы, которые с каждым днем собирают все больше информации о пользователях и становятся все умнее и находчивее в манипулировании их предпочтениями. Сейчас эти системы преследуют в первую очередь коммерческие цели, но масштабный сбор данных о каждой конкретной личности и человечестве в целом в перспективе может раскрыть перед искусственным интеллектом самые интимные и незаметные аспекты поведения людей.
Безусловно, индивидуальное поведение каждого элемента сложной динамической системы предсказать практически невозможно, но закономерности становятся понятны на более высоком уровне с помощью математического моделирования и компьютерного анализа. Так, существуют универсальные модели человеческого поведения, анализу подвергаются мимика и голос. Это, в свою очередь, может предоставить искусственному интеллекту доступ к эмоциям, настроению, социокультурным особенностям, а потом – и к личности человека.
При этом даже сейчас пользователи добровольно принимают рекомендации нейросетей и строят на их основе свое поведение, потому что в конечном итоге машины предлагают живому мозгу удовольствия.
Этот аспект, по мнению Игнаси Бельтрана де Эредии, недооценивается, несмотря на то, что в перспективе такое «приятное» воздействие на подсознание может привести к принятию человеком решений, которые в противном случае были бы для него нежелательными.
Следовательно, подсознание человека уже сейчас открыто для манипуляций и требует правовой защиты.
«Имейте в виду, что эта антропометрия с помощью повсеместного анализа позволяет косвенно расшифровывать самые сокровенные слои разума. Эти формулы, основанные на тысячах итераций и процессах проб и ошибок, ставших результатом взаимодействия с людьми, помогают выявить определенные глубинные закономерности нашего поведения», – поясняет профессор.
Фактически, такое положение вещей ведет к девальвации двух определяющих факторов человеческого бытия: свободы и идентичности.
Профессор подчеркивает, что свободный выбор возможен только в том случае, если на человека не оказывается чрезмерного давления и он достаточно хорошо информирован об альтернативных возможностях. При этом само давление со стороны нейросетей человек если и может осознать, то с большим трудом. А рекомендательные алгоритмы, по сути, не оставляют сознанию выбора, диктуя, что ему нравится и чего оно хочет. Это открывает широкие возможности для злоупотребления в самом широком смысле этого слова.
Идентичность также оказывается под угрозой, поскольку такие математические механизмы низводят человека до уровня животного, обученного определенному типу поведения.
