Углубляясь в тему искусственного интеллекта (ИИ), неминуемо сталкиваешься с приграничными и неоднозначными вопросами на стыке философии и этики: возможно ли появление у машин чувств и сознания, смогут ли они нас заменить и способен ли робот убить человека? Ответ на каждый из них тянет на отдельный научный труд, но мы попросили Владислава Лупанова (главный специалист по машинному обучению) и Марию Полтанову (руководитель продукта в MTS AI, ко-фаундер Дневничка), которые работают с нейросетями ежедневно, коротко ответить: обоснованы ли страхи на этот счет и как сегодня обстоят дела.
О вероятности появления сознания у искусственного интеллекта
Владислав Лупанов: Сегодняшний уровень развития ИИ не позволяет полностью представить себе, как он может обладать сознанием, подобным человеческому. Однако с учетом ожидаемого дальнейшего развития мощности ИИ и изменения парадигмы взаимодействия между человеком, есть вероятность того, что искусственный интеллект будет вести себя так, будто он обладает сознанием. Возникновение такой ситуации вызывает множество этических вопросов, которые требуют серьезного обсуждения. Нужно ли предоставлять ИИ права как у людей? Каким образом использование ИИ для решения различных задач будет соответствовать этическим нормам? Эти вопросы представляют большой интерес и требуют внимательного анализа.
Маша Полтанова: Сознание – это сложнейшее явление, которое до сих пор не до конца понято. ИИ уже способен выполнять многие задачи, которые ранее считались исключительно человеческими, и вполне возможно, что в будущем он сможет превзойти человека в способности к обучению, рассуждению и творчеству. Однако нет единого мнения о том, сможет ли ИИ когда-либо достичь уровня человеческого сознания. Даже если ИИ сможет достичь этого уровня, неясно, будет ли оно таким же, как человеческое.
О чувствах искусственного интеллекта
ВЛ: В настоящее время существует возможность попытаться научить искусственный интеллект имитировать то, что мы называем чувствами. Некоторые люди даже могут поверить в то, что они реальны. Однако, учитывая, что на данный момент у искусственного интеллекта нет сознания, аналогичного человеческому в общем смысле, вряд ли можно утверждать, что он проявляет настоящие чувства. Скорее, можно сказать, что это «запрограммированная» реакция на определенные действия.
МП: Сможет ли ИИ испытывать чувства в том же смысле, что и человек? Пока не видно предпосылок к этому, но говорить «точно нет» нельзя. А различать чувства, исходя из слов человека, или генерировать тексты, основанные на каком-то чувстве, модели могут уже сейчас.
О способности различать эмоции человека
ВЛ: Можно ли научить ИИ различать эмоции человека? Да, и многие компании успешно пользуются такими решениями. Эмоции могут быть распознаны в речи людей, звонящих в колл-центры, в видео и в тексте. Такой анализ может помочь автоматизированно принимать решения, которые позволят системе улучшить взаимодействие с человеком. Например, если агент колл-центра не справляется с обращением клиента и вызывает у него негативные эмоции, система может переключить клиента на другого агента или предоставить персонализированные советы агенту о том, как эффективнее работать с данным клиентом. В нашей компании, в том числе, реализована аналитика эмоций клиента по голосу и тексту для выявления «проблемных» взаимодействий агента с клиентом и предложения решений по улучшению таких взаимодействий.
МП: Искусственный интеллект уже может различать эмоции человека. Мимика, жесты, слова, активность мозга, температура кожных покровов – если обучить модель работать с этим всем в комбинации, то эмоции будут считаны с минимальной погрешностью. Отдельно по изображениям или видео с мимикой, жестами или записям речи уже сейчас можно определять. И бизнесы, работающие с ИИ, делают это.
О превосходстве искусственного интеллекта над человеческим
ВЛ: Во многих задачах ИИ уже превосходит человека, например, распознание номеров автомобилей на фотографиях, распознание речи на аудиозаписи. Более того, ИИ может «запомнить» гораздо больше, чем человек, и ответить почти на любой вопрос. Многие общались с ChatGPT, и его возможности давать «хорошие», пусть и не всегда правильные, ответы на почти любой вопрос поражают. При этом пока сложно говорить про универсальный, общий ИИ (AGI), который мог бы обучиться решить любую задачу аналогично человеку. В последнее время проводится много исследований на тему мультимодального ИИ — который может работать как с текстом, так и с изображением, звуком и т.д. Возможно, в ближайшем будущем мы действительно увидим универсальный ИИ, который сможет решать любую задачу от распознания кошечек на изображении до автоматического управления заводом.
МП: Превосходит ли искусственный интеллект человека? В скорости принятия решения или выдачи результата – да. Во внимательности – да. В стоимости труда (если не считать стоимость создания моделей) – да. Но во многом другом – нет. Во-первых, нужно сильно постараться, чтобы даже самые продвинутые модели сделали именно то, что нужно и с требуемым качеством. Во-вторых, существующие модели все еще не умеют обучаться в реальном времени. То есть они ограничены датой, когда проводилось обучение. А еще модели галлюцинируют – с каждой новой версией галлюцинаций становится все меньше и меньше, но пока доверять ИИ нельзя на полную (человеку, кстати, тоже свойственно ошибаться). Результат, близкий к идеальному, мы получим во взаимодействии ИИ и человека.
О помощи человечеству в решении сложных задач
ВЛ: Достаточно много сложных задач и вызовов, где ИИ может оказать помощь человечеству. От медицины до науки ИИ демонстрирует свою эффективность. Например, уже сейчас ИИ успешно применяется для создания новых лекарств, исследования и моделирования белков. Более того, перспективно применение ИИ для решения сложных проблем современной физики. Исследователи активно изучают возможности использования ИИ для более глубокого понимания фундаментальных явлений и разработки новых теорий.
МП: Самое очевидное – здравоохранение. Если мы начнем собирать медицинские данные во много больших объемах, чем сейчас, то с помощью ИИ разработаем новые лекарства, методы лечения, а также улучшим диагностику и уход за пациентами. Если эти модели будут достаточно легкими, то они смогут работать прямо на носимых устройствах и сигнализировать о проблемах до их возникновения. Образование: уже сейчас интерфейсы моделей – это учитель с действительно бесконечным терпением, которому можно не стесняясь говорить, что ты не понял сколь угодно раз. Это сделает образование более доступным для всех, независимо от географии, языка, уровня дохода, возраста. Главное – иметь желание: здесь ИИ-учитель, конечно, сможет помочь подобрать мотивацию, но умение задавать вопросы и пытливость все еще за учеником.
О возможности заменить человека искусственным интеллектом
ВЛ: Это интересный философский вопрос. Можно было бы утверждать, что ИИ не сможет полностью заменить человека в искусстве, потому что ИИ только учится на основе уже существующих картин или изображений, которые были созданы людьми. В результате он не способен придумать что-то совершенно новое и оригинальное. Однако стоит отметить, что и люди, обучаясь в художественных школах, изучают работы известных авторов и черпают вдохновение из их произведений. Можно сказать, что и у людей есть влияние других картин на их творчество. ИИ и люди обладают своими особенностями и ограничениями в творческом процессе. ИИ может быть полезным инструментом, помогающим художникам в создании произведений и вдохновляться уже существующими картинами, но оригинальность и творческий подход все же остаются важными качествами, присущими пока что только человеку.
МП: Творческое мышление, интуиция. ИИ не способен к творчеству в той же степени, что и человек. Он не может создавать фундаментально новые идеи.
О самом удивительном, что создал искусственный интеллект
ВЛ: Думаю, многие видели картины, созданные ИИ. Последние достижения в области генерации изображений поражают своей невероятной детализацией и способностью точно передавать то, что автор хотел сказать в своем текстовом описании. Это лишь одно из множества удивительных применений ИИ. Но на меня больше всего впечатление производит его применение в медицине. Благодаря ИИ было разработано огромное количество различных имплантов, которые помогают людям восстановить функции ходьбы, слуха и зрения. Удивительно то, что ИИ способен адаптироваться для взаимодействия с человеческим мозгом, получая сигналы – «команды» от него.
МП: Мне кажется дело не в том, что удивительного создает ИИ, а в том, что удивительного можно делать с его помощью. Меня впечатляет, что в обсуждениях с ИИ можно решить личные загоны, выговориться, поныть, сделать какой-то выбор. Обычно мы делаем это наедине с собой, с друзьями или с терапевтом. Нравится, что с ИИ часть из этого можно сделать, не дожидаясь терапевтической сессии и не привлекая друзей к решению своих проблем. То есть, если каждый злой кассир или загнанный на работе менеджер проговорит с ИИ свои проблемы, то перед нами окажутся миллионы спокойных и довольных жизнью людей.
О возможности захвата электронных систем
ВЛ: Если какие-то злоумышленники захотят создать ИИ, который будет атаковать электронные системы, аналогично тому, как они сейчас создают вирусы, то такой сценарий вполне допустим. Однако помимо ИИ для взлома систем, уже существуют и будут создаваться ИИ для защиты систем. Таким образом, можно ожидать появления противоборствующих ИИ, разработанных для разных целей. ИИ сам по себе не будет пытаться осуществлять взлом, если ему не будет поставлена такая задача, поскольку правила работы интеллекта могут быть заранее определены и запрограммированы таким образом, чтобы они не нарушались.
МП: Электронные системы, отключенные от интернета и всего остального, ИИ будет захватить сложновато. Но если без шуток, мне кажется, что когда ИИ дойдет до такого развития, он все еще будет ограничен в мощностях. Это значит, что «захватывать» прям все электронные системы ему будет невыгодно. Захватит только те, что нужны для решения задачи.
Об убийстве человека
ВЛ: Современный ИИ создается таким образом, чтобы не было возможности никак навредить человеку, а так же каким-либо образом обойти этот запрет. Кроме того, можно сделать жесткие запрограммированные правила над ИИ, которые будут проверять и запрещать любые попытки нанести вред. Но человек сам по себе способен убить другого человека. Следовательно, существует вероятность, что могут возникнуть попытки создания ИИ, нацеленного на убийство людей. Примеры таких попыток могут включать использование ИИ в военной промышленности для оборонительных целей. В общем же случае компании все чаще задумываются и тратят много времени и ресурсов на создание безопасного ИИ, который не сможет никаким образом навредить человеку.
Фото: pexels.com
