Если человечество и дальше будет неограниченно развивать новые технологии, то потеряет над ними контроль.
«Мы столкнулись с почти гарантированным событием, которое потенциально может вызвать экзистенциальную катастрофу», – считает ученый Университета Луисвилля (США) Роман Ямпольский.
Как сообщает издание Tech Xplor, такую мысль он выразил в своей книге «ИИ: необъяснимый, непредсказуемый, неконтролируемый».
По словам специалиста, наивно полагать, что люди смогут объяснить любые действия ИИ, так как «наша способность создавать интеллектуальное ПО намного превосходит нашу способность контролировать его». Ученый назвал ИИ потенциально непредсказуемым и заявил, что он может стать полностью автономным.
«Если мы привыкнем принимать ответы ИИ без объяснения причин, мы не сможем гарантировать, не будет ли он давать неправильные или манипулятивные ответы», – подчеркнул Ямпольский.
По его мнению, ученые должны найти баланс между высокоразвитым ИИ и безопасностью. Специалист подытожил, что люди должны иметь возможность отменить любые действия или решения ИИ.
