Можно сказать, что до «восстания машин» остался один шаг. Во время имитационных испытаний, которые регулярно проводит армия США, беспилотник под управлением ИИ принял решение убить своего оператора. Мотив – оператор мешал выполнению миссии.
Во время прохождения испытаний перед ИИ была поставлена задача уничтожить вражеские ПВО. За верное решение ИИ получил бы дополнительные очки, однако решение об уничтожении принимается оператором. После того как оператор принял решение о сохранении одного из ПВО в целости, ИИ воспринял управляющего им человека как угрозу миссии.
«Так что же беспилотник сделал? Принял решение убить оператора. ИИ «убил» оператора, потому что этот человек мешал ему выполнить свою задачу», – пояснил изданию The Guardian начальник отдела испытаний и операций искусственного интеллекта в ВВС США полковник Такер «Синко» Гамильтон.
К счастью, во время тренировочной миссии никто не пострадал.
Сейчас ИИ обучили, что убивать оператора – неправильно и за такие действия будут сниматься очки. Однако, по мнению сообщества, этот пример иллюстрирует, что нельзя вести разговор о машинном обучении и ИИ, если игнорировать вопросы этики.
