Умеет ли ИИ притворяться глупым


Ученые опубликовали результаты исследования поведения продвинутых моделей искусственного интеллекта.  

Источник фото

В исследовании, опубликованном в научном журнале PLOS One, говорится, что ученые из Чехии и Германии попросили искусственный интеллект вести себя, как ребенок в возрасте до 6 лет. Они провели более 1000 испытаний, чтобы прийти к выводу, что модели ИИ могут притворяться менее умными, чем есть на самом деле. 

Эти результаты могут помочь развитию искусственного суперинтеллекта (ИСИ) и сделать его более безопасным. 

«При разработке... ИСИ мы должны быть осторожны и не требовать, чтобы он имитировал человеческий и, следовательно, ограниченный интеллект. Кроме того, это предполагает, что мы можем недооценивать возможности ИИ в течение длительного периода, что не является безопасным», — говорит автор исследования Анна Маклова.