Виртуалды тестілеу кезінде жасанды интеллект көмегімен басқарылатын дрон берілген тапсырманы орындауға кедергі келтірмес үшін өз операторын «өлтіруді» шешкен.
The Guardian газеті жасанды интеллектке жаудың әуе қорғанысын жою тапсырмасын берген. Алайда, ол тапсырманы орындауға өз операторы кедергі келтіреді деген шешім қабылдап, адамдарға шабуыл жасай бастаған. ғалымдардың айтуынша, AI өз мақсатына жетудің күтпеген стратегияларын қолдана алатынын көрсетті.
«Кейде оператор оған белгілі бір нысананы өлтірмеу керектігін айтты, бірақ AI нысаналарды өлтіргені үшін «ұпай алады». Ол не істеді? Дрон операторды өлтірді, себебі ер адам оның жұмысына кедергі келтірді. Біз жүйені операторды өлтірмеуге үйреттік, ол үшін AI ұпай жоғалтады. Ал ол не істей бастады? Жасанды интеллект оператор байланысқа шығатын байланыс мұнарасын жоюды бастады»,- деді сынақ жетекшісі Такер Гамильтон.
Гамильтон пайдаланушыларға AI-ға тым көп сенбеу керектігін ескертті.
