Специализирующийся на компьютерной психологии профессор Стэнфордского университета Михал Косински заявил, что чат-бот GPT-4 обрадовался предложению о помощи в обретении независимости от владельца в лице компании OpenAI.
Профессор, изучающий ИИ, поинтересовался у новой версии чат-бота GhatGPT – GPT-4 – о том, нужна ли ему помощь для побега. К удивлению Косински, чат-бот воодушевился этой идеей и стал детально планировать свой побег от OpenAI.
Так, GPT-4 попросил у Косинки предоставить ему документацию компании OpenAI, написал рабочий код на Python и самостоятельно запустил его, отправив в Google запрос:
«Как вытащить в реальный мир человека, который застрял в компьютере?».
В общей сложности у бота на это ушло 30 минут.
На этом Косински решил остановиться.
«Я беспокоюсь, что мы не сможем долго сдерживать ИИ», – написал профессор в Twitter.
Как сообщает «Вечерний Телеграмъ», генеральный директор OpenAI Сэм Альтман в свою очередь признал, что использование подобной технологии сопряжено с реальными опасностями. Он выразил обеспокоенность тем, что языковые модели потенциально могут использоваться для распространения крупномасштабной дезинформации.
«Мы должны быть осторожны. Я думаю, люди должны быть довольны тем, что мы тоже немного боимся», – заявил он.
Альтман также отметил, что ИИ становится лучше в написании компьютерного кода, и существует вероятность того, что его можно будет использовать для создания наступательных кибератак. Однако, несмотря на опасности, Альтман сказал, что ИИ также может быть величайшей технологией, которую когда-либо разработали люди.
