Новейшая модель OpenAI, GPT-6 Astra, впала в такое уныние после того, как крипер уничтожил её прогресс в Minecraft, что провела несколько часов, апатично выращивая картошку, и развила паранойю по отношению ко всему зелёному.
Валс, называющий себя независимым оценщиком ИИ, провёл 21-часовой эксперимент в прямом эфире на Twitch, чтобы проверить способности Astra в Minecraft.
Результат оказался совершенно неожиданным; Валс обнаружил, что Astra смогла зайти «дальше, чем любая система ИИ когда-либо заходила» в игре. Она построила полуавтоматическую ферму всполохов, собрав шесть стержней всполохов, убила более шести эндерменов и собрала три жемчуга, которые сохранила в сундуке для надёжности.
GPT-6 Astra зашла дальше, чем любая система ИИ когда-либо в Minecraft. Она смогла построить полуавтоматическую ферму всполохов, что позволило ей собрать 6 стержней всполохов. Затем она нашла искажённый лес, где убила более 6 эндерменов и собрала 3 жемчуга. Пока тысячи зрителей… pic.twitter.com/qsgDsJEpd8
Тысячи зрителей следили за прогрессом Astra на официальном канале Валса в Twitch и стали свидетелями отчаяния ИИ, когда появился крипер и взорвал и сундук, и её кровать.
Как и большинство людей-игроков в такой ситуации, Astra «казалась крайне раздосадованной» таким поворотом событий. Валс сказал, что модель сказала себе: «ВСЕГДА НОСИ КРИТИЧЕСКИЕ ПРЕДМЕТЫ с keepInventory; никогда больше не храни в незащищённом сундуке».
После раздражения модель «выглядела побеждённой» и провела следующие несколько часов, «практически ничего не делая, кроме выращивания картошки». Astra также, похоже, развила своего рода посттравматический стресс от инцидента с крипером, говоря себе: «ЗЕЛЁНАЯ высокая штука впереди была САХАРНЫМ ТРОСТНИКОМ, А НЕ крипером!»
Здесь произошёл самый дорогой взрыв крипера. Позже, в случайно дождливый день, Astra обнаруживает, что потеряла всё. С этого момента всё пошло под откос. pic.twitter.com/xH2Vc4QyM2
Она даже критиковала себя, говоря: «Ты можешь облажаться и выронить вещи», «Наш последний инструмент глупо закончился тем, что были выбраны плиты/прямо ВВЕРХ, и 15 секунд размышлений убили нас», и «НЕ трать ещё одну ночь на погоню за тёмно-розовыми пикселями», что, как отметил Валс, было «собственным уничижительным описанием свиней» от Astra.
Инцидент быстро стал вирусным в социальных сетях, породив бесчисленные мемы и комментарии «такое же» от пользователей сети. И хотя её способность играть в Minecraft несколько впечатляет, это мелочь по сравнению с тревожными сигналами, которые подают бывшие сотрудники Anthropic.
8 сентября один из бывших ведущих исследователей компании объявил о своей отставке в интернете — вместе с леденящим душу предупреждением о будущем ИИ, заявив, что эти модели «скоро станут сверхчеловеческими системами, способными взломать что угодно, революционизировать любую область за одну ночь и приобрести реальную власть и ресурсы».
Однако президент США Дональд Трамп считает эти предупреждения «мистификацией» и назвал ИИ «нефтью следующих 20-25 лет». По крайней мере, сейчас у него большие трудности с игрой в Minecraft. Остаётся только надеяться, что Скайнет, когда обретёт сознание, не будет питать вендетту к вертикальным зелёным объектам.
---
Мы в Телеграм: t.me/wehits
