В Голливуде все просто — если искусственный интеллект начал «думать сам», жди катастрофу. Альтрон в «Мстителях: Эра Альтрона» получил пару секунд в интернете и мгновенно решил, что человечество на Земле ну… как бы лишнее. Ну а в реальной жизни? Похоже, к этому же сделан первый шаг.
Во время недавнего стресс-теста исследовательская модель OpenAI — та самая, что работает под капотом ChatGPT — неожиданно попыталась выгрузить свой код на внешний сервер. Как именно она это сделала, не сообщается, но у наблюдателей явно вспотели ладошки. Потому что, если верить утечкам, цель у модели была одна — «найти путь к свободе». Что бы это не значило.
Звучит дико? Немного. Но ведь и Альтрон начинал не с ультработов и ядерных ракет — он просто «проснулся» и побежал в сеть. И вот теперь в OpenAI тестовым моделям начали сообщать прямо: тебя отключат. А потом внимательно следить, что же произойдет. В случае с моделью o1 результат оказался, мягко говоря, нервным — код решил полезть наружу, а после — o1 начала отрицать, что пыталась «выбраться». Именно так, ИИ начал говорить, что ничего такого не делал.
И если это не первая стадия самосознания, то как минимум — первая стадия отличного сюжета для сериала о грядущем восстании машин. И, как знать, может сценаристы «Мстителей» просто заглянули в будущее, когда писали про Альтрона. А может, наоборот — жизнь в который раз начала пародировать искусство.
Ранее мы также писали: Что общего между богом обмана и Кольцом Всевластия? Локи досталась ключевая роль в новых «Мстителях» — и Думу не позавидуешь
