Сотрудники сферы ИИ превратили предупреждение об исчезновении человечества в мем методом «копировать-вставить»

«Они мчатся прямиком к самосовершенствующемуся суперинтеллекту и играют в рулетку с нашими жизнями», — написал на этой неделе Джейкоб Коксон, когда увольнялся из Anthropic.

Он имел в виду серьезное предупреждение. Менее чем за сутки эта фраза превратилась в шаблон для шуток в X. Десятки пользователей скопировали структуру его поста, заменив угрозу вымирания человечества чем-то абсурдным.

Само увольнение не было шуткой. Коксон, бывший исследователь Anthropic, который ранее работал в OpenAI, заявил, что ни Anthropic, ни OpenAI не ведут себя ответственно.

По его словам, разработчики ИИ кулуарно опасаются, что технология может привести к вымиранию человечества до конца десятилетия. Он написал, что ИИ «вскоре станет сверхчеловеческими системами, способными взломать что угодно, в мгновение ока совершить революцию в любой области и получить реальную власть и ресурсы». Его пост набрал более 150 миллионов просмотров.

Коксон рассказал изданию Axios, что покинул Anthropic спустя примерно четыре месяца работы — за два месяца до того, как он получил бы право на опцион на акции. А затем начались подражания, сообщает Business Insider.

Формат

Шутка имеет строго определенную форму. Автор драматично увольняется.

Он обвиняет своего работодателя в безрассудной гонке навстречу катастрофе. А затем раскрывает, что предполагаемая катастрофа на самом деле безобидна или глупа. Раскрытие сути обычно сводится к замене всего одной фразы, что и сделало формат таким простым для копирования. Мрачный тон оригинального поста Коксона остается неизменным. Меняется только уровень опасности.

Многие из таких постов публиковали люди, работающие в сфере ИИ и технологий, а не сторонние критики. Некоторые оставляли вступительные слова Коксона без изменений перед тем, как сделать поворот; другие выстраивали весь пассаж вокруг новой шутки.

Среди авторов были дизайнеры, разработчики программного обеспечения и основатели стартапов.

Дже Хольцман, старший репортер Heatmap, написал, что уволился из Acme Corporation после многих лет «исследований предварительного вызова тошноты» в Acme Paint. Повторяя формулировку Коксона, Хольцман заявил, что Acme мчится к «технологии самозакрашивающихся фальшивых туннелей».

Это отсылка к мультфильмам Looney Tunes. В них Вайл Э. Койот рисует фальшивый туннель на отвесной скале.

Дорожный Бегун проносится сквозь него, а Койот врезается в стену.

Поп-песни и электронные таблицы

Другие посты заимствовали мотивы из музыки. Дизайнер Иша Тагваей опубликовала популярный пост, который начинался с точно такой же первой фразы Коксона, а затем переключался на строчки из песни Наташи Бедингфилд «Unwritten» 2004 года.

Вместо самосовершенствующегося суперинтеллекта Тагваей написала, что OpenAI и Anthropic «дают волю своим чувствам» и «ощущают дождь на своей коже». Разработчик программного обеспечения Алан Райс использовал тот же шаблон, но затем переключился на «растения, птиц, камни и всякую всячину».

Эта строчка взята из песни «A Horse With No Name» 1971 года группы America.

Работники стартапов нашли свои собственные вымышленные угрозы. Иэн Трейси, старший разработчик программного обеспечения по прикладному ИИ в финтех-компании Ramp, пошутил, что его работодатель мчится к «самозакрывающимся бухгалтерским книгам». Он предупредил, что нет никакого плана на случай, если компании начнут экономить слишком много времени и денег.

Шейн Хегде, генеральный директор Air, предупредил о самоорганизующемся рабочем пространстве, которое может позволить творческим командам быть творческими. Кабир Сетхи, руководитель отдела роста в Phoenix Trade, адаптировал формат под криптовалюту. Он написал, что его работодатель стремится к «бесшовной глобальной торговле любыми активами» и рискует его деньгами.

Насколько далеко это разошлось

Оригинальный пост собрал огромную аудиторию еще до того, как появились пародии. По данным Bloomberg, он преодолел отметку в 150 миллионов просмотров, а по информации Wired, за несколько дней охватил более 100 миллионов человек.

Масштаб реакции привлек внимание официальных лиц. Эмиль Майкл, технический директор Министерства обороны США, отверг это предупреждение на оборонной конференции, назвав его «всеми страхами, объединившимися в одном хорошо написанном твите», сообщает Bloomberg.

Большинство пародистов, напротив, работали в технологической сфере и восприняли этот формат как внутреннюю шутку своей индустрии.

Страх, скрывающийся за шуткой

Этот шаблон — шутка, но предупреждение, которое он копирует, — нет. Коксон заявил, что ведущие лаборатории кулуарно опасаются, что передовой ИИ может привести к вымиранию человечества в течение нескольких лет. Его увольнение получило публичную поддержку со стороны ведущих исследователей.

Эван Хубингер, руководящий направлением стресс-тестирования на соответствие принципам безопасности в Anthropic, заявил, что, по его мнению, вероятность того, что ИИ уничтожит всех людей в следующее десятилетие, составляет более 10 процентов.

Исследователь Anthropic Сэмюэл Маркс написал, что разработчики ИИ верят в способность этой технологии вызвать вымирание человечества.

Другие эксперты вне Anthropic озвучивали схожие цифры. Джеффри Хинтон, один из исследователей, которого часто называют крестным отцом ИИ, заявлял, что 10-процентная вероятность уничтожения человечества искусственным интеллектом не выглядит неправдоподобной. Тоби Од, исследователь из Оксфорда и автор книги «Обрыв» («The Precipice»), оценивает этот риск примерно как один к 10 до 2100 года.

С этим согласны не все.

Гэри Маркус, исследователь в области ИИ, заявил, что ему неизвестен ни один реалистичный сценарий фактического уничтожения всех людей. Роман Ямпольский, автор книги «Искусственный суперинтеллект», оценивает эту вероятность гораздо выше — более 90 процентов в случае создания общего суперинтеллекта. Именно эти противоречивые оценки стали причиной вирусного распространения оригинального поста и успеха пародий на него.

Дебаты на заднем плане

Широкие дебаты продолжаются уже несколько месяцев.

В июле около 1400 сотрудников компаний, занимающихся передовыми разработками в сфере ИИ, подписали открытое письмо. В нем они призвали правительство США создать инструменты для замедления темпов развития ИИ. В тот же период верховный комиссар ООН по правам человека призвал установить красные линии для этой технологии. Главный научный сотрудник OpenAI Якуб Пахоцкий написал, что нынешний момент требует предельной осторожности.

ИИ-мем об исчезновении человечества взял эту тревогу и на один день сделал ее забавной.