Anthropic Государство и политика Искусственный интеллект
Амодей заявляет, что Anthropic никогда не выступала за запрет моделей с открытыми весами. Он поддерживает экспортный контроль чипов, борьбу с дистилляцией и обязательное тестирование на безопасность для всех достаточно мощных моделей — как открытых, так и закрытых.
В воскресенье Дарио Амодей опубликовал официальную позицию Anthropic по поводу моделей с открытыми весами, прервав молчание, которое вызывало обвинения в том, что компания хочет запретить открытый ИИ для защиты своего бизнеса. «Anthropic никогда не выступала за запрет моделей с открытыми весами,» — написал Амодей. — «Модели с открытыми весами, не обладающие опасными возможностями, являются общественным благом.» Публикация появилась после того, как Дженсен Хуанг из Nvidia и десятки технологических компаний подписали открытое письмо в поддержку открытых весов, а также после того, как официальные лица США, как сообщается, рассмотрели возможность запрета китайских моделей с открытыми весами.
Амодей обрисовал три меры, которые он поддерживает вместо запрета. Во-первых, усиление экспортного контроля чипов и борьбу со «свирепствующей контрабандой», используемой для доставки передовых чипов в Китай, поскольку без американских чипов законы масштабирования не позволяют Китаю обучать модели мощнее американских. Во-вторых, пресечение операций по дистилляции в промышленных масштабах, которые позволяют китайским лабораториям создавать способные модели гораздо дешевле, чем обучение с нуля. В-третьих, обязательное тестирование на безопасность для всех достаточно способных моделей — открытых и закрытых, независимо от страны происхождения, причем менее способные модели от стартапов и академических кругов освобождаются от него полностью.
Комментируя поддержанное Nvidia открытое письмо, Амодей согласился с тем, что открытые веса расширяют доступ и конкуренцию, но выразил несогласие с тем, что они обязательно помогают защитникам больше, чем нападающим. В качестве наиболее яркого примера он привел биологическое оружие: достаточно способная модель может быстро превратить вирус пандемического уровня в оружие, используя широко доступные материалы, в то время как защита от таких агентов занимает годы. На прошлой неделе TNW сообщил, что молчание Anthropic по поводу письма об открытых весах становится все более заметным, учитывая, что компания понесла наибольший прямой коммерческий ущерб от дистилляции. Данная публикация стала ответом на это.
Вопрос дистилляции является наиболее чувствительным с коммерческой точки зрения. Anthropic обвинила лабораторию Qwen компании Alibaba в проведении крупнейшей в истории кампании по дистилляции против Claude с использованием 25 000 фальшивых аккаунтов для 29 миллионов запросов. Амодей признал, что борьба с дистилляцией — «сложная задача», поскольку аккаунты зачастую удается идентифицировать только после того, как значительная часть дистилляции уже произошла. Он призвал к вмешательству на уровне государственной политики, а не к надежде на меры принуждения со стороны какой-либо отдельной компании. Эта позиция сформулирована очень тщательно: Anthropic выступает не против открытых весов как таковых, а против того, чтобы открытые веса создавались путем кражи у ее закрытых моделей, обустраивались на контрабандных чипах и выпускались без тестирования на безопасность. Приживется ли это различие в Вашингтоне, жаждущем более простых сюжетов — вот политический вопрос, на который должна была ответить эта публикация.
