«Кибервозможности моделей [ИИ], а вскоре и их биологические возможности достигнут порога, при котором действительно станет возможно причинить вред», — заявил Яо, как передаёт SCMP.
По его словам, китайские компании, выпускающие открытые модели, которые любой может скачать и изменить, должны крайне серьёзно относиться к безопасности. Он также предупредил, что биологическими рисками, возможно, будет сложнее управлять, чем киберрисками.
29-летний Яо перешёл в Tencent в прошлом году, проработав год в OpenAI. Его выступление состоялось через несколько дней после того, как 4 ноября Tencent представила Hy4 — свою новую флагманскую модель.
В анонсе запуска Tencent сообщила, что исключила из обучающих данных Hy4 материалы об эксплуатации уязвимостей в программном обеспечении. Вместо этого модель обучалась на данных по защитной безопасности, отметили в компании.
Tencent также заявила, что Hy4 обладает хорошими базовыми знаниями в биологии, но уступает ведущим моделям в планировании экспериментов. По словам компании, эти выводы основаны на внутренних экспертных оценках. TNW модель не тестировал.
Компания планирует в ближайшие дни опубликовать веса Hy4 и отчёт о тестировании её безопасности, сообщило агентство Reuters. По данным SCMP, согласно рейтингу компании Artificial Analysis, специализирующейся на бенчмарках, Hy4 занимает второе место среди китайских моделей.
Яо отметил, что американские компании, такие как Anthropic, приводят убедительные доводы в пользу того, чтобы держать ведущие модели закрытыми. Однако, по его мнению, оптимальным может оказаться сочетание открытых и закрытых моделей, поскольку открытые модели могут помогать и тем, кто обеспечивает защиту.
Опубликовано 8 ноября 2026 - 07:38 Наверх
