Поделиться
Anthropic использовала подход «Яндекса» для исследования безопасности ИИ
Американская компания Anthropic использовала подход, реализованный в технологии Petals, в исследовании рисков безопасности ИИ. Технологию создали исследователи «Яндекса» при участии НИУ ВШЭ, Вашингтонского университета, Hugging Face и Высшей нормальной школы Париж-Сакле. Специалисты Anthropic изучали, могут ли нейросети самостоятельно распространяться между устройствами и работать без контроля человека. Об этом CNews сообщили представители «Яндекса».
Petals — технология, которая позволяет запускать большие языковые модели, объединяя вычислительные мощности нескольких компьютеров через интернет. Обычно для работы таких моделей нужны дорогостоящие серверы с мощными графическими процессорами. Petals позволяет разделить модель на части и распределить их между разными устройствами. Каждый компьютер выполняет свою часть вычислений и передает результат следующему. Благодаря этому крупные нейросети становятся доступнее для научных лабораторий, стартапов и небольших компаний, которые не располагают собственной дорогостоящей инфраструктурой. Исходный код технологии находится в открытом доступе, а результаты исследований были представлены на международных научных конференциях NeurIPS и ACL.
В исследовании Anthropic ученые предположили, что большие нейросети могут работать не только в датацентрах, но и на множестве маломощных устройств, например домашних компьютерах и умной технике. Чтобы проверить это, специалисты использовали распределённый инференс, описанный в Petals, и запустили модель Gemma 4 с 26 млрд параметров на 15 Android TV-приставках. Эксперимент подтвердил, что такие устройства могут совместно обеспечивать работу большой нейросети без единого мощного сервера.
Кроме того, Anthropic изучила, способны ли ИИ-агенты самостоятельно распространяться между устройствами. В отдельных лабораторных экспериментах некоторые модели смогли находить новые устройства, получать к ним доступ и продолжать работу. Для этого исследователи использовали изолированную сеть с намеренно ослабленной защитой. Полученные результаты помогают оценить потенциальные риски развития автономных ИИ-систем и способы защиты от них.
Petals также получила развитие в других международных научных проектах. В 2026 г. исследователи Калифорнийского университета в Мерседе использовали Petals, чтобы повысить эффективность распределенного инференса больших языковых моделей. На Petals также ссылались исследователи китайского Университета Цинхуа, изучавшие создание децентрализованной инфраструктуры для ИИ.
Короткая ссылка
