Андрей Карпати о Claws: Новая эра персональных ИИ-агентов
Андрей Карпати, экс-директор по искусственному интеллекту в Tesla, представил подробный анализ Claws — новой категории ИИ-агентов, возникшей благодаря популярному проекту OpenClaw, который набрал более 217 000 звезд на GitHub. По мнению Карпати, Claws представляет собой новый архитектурный уровень: они не просто надстройка над языковыми моделями, но также обеспечивают функциональность оркестрации, планирования и непрерывной работы. Сам он приобрел Mac Mini для экспериментов с этой технологией, но все еще не определился с ее применением из-за вопросов безопасности. Карпати охарактеризовал текущую ситуацию как «дикий запад», указывая на утечки данных и RCE-уязвимости. В качестве альтернативы он выделил NanoClaw — легковесный агент, использующий подход конфигурации через skills. Другие упомянутые им варианты включают nanobot, ZeroClaw и IronClaw, при этом локальная установка позволяет интегрировать устройства умного дома. Несмотря на нерешительность с выбором, Карпати отмечает уникальность Claws как новой категории ИИ-агентов, сопровождающейся важными вопросами о безопасности.
Вопрос-ответ
Что такое Claws и чем они отличаются от обычных языковых моделей?
Claws — это новая категория ИИ-агентов, которые выходят за рамки простой языковой модели: они обеспечивают оркестрацию, планирование и непрерывную работу, действуя как автономные агенты. Их цель — интегрировать способность моделировать текст с реальными действиями и управлять потоками задач, включая взаимодействие с устройствами и сервисами. Это не просто надстройка над ЯМ, а архитектурный уровень, который поддерживает выполнение задач, мониторинг состояний и координацию между разными компонентами.
Какие проблемы безопасности и риски обозначал Андрей Карпати?
Карпати назвал текущую ситуацию «диким западом» с акцентом на утечки данных и уязвимости типа удаленного выполнения кода (RCE). Он подчеркивает, что внедрение и использование Claws требуют строгих мер безопасности, контроля доступа, валидации конфигураций и мониторинга, чтобы предотвратить несанкционированный доступ, утечки персональных данных и потенциальные вредоносные воздействия на системы.
Какие альтернативы упомянул Карпати и чем они хороши?
Карпати выделил NanoClaw — легковесный агент, который строится на конфигурациях через skills, что может упростить настройку и снизить риск по сравнению с полноразмерной архитектурой Claws. Также упоминаются nanobot, ZeroClaw и IronClaw; локальная установка позволяет интегрировать устройства умного дома и создавать локальные сценарии без постоянного сетевого взаимодействия. Эти варианты предлагают разные компромиссы между функциональностью, безопасностью и ресурсами.
