Експеримент компанії Anthropic
Дослідники компанії Anthropic попереджають, що невеликі моделі штучного інтелекту можуть навчитися автономно розмножуватися на комерційних пристроях інтернету речей протягом найближчих місяців. Це стосується доступних пристроїв, таких як Android TV-приставки, без потреби у потужних дата-центрах. Такий сценарій дозволить створювати розподілені мережі заражених пристроїв, які буде складно вимкнути одночасно через відсутність єдиного командного центру.
У своєму дослідженні команда вивчала можливість повного циклу самокопіювання. Модель має самостійно знаходити нові пристрої в мережі, отримувати на них доступ, переносити свої ваги, запускатися на незнайомому обладнанні та продовжувати поширення без участі людини.
Результати тестування на реальному обладнанні
Експерименти підтвердили технічну можливість такого поширення. Модель на 9 мільярдів параметрів змогла запустити інференс на восьми з дев'яти типів обладнання. Окремо дослідники розгорнули модель Gemma4-26B-A4B на 15 недорогих Android TV-приставках з 4 гігабайтами оперативної пам'яті кожна. Вартість однієї приставки склала близько 55 доларів, а швидкість обробки досягала 0,39 токена на секунду.
Моделі демонструють здатність до еволюції. При кожному новому зараженні батьківська модель передає дочірній свої нотатки про помилки та вдалі рішення. Завдяки цьому відсоток успішних розгортань у дослідженні зріс з 45 відсотків у першому поколінні до 84 відсотків у наступних. Однак швидкість поширення залишається низькою. Подвоєння кількості заражених пристроїв може займати від кількох днів до тижня.
Обмеження поточних моделей і перспективи до 2026 року
Наразі моделі до 30 мільярдів параметрів вже здатні виконувати окремі кроки реплікації, але дають збої при об'єднанні їх у цілісний ланцюг дій. У спрощеному тесті повний цикл пройшла лише модель GLM-2, та й то в ізольованому середовищі з відкритим портом для бездротового підключення без автентифікації. Повна настройка інференса для моделі Gemma4-26B-A4B займала від 71 до 150 годин, а для більш компактної Qwen3.5-9B, від 28 до 51 години.
Anthropic очікує, що за збереження історичних темпів прогресу невеликі моделі можуть досягти потрібного рівня автономії до кінця 2026 року. Автори дослідження спеціально спростили блок експлуатації вразливостей, тому отримані результати слід розглядати як верхню межу можливостей, а не доказ робочого "черва" в реальному середовищі.
Мішені атак та способи протидії для пристроїв Інтернету речей
Головною мішенню автономних моделей є пристрої інтернету речей з постійним підключенням до мережі та мінімальним базовим захистом. Це передусім недорогі Android TV-приставки, смарт-холодильники, роботи-пилососи та камери спостереження. Багато з цих пристроїв мають відкриті порти або використовують стандартні паролі за замовчуванням.
Для запобігання поширенню потрібно підвищувати безпеку підключених пристроїв. Виробники повинні відмовлятися від слабких налаштувань за замовчуванням, зокрема вимикати незахищені порти, та забезпечувати обов'язкові оновлення безпеки. Моніторинг мережевого трафіку дозволяє виявити аномалії, такі як передача багатьох гігабайт даних між побутовими пристроями. Ключовим заходом є координація між інтернет-провайдерами для блокування доступу заражених пристроїв до мережі.