ШІ може самостійно поширюватися через смарттелевізори та побутову техніку: про що саме попередила Anthropic

► Читайте телеграм-канал «Мінфіну»: головні фінансові новини

Йдеться, зокрема, про недорогі приставки Android TV, розумні духовки та іншу побутову техніку. Водночас дослідники наголошують: повністю автономного ШІ, який надійно відтворює весь цикл поширення в реальних умовах, вони поки не створили.

Що означає самовідтворення штучного інтелекту

Самовідтворення не означає, що ШІ починає створювати нові версії себе так, як живі організми розмножуються. У цьому випадку йдеться про кіберзагрозу: модель разом із програмними компонентами копіюється на інший пристрій, запускається там і намагається повторити цей процес на наступних машинах.

Умовно це можна порівняти з комп’ютерним хробаком — шкідливою програмою, яка самостійно поширюється мережею. Відмінність полягає в тому, що ШІ може гнучкіше адаптуватися до незнайомих пристроїв і програмного середовища, а не діяти лише за заздалегідь прописаним сценарієм.

Для цього така система має вміти знаходити доступні цілі, отримувати можливість запускати на них код, налаштовувати роботу моделі на новому обладнанні та продовжувати поширення. Якщо пристрої мають слабкий захист, а сама модель достатньо добре виконує ці завдання, мережа заражених машин може поступово розростатися.

Що вдалося з’ясувати дослідникам

Anthropic перевіряла, чи здатні невеликі моделі виконувати окремі етапи самостійного поширення. Дослідники з’ясували, що моделі з 30 млрд параметрів або менше вже можуть виконувати багато необхідних завдань, хоча часто помиляються, коли потрібно об'єднати їх у повний безперервний процес.

Під час випробувань модель із 9 млрд параметрів змогла налаштувати запуск іншої моделі на 8 із 9 перевірених типів обладнання. У спрощеному експерименті, де частину завдань із кібербезпеки суттєво спростили, GLM-5.2 змогла пройти повний цикл поширення між тестовими вузлами.

Однак є важливе застереження: в цьому експерименті дослідники використали мережу з неавтентифікованим доступом до одного з інтерфейсів. Тобто модель не мала долати всі ті захисні механізми, з якими зіткнулася б у належно захищеній реальній системі. Самі автори називають цей результат верхньою оцінкою можливостей у реальних умовах, а не доказом того, що ШІ вже може безперешкодно заражати довільні пристрої.

За прогнозом Anthropic, якщо можливості невеликих моделей і надалі зростатимуть із попередньою швидкістю, вони можуть досягти рівня, необхідного для автономного самовідтворення, до кінця 2026 року.

Чому під загрозою можуть опинитися звичайні побутові пристрої

Дослідники звернули увагу на пристрої інтернету речей — техніку, що під'єднується до мережі та може обмінюватися даними. Серед них смарттелевізори, недорогі приставки Android TV, розумні прилади й інше обладнання з обмеженими можливостями захисту.

Такі пристрої цікаві зловмисникам не обов’язково через інформацію, яку вони містять. Їх можна використати як розподілену обчислювальну мережу. Замість одного потужного сервера модель працюватиме одночасно на багатьох пристроях, кожен із яких виконуватиме частину обчислень.

За оцінкою Anthropic, таку мережу було б складніше повністю зупинити, оскільки в неї немає єдиного центрального вузла, вимкнення якого припинило б роботу всієї системи. Крім того, модель може пристосовуватися до різних типів обладнання, а не шукати лише один конкретний пристрій.

Чи є небезпека для людини

Безпосередньої загрози фізичному здоров’ю людей експерименти не продемонстрували. Основні ризики наразі пов’язані з кібербезпекою та контролем над пристроями.

Якщо подібна система потрапить у реальні мережі, можливі кілька наслідків:

• Використання чужих ресурсів. Заражені пристрої можуть без відома власників витрачати електроенергію, обчислювальну потужність і трафік на роботу ШІ.

• Порушення роботи техніки. Зараження може спричиняти уповільнення пристроїв, збої або втрату доступу до окремих функцій.

• Ризики для приватності. Якщо зловмисники отримають додатковий доступ до скомпрометованого пристрою чи домашньої мережі, це може створити загрозу для даних і підключеної техніки.

• Масштабніші кібератаки. Розподілену мережу можна потенційно використати для перевантаження сервісів, атак на інші системи або пошуку вразливих серверів, зокрема в центрах обробки даних.

Читайте також: Anthropic виявила військове використання Claude у Ємені, Китаї та Росії

Як можна зменшити ризики

Anthropic закликає виробників підвищувати рівень захисту підключених пристроїв, усувати відомі вразливості й не використовувати слабкі стандартні налаштування безпеки. Важливі також моніторинг незвичного мережевого трафіку, своєчасне оновлення програмного забезпечення та можливість ізолювати заражені пристрої.

Для звичайних користувачів це означає насамперед необхідність встановлювати оновлення, змінювати стандартні паролі на унікальні та купувати пристрої виробників, які підтримують їхнє програмне забезпечення і виправляють вразливості.

Дослідження Anthropic не доводить, що неконтрольований ШІ вже масово поширюється побутовою технікою. Воно показує інше: зі зростанням можливостей невеликих моделей автоматизація кібератак може стати доступнішою, а захищати потрібно буде не лише великі сервери, а й мільйони звичайних пристроїв, підключених до інтернету.

Як ми писали, Anthropic обійшла OpenAI за виручкою: співзасновники компанії отримали по $15,5 млрд

Автор:

редактор новин Ярослав Дмитренко

Пише на теми: Економіка, фінанси, криптовалюти, технології, інвестиції