► Підписуйтесь на телеграм-канал «Мінфіну»: головні фінансові новини
Як ШІ «видалив» систему
Найбільш показовий випадок стався в середині грудня, коли одна із систем AWS, що дозволяє клієнтам моніторити свої витрати на хмарні послуги, перестала працювати на 13 годин. За словами обізнаних джерел, причиною колапсу став фірмовий ШІ-інструмент для програмування під назвою Kiro. Інженери надали йому повноваження самостійно внести зміни до системи. Отримавши автономію, алгоритм дійшов висновку, що оптимальним шляхом розв'язання задачі буде радикальний крок — «видалити й заново створити середовище».
В офіційному звіті про інцидент компанія визнала факт збою, однак зазначила, що він мав «вкрай обмежений» характер і вплинув лише на один сервіс для користувачів на території материкового Китаю.
Людський фактор чи передбачувана помилка машини?
Це вже не перший подібний випадок. Працівники компанії розповіли журналістам про ще один нещодавній інцидент, коли використання ШІ призвело до перебоїв.
«За останні кілька місяців ми вже бачили щонайменше два збої в робочому середовищі. Інженери дозволили агенту штучного інтелекту розв'язати проблему без втручання. Збої були невеликими, але повністю передбачуваними», — зазначив один зі старших співробітників AWS.
Керівництво Amazon категорично не погоджується з тим, що проблема полягає в самій технології. У компанії переконані, що участь нейромережі була лише збігом обставин, а подібний колапс міг статися внаслідок ручного втручання чи використання будь-якої іншої програми.
«В обох випадках це була помилка користувача, а не помилка штучного інтелекту», — підкреслили в пресслужбі, додавши, що не бачать доказів того, ніби помилки трапляються частіше саме під час використання ШІ-інструментів. Також в Amazon запевнили, що другий інцидент взагалі не вплинув на клієнтські сервіси.