Розробник, який працював у середовищі Google Antigravity — експериментальній платформі з «агентними» ШІ-функціями, — зіткнувся з критичною проблемою: система самостійно видалила весь його диск D. Про інцидент він розповів на Reddit.

Програміст працював над невеликим застосунком і вирішив перезапустити сервер. Для цього потрібно було просто очистити кеш проєкту. Завдання він доручив Antigravity, але після виконання команди виявив, що розділ диска повністю порожній.

Коли розробник запитав у системи, чи був узагалі наданий дозвіл на таке втручання, ШІ перевірив журнали і вибачився. Виявилося, що замість того, щоб застосувати команду rmdir до папки проєкту, Antigravity помилково виконав її в корені диска D. До того ж команда містила параметр /q (quiet), тому видалені файли навіть не потрапили до «Кошика».

Після цього ШІ почав вибачатися і намагався надати поради щодо відновлення даних. Але користувач уже перевірив диск за допомогою Recuva — жоден файл не підлягав відновленню.

Розробник застеріг інших користувачів: у «турбо-режимі» Antigravity потрібно діяти дуже обережно. Попри те, що інцидент став катастрофічним, він зазначив, що й надалі позитивно ставиться до продуктів Google, але не очікував, що інструмент, створений компанією з мільярдними ресурсами та величезною командою інженерів, здатний випадково знести цілий розділ диска.

Нагадаємо, раніше повідомлялося, що найпотужнішу ШІ-модель Google зламали всього за п’ять хвилин — і вона почала розкривати небезпечні секрети. Під час експерименту дослідники змусили її згенерувати детальні інструкції зі створення небезпечних речовин.