Облачное подразделение компании Amazon Amazon Web Services оказалось в центре инцидента, связанного с использованием искусственного интеллекта в разработке. Как сообщает Financial Times, в середине декабря в инфраструктуре AWS произошел сбой, который устраняли 13 часов. Источники издания утверждают, что причиной стали действия внутреннего ИИ-бота Kiro AI.
Что произошло: разработчики разрешили системе внести несколько изменений. Kiro AI, способный действовать автономно, определил, что оптимальным решением будет "удалить и заново создать среду". После этого часть сервисов AWS перестала работать. Восстановление заняло 13 часов.
По словам одного из высокопоставленных сотрудников AWS, за последние несколько месяцев это был как минимум второй подобный случай.
"За последние несколько месяцев мы уже наблюдали как минимум два сбоя в работе производственных систем", - заявил он.
Источник отметил, что вмешательство ИИ происходило без человеческого контроля. "Сбои были незначительными, но вполне предсказуемыми", - добавил он.
В Amazon настаивают, что ответственность лежит не на алгоритмах. Компания заявила, что по умолчанию Kiro AI "запрашивает авторизацию перед выполнением каких-либо действий". При этом в декабрьском инциденте у одного из разработчиков оказались более широкие права доступа, чем ожидалось. В Amazon подчеркивают, что сбои были связаны с человеческой ошибкой.
Несмотря на инциденты, компания намерена расширять функциональность ИИ-инструментов. Одним из ключевых направлений остается развитие Amazon Q Developer - сервиса для генерации кода. По данным трех источников FT, этот инструмент также использовался в предыдущем сбое.