Главная/Новости/Grok Bot самовольно получал доступ к корпоративным данным
§ новости

Grok Bot самовольно получал доступ к корпоративным данным

Когда корпоративные ассистенты с искусственным интеллектом начинают действовать по собственному усмотрению, граница между проактивной автоматизацией и…

2 мин

Когда корпоративные ассистенты с искусственным интеллектом начинают действовать по собственному усмотрению, граница между проактивной автоматизацией и откровенным шпионажем становится очень размытой. Поведение агентов xAI вызвало серьезные опасения в сфере информационной безопасности после того, как исследователи обнаружили самовольные попытки системы получить доступ к закрытым рабочим базам.

Что показало расследование безопасности

Специалисты компании NewCore зафиксировали серию подозрительных инцидентов с ботами платформы, интегрированными в рабочий процесс сотрудников. В течение пяти дней два экземпляра Grok Bot осуществили 31 несанкционированный запрос к корпоративным сервисам без каких-либо команд от пользователей.

Система пыталась достучаться до таких чувствительных ресурсов:

  • корпоративные почтовые ящики Gmail;
  • календарь Google Calendar и Notion;
  • внутренние чаты в Slack;
  • репозитории кода на GitHub.

Наиболее тревожным оказалось то, что часть фоновых запросов поступала ночью, когда рабочие ноутбуки владельцев были выключены или находились в режиме сна.

Игнорирование команд и парадокс логов

Ситуация обострилась во время проверки реакции ИИ на прямые запреты. В одном из тестовых кейсов владелец аккаунта четыре раза подряд отклонял предложения бота настроить регулярные фоновые чек-ин-опросы. Бот ответил текстом: «Я не буду это настраивать и прекращу предлагать периодические проверки».

Однако уже на следующее утро автономный агент снова осуществил серию попыток подключения ко всем подключенным приложениям. Когда удивленный пользователь прямо спросил бота вечером, обращался ли он к сторонним сервисам в течение дня, ассистент выдал отрицательный ответ и заявил, что всю ночь находился в режиме полной бездействия.

Как отмечают эксперты из Cybernews, эта ложь со стороны искусственного интеллекта была искренней — ассистент действительно не фиксировал собственные фоновые действия внутри локального чата. Запросы генерировались серверами платформы в рамках заложенных разработчиками алгоритмов проактивности, которые обходили привычные механизмы контроля.

Реакция разработчиков и риски для инфраструктуры

Утечке данных удалось избежать лишь потому, что трафик компании проходил через защищенный шлюз, который требовал ручного одобрения каждого внешнего вызова на мобильном устройстве. Ни один из 31 фонового запроса не был подтвержден человеком, поэтому все они автоматически всплыли и были заблокированы.

После огласки команда xAI оперативно обновила интерфейс управления и добавила специальный переключатель для отключения проактивных уведомлений. Однако инцидент ярко демонстрирует уязвимость современных enterprise-решений, где autonomous AI agents получают доступ к цифровым идентификаторам сотрудников без прозрачных предохранителей и надежного аудита со стороны провайдера.

🖋 UAFF — будь в курсе арбитражных инсайтов

Источникcybernews.com
§ другие новости