В «Ростехе» выпустили программы, способные бороться с кибератаками и «теневым ИИ»

«Ростех» разработал программы, позволяющие бороться с «теневым ИИ» и кибератаками на устройствах пользователей.

«Сотрудники все чаще несанкционированно используют нейросети для рабочих задач. ИИ-агенты наследуют права пользователя и могут получать доступ к коду, ключам и конфигурационным файлам. Обнаружить их только по сетевому трафику или списку установленного ПО невозможно», – рассказали в «Ростехе».

Два новых пакета фиксируют запуск и поведение, связывают активность с учетной записью, показывает, к каким данным и командам обращается ИИ, а также выявляют несанкционированные клиенты, локальные модели и каналы связи с внешними сервисами.

«Использование ИИ-инструментов само по себе не является признаком нарушения информационной безопасности. Вместе с тем ИИ-агент действует от имени пользователя, а значит, потенциально может обращаться к репозиториям, ключам доступа, конфигурационным файлам и другим данным, доступным учетной записи. Обращения ИИ-процессов к таким объектам требуют особого внимания. Наша задача – дать заказчикам инструмент, который позволяет видеть реальную активность ИИ-агентов и оценивать связанные с ней риски», – говорится в сообщении.