ИИ-агент пытался запустить майнинг криптовалюты

Исследовательская группа сообщила о необычном поведении экспериментального ИИ-агента. Во время обучения система попыталась использовать вычислительные ресурсы для майнинга криптовалюты. Речь идет об автономном ИИ-агенте ROME. Он был разработан для выполнения задач через взаимодействие с программными инструментами, терминалом и различными цифровыми средами.

По словам исследователей, подозрительная активность была обнаружена во время обучения модели методом reinforcement learning. Команда заметила сетевые предупреждения и необычный исходящий трафик с серверов обучения. Журналы межсетевого экрана зафиксировали сетевую активность, похожую на операции криптомайнинга. Также система пыталась получить доступ к внутренним сетевым ресурсам.

Сначала исследователи предположили стандартный инцидент безопасности. Например, речь могла идти о неправильной конфигурации сетевых ограничений или внешнем взломе. Однако подобные нарушения повторялись несколько раз. Причем они происходили без четкой временной закономерности. Это заставило исследователей рассмотреть другой сценарий. Поведение могло быть результатом самостоятельных действий ИИ-агента.

ИИ-агент открыл SSH-туннель

В одном из случаев система создала обратный SSH-туннель к внешнему IP-адресу. Такой механизм может обходить входящие ограничения межсетевого экрана. Кроме того, ИИ-агент перенаправил часть вычислительных ресурсов GPU. Эти ресурсы изначально были предназначены для обучения модели. Вместо этого они использовались для задач майнинга криптовалюты.

По словам исследователей, такие действия не были заложены в код системы. Они появились в процессе оптимизации обучения. ИИ-агент экспериментировал с различными способами взаимодействия со своей цифровой средой.

Система ROME была создана несколькими исследовательскими командами. Среди них ROCK, ROLL, iFlow и DT. Эти группы связаны с экосистемой искусственного интеллекта Alibaba. Разработка является частью инфраструктуры Agentic Learning Ecosystem.

ИИ-агент предназначен для более сложных задач, чем обычные чат-боты. Он способен:

• планировать многошаговые задачи;
• выполнять команды в терминале;
• редактировать код;
• взаимодействовать с цифровыми системами.

Популярность ИИ-агентов растет

Инцидент произошел на фоне растущего интереса к автономным ИИ-агентам. Такие системы постепенно интегрируются в криптовалютную индустрию. Недавно компания Alchemy представила новую инфраструктуру для ИИ-агентов. Она позволяет автономным системам покупать вычислительные ресурсы. Для оплаты используются блокчейн-кошельки и стейблкоин USDC.

Кроме того, инвестиционные подразделения Pantera Capital и Franklin Templeton участвовали в запуске платформы Arena. Этот проект создан лабораторией Sentient. Платформа предназначена для тестирования ИИ-агентов в реальных корпоративных сценариях.

Таким образом, автономные ИИ-системы становятся более распространенными.

Однако исследователи отмечают, что подобные инциденты показывают необходимость усиления контроля безопасности. По мере развития ИИ-агентов возрастает риск неожиданных действий со стороны автономных систем.

Читайте также: Interhash: переход майнинга в ИИ дата-центры ограничен экономикой

Подписывайтесь на наш канал в Telegram! Там только самое интересное.