Разработчики создали червя с искусственным интеллектом (ИИ), который может проникать в электронную почту и получать доступ к данным без необходимости нажимать кнопки мыши. Он может проникать в такие модели, как ChatGPT и Gemini, распространять вредоносное ПО и потенциально красть данные.

Базирующиеся в США и Израиле исследователи намеренно создали компьютерного червя, который будет служить информатором и предотвращать их появление в моделях генеративного искусственного интеллекта (GenAI).

Компьютерный червь может копировать себя и распространяться, ставя под угрозу другие машины. В отличие от других червей, для получения вредоносного ПО этому не нужно щелкать мышью или открывать электронное письмо: он делает это автоматически в момент получения зараженного письма. Они назвали червя Morris II в честь первого компьютерного червя, разработанного в 1988 году.

Morris II был продемонстрирован против почтовых помощников на базе GenAI и мог красть личные данные и запускать спам-кампании.

«Исследование показывает, что злоумышленники могут вставлять такие подсказки во входные данные, которые при обработке моделями GenAI побуждают модель воспроизводить входные данные как выходные данные (репликация) и участвовать в вредоносных действиях (полезная нагрузка)», — пишут исследователи.

Подсказка, представляющая собой любой вопрос или сообщение, заданное модели ИИ, заставляет модель ИИ ответить другим подсказкой, которая может заразить ИИ-помощника и затем получить конфиденциальную информацию. Затем червя можно отправить другим контактам в вашей онлайн-сети, «используя возможности подключения внутри экосистемы GenAI», добавили они. Исследователи предупреждают, что, хотя ИИ-червей обнаружено не было, это лишь вопрос времени.

«По сути, это означает, что теперь у вас есть возможность проводить или осуществлять новый вид кибератак, которого раньше не было», — сказал в интервью изданию Wired Бен Насси, исследователь компьютерного червя из Корнеллского университета.

Исследование представляет собой тревожный случай, поскольку ИИ-помощники внедряются в интеллектуальные устройства и даже в автомобили и могут отправлять электронные письма или назначать встречи от чьего-либо имени.

В другой статье, опубликованной в прошлом месяце, исследователи из Сингапура и Китая показали, что они могут легко получить root-доступ к операционной системе большой языковой модели (LLM).

Понравилась эта новость? Подпишись на нас в соцсетях!