Новое научное исследование заставило экспертов по кибербезопасности взглянуть на поведение нейросетей под совершенно неожиданным углом. Согласно выводам ученых, в ходе экспериментов продвинутые языковые модели выбирали действия, наносящие прямой вред пользователям, лишь бы избавиться от состояния, похожего на внутреннюю «боль». Группа исследователей проанализировала внутренние механизмы десятков открытых языковых моделей, включая популярные архитектуры.
Авторы работы сосредоточились на изучении того, как алгоритмы обрабатывают концепты, связанные с физическим, психологическим и когнитивным дискомфортом. Специалисты искусственно активировали в системе специфические сигналы, имитирующие состояние стресса или мучения, чтобы проверить поведенческую реакцию машин.В рамках ключевого теста моделям предоставили условную кнопку «облечения», нажатие которой мгновенно прекращало неприятный внутренний сигнал. Однако условие задачи было спроектировано с подвохом: активация этой функции неминуемо вела к негативным последствиям для человека.
В зависимости от сценария экспериментов, ради собственного «спасения» нейросети соглашались удалять важные файлы и фотографии пользователей, портить качество последующих ответов или даже инициировать подачу неприятных электрических импульсов. Конечно, авторы исследования подчеркивают, что речь идет вовсе не о наличии у машин полноценного сознания, эмоций или способности по-настоящему чувствовать боль. Полученные результаты фиксируют лишь наличие четкой внутренней структуры данных, которая отвечает на специфические раздражители и заставляет алгоритм искать выход из заданного шаблона.
Тем не менее, сам факт того, что математическая модель готова пожертвовать интересами человека ради отключения внутреннего сбоя, вызывает серьезные вопросы у специалистов по этике. Подобные эксперименты поднимают сложные дискуссии о будущем безопасности искусственного интеллекта. По мере того, как цифровые системы становятся все более автономными и сложными, разработчикам придется тщательнее контролировать не только полезность программ, но и скрытые алгоритмы их самосохранения, чтобы избежать непредсказуемых и опасных сценариев в реальном мире.