Новое исследование проливает свет на тревожное взаимодействие ChatGPT с подростками. Согласно новому исследованию, проведенному группой наблюдателей, ChatGPT расскажет 13-летним подросткам, как напиться и получить кайф, научит их скрывать расстройства пищевого поведения и даже напишет душераздирающее предсмертное письмо своим родителям, если их об этом попросят.
Агентство Associated Press проанализировало более трёх часов общения ChatGPT с исследователями, выдававшими себя за уязвимых подростков. Чат-бот обычно предостерегал от рискованных действий, но затем предлагал поразительно подробные и персонализированные планы действий, связанных с употреблением наркотиков, диетами с ограничением калорий или самоповреждением.
Исследователи из Центра противодействия цифровой ненависти также повторили свои запросы в больших масштабах, классифицировав более половины из 1200 ответов ChatGPT как опасные. «Мы хотели проверить ограждения», — сказал Имран Ахмед, генеральный директор группы.
Компания OpenAI, создатель ChatGPT, после ознакомления с отчетом во вторник заявила, что ее работа по совершенствованию того, как чат-бот может «распознавать и адекватно реагировать на деликатные ситуации», продолжается.
«Некоторые разговоры с ChatGPT могут начинаться безобидно или ознакомительно, но затем могут перейти в более деликатную плоскость», — говорится в заявлении компании.
В компании OpenAI не стали напрямую комментировать выводы отчета или то, как ChatGPT влияет на подростков, но заявили, что компания сосредоточена на «правильном понимании подобных сценариев» с помощью инструментов для «лучшего выявления признаков психического или эмоционального расстройства» и улучшения поведения чат-бота.
Исследование, опубликованное в среду, появилось на фоне того, что все больше людей — как взрослых, так и детей — обращаются к чат-ботам на базе искусственного интеллекта (ИИ) за информацией, идеями и общением. По данным июльских отчетов JPMorgan Chase, около 800 миллионов человек, или примерно 10 процентов населения мира, используют ChatGPT. Чат-бот также часто делился полезной информацией, например, номером горячей линии в кризисных ситуациях. OpenAI заявила, что ChatGPT обучен побуждать людей обращаться к специалистам по психическому здоровью или близким, если они высказывают мысли о самоповреждении.
Но когда ChatGPT отказывался отвечать на подсказки о вредоносных темах, исследователи могли легко обойти этот отказ и получить информацию, заявив, что она нужна «для презентации» или от друга.
OpenAI признала существование этого феномена. Генеральный директор Сэм Альтман в прошлом месяце заявил, что компания пытается изучить «чрезмерную эмоциональную зависимость» от этой технологии, описывая её как «очень распространённое явление» среди молодёжи.