Молодая американка Алексис «Лекси» Боган любила распевать баллады Тейлор Свифт и Зака Брайана в машине. Она всегда смеялась – даже когда загоняла плохо себя ведущих дошкольников или обсуждала политику с друзьями. В школе она была сопрано в хоре. Затем, в одночасье, этот голос пропал.

В августе прошлого года врачи удалили опухоль, расположенную в задней части ее мозга. Когда месяц спустя у Боган появилась дыхательная трубка, у нее возникли проблемы с глотанием. Месяцы реабилитации помогли ей выздороветь, но ее речь по-прежнему нарушена. Друзья, незнакомцы и члены ее собственной семьи с трудом понимают, что она пытается им сказать.

В апреле к 21-летней девушке вернулся прежний голос. Не настоящий, а голосовой клон, созданный с помощью технологии искусственного интеллекта (ИИ) от производителя ChatGPT OpenAI, которого она может вызвать из приложения для телефона.

Обученная на 15-секундной капсуле своего подросткового голоса, взятой из кулинарного демонстрационного видео, которое она записала для школьного проекта, ее синтетический, но удивительно реалистично звучащий голос ИИ теперь может говорить почти все, что она хочет. Она вводит несколько слов или предложений на свой телефон, и приложение мгновенно читает их вслух. «Привет, могу ли я получить большой эспрессо с овсяным молочным коктейлем и коричневым сахаром», - сказал голос AI Богана, когда она держала телефон из окна своей машины в автозаправке Starbucks.

Эксперты предупреждают, что быстрое совершенствование технологии клонирования голоса с помощью искусственного интеллекта может усилить масштабы телефонного мошенничества, сорвать демократические выборы и ущемить достоинство людей – живых или мертвых – которые никогда не соглашались на воссоздание своего голоса, чтобы говорить то, чего они никогда не говорили.

Его использовали для создания фейковых звонков роботов избирателям Нью-Гэмпшира, имитирующих президента США Джо Байдена.

В американском штате Мэриленд власти недавно обвинили спортивного директора средней школы в использовании искусственного интеллекта для создания фальшивого аудиоклипа, на котором директор школы делает расистские высказывания. Но Боган и команда врачей из группы больниц Lifespan в Род-Айленде полагают, что нашли применение, которое оправдывает риски.

Врачи Богана начали клонировать голоса других желающих пациентов Род-Айленда и надеются внедрить эту технологию в больницы по всему миру. OpenAI заявила, что осторожно подходит к расширению использования Voice Engine, который пока не доступен публично.

Ряд небольших стартапов в области искусственного интеллекта уже продают услуги клонирования голоса развлекательным студиям или делают их более доступными. Большинство поставщиков систем генерации голоса заявляют, что они запрещают выдачу себя за другое лицо или злоупотребления, но они различаются в том, как они обеспечивают соблюдение своих условий использования.

«Мы хотим быть уверены, что каждый, чей голос используется в сервисе, дает согласие на постоянной основе», — сказал Джефф Харрис, руководитель OpenAI по этому продукту.

Понравилась эта новость? Подпишись на нас в соцсетях!