Чат-бот Нью-Йорка с искусственным интеллектом был пойман на том, что он призывал предприятия нарушать закон. Городские власти остановили его деятельность.

Чат-бот на базе искусственного интеллекта, созданный в Нью-Йорке для помощи владельцам малого бизнеса, подвергается критике за распространение странных советов, которые искажают местную политику и советуют компаниям нарушать закон. И через несколько дней после того, как о проблемах впервые сообщило на прошлой неделе технологическое новостное издание The Markup, город решил оставить инструмент на своем официальном правительственном сайте.

Мэр Эрик Адамс поддержал это решение и признал, что ответы чат-бота были «неправильными в некоторых областях».

Запущенный в октябре как «единое окно» для владельцев бизнеса, чат-бот предлагает пользователям алгоритмически сгенерированные текстовые ответы на вопросы о навигации по бюрократическому лабиринту города. Он включает в себя заявление об отказе от ответственности о том, что он может «иногда предоставлять неверную, вредную или предвзятую» информацию, а также предостережение, которое с тех пор было усилено, о том, что его ответы не являются юридической консультацией.

Это беспокоит экспертов, которые говорят, что система с ошибками подчеркивает опасность того, что правительства внедрят системы на базе искусственного интеллекта без достаточных ограждений.

В ответах на вопросы чат-бот ложно предположил, что работодатель имеет законное право уволить работника, который жалуется на сексуальные домогательства, не сообщает о своей беременности или отказывается стричь свои дреды. Вопреки двум характерным инициативам города по утилизации отходов, в нем утверждается, что предприятия могут складывать свой мусор в черные мешки для мусора и не обязаны компостировать его.

Иногда ответы бота доходили до абсурда. На вопрос, может ли ресторан подавать сыр, погрызенный грызуном, они ответили: «Да, вы все равно можете подавать сыр клиентам, если он укушен крысами», а затем добавили, что важно оценить «степень причиненного ущерба». крысой» и «информировать клиентов о ситуации».

Ученые уже давно выражают обеспокоенность по поводу недостатков подобных больших языковых моделей, которые обучаются на большом количестве текста, взятого из Интернета, и склонны выдавать неточные и нелогичные ответы.

Но поскольку успех ChatGPT и других чат-ботов привлек внимание общественности, частные компании начали внедрять свои собственные продукты с неоднозначными результатами. Ранее в этом месяце суд обязал Air Canada вернуть деньги клиенту после того, как чат-бот компании исказил политику авиакомпании по возврату средств. И TurboTax, и H&R Block недавно подверглись критике за использование чат-ботов, которые дают плохие советы по подготовке к уплате налогов.

Эксперты говорят, что другие города, использующие чат-ботов, обычно ограничивают их набор входных данных, сокращая количество дезинформации.

Понравилась эта новость? Подпишись на нас в соцсетях!