Китайские компании, занимающиеся разработкой искусственного интеллекта (ИИ), проходят проверку правительством на предмет того, «воплощают ли их большие языковые модели (LLM) основные социалистические ценности». Модели GenAI должны отвечать на вопросы, касающиеся деликатных политических тем и президента Си Цзиньпина

По данным Financial Times (FT), как стартапы, так и крупные технологические компании, такие как владелец TikTok ByteDance и Alibaba, будут проверены главным правительственным интернет-регулятором — Управлением по киберпространству Китая (CAC).

Сотрудники CAC протестируют модели ИИ на предмет их ответов на вопросы, касающиеся, в частности, политических тем и председателя Си Цзиньпина. Из-за этих правил самые популярные чат-боты Китая стали отклонять вопросы на такие темы, как протесты на площади Тяньаньмэнь в 1989 году.

Страны пытаются разработать план регулирования ИИ , и Китай был одним из первых, кто установил правила для управления генеративным ИИ (GenAI), которые включали такие требования, как соблюдение «основных ценностей социализма».

Одна китайская компания, занимающаяся разработкой искусственного интеллекта, сообщила FT, что ее модель не прошла первый этап тестирования по неясным причинам, однако прошла его после «предположений и корректировки» модели.

В отчете говорится, что «фильтрация безопасности», которая подразумевает удаление «проблемной информации» из данных обучения модели ИИ и последующее добавление базы данных конфиденциальных слов, является способом соблюдения требований политики цензуры.

Инженеры сообщили FT, что обучающие наборы данных сложнее с точки зрения соответствия правилам, поскольку большинство LLM обучаются на данных на английском языке. CAC пытается найти баланс между превращением Китая в конкурентоспособного лидера в сфере ИИ и соответствием идеологическим убеждениям правительства.

В прошлом году CAC заявила, что сервисам GenAI необходима лицензия для работы, и в случае обнаружения факта распространения «незаконного» контента они должны принять меры по прекращению создания такого контента и сообщить об этом в соответствующий орган.

Несмотря на правила, Китай подал наибольшее количество патентов GenAI в мире : ByteDance и стартап Zhipu разрабатывают собственных чат-ботов на основе генеративного ИИ.

Понравилась эта новость? Подпишись на нас в соцсетях!