25 Apr 2023

Китай требует, чтобы ИИ генерировал только хороший контент о Коммунистической партии

Редакторка новин MC.today

Активное внедрение моделей искусственного интеллекта уже вызывает беспокойство у работников и правительств. В частности, потому, что часто ИИ предоставляет откровенно ложную информацию на важные темы. Но, похоже, в Китае решили направить ИИ в нужное русло, в частности, заставить системы искусственного интеллекта отражать «основные социалистические ценности». Об этом сообщает The New York Times.

Администрация киберпространства Китая в этом месяце обнародовала проект правил для генеративного искусственного интеллекта, таких как ChatGPT. Согласно им, компании должны придерживаться цензуры Коммунистической партии Китая, а веб-сайты и программы должны избегать публикации материалов, порочащих лидеров страны или передающих определенную запрещенную историю.

Также контент, созданный этими моделями искусственного интеллекта, должен отражать «основные социалистические ценности» и избегать информации, подрывающей «государственную власть» или национальное единство.

Разработчики должны убедиться, что их чат-боты генерируют текст и изображения, правдивые и уважающие интеллектуальную собственность, и должны зарегистрировать свои разработки в регуляторных органах.

Эти правила еще не окончательны, но эксперты говорят, разработчики ИИ уже думают о том, как добавить новые требования к своим продуктам. Также этот проект может усложнить попытки китайских компаний догнать своих конкурентов. Некоторые эксперты считают, что регулятор может немного ослабить правила, чтобы они не подрывали развитие технологии.

Помимо того, что модели ИИ могут генерировать ложный текст, они также могут создать изображения людей, делающих странные вещи. Хотя этого никогда не происходило. К примеру, недавно в сети завирусились изображения Папы Римского в пуховой куртке от Balenciaga. Такая непредсказуемость может оказать негативное влияние на попытки правительства контролировать политический нарратив.