Искусственный интеллект в скором времени может начать терроризировать человечество – эксперт

Специалисты британских служб по борьбе с терроризмом считают, что вскоре человечество могут ожидать полномасштабные атаки, которые будет провоцировать или контролировать искусственный интеллект, пишет Daily Mail. Редакция MC.today пересказывает подробности.

Masked cyber terrorist in military uniform hacking army intelligence

Независимый рецензент при британском парламенте и эксперт в области законодательства, регулирующего борьбу с терроризмом, Джонатан Холл считает, что человечество оказалось на пороге очередного кризиса. По его словам, умные чат-боты с искусственным интеллектом уже достаточно просто запрограммировать так, чтобы они распространяли экстремистские идеи и призывы. Более того, он не исключает, что вскоре ИИ может самостоятельно прийти к такому выводу и начать популяризировать их даже без вмешательства человека.

Глобальные эксперты уже не один год обсуждают использование технологий для предотвращения терроризма. Хотя большинство дискуссий пока касалось распознавания лиц и сбора данных.

В последнее время вектор озабоченности несколько изменился, ведь мощные технологии становятся все более доступными. Речь идет прежде всего об инструментах создания дипфейков и генерации текстов и изображений. Эксперты считают, что их сочетание упростит процесс создания и распространения дезинформации и вредных нарративов.

Холл уверен, что продукты на базе крупных языковых моделей, таких как ChatGPT, достаточно убедительны независимо от того, что именно они аргументируют. Он считает, что они могут стать инструментами не только для распространения хаоса, но и для вербовки новых экстремистов. К тому же чат-бот вряд ли будет проверять намерение человека навредить другим – он будет просто выполнять указания.

Также Холл отметил, что первыми мощные технологии начинают использовать именно террористы. Например, в преступных кругах уже распространено злоупотребление криптовалютами и оружием, напечатанным на 3D-принтерах. Применение искусственного интеллекта сейчас практически не регулируется на законодательном уровне. Его крайне тяжело отслеживать и преследовать, как и привлекать людей к ответственности за использование ИИ для причинения вреда.

• Напомним, мы рассказывали о неэтичном чат-боте с искусственным интеллектом, готовом уничтожить человечество. Также предлагаем вам почитать о случившемся с ChatGPT, когда его наделили «человеческой личностью».