Искусственный интеллект в скором времени может начать терроризировать человечество – эксперт

Специалисты британских служб по борьбе с терроризмом считают, что вскоре человечество могут ожидать полномасштабные атаки, которые будет провоцировать или контролировать искусственный интеллект, пишет Dai­ly Mail. Редакция MC.today пересказывает подробности.

Masked cyber ter­ror­ist in mil­i­tary uni­form hack­ing army intel­li­gence

Независимый рецензент при британском парламенте и эксперт в области законодательства, регулирующего борьбу с терроризмом, Джонатан Холл считает, что человечество оказалось на пороге очередного кризиса. По его словам, умные чат-боты с искусственным интеллектом уже достаточно просто запрограммировать так, чтобы они распространяли экстремистские идеи и призывы. Более того, он не исключает, что вскоре ИИ может самостоятельно прийти к такому выводу и начать популяризировать их даже без вмешательства человека.

Глобальные эксперты уже не один год обсуждают использование технологий для предотвращения терроризма. Хотя большинство дискуссий пока касалось распознавания лиц и сбора данных.

В последнее время вектор озабоченности несколько изменился, ведь мощные технологии становятся все более доступными. Речь идет прежде всего об инструментах создания дипфейков и генерации текстов и изображений. Эксперты считают, что их сочетание упростит процесс создания и распространения дезинформации и вредных нарративов.

Холл уверен, что продукты на базе крупных языковых моделей, таких как Chat­G­PT, достаточно убедительны независимо от того, что именно они аргументируют. Он считает, что они могут стать инструментами не только для распространения хаоса, но и для вербовки новых экстремистов. К тому же чат-бот вряд ли будет проверять намерение человека навредить другим – он будет просто выполнять указания.

Также Холл отметил, что первыми мощные технологии начинают использовать именно террористы. Например, в преступных кругах уже распространено злоупотребление криптовалютами и оружием, напечатанным на 3D-принтерах. Применение искусственного интеллекта сейчас практически не регулируется на законодательном уровне. Его крайне тяжело отслеживать и преследовать, как и привлекать людей к ответственности за использование ИИ для причинения вреда.

• Напомним, мы рассказывали о неэтичном чат-боте с искусственным интеллектом, готовом уничтожить человечество. Также предлагаем вам почитать о случившемся с Chat­G­PT, когда его наделили «человеческой личностью».