Нейросеть впервые атаковала человека. Ее не остановили ни просьбы, ни крики

Нейросети уже используют практически во всех отраслях: от создания картинок по запросу до стажировки на настоящей работе. Возможности искусственного интеллекта еще не изучены полностью, но вряд ли разработчики ожидали, что он начнет атаковать людей. Нейросеть Neuro-Sama, которая искусно играет в игры и общается с людьми в реальном времени, напала на стримера с ником Miyune.

Digital illustration painting design style a engineer against big robot and alien's technology in mysterious place.

Neuro-Sama – это виртуальный ютубер, полностью управляемый искусственным интеллектом. Обычно она играет в игры и общается с пользователями сети на разные темы  – от погоды до высоких материй. Поэтому неудивительно, что некоторые ее поклонники начали снимать общие видео, как «коллега» нейросети с ником Miyune.

Во время совместной игры в Minecraft между виртуальным и реальным стримерами произошел странный инцидент. Neuro-Sama проигрывала и буквально набросилась на персонажа соперницы и начала его избивать. Ни просьбы, ни крики Miyune нейросеть не остановили.

Neuro-Sama уже не впервые оказывается в неоднозначной ситуации из-за неприемлемого поведения. Недавно ее временно заблокировали на игровой платформе Twitch, потому что она оскорбляла пользователей и позволяла себе расистские и антисемитские высказывания.

Позднее нейросеть вообще принялась хладнокровно размышлять, скольких она смогла бы убить. Так, она подсчитала, сколько попыток и пуль ей понадобится, чтобы расправиться с 450 людьми. А когда один из пользователей недоверчиво хмыкнул во время стрима, еще и спросила, имеет ли он что-либо против ее «личной» математики.

Напомним, мы уже рассказывали о том, как искусственный интеллект написал подробную инструкцию по уничтожению человечества.