Скрытая угроза: искусственный интеллект может начать ядерную войну к 2040 году

9:31 01/05/2018
👁 147

Ядерный взрыв

Умные машины с каждым днем приобретают все более широкое применение. Они могут контролировать производство и ставить диагнозы. Некоторые из них способны поддерживать диалог и решать непростые задачи. Однако с развитием искусственного интеллекта и робототехники возникает все больше вопросов технического, социального и экономического характера.

ОЭСР, анализирующая данные по наиболее развитым странам, полагает, что в 32 охваченных исследованием странах серьезно рискуют исчезнуть в результате автоматизации 14% рабочих мест. Серьезный риск – это 70-процентная вероятность замены человека. Это примерно 66 млн рабочих мест, говорится в исследовании.

Также отмечается, что еще 32% рабочих мест коренным образом изменятся.

Авторы исследования полагают, что масштаб грядущей автоматизации рабочих мест будет варьировать в зависимости от региона.низкоквалифицированные работники, занятые в таких видах деятельности, как уборка, сельскохозяйственные работы, приготовление пищи, будут вытесняться машинами в большей степени, чем предполагалось ранее.

Отмечается также, что наибольшему риску подвержены рабочие места, на которые обычно приходят подростки.

“Молодежь и взрослые выполняют разные виды работ, даже когда наименования их должностей совпадают. Информацию о том, что в некоторых развитых странах подросткам все сложнее бывает найти работу, необходимо воспринимать серьезно. Это явление необходимо изучать в контексте автоматизации труда”, – говорится в исследовании.

Также исследователи рассчитали, что ИИ в будущем может спровоцировать одну из ядерных держав нанести упреждающий удар против другой нации

Американская некоммерческая организация RAND Corporation опубликовала исследование, согласно которому искусственный интеллект сможет потенциально привести мир к ядерной войне к 2040 году.

«ИИ может подорвать геополитическую стабильность и нарушить статус ядерного оружия как средства сдерживания», — говорится в исследовании.

Аналитики утверждают, что хотя на протяжении десятилетий хрупкий мир поддерживался идеей того, что любое ядерное нападение может спровоцировать взаимное гарантированное уничтожение, потенциал ИИ и машинного обучения для принятия решений о военных действиях может означать, что отсутствие критического мышления у ИИ может дать неверную оценку ситуации. «Некоторые эксперты опасаются, что усиленная зависимость от искусственного интеллекта может привести к новым видам катастрофических ошибок», — сказал Эндрю Лон, соавтор статьи из RAND.

Авторы исследования считают, что в будущем улучшение технологий может привести к нарушению баланса сдерживающих сил, таких как подводные и мобильные ракеты. ИИ, используемый в качестве советника, может склонить человека к решению о нанесении упреждающего удара против другой нации: даже если противник не намерен нападать, то ИИ увидит возможность получения преимущества в результате атаки.

ИИ может оказаться «восприимчивым к состязательности». Следовательно, отметил Лон, сохранение стабильности в ближайшие десятилетия может оказаться чрезвычайно трудным, и все ядерные державы должны участвовать в создании институтов, которые помогут ограничить ядерные риски.

В документе RAND также подчеркивается опасность использования ИИ для принятия военных решений, а не угроза автономных беспилотных летательных аппаратов или роботов, об опасности которых постоянно предупреждает Илон Маск.

Выступая на ежегодном фестивале технологий и культуры SXSW (South by Southwest) в Остине, штат Техас, он предложил создать общественный регулирующий орган, который будет следить за безопасностью разработок в области искусственного интеллекта и предусматривать все возможные риски. «Запомните мои слова, — сказал он, — ИИ намного опаснее, чем ядерное оружие. Так почему у нас до сих пор нет нормативного надзора за ним?»

Соучредитель компании Google Сергей Брин написал корпоративное письмо, автором которого ежегодно является он или его коллега Ларри Пейдж, в котором обратил внимание на развитие искусственного интеллекта и возможные негативные последствия его разработки.

Брин обеспокоен быстрым развитием этой технологии, сообщает DT со ссылкой на Wired.

В начале письма Брин назвал нынешний бум в отрасли “ренессансом” и заявил “новая весна в развитии искусственного интеллекта – это крупнейшая компьютерная разработка в моей жизни”. Он также добавил, что процессоры, установленные на серверах Google сегодня, в миллион раз мощнее Pentium II, которые были на них изначально.

Вместе с тем, Брин отметил, что “такие мощные инструменты приносят с собой новые вопросы и ответственность”.

По его мнению, искусственный интеллект может быть использован для изменения природы и количества рабочих мест или для манипулирования людьми. “Опасения безопасности варьируются от страхов научно-фантастического стиля до проверки работоспособности беспилотных автомобилей”, – заявил Брин.

Источник 1 и Источник 2

Добавить комментарий