Закат человеческой расы: ученые готовятся к восстанию машин
На проходящей в Буэнос-Айресе международной конвенции по искусственному интеллекту более тысячи ученых и бизнесменов выступили с открытым письмом, в котором призывают производителей оружия отказаться от разработок боевых систем с применением искусственного интеллекта.
Ученые считают, что появление на вооружении армий мира автономного наступательного оружия может привести к увеличению числа жертв военных конфликтов, а известный физик Стивен Хокинг и вовсе предрекает закат человеческой расы, если подобное все же произойдет. «Экономика сегодня» решила выяснить, действительно ли боевые роботы представляют серьезную опасность для человека.
Кроме Стивена Хокинга, свои подписи под письмом оставили и другие известные ученые, среди которых создатель компании SpaceX и Tesla Илон Маск и основатель компании Apple Стивен Возняк. По мнению ученых, первые разработки полностью автономного оружия появятся в течение ближайших нескольких лет, поэтому они призывают не допустить появления на вооружении боевых роботов с искусственным интеллектом.
По мнению одного из ведущих специалистов по нейрокогнитивным системам в России Михаила Бурцева, это разумный подход. «Автономные системы существуют и сейчас, возьмем хотя бы самонаводящиеся ракеты. Вопрос в том, насколько быстро будет расти степень их интеллекта. В каком-то ограниченном месте они действительно могут быть гораздо эффективнее человека. Одно дело, если человек управляет ракетой и другое дело, если она двигается согласно заложенным в нее сложным математическим расчетам. Но такие технологии нужно использовать очень аккуратно. Люди сильно не задумываются об этом, но искусственный интеллект уже активно проникает в наши жизни. Возьмем хотя бы приложение Siri, которое способно распознавать человеческую речь и давать рекомендации. Это, пожалуй, самый успешный проект применения искусственного интеллекта на сегодня», — комментирует «Экономике сегодня» эксперт.
«Работы по созданию искусственного интеллекта ведутся уже давно и всем известны беспилотники или дроны, как их сейчас стали называть. Слово уже прочно вошло в наш лексикон, хотя само изобретение казалось фантастикой какие-то 5 лет назад. Сейчас это уже неотъемлемая часть боевых действий. Мы можем наблюдать их на вооружении не только армий крупных стран, но и в руках террористов, да даже африканские группировки уже активно пользуются дронами», — говорит о военном применении искусственного интеллекта заместитель директора Тарвического информационно-аналитического центра РИСИ Сергей Ермаков.
По его мнению, следующий шаг в развитии подобных технологий – это появлении наземных, морских, в том числе подводных управляемых автоматизированных аппаратов. «Наибольшая опасность в том, что подобные объекты будут выводиться в космос. Милитаризация космоса – это сейчас наибольшая опасность», — продолжает эксперт.
«Все же самое главное в использовании искусственного интеллекта в вооруженных силах – это вопрос доверия к подобной технике. Да, боевой работ – это дело будущего, но о полностью автономных вооружениях сейчас все же еще рано говорить. Но опасность, которую отметили ученые, все же существует, уже сейчас компьютерные системы выходят из-под контроля. А ведь существует еще и человеческий фактор, автономные боевые роботы могут оказаться в руках террористов», — считает Ермаков.
Главное здесь, по мнению эксперта, уже сейчас начать задумываться о концепции их применения, все – таки технологии на подходе. «Лет через 15 эти системы будут активно применяться, но пока все-таки под контролем человека», — прогнозирует наш собеседник.
Источник: Экономика сегодня