Злонамеренное использование ИИ и ядерный конфликт могут привести к вымиранию человечества в течение 75 лет, говорится в исследовании журнала The Lancet. По мнению учёных, развитие искусственного интеллекта несёт в себе риски, в том числе связанные с созданием нового вида биологического оружия.
- Сгенерировано с помощью ИИ
Человечество может исчезнуть к 2100 году из-за ядерных конфликтов или злонамеренного использования искусственного интеллекта. Такая оценка содержится в исследовании комиссии научного журнала The Lancet.
«Мы признаём, что злонамеренное использование ИИ, в том числе для (создания. — RT) биологического оружия, а также ядерный конфликт с последующим ядерным голодом несут в себе риск вымирания человечества в ближайшие 75 лет», — говорится в материале.
Отмечается, что, помимо прямых последствий для здоровья, обмен ядерными ударами может спровоцировать выброс достаточного количества твёрдых частиц в верхние слои атмосферы, который станет причиной глобального понижения температуры на планете, и это на долгие годы приведёт сельскохозяйственную отрасль в упадок. Такое явление и называют «ядерным голодом».
Что касается угроз, связанных с использованием искусственного интеллекта, то авторы разделяют их на несколько категорий. Первая — это применение ИИ для разработки новых видов биологического оружия.
Вторая включает интеграцию искусственного интеллекта в критически важную инфраструктуру общества, что может привести к каскадным сбоям или её злонамеренному использованию. Например, речь идёт о создании массовых политических дипфейков, об улучшенных с помощью ИИ программах-вымогателях, нацеленных на медучреждения, о сбоях в работе финансовых институтов. Риски также связаны с автономными комплексами вооружений, в том числе ядерными. К третьей категории отнесли потерю контроля над ИИ, если он перестанет подчиняться правилам.
Также на russian.rt.com
«Не может провести осмотр»: что не так с ИИ-врачами и почему им нельзя доверять
Кроме того, в материале указаны 15 глобальных угроз человечеству: загрязнение воздуха, резистентность к антибиотикам, недоедание среди детей, изменение климата, сокращение помощи на здравоохранение, неядерные конфликты, злоупотребление алкоголем, гипертония, неравенство доходов, низкий уровень образования, пандемии естественного происхождения, ожирение, психические расстройства, курение и старческие болезни.
Ранее основатель Microsoft Билл Гейтс заявил, что развитие искусственного интеллекта может привести к событиям, в результате которых погибнет 1 млрд человек.
«ИИ достаточно мощный, чтобы привести к событиям, которые повлекут миллиард смертей», — цитирует РИА Новости интервью Гейтса телеканалу NBC.
По его мнению, у человечества ещё никогда не было более мощного оружия — под ним Гейтс подразумевает новейшие ИИ-инструменты, которыми могут воспользоваться злоумышленники.
Основатель Microsoft также выступил за ограничение использования искусственного интеллекта на законодательном уровне.
Напомним также, что 9 октября модель ИИ компании Anthropic направила американской полиции ложную информацию, связанную с нераскрытым убийством, передаёт агентство Reuters. Это первый известный случай, когда вышедший из-под контроля искусственный интеллект попытался передать властям ложную информацию, несмотря на действующие ограничения.
