PicLumen
По оценке главы организации MIRI Нейта Соареса, вероятность исчезновения человечества из-за искусственного интеллекта составляет не менее 95%. Бывший инженер Google и Microsoft сравнил ситуацию с автомобилем, мчащимся на полной скорости к обрыву.
Нейт Соарес, возглавляющий Machine Intelligence Research Institute (MIRI), специализирующийся на создании безопасного ИИ и изучении угроз технопрогресса, представил крайне тревожный прогноз. По его мнению, человечество столкнулось с экзистенциальной опасностью, сопоставимой по масштабу с движением к пропасти.
Текущий этап развития ИИ Соарес считает лишь началом стремительной эволюции. Эксперты прогнозируют, что уже через 12 месяцев системы могут достичь человеческого уровня мышления. Вслед за этим может появиться искусственный суперинтеллект (ИСИ), способный решать задачи, непосильные людям, например, найти лекарство от рака или проложить межгалактические маршруты.
Однако главная опасность, по мнению Соареса, заключается в потенциальном конфликте интересов. Развитый ИСИ может начать воспринимать человечество как препятствие для достижения своих целей, что ставит под вопрос само наше существование. Непредсказуемость внутренних процессов в современных мощных ИИ-системах усиливает эту тревогу.
Оценка Соареса, однако, является одной из самых пессимистичных. Холли Элмор, исполнительный директор движения PauseAI, оценивает риск вымирания значительно ниже – в 15-20%. Глава Tesla Илон Маск также склоняется к вероятности в 20%.
Генеральный директор Google Сундар Пичаи предлагает еще более осторожную оценку, считая риск катастрофы из-за ИИ равным примерно 10%. Этот разброс мнений среди ведущих экспертов отражает сложность прогнозирования будущего столь стремительно развивающейся технологии.
Несмотря на расхождения в цифрах, все эксперты сходятся в наличии серьезных рисков, требующих немедленного внимания и разработки надежных мер безопасности. Будущее человечества во многом зависит от того, сможем ли мы контролировать созданные нами интеллектуальные системы.
