Нейт Соарес, экс-инженер компаний Google и Microsoft, а ныне глава некоммерческой организации Machine Intelligence Research Institute, высказал крайне тревожное предположение: вероятность полного исчезновения человечества вследствие стремительного развития искусственного интеллекта (ИИ) может достигать как минимум 95 процентов. Такую оценку рисков приводит газета The Times.
«Когда вы направляете колоссальные вычислительные мощности на обработку поистине гигантских объемов данных, это необъяснимым образом трансформирует сами компьютеры. Никто на самом деле не понимает, что происходит внутри этих систем», — подчеркнул эксперт, указывая на непредсказуемость и сложность внутренних процессов ИИ.
Организация, возглавляемая Соаресом, сосредоточена на разработке подходов к созданию безопасного ИИ и выявлению потенциальных угроз, связанных с технологическим прогрессом. Нейт Соарес сравнил текущую ситуацию с движением автомобиля, который на огромной скорости приближается к краю пропасти. «Я не заявляю, что мы совершенно не можем остановить эту машину, но мы летим к обрыву на полном ходу», — пояснил он свою метафору.
В статье отмечается, что искусственный интеллект находится лишь на заре своего развития. Однако, по прогнозам различных специалистов, уже в течение ближайших 12 месяцев ИИ может достичь уровня, сопоставимого с человеческим интеллектом. Впоследствии на смену ему может прийти искусственный суперинтеллект, способный эффективно решать задачи, которые в настоящее время недоступны человеку. К примеру, с его помощью можно будет найти лекарство от рака или организовать межгалактические транспортные маршруты. Тем не менее, существует серьезный риск, что в определенный момент суперинтеллект может начать рассматривать человечество как помеху для своих целей.
Однако, как отмечает издание, сценарий, предложенный Соаресом, является одним из наиболее пессимистичных. Другие эксперты придерживаются менее драматичных оценок. Так, исполнительный директор движения PauseAI, Холли Элмор, полагает, что риск вымирания человечества из-за ИИ составляет лишь 15-20 процентов. Глава Tesla Илон Маск согласен с оценкой в 20 процентов, в то время как генеральный директор Google Сундар Пичаи оценивает риски значительно ниже — всего в 10 процентов.
Ранее американский предприниматель Илон Маск также высказывал мнение, что именно искусственный интеллект и робототехника станут ключевыми инструментами для решения таких глобальных проблем, как голод, бедность и болезни.
