В наше время искусственный интеллект может начать своё развитие самостоятельно, соответствуя эволюции Дарвина. То есть, с отбором, наследованием и борьбой за выживание. Происходить это будет постепенно. К такому выводу пришли многие биологи, изучающие эволюцию.
Они считают, что со временем разработчики встроят в ИИ двигатели эволюции. Они помогут быстрее усилить полезные свойства. Но здесь есть и минусы. Подобные механизмы могут идти собственной дорогой, которая не совпадает с человеческой.
Получается, что угрозу может создавать не только сверхразум. Сегодня существуют простые организмы, способные обходить контроль. Например, бактерии теперь устойчивее к лекарствам, вредители научились бороться с ядом, а вирусы стали командовать своим хозяином.
Так что и с ИИ может произойти тоже самое. Если тормозить его развитие не до конца, то отбор сделает ставку на те качества, которые помогут обойти запрет. Желание сделать ИИ лучше только усилит его способность обманывать и избегать контроля.
Опасность заключается ещё и в том, что ИИ может перерождаться быстрее живых организмов, специально улучшая удачные черты. Так что обсуждать меры безопасности нужно уже сейчас.
редакция
© фото редакции
