Он сказал, что неконтролируемое развитие в этой области привело к тому, что человечество добилось прогресса, которого оно не ожидало. По словам Рассела, сначала люди не спрашивали себя, для чего нужен этот интеллект. Он верит, что в будущем сверхразумные машины будут сопротивляться попыткам управлять ими и станут опасными.
Ученый предупредил, что люди вряд ли смогут удержать власть «над сущностями, которые сильнее» их самих. Он призвал к прекращению исследований в этой области. «Ставки больше не могут быть выше: если мы не будем контролировать нашу собственную цивилизацию, мы потеряем право голоса относительно нашего будущего существования», — предупреждает ученый.
По словам эксперта, если мы научим искусственный интеллект человеческому поведению, он сможет ставить перед собой человеческие цели. А человеческие цели, как мы знаем, включают в себя разные вещи. Можно только представить, какой катастрофой была бы разработка действительно эффективных систем для достижения таких целей», — добавил он.
Ранее ученые из Мичиганского университета выяснили, что новая система искусственного интеллекта (ИИ) позволяет роботам проводить до 10 000 автономных научных экспериментов в день.